作者：George M. Church
编辑：肖琴、大明
【新智元导读】哈佛大学著名遗传学教授George M. Church认为，在人工智能时代，人类和机器之间的界限正在变得模糊，这是因为机器变得更像人类，而人类也变得更像机器。
本文作者George M. Church是哈佛医学院著名遗传学教授，哈佛大学韦斯生物启发工程研究所(Wyss 研究所)的核心成员，被学界誉为是个人基因组学和合成生物学的先锋。
与此同时，作为人类基因组计划负责人，Church也被认为是一个致力于改造基因组的疯狂科学家，一个人类企图扮演上帝角色的典型代表。
George M. Church
Church近日在medium网站发表文章: A Bill of Rights for the Age of Artificial Intelligence。在这篇文章中，Church认为在人工智能时代，人类和机器之间的界限正在变得模糊，这是因为机器变得更像人类，而人类也变得更像机器。
他说：“当前所未有的思想多样性出现时，我们应该关注所有意识的权利。”未来已来，只不过不均匀，我们中有数百万人已经成为“超人”(transhuman)，“什么是人类”这个问题应该转为思考“什么是超人，他们应该有哪些权利”。
新智元对文章进行译介如下：
全盘更新机器威胁论
1950年，诺伯特·维纳(Norbert Wiener)的著作《人有人的用处》(The Human Use of Human Beings)走在了远见和思辨的前沿，书中宣称：
瓶装妖魔型的机器虽然能够学习，能够在学习的基础上作出决策，但它无论如何也不会遵照我们的意图去作出我们应该作出的或是我们可以接受的决策的...不论我们把我们的决策委托给金属组成的机器或是血肉组成的机器(机构、大型试验室、军队和企业)...时已迟矣，善恶决绝之机已经迫在眉睫了。[1]
但这是他的书的结尾了，它让我们徘徊了68年，不仅没有提供指示和禁令，甚至连清晰的“问题陈述”都没有。自那以后，我们看到很多类似的关于人类受机器威胁的警告，甚至是通过电影《巨人:福宾计划》(Colossus: the Forbin Project, 1970)、《终结者》(the Terminator, 1984)、《黑客帝国》(the Matrix, 1999)和《机械战警》(Ex Machina, 2015)等面向大众的形式。但是，现在是时候用全新的观点全盘更新这种机器威胁论了，特别是集中于我们的“人权”和我们的生存需要的一般化。
关注的焦点往往集中在“我们与它们”(us versus them，机器人)或“灰雾”(gray goo，纳米技术)或“克隆的单一栽培”(生物)上。推断一下当前的趋势：如果我们能够制造或种植几乎任何东西，并设计出任何我们想要的安全性和有效性水平，那会变成怎么样呢？任何有思想的生物(由原子的任何排列组成)都可以使用任何一种技术。
也许我们不应该太过关心“我们与它们”，而应该更多地关心在前所未有的思想多样性涌现时所有意识形态的权利(the rights of all sentients)。我们应该利用这种多样性来将全球存在风险降至最低，例如超级火山和小行星等。
虽然我们可能不知道在我们加速进化的每一步中，生物/人类/纳米/机器人的合成人(hybrids)的比例将占多大比例，但我们可以致力于彼此的高水平的人道、公平和安全的处理(“使用”)。
平等
1776年，33岁的托马斯·杰斐逊(Thomas Jefferson)写道：“我们认为以下真理是不言而喻 的：人皆生而平等，享有造物主赋予给他们的不可剥夺的权利，包括生命、自由和追求幸福的权利。”
当今，“人类”的范围是很大的。1776年时，“人”不包括有色人种或女性。即使在今天，有先天性认知障碍或行为障碍的人注定要接受不平等的(尽管在大多数情况下是富有同情心的)治疗——唐氏综合症、泰-萨克斯病、脆性X染色体综合症、脑瘫等等。
随着人类社会的改变和成熟，不平等权利已经发生了巨大的变化。胚胎、婴儿、儿童、青少年、成年人、病人、重罪犯、性别认同和性别偏好、非常富有的人和赤贫的人——所有这些人都面对着不同的权利和社会经济现实。
获得并保留与最精英人类相似的新思维类型权利的一条途径是保留一个人类属性(Homo component)。我们可能很难拔掉插头，修改或删除(杀死)一台电脑和它的记忆——尤其是如果它与人类成为朋友，并发出极其迫切的求生请求(所有优秀的研究人员都会这样做)。
人类与非人类和合成人的规则截然不同
上面提到的智人内部权利差异的分歧，一旦我们转移到“人类”定义覆盖到(或即将覆盖)的实体，就会爆发一场不平等骚乱。
在谷歌街景中，人们的脸和汽车牌都被模糊处理了。视频设备被排除在许多场景之外，比如法庭和委员会会议。具有面部识别软件的可穿戴公共摄像头是一个禁区。患有超忆症(hyperthymesia)或过目不忘的人是不是应该同样被排除在这些场景之外呢?
面孔失认症(脸盲)或遗忘症患者不应该从面部识别软件和光学字符识别软件中受益吗？如果他们可以，那么为什么不是每个人都可以呢？如果我们都在某种程度上拥有这些工具，难道我们不都能从中受益吗?
这些场景与库尔特·冯内古特(Kurt Vonnegut) 1961年的短篇小说《哈里森·伯杰隆》(Harrison Bergeron)如出一辙，其中，非凡的才能被压制，以符合社会平庸的最低共同点。像约翰·塞尔(John Searle)的《中文房间》(Chinese room)和艾萨克·阿西莫夫(Isaac Asimov)的《机器人三定律》这样的思维实验，都吸引了丹尼尔·卡尼曼(Daniel Kahneman)、阿莫斯·特沃斯基(Amos Tversky)等人证明的那种困扰人类大脑的直觉。
“中文房间”实验假设，一个由机械和智人组成的大脑，无论它在智人对话(中文对话)中多么有能力，都不可能是有意识的，除非人类能够识别意识的来源并“感觉”到它。
如果机器人不具有与人类完全相同的意识，那么这就被用作给他们不同权利的借口，类似于其他部落或种族不如人类的论点。机器人已经表现出自由意志了吗？他们已经有自我意识了吗？机器人Qbo通过了自我识别的“镜像测试”，机器人Nao通过了识别自身声音并推断自身是否处于静音状态的相关测试。
关于自由意志，我们的算法既不是完全确定的，也不是完全随机的，而是针对接近最优的概率决策。有人可能会认为这是博弈论的优胜劣汰的结果。对于许多（而非所有）博弈/问题，如果我们的结论是完全可预测或完全随机的，那么我们往往会陷入失败。
那么，自由意志的吸引力到底是什么？从历史上看，自由意志给了我们在地球或来世实施奖惩的方法。惩罚的目标可能包括推动个人优先事项，以有助于物种的生存。在极端情况下，如果积极/消极强化不足以保护社会，这种惩罚可能包括监禁或其他限制。显然，这些手段可以应用于广泛的自由意志，它适用于我们想要管理和约束其行为的任何机器。
我们可以讨论机器人是否真的经历了自由意志或自我意识的主观感受，但这同样适用于评估人类。我们怎么知道反社会人士，陷入休克的病人、威氏综合症患者或婴儿与我们自己有相同的自由意志或自我意识？实际上，自由意志起到了什么作用？如果人类令人信服地声称要经历意识、痛苦、信仰、幸福、野心，对社会发生作用，我们是否应该否认他们的享有自由意志的权利，只因为他们的假设与我们的假设不同？
人与机器之间的界限越来越模糊
我们曾认为自己永远不会跨越的那条禁忌的红线，似乎变得越来越短，而且越发不合理。人与机器之间的界限越来越模糊，机器变得更像人类，人类变得更像机器。这不仅在于我们越来越盲目地服从和遵循GPS定位信息、条件反射般的推文和精心策划的营销手段，而且我们也消化了对自己大脑的更多见解和遗传编码机制。 美国国立卫生研究院的“大脑计划”正在开发创新技术，并利用这些技术绘制神经电路的连接和活动，用以改善电子和合成神经生物学产品的性能。
很多类型的“红线”取决于遗传的特殊性，遗传学被认为是永久的（尽管已证明遗传是可逆的），而一些技术，比如汽车，无论从何种意图和目的来看，都由于社会和经济力量而变得不可逆转。在遗传学中，这类“红线”促使我们禁止或避免使用转基因食品，但却接受了用转基因细菌制造胰岛素或转基因人类，欧洲已经批准了用于成人和胚胎的线粒体疗法。
对于“人类的主题研究”，可以参考1964年赫尔辛基宣言，更要牢记1932年至1972年的塔斯基吉梅毒实验，这可能是美国历史上最臭名昭著的生物医学研究。 2015年，非人权项目代表两只被石溪大学研究的黑猩猩向纽约州最高法院提起诉讼。上诉法院的裁决认为黑猩猩不应被视为法人，因为它们“在社会上没有义务和责任”，不过JaneGoodall和其他一些人持相反意见，还有人认为这样的判决将来也可能降临在儿童和残疾人士身上。
是什么阻止了人类与其他动物、类器官、机器和杂交物种的延伸和交融？目前，一些人工智能领域的著名人物（如霍金、马斯克、泰格马克等）已经在宣传禁止使用“自主武器”，我们将一类“哑巴”机器不断妖魔化，而实际上其他类型的机器，比如由许多智人投票组成的机器可能更致命，更具误导性。
“超人”们已经在地球上四处漫游了吗？对于那些“未接触现代世界的民族”，如印度的Sentinelese和Andamanese，印度尼西亚的Korowai，秘鲁的Mashco-Piro，澳大利亚的Pintupi，埃塞俄比亚的Surma，越南的Ruc，巴拉圭的Ayoreo-Totobiegosode，纳米比亚的辛巴和巴布亚新几内亚的数十个部落来说，他们的祖先会如何回应这个观点？我们可以将“超人”定义为生活在现代，但未接触技术文化中的人们无法理解的那些人和文化。
这样，现代石器时代的人们将很难理解为什么我们因为最近发现LIGO引力波证据，印证了百年历史的广义相对论而热烈庆祝。他们会为我们的原子钟或GPS卫星而困惑不已。我们可以比任何其他生物物种更快地移动，实际上，我们可以从地球达到逃逸速度，并在非常寒冷的太空真空环境中生存。
科幻小说先知威廉·吉布森曾说过：“未来已至，它的分布并不均匀。”虽然这话低估了下一轮的“未来”，但我们当中数百万人已经是超人 - 我们大多数人都要求更多。 “什么是人类？”这个问题已经变成了“什么是超人，TA们有哪些权利？”
[1]诺伯特·维纳是20 世纪最伟大的数学家之一，信息论的前驱，控制论的奠基人。这段译文摘自北京大学出版社《人有人的用处——控制论与社会》，译者陈步。
本文首发于微信公众号：新智元。文章内容属作者个人观点，不代表和讯网立场。投资者据此操作，风险请自担。
