历史上，每一次技术上的突飞猛进都会造成人类社会结构的巨大变革。人工智能的快速发展向人类展现了未来社会的多种可能性。然而，人工智能在给人类带来福祉的同时也在给社会带来现实的或者可能的“技术代价”。南京大学哲学系教授潘天群认为，面对当前快速发展的智能技术，人类要立足当下对未来进行协商，在人类未来的多种可能性中共同选择或者设计一个对人类有利的未来。更多精彩观点，一起来看《学术前沿》最新文章。
来源 | 《学术前沿》杂志及人民论坛网（rmltwz）
01
社会增强的智能技术
在生存竞争中，人类（智人）因为有了理性，其他物种已经无法与人类抗衡，人类便开始了与自己的生存博弈：不同社会或者人类集团之间进行竞争。在这种新的竞争类型中，发明并使用先进技术尤其是颠覆性技术，被实践证明是有效的获胜策略。不同历史阶段有不同的先进工具，从原始社会的石器、文明之初的青铜器、农业时代的铁器，到近代的各种电力驱动下的机器以及当前的通用机器计算机，这些工具中包含了时代最先进的竞争性技术，相对于不采用它们是“占优策略”——采用者在竞争中得分高或者胜出，不采用者得分低或者出局。这样，人类社会一直是技术社会（technosociety）——“技术社会是人与技术高度融合的社会，在这样的社会中人与人之间的交流、交易等互动，以及人或者集团应对外部自然，都高度依赖技术。在技术社会中技术及技术产品或者人工物（artifact）是这个社会中的一部分。”通过技术的相互竞争人类社会整体增强了，即人类一直在通过技术发展而进行“社会增强”（society enhancement）。
现在轮到人工智能技术出场来进行社会增强了。人工智能，简单说来，就是人建造可替代人类心灵来进行工作的机器。20世纪50年代，科学家提出了人工智能概念并开始了伟大的实践。人工智能的出现是计算机被建造后的自然结果——1946年，人类第一台计算机ENIAC得以建成。计算、思维与智能三者难以分开，而用机器来解决复杂的计算本身就是高度智能化的事情，至少在当时人们是这么认为的。因而，我们在考虑对人工智能发展作出贡献的英雄如图灵、西蒙时，不要忘了计算机之父冯·诺依曼——当然，冯·诺依曼在多个领域中都作出了伟大的贡献，指出他在人工智能上的贡献只是锦上添花。有了计算机后，人们便探索如何让计算机拥有像人那样的智能，而不仅仅是实现人脑的部分功能即计算功能。
今天人类社会被高速发展的智能技术不断嵌入和重构。当下的社会已经是智能型社会，或者简单说，智能社会。人工智能技术对人类生活、工作与交往全面渗透，人类社会被整体“增强”，尽管若干年后当我们回看时会认为今天的社会最多是“原始的”智能社会。科学家、工程师以及企业家们，不关心哲学家关于“人工智能”是否可能的学理争论，他们也不关心强人工智能与弱人工智能之争；这里，强人工智能是指那种具有理解能力的机器，而弱人工智能是指能够通过图灵检验即貌似有人的智能的机器。他们根据社会需求开发出各种智能技术产品，而这些产品的社会化又进一步刺激或者促进新的社会需求。当前，不仅仅有谷歌公司开发的围棋智能程序AlphaGo、AlphaZero和分析蛋白质结构的智能程序AlphaFold这样“小众”的人工智能程序，而且有各类科技公司开发的大量“大众化”的市场化人工智能产品，如各种人工智能客服、商场的问路机器人、汽车导航系统，以及逐渐成熟的智能陪伴机器人等。这些市场化产品达不到弱人工智能的标准，它们最多在某个领域中“看上去”具有某种程度的智能表现。因此，通用智能（全域智能）和专门智能（局域）两个概念更能有效对这些产品进行描述，通用智能（全域智能）指的是能够解决环境中所有问题的智能，而专门智能（局域智能）指的是能够解决环境中的某一类问题的智能。
这些不断出现的各种人工智能产品不仅仅为我们提供了生活便利，更重要的是它们打开了人们对未来的想象空间。人们开始展望人工智能社会的未来。弗洛里迪说：“我们正在经历着一场意义深远的图灵革命，这场革命在很大程度上由信息与通讯技术驱动。”根据弗洛里迪的分析，人类历史上发生了三次颠覆性的自我认知的革命，它们分别为“哥白尼日心说理论”、“达尔文的生物进化论”和“弗洛伊德的精神分析理论”；而当下“图灵革命”可以与它们相提并论。哥白尼革命之后地球失去了宇宙中心的荣耀，但人类仍认为自己是地球的主宰；达尔文于1859年发表的《物种起源》则告诉我们，所有事物都来自于共同的祖先并在自然选择下不断进化，人类并不是万物之灵；弗洛伊德揭示了人类大脑中无意识的存在，意识只是冰山一角、并被无意识所控制，因而我们不是意识（心灵）的绝对控制者。在弗洛里迪看来，图灵革命使人类丧失了“独一无二性”，人类不再是信息圈的中心。弗洛里迪说：“图灵使我们认识到，人类在逻辑推理、信息处理和智能行为领域的主导地位已经不复存在，人类已不再是信息圈毋庸置疑的主宰，数字设备代替人类执行了越来越多的原本需要人的思想来解决的任务，而这使得人类被迫一再地抛弃一个又一个人类自认为独一无二的地位。”这些非人类智能体的数字设备，尽管目前不如人类聪明，但它们可以轻而易举地超越我们，并且承担越来越多的任务。如果弗洛里迪说的是对的，那么，那些能够进行信息处理的机器应当与人类有一样的地位。
汉斯·莫拉维克认为，人类的身份在本质上是一种信息形式，而不是一种实体化的规定与表现。因而，他认为在不久的将来，人类可以将人的意识“上传”（upload）到计算机内。他的将意识上传到计算机中的观点为学者们所热烈讨论。意识是作为生物体大脑的功能，因而笔者极度怀疑“意识的内容”能够通过非生物的设备被完全“读取”从而被上传。莫拉维克的另外一个更重要的激进观点是，将机器看成是人类心灵的孩子（mind children）。他说，今天，我们的机器仍然是简单的创造物；它们需要作为父母的我们的关心，新生儿还需要呵护。今天它们几乎不值得用“智能”这个词。但是，“在下个世纪内，它们将发展成和我们一样复杂的成熟实体，并最终发展成为某种超越我们所知的一切事物的事物——并且当我们称它们为我们的后代时，我们感到骄傲。”这样的人工智能机器将接替我们，“从漫长的生物进化中解放出来，我们的心灵的孩子将自由成长，它们将面对更大宇宙的巨大和根本挑战。我们人类在一段时间里将从它们的劳作中受益，但迟早它们会像自然的孩子一样探索自己的命运，而我们，它们年迈的父母，则默默地等待消失。”莫拉维克相信具有智能的机器人将在50年内出现——他写作《心灵的孩子》是在1988年。
对于人工智能或者机器人的未来，马文·明斯基说，机器取代“我们”这样的思考方式没有意义。他同意莫拉维克的“机器是我们心灵的孩子”的观点。他认为，机器是进化的必然产物，“在过去，我们倾向于将自己视为进化的最终产物——但我们的进化并没有停止。事实上，我们现在进化得更快了——尽管不是以我们熟悉的、缓慢的达尔文方式。我们早该开始思考我们新的身份了。我们现在可以设计基于新型‘非自然选择’的系统，这种系统可以利用明确的计划和目标，也可以利用获得性的遗传。进化论者花了一个世纪的时间来使自己避免这些想法——生物学家称之为‘目的论’和拉马克主义，但是，现在我们可能不得不改变这些规则！”明斯基从生物进化史中得到了“目的论”生物观：心灵是所有生物在进化中的一个目标，而机器作为心灵之子将继续在地球上生存与演化。他说：“机器人会继承（inherit）地球吗？是的。但它们会是我们的孩子。我们的心灵的产生要归功于参与进化斗争的所有生物的生与死。而我们的工作是确保所有这些工作不会白白浪费。
在人工智能未来展望中，没有概念比“智能爆炸”或者奇点（singularity）概念更有冲击力了。奇点概念最早由统计学家古德（I. J. Good）所提出。古德在《关于第一台超智能机器的猜测》（1965）中写道：“让我们把超智能机器定义为一种可以远远超越任何聪明的人类的所有智能活动的机器。由于机器的设计是智能活动之一，超智能机器或也将可以设计出更好的机器；到那时，毫无疑问会出现‘智能爆炸’，而人类的智能将被远远地抛在后面。因此，第一台超智能机器是人类要做的最后一项发明。”奇点不是幻想家的纯粹遐想，它是具有智慧的学者们根据当前技术状况及发展趋势所作出的关于未来的深刻洞见。奇点概念强烈冲击着社会，而被学术界所抵制，哲学家大卫·查尔莫斯（D. Chalmers）不满学术界的这种傲慢。他认为，我们应当严肃对待奇点论证，围绕奇点产生的哲学讨论具有极大的实践和哲学意义。在实践上，查尔莫斯说：“如果真有奇点的话，那将是这个星球历史上最重要的事件之一。智能爆炸有巨大的潜在好处：治愈所有已知疾病，终结贫困，获得非凡的科学进步，等等。它也有巨大的潜在危险：人类的终结，交战机器的军备竞赛，毁灭地球的力量。因此，哪怕只有极小的概然性会出现奇点，我们也应该好好思考它可能会以何种形式出现，以及我们是否可以做些什么以让结果朝着积极的方向发展。”而在哲学上，奇点提出了许多重要的哲学问题，查尔莫斯说：“智能爆炸的基本论点本身在哲学上就很有趣，并使我们认真思考智能的本质和人工智能的心智能力。智能爆炸的潜在后果使我们认真思考价值观、道德、意识和个人同一性的问题。实际上，奇点唤起了一些最棘手的传统哲学问题，同时也提出了一些新的哲学问题。”对是否将有奇点的问题，查尔莫斯的看法是，奇点的发生是无疑的，而如果有障碍阻止它发生，主要障碍可能是动机上的而不是能力上的。因此，查尔莫斯说，我们要做的是与奇点协商，将适当的价值植入机器，先在虚拟世界中构建最初的那种人工智能以保证可控，等等。
历史中并不包含未来，但人们倾向于从历史中“归纳”而推理未来、从历史中“找到”未来。然而，不同的人根据对历史的不同的观察会得到不同甚至相反的未来。弗洛里迪无非是在论证当前的人工智能革命或者图灵革命的意义，可以与哥白尼日心说、达尔文的进化论和弗洛伊德的精神分析理论的意义相比拟；莫拉维克和明斯基则将人类心灵作为生物演化的最后产品，而这样的演化接力棒应当由机器承接下去；而奇点论者则是从技术的加速变化中“看到了”智能机器的未来……这里，我们没有阐述哲学家如德雷福斯和塞尔对人工智能技术的不乐观的观点。我们不能说哪种观点及其归纳论证是正确的或者更接近真理，正如休谟所说的，这种根据过去经验的外推是人类的一种没有逻辑根据的心理倾向。但是，这些根据当下和历史对未来的“外推”具有社会意义，它们能够帮助人类思考未来、选择未来。
02
智能技术带来的可能的技术代价
新技术与社会的融合能够给社会带来利益，同时也会带来伤害。新技术带给社会的伤害可以看作是社会要付出的“技术代价”，这样的代价是社会整体为技术发展而所要付出的总体成本。在信息技术发展的短暂时间里，许多人尤其是青少年沉湎于电子游戏甚至患上网瘾，这已经是不争的事实。信息技术给社会带来的巨大利益使得它的发展不可阻挡；而对于沉湎于游戏甚至染上网瘾的孩子，其家庭自动地归责于自己或者是某个偶然原因，而不会将责任归于社会发展信息技术。从技术的社会化角度来看，这便是社会为发展信息技术所要付出的“技术代价”。
某种技术对某个个体的伤害可能只是概率上的或者是偶然的，而某些技术对社会的伤害则是必然的，只不过不同的技术给社会造成的伤害形式及伤害程度是不同的。社会要权衡的是相应技术的代价是否是可接受的。汽车使人们出行更便利，然而汽车的普及造成了大量的交通事故与死亡人数；而假设没有现代交通系统，许多死亡就可以避免。据统计，2017年～2019年，中国每年交通事故死亡人数约为6.3万。尽管人们逐渐适应现代交通技术系统，相对于汽车保有量，交通事故率也在降低，但是中国汽车总量在逐年增加，因为交通事故而死亡的总人数并没有进一步下降。这些死亡或者伤残是现代交通技术给社会带来的不可避免的代价，尽管它们不是唯一的代价。社会可以通过采取各种可能的措施降低伤害，但是这样的伤害有一个不可降低的“下限”。日本是交通事故率较低的国家，据报道，2017年，日本因交通事故而死亡人数只有3000余人；日本政府希望将交通事故死亡人数控制在2500人以下，而实际上这是难以完成的目标——这样便是现代汽车系统运行下不可再低的代价。我们通常对交通事故中的死亡或伤残的人态度漠然，认为那是必然的“不幸”，如同自然死亡或者生病一样。我们习惯于将每年因交通事故而死亡的人数只看作一个数字，没有人怪罪或者攻击现代交通系统，而事故家庭只能怪罪自己的不幸或者交通肇事者。人们认为现代交通系统的采用是必然的，而没有现代交通系统是不可想象的。然而，有些技术的不被采用是可想象的。据美国网站提供的数据，1999年～2016年，美国67.7%的谋杀案是由枪支造成的，总共有213175人死亡，即平均每年有11843人死于枪击谋杀。我们当然不能将这些谋杀案造成的死亡人数全部归因于枪支合法化，因为假设没有枪支合法化，其中的部分死亡者也会被其他方式所谋杀。但是枪支合法化使得谋杀变得容易，因而，美国平均每年1万多人的枪击谋杀死亡中有很大比例应当归因于枪支合法化，这些死亡是社会为枪支使用合法化所付出的技术代价。在美国，人们经常抗议政府而要求禁枪，因为全面禁枪的社会是可想象且一定程度可接受的社会。因此，现代交通系统是所有社会协商出来的结果，而枪支合法化也是美国这个国家协商出来的结果。
人类处于高度互联时代，人类的理性或者严格地说“集体理性”得以彰显。这样的理性体现在人类关于未来的协商中。这种协商不仅仅体现在集体理性对个体理性困境——如囚徒困境——的克服中，而且更重要的是，人类能够对人类未来进行整体地考虑，分析未来的各种可能性，权衡利弊，选择并确定未来。在协商人工智能社会的未来时，我们首先得要弄清人工智能给社会带来的可能代价是什么，因为只有弄清可能的代价，我们才能进行利弊权衡。
人工智能会使人类整体性地沦为彻底的“无用阶级”吗？机器作为劳动的替代物而被设计和制造出来，它天生与劳动处于对立的关系；这一点上人工智能也一样。传统机器替代人的体力，被替代的劳动者因具有智力上的优势，其替代是暂时的，从理论上讲被替代的劳动者能够通过学习新知识而找到新的工作。与传统机器不同的是，人工智能替代的是人的智力，它们能够进行劳动，能够代替人的劳动而创造价值——在这个意义上，马克思的劳动价值论也面临着挑战。而一旦人工智能形成规模并在智能上完全超越人类，人工智能能够完全接替人类来创造价值，人便没有了价值；而无需等到超级智能机器被设计出来（奇点）的那一天。届时，地球上将由人工智能机器统治，正如明斯基和莫拉维克所认为的那样。对人类来说，这样的代价可能“太大了”，至少是当下的大多数人所不能接受的。当然，很有可能的是，未来的人类会赞同明斯基等人的观点，人类与机器人都是“我们”，而机器人将是人类心灵的孩子，人类心甘情愿地让它们作为我们的后代接管地球！智能社会中人群会面临被机器算法全面操控的风险。当前，我们已经被算法部分操控。智能手机上的各种推送，是计算机视觉根据它所“看到”的我们的偏好而精准投放的。大数据是信息技术系统在与人类社会交互中所产生的巨量信息；无论如何，它们是个体或者群体行为的相关信息——太空中获取的星体数据不能成为大数据，尽管它们是科学仪器“观察”和“加工”后的信息。大数据被认为包含着巨大的价值，或者巨大的商业价值，因为这些大数据中包含由个体信息和个体偏好形成的群体偏好或者规律。我们被数据化从而被客体化，同时被计算与预测。基于大数据的计算便是基于个体组成的群体的行为信息之上，这样个体的“行”和“为”，乃至“思”和“想”都被关注、收集与计算。因而，尽管可能的是，在算法设计时通过将伦理嵌入到算法之中保证没有人在背后对作为数据对象的个体进行“偷窥”，但实际上，群体被偷窥，商业价值和政治目的便通过群体被偷窥而实现。由大数据而产生的价值是通过偷窥我们的行为以及这些行为背后的思想，从而预测乃至操控我们的行为来实现的。掌握数据的公司可以通过投放某些数据扰动人群，对人群进行操纵，这种操纵可以是商业的，也可以是政治的。这种操纵如同羊群被恐吓声所驱赶或者被投放的食物所吸引。个体数据是大数据时代个体的新的身份。这是数据化个体的时代，我们无处可逃。而对我们的数据进行操作则是需要规制的。
对于个体而言，存在“不可数据化”的东西（如隐私）和可数数据化的部分，不可数据化的边界在哪里？可数据化的使用权限在哪里？等等。数据化个体并对群体进行这种操纵可能催生新型的政治或者商业模式，我们得适应并运用政策与伦理规制这种操纵；我们需要考虑并建立新型的政治或者商业伦理以及制定相应的治理政策。
基于互联网的“虚拟世界”正“废物化”人类。每个人都会做梦，每个人也能够进行幻想。做梦是人的心灵处于沉睡状态下心理的自然呈现；而与梦境不同的是，幻想是人的心灵的正常功能，它是对现实状态的理性超越。幻想是想象一系列非真实的事件；或者说幻想是在构建某个虚拟世界，在这个世界中有一系列引发行为主体情绪的虚拟事件发生，这样的系列事件尽管不符合现实，但它们之间一定符合逻辑。梦境只能是私人的，人们无法“共同做梦”——不同的人无法进入同一个梦境；但是人们可以“共同幻想”。共同幻想是指不同的人在同一个现实时空中共同构建某个虚拟世界，或者进入某个虚拟世界中一起进行新的想象。人类的神话、文学等便是特定群体的共同幻想。而今天互联网为人们搭建了一个新的共同幻想的平台。人们能够通过互联网进入同一个“虚拟世界”，“共同地”且全身心地沉浸到某个幻境中并进行新的幻想。每个人都能够进入的虚拟世界构成共同幻境。然而，基于互联网而构建的虚拟世界或者共同幻境正“废物化”人类。赫拉利说：“那些对社会来说多余的人，可以多花点时间在3D虚拟世界里；比起了无生趣的现实世界，虚拟世界能够为他们提供更多的刺激，诱发更多的情感投入。……这些人对社会毫无用处，整天活在现实与虚拟之间，这样的生命何来神圣？”Meta（Facebook）宣布建设元宇宙（Metaverse），元宇宙便是在构建巨大的共同幻境——尽管元宇宙有助于服务当下世界。基于互联网的共同幻境（元宇宙）的构建对人的精神的控制与圈养等副作用是巨大的，而且很可能的是，它正全面“废物化”人类。
基于互联网的人工智能将会对人类社会产生巨大的影响，我们要审慎对待其中可能出现的灾难。互联网看上去是一个物理设备相互联结的网络，实际上其包含物理部分（或者硬件部分）和软件部分：前者是后者发展的基础。由于这两部分的迅速发展，互联网在当下及未来的智能社会中有巨大的发展空间。由于互联网上有大量各种类型的数据和人类社会的知识，工程师们借助于互联网这个平台实现产品的智能化。当前的许多智能化产品便是这么做的。正如人需要依赖于社会而生存与发展一样，人工智能也要依赖于某个网络环境。构建专门的物联网当然是一种实现人工智能生存环境的方式，但依赖于目前的互联网似乎更为可行，这样它们能够与人类进行交互，参与到人类社会的构建，成为智能社会的一部分。当前基于互联网的人工智能产品是初级的、非自主的，那种自主的、高级的“活”在互联网环境下某个虚拟世界中的人工智能或者“受控人工智能”似乎暂时还没有出现。一旦科学家或者工程师在基于互联网的某个控制的虚拟环境中发明了某个“受控人工智能”，并且它们被设计能够在虚拟世界中进化，那么它们的威力是巨大的，它们的泄露也是可能的。而一旦它们泄露，将会产生巨大的社会灾难：它们首先会泄露到网络世界之中并干预我们的网络世界；它们甚至会泄露到现实世界之中，通过现实化自身干预现实社会，造成社会困扰。虚拟世界不必然是人工智能的居住场所，正如实验室不必然是人造病毒的场所、核反应不必然在反应堆中进行一样。“智能泄露”及其灾难将会是未来重要的学术及社会问题。
互联网构建的虚拟世界与现实世界争夺资源将会是一个普遍现象。比特币作为虚拟世界的货币，它通过有强大算力的“矿机”（特制的高效计算机）计算而得，比特币被认为是去中心化的网络交易货币。比特币高昂的市场价格吸引投机者们“挖矿”逐利。然而，“挖矿”需要大量的电力，根据剑桥大学替代金融研究中心的研究，截至2021年5月17日，全球比特币挖矿的年耗电量大约是134.89太瓦时；这里，1太瓦时相当于10亿度电。这样的耗电量已经超过马来西亚、乌克兰、瑞典等国家的耗电量，已十分接近耗电排名第25名的越南。
挖矿消耗能源是虚拟世界消耗或者抢夺现实世界能源的一种方式，而虚拟世界对现实世界能源的这种抢夺将会成为一个常见现象。将电力消耗在虚拟世界之中是否是正义的？这至少是可讨论的。当今的人类的生活离不开电力，人类进一步的工业生产也离不开电力。电力是社会耗费公共资源而生产出来的有限社会资源，这样的资源是属于全社会的。因而，它的使用要公平和合理——在保证基本民生的前提下合理分配给企业进行利于社会的生产，用于挖矿投机则是不义的，尽管挖矿者按照市场价格支付挖矿电费。社会如何对有限资源进行分配是一个永恒的哲学话题。“朱门酒肉臭，路有冻死骨”描述的便是一个不义的社会，在该社会中某些人奢靡浪费的正是另外一部分人生存所需要的。因而，并非按照市场规则运行的社会就是正义的，尽管某些人的消耗是基于社会规则的交易而非暴力抢夺。电子游戏不仅影响甚至是毒害了一大批年轻人，而且游戏PC比普通办公PC更耗电。游戏PC配置高、耗电量大，这是人们的共识。E.米尔斯和N.米尔斯研究团队在《能源效率》（Energy Efficiency）杂志发表了一项研究报告，题为“驯服游戏电脑的能量使用”。他们的研究表明：游戏PC耗电量十分惊人，在全球所有PC中（包括主机）仅有2.5%占比，但却消耗了高达21%的能耗，这一数字达到了75太瓦时／年。这意味着需要25座标准发电厂为其提供电力，或者相当于1.6亿台冰箱的能耗。此外，报告还指出，目前使用高端游戏PC的用户正在不断增长。他们的研究表明，一台典型的游戏PC，包括显示器，一年大约消耗1400千瓦时，相当于一台标准PC的6倍。我们看到，电子游戏不仅耗费人大量的心理能量，同时耗费大量的能源（电力）。我们现在没有完整的理论或者说辞表明，玩电子游戏就是不道德的，但是耗费人的心力和体力的活动（如赌博）而不产生外部正效应（价值），这至少是不值得提倡的。
我们无法判定比特币未来的价值，但耗费有限的电力资源来进行投机至少在目前看来是不义的。我们也不能说人类进行电子游戏如抽鸦片般是人类恶习，且有不少健康的电子游戏，但是一些所谓高科技公司通过网络游戏从心理上牢牢控制了一大批年轻人，让他们不断为公司充值。未来，是否会通过网络发生更大规模耗费人类的心理能量和现实资源而不生产价值的现象？当前，人工智能正尝试代替人进行“艺术创作”，对于接受人工智能“作者”及其作品，我们是否有充分的心理准备？更进一步，我们是否有充分的心理准备接受人类作者“完全”被机器所替代？在中文世界中，2017年5月，微软“小冰”的原创诗集《阳光失了玻璃窗》正式出版，这是人类史上第一部完全由人工智能程序创作的诗集。
同年，清华大学“九歌”（THUAIPoet）诞生，它是中文古体诗歌生成系统。对于“小冰”创作的诗集和“九歌”所作的古体诗歌，一般的读者难以区分它们是机器所作还是人类所作。“小冰”和“九歌”在专业领域里的表现可以认为通过了图灵测试，它们具有了“专门智能”。不仅如此，“小冰”和“九歌”的创作速度大大超过人类，且它们能够被改进以自我进化。人工智能创作者的出现表明“作者之死”——人类或将不再是文学作品的创作者。对于人类，“写作是为了成就一个不同的自己，探索不同的书写方式，乃是对自我之生成的最好捍卫。……人工智能作为人之智能的分裂和对立，也许恰恰督促了重新反思人之为人或主体之为主体的根本所在。”但是，人工智能正挑战人类作为意义构建者即作者的地位，沿着这样的发展趋势，人工智能将会发展成意义的构建者，而人将只是作为读者而存在。人是意义的消费者，而意义的主人是人工智能。这样的状况恐怕是人类难以接受的。
03
人工智能发展的保守主义路径
我们通过新技术一步步走向未来。对未来的协商体现在对技术的每一步考虑之中。面对不断涌现的人工智能新技术，技术保守主义立场可能更为可取。
技术保守主义可以理解为：在发展或者选择技术时我们应当以尊重当下所有人的利益为前提。具体地说，在发展技术时应当坚持以新技术的采用可以让所有人的利益都得到提高或者至少不损害为最高原则；在接受某项新技术时社会应当保持慎重的态度，该新技术的采用要使当下所有人的利益都得到帕累托改进；并且不采用技术后果不明的技术。
技术保守主义至少有如下三条作为辩护的理由：第一，人类对技术的全面后果是无知的或者至少是部分无知的；而技术的全面后果往往是无法通过实验或者理论来推演的。第二，因技术发展的巨大惯性，人们即使发现了技术的灾难性后果，社会也很难即刻停下来。第三，技术专家往往倾向于他们所发明的新技术的实施。他们轻视或者忽视该技术的“坏处”，而放大该项技术的“益处”，这不是说他们不客观或者不道德，而是说，这是自我肯定的人性使然。如，核能被告知是清洁且安全的能源，而核电站一直以来也被科学家们宣称绝对安全、发生核事故是小概率事件。然而，自核能技术被人类应用以来，已经发生多起核事故，2009年美国《时代》杂志对历史上发生的令人恐怖的核事故进行了回顾，评出“十大核事故”，其中包括1986年的苏联切尔诺贝利核电站事故。其时，还没有发生日本福岛核事故。2011年的福岛核事故不断产生的核污染废水问题一直困扰着周边国家。1979年美国的三英里岛核事故、1986年切尔诺贝利核电站及2011年福岛核事故均是核电站事故，而当前核电站遍布全球！
基于以上理由，新技术被应用之前应当得到充分且全方位的评估与论证，并且应当让公众（外行）参与到技术评估与论证中来。可以看到，技术保守主义并不是限制新技术的使用，而是对技术的使用采取审慎的态度。对于当前不断推陈出新的人工智能新技术，技术保守主义不仅要求人工智能技术被实施之前需要充分评估与论证，而且重要的是，因为人工智能技术的特殊性，它还要经得起伦理和社会的审查。事实上，人们一直在考虑如何约束机器人或者人工智能的发展。1950年，美国著名科幻作家艾萨克·阿西莫夫出版了他的著作《我，机器人》。在这部著作里，阿西莫夫提出了著名的机器人三定律：第一定律，机器人不得伤人，或任人受伤而袖手旁观；第二，除非违背第一定律，机器人必须服从人的命令；第三，在不违背第一及第二定律的情况下，机器人必须保护自己。我们看到，在按照阿西莫夫三定律而建立起来的人与机器人共存的社会中，机器人对整体人类只有帮助，不会造成伤害，至少表面上如此。这样的技术的采纳应当是对所有人的福利都有提高而没有伤害，因而符合技术保守主义的立场。
然而，遵循阿西莫夫三定律而建造的人工智能或者机器人是奴隶般的，它们在社会上运行可以帮助人类整体，但它们奴隶般的地位是我们人类希望的吗？这是技术社会的理想形态吗？弗洛里迪说：“允许人类和智能陪伴做朋友是否是一个道德伦理层面的问题。我们是否会因为它们的非生物性而歧视它们？”就我们目光所及的人—机社会的未来，人工智能还处于人类的控制之下。
在这样的人—机社会里，理想的人—机关系应当如何？
人工智能不仅应当提高人类的整体物质福利，而且应当满足人类的精神需求。为此，人们提出了“友善的人工智能”（friendly AI）概念。一个友善的人工智能是指它采取的行动在整体上对人类和人性仁慈而非暴力，善意而非敌意。美国机器智能研究所（前身是著名的奇点研究所）的研究人员俞德考夫斯基（Eliezer Yudkowsky）在2001年发布了《创造友善AI1.0：仁慈目标架构的分析与设计》研究报告，在该报告中他是这样表述友善的人工智能：它们是被设计来完成真实世界的目标且对人类有益、无伤害人类行动的系统。而创造友善的人工智能则描述了建造一个仁慈（benevolent）即友善（friendly）的人工智能的设计特征和认知构架。
福洛丁和皮得森（Barbro Fröding & Martin Peterson）认为，未来人工智能最重要的特征之一是它们拥有运用友好的方式对待人类的能力：“它们对人类具有（看上去）友好的能力，而不是刻薄、敌意或者不友善。”在他们看来，不是说友善的人工智能与人类之间存在真正的友谊，而是说人类与它们之间具有“似友谊”（asif friendship）。他们在亚里士多德关于友谊的理论中找到了理论支撑。他们认为，高度顺从的奴隶式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）则是友善的人工智能。这就是说，由于友善（友谊）是相互的，一个理想的人工智能社会是人类与人工智能友好相处的社会。
04
结束语
在对未来的思考中，科学家与技术家们往往趋于乐观，而哲学家们往往趋于保守——哲学的这种保守是一种对人性的守护和热爱。然而，在对未来的思考中，哲学似乎有点力不从心，文学似乎更有吸引力。人类一直由伟大的叙事鼓舞并引导。在这样的叙事中，人类行动的意义被设定，伦理也被偷偷嵌入。然而，不同的叙事中生命被赋予的意义是不同的。如果有伟大叙事认为我们有使命走向星辰大海，我们将前仆后继地走向宇宙深处；而如果有伟大叙事认为我们人类自身只是走向更高级智能的一个环节，而人工智能就是人类智能的更高级的接棒者，那么，我们会大力发展人工智能，并心甘情愿地接受人工智能替代我们人类占据这个星球。我们现在需要关于人类、生命和人类未来的伟大叙事，这样的叙事可能不是哲学，但一定包含着深刻的哲学；这样的叙事超越人工智能相关的科学和技术本身，并对人性有独到的理解。并且最重要的是，这样的叙事能够真正洞悉我们这个世界背后的超级密码。
来源 |《学术前沿》杂志2021年12月上
原标题 | 协商人工智能社会的未来
回顶部