杨家栋：chatGPT是文明利器，还是潘多拉魔盒？

 

ChatGPT全称Chat Generative Pre-trained Transformer，翻译过来其实是聊天生成型预训练变换模型，从名字上来看，它其实是一种大数据综合训练模型，靠的是类似于填字游戏的训练来完成与人的对话。

 

ChatGPT是去年11月30日发布的，那个时候我国刚宣布停止封控，ChatGPT的出现无疑又给了慕洋犬丰富的理论依据以攻击中国大陆。有关ChatGPT的讨论也不绝于耳，甚至不少高校的学子翻墙利用它来完成论文或平常作业，据亲身经历与使用过的同学回答，ChatGPT的功能确实强大，它能回答连续性的问题、承认自己的错误、质疑不正确的假设，甚至拒绝不合理的需求。用户与ChatGPT之间的对话互动包括了普通聊天、信息咨询、撰写诗词作文、修改代码等。

 

它是如此的强大，以至于在发布没多久的时候，世界上陆续出现了禁止ChatGPT的声音，像中国科幻杂志《科幻世界》明确不接受AI撰写文章，意大利个人数据保护局也宣布禁止使用ChatGPT处理意大利用户信息，甚至发明它的美国人也在一定范围内限制了它的使用。

 

当然，还是有人愿意接受它的。2023年2月，以色列总统艾萨克·赫尔佐格发表了部分由人工智能（AI）撰写的演讲，成为首位公开使用ChatGPT的世界领导人。

 

了解了四个多月后，我发现主要有两种观点较为突出，一种可归纳为“文明利器论”，这批人认为ChatGPT将会全面引领工业革命4.0，引导人类彻底走向智能时代；另一批人则认为，目前的ChatGPT已经拥有了超过普通人的能力，这是非常可怕的事情，如果有一天AI产生了自主意识，那将是人类的末日，写出过《人类简史》的以色列历史学家赫拉利正是这种观点的拥趸。

 

这两种观点似乎都能自圆其说，但都存在着内在逻辑漏洞，下面我就来论一论。

 

文明利器论

 

很多人认为ChatGPT能在很大程度上替代重复的脑力劳动，进一步解放人的生产力和创造力，使得生产效率得以提高，因而可以看作是人类进入智能时代的标志。

 

笔者不以为然。在人类的历史上言之确凿的有三次里程碑式的科技革命，第一次是蒸汽时代的工业革命，第二次是电气时代的电气革命，第三次是信息时代的信息技术革命。

 

这三次科技革命的重大意义不在于创新，而在于这三次创新深刻地影响了生产，空前地解放了生产力。蒸汽时代是机械代替人工，电气时代是效率更高的内燃机取代效率极低的蒸汽机，而信息时代是计算机取代了传统人脑进行信息获取与处理。

 

如果研究仔细就会发现，这三次工业革命之所以能空前提高生产力，都是在生产过程中尽可能地剔除不可控的人为因素完成的。从机械力量取代人力，制造力变得可控，毕竟再能吃苦耐劳的人他的力量也不是无穷无尽的，但机器只要有能源就有动力。从电脑取代人脑，大数据变得可以轻易计算和处理，并且只要按照既定格式运算，一定就不会出错，但人脑就未必了。

 

而我之所以不认为今天爆火的ChatGPT能在生产领域产生巨大影响是因为，它的本质其实是在尽可能地模仿人，现在我们觉得它厉害、强大，说明它越来越像人甚至在人类引以为傲的地方能击败人类，但从何谈起它能对生产力产生影响呢？

 

ChatGPT要想对生产力产生深远的影响，就必须运用它的本领精确干预生产流水线，整个过程波动越少，产出的产品合格率就越高，合格率越高自然质量就越好。想要完成这样的步骤，那ChatGPT一定要比人更理性，同时必须排除人类的情感因素，以便于更好地量化。

 

我是郑州人，那就举郑州富士康的例子。富士康的工人要组装苹果手机，每个人负责一部分，这样他就可以在生产线上实现初步量化，手机有问题找部件问题，根据部件再找人，只要每个部件都没问题，那这个手机一定没问题。但是人才是最大的问题，真正的智能化工业，应该是靠可量化的机器来完成的，比如装电池的力度，太大压坏手机主板，太小没装进去，只要机器设定固定力度，那就不存在这个问题。

 

像我国上海的洋山港就采用了类似的智能化装卸码头。洋山港码头是世界上智能化程度最高的自动化集装箱码头之一，也是全球一次性建成投运、单体规模最大的自动化集装箱码头，被誉为“集大成之作”。这个码头的恐怖之处并不在于机器多，而是利用机器，只需要4个人就可以完成对整个码头的运作完成实时监控和跟踪。上海港集装箱吞吐量已经连续12年世界第一，其中洋山港贡献率约50%。简单代还就可以发现，在工业智能化下，四个人就可以完成关于50%的货物吞吐量的工作。

 

ChatGPT想要变成这样的智能化，那必须有自主意识，只要他一直是在模仿人类，那他最多就只能是一个超级人类。但目前学界的研究并非让其获得自主意识，而是让其更像人，最终成为超级人。

 

所以，芸婉认为，ChatGPT可以看作一次行业内的变革，但不能因为它对人的生活影响巨大就认为它能推动工业变革。那中国的支付宝发展这么多年，已经深度介入了居民生活、医疗、教育乃至储蓄等多个方面，它也对生活改变巨大，怎么没人说这是一次工业革命呢？归根结底是因为支付宝只能算作互联网产业内部的一次革新，因为它并没有让制造业整体发生革命性的变化。

 

ChatGPT不也是一个道理吗？

 

潘多拉魔盒论

 

基于上文的描述，我们其实可以把ChatGPT视为一种生产工具，就像人们需要文档编辑发明了word一般，ChatGPT不过是一个功能更强大的辅助工具。

 

其实，在我实际使用类似ChatGPT时候就发现了这样一个细节，那就是无论ChatGPT再怎么强大，只要人类不输入指令它是不会有结果的，最终的结果其实还是人类产出的。ChatGPT不过是按照人类的指令机械性输出一种选择罢了，而这种选择未必符合指令人心中的预期。

 

所以ChatGPT还是要受制于人类的脑力上限，就是它只能在人类能想象的地方发挥作用，假如人类也不会，那ChatGPT未必能发挥作用。比如你问它宇宙从何起源，它会回答霍金的宇宙大爆炸理论，但是你问它大爆炸的奇点从何而来，它就支支吾吾编造一堆没用的废话了。

 

ChatGPT这个特性要其实从它本身上就可以找出端倪，它本身就是聊天交互模型，它的学习方式其实是从和人聊天获取数据然后根据数据的多寡来判断正确性完善资料库的。

 

这套学习方式其实和我们人类学习知识差不多，人类经常给ChatGPT输入一些训练材料，在这些材料里，必然会出现一些有规律的词组，比如输入饭，那有很大概率是吃饭，毕竟训练材料里不可能存在喝饭。这也就是ChatGPT能够生成有意义文本的依据。

 

但是这套学习方式有很大的漏洞，就像人类会有思维定式一样。因为他只考虑符号之间的概率关系，就像美国人总是用抹黑中国的训练材料训练它，那中国人在问ChatGPT问题时就会感觉到双标。这是ChatGPT的错吗？很难说，毕竟ChatGPT在目前尚不知它所生成的文本有何意义。

 

可以这么说，别看ChatGPT的算法有多么强大，它都不能脱离数据库的数据。而他的这个数据可永远也无法同人类积累的海量数据相比拟，其不过沧海一粟罢了。

 

而一旦锁死了资料库，那ChatGPT的运用能力其实也已经被锁死了。就像AI通过既有方法，结构了地球上存在的全部蛋白结构，直接让这一领域的领军人物中国科学家颜宁“失业”了，颜宁解析蛋白结构的速度已经很快了，但她每年最多解析15～20个。而AI一个月就把迄今为止的1万5千种蛋白分子全给解构了，方法和颜宁的方法别无二致，只是运算能力比人脑强罢了。

 

可以说ChatGPT成也资料库，败也资料库。

 

但是也不能说ChatGPT一点意义也没有。在这里，我想谈谈ChatGPT对人类社会可能产生的影响。

 

就像互联网的诞生一样，最开始人们都认为互联网的诞生将会给人类社会带来前所未有的自由。甚至美国总统克林顿在其第二任期还喊出了“互联网自由”的口号。20世纪70年代，美国面临滞涨的局面，总统里根开出了去管制的药方，为孵化期的互联网企业开出了许多绿灯，由此成就了硅谷繁荣。

 

很快美国人就发现互联网能够带来信息自由，当时几乎所有的学者都认为互联网将颠覆传统主权国家对舆论的管控，克林顿本人也戏谑道“政府控制互联网信息就像让果冻上墙一样。”可是现在，果冻真的上了墙，各国政府不单使用技术搞信息筛查，甚至还可以利用信息制造茧房固化人的思想。这也是为什么美国政客这么怕Tik Tok的原因，因为它没法被美国政府监管制造信息茧房。

 

因此，恐怕ChatGPT会步互联网的后尘，它的原意是成为人的辅助工具，帮助人类创造更多的价值，但我担心的是，长期使用ChatGPT是否会降低我们普通人的智力水平。当我们每个普通人在学习或者工作的时候，依靠的不是自己的经验，而是ChatGPT给定的“最佳选项”，我们会不会成为被ChatGPT捆住的人呢？不能不担心资本家会不会使用这一工具来削弱群众的力量来维持它自身的稳定。

 

其次，作为辅助工具的AI只是帮助人类更快掌握相关知识和技能，那么它能取代的只可能是广大的“中产阶级”和“无产阶级”，因为这部分的工作其实就像是为企业提供人力知识数据库，而少数的人的实力明显不比于电子海量数据库。那位于社会上游的资本家是否会通过类似的技术把“中产与无产”彻底淘汰为“垃圾人”呢？值得思考。

 

作者：杨家栋；来源：昆仑策网【作者来稿】图片来源网络 侵删