“我们处于一种霍布斯式（笔者注：霍布斯的哲学主张是“人对人像狼一样”）的国际无政府状态”；
“（人工智能系统）可能被个体滥用，例如用于生物攻击，或者这些系统本身的自主性带来的危险”。
这是美国人工智能初创公司Anthropic总裁、OpenAI前研究副总裁达里奥·阿莫迪（Dario Amodei）在最近的访谈中提出的观点。
阿莫迪的上述观点并非耸人听闻。事实上，只要全球资本主义的丛林法则继续存在下去，“人工智能系统威胁人类”的情形出现只是一个时间问题。
然而，为了消除危险，阿莫迪在这则访谈中提出的主张却不是去消灭资本主义丛林法则，彻底改变“霍布斯式的国际无政府状态”，而是主张加强对中国的出口管制，限制中国的人工智能技术发展，让美国对中国保持绝对的领先。
这样的思维本身就是一种狼性思维，阿莫迪所担忧的“不安全AI”，将来恰恰是他这样思维的人搞出来的。
目前很多人对人工智能的“潜力”还缺乏足够的认识，因为人工智能还没有迎来一个超越“临界点”的时刻。
AI大模型的突破事实上仅仅是初始的一步。
AI模型和应用技术目前都还只是处于探索期，目前大多数人仅仅是在把大模型当作一个对话机器人来“尝鲜”，而对AI的真正能力和前景缺乏足够的认识。
只有当AGI（通用人工智能）成熟以后，AI超越人类智能的临界点，具备跨领域推理、创造和自主学习的能力，可在未知环境中解决复杂问题，AI时代才会真正到来——或许到那时，人们才会赫然发现“一切历史皆为序章”。
彼时，AI将成为基础设施重构人类的社会与经济系统，成为能源、交通、医疗、教育等各个领域的核心支撑，并催生出新的经济形态（如完全由AI驱动的生产链、去中心化决策系统）。
这还不是终点的全部，而只是部分。
第一次工业革命完成的标志是用机器制造机器，这意味着生产过程的自动化和规模化，推动了整个社会的工业化进程，社会化大生产由此逐渐成型。
对标工业革命，AI革命完成的标志就是用AI创造AI。
AI系统能够完全自主地设计、优化并部署更强大的AI模型，形成无需人类干预的自我迭代循环，实现自主进化的技术闭环。这一闭环意味着AI从工具升级为自我驱动的技术主体，这对于人类社会的历史进程的影响将是革命性的！
可以预见的是，当人类不再需要“设计AI”，而是智能化系统解放脑力劳动，这场革命将抵达它的历史性终点。
然而，如果AI革命仅仅停留在技术层面，而缺乏社会共识和风险控制，其“完成”必然伴随“致命性”代价。
AI革命的完成，必将对旧的生产资料所有制形成巨大挑战：一方面，数据成为核心生产资料，工业时代的土地、工厂将被数据资产和算力基础设施取代，掌握数据采集、清洗、标注能力的主体将主导生产；另一方面，私有化垄断与公共化共享的博弈将会激烈加剧。
博弈的结果将会决定两种截然对立的社会图景：
要么是算法寡头通过数据垄断实施技术“封建”，大部分人沦为“数字农奴”；
要么是人类从重复劳动中解放，专注于创造性探索，形成与AI共生的“后人类文明”。
前一种图景依然不是终点。只要资本主义继续存在下去，在一个国家内部，AI还只是压迫的工具；而在敌对国家之间，无序竞争必然让缺乏数据民主化、算法监管全球框架以及人机伦理共识和道德审查的“不安全AI”出现。
如此，AI将成为杀人的机器，所谓的“机器人三大定律”将会沦为笑谈，进而导致国家之间的零和博弈；进一步地，恐怕将是AI作为一个新物种与人类这个种群之间的零和博弈……
潘多来魔盒已经被打开，未来图景的到来只是时间问题。资本主义的残喘与AI革命的成功绝不可能是一个长久的共生物！到那时，为了人类的共同命运，全世界无产阶级必须作出历史性的抉择！
文：子午；来源：子夜呐喊微信号
回顶部