内容摘要：2023年以来，以大语言模型为代表的人工智能技术加速发展，应用场景不断拓宽，对人类社会发展产生重要影响，为未来社会打开了真实科幻电影的大门。英国《自然》杂志评选年度科技人物时，将AI（人工智能）大模型纳入其中，以此来说明2023年为“生成式人工智能的突破之年”。
继ChatGPT诞生后，OpenAI于2024年2月又推出了一款名为“天空”（Sora）的文字生成视频模型，在AI领域形成了震动效应。美国媒体认为，随着OpenAI、谷歌、微软等公司将目光投向文字和图像生成之外的领域，寻求巩固其在这个行业中的地位，并赢得自一年多前ChatGPT问世以来一直对生成式人工智能感兴趣的消费者的青睐，文字生成视频模型在生成式人工智能领域已经掀起了新一轮军备竞赛。
当前，AI正在加速度蓬勃发展，新算法、大数据、各种领域的“云”也被不断应用于军地领域，无人驾驶汽车、智能机器人医生、AI接听电话服务、智能采写机器人、智能机器人主播、depseek开源应用、无人机……正在深刻改变人们的生产生活方式，日益突破人们的想象力边界，于是有人预言未来社会就是人工智能社会。与此同时，以ChatGPT为代表的生成式人工智能技术不断催生新场景、新业态、新模式和新市场。在赋能人类社会经济进步的同时，人工智能“狂飙突进”式的发展也给全球带来安全隐患和风险挑战。
2024年6月12日，习近平主席在向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞时提出，坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理。这正是对当下各方普遍关注的人工智能发展方向提出的建设性思路。
智能向善，旨在规范人工智能在法律、伦理和人道主义层面的价值取向，确保人工智能发展安全可控。坚持这一宗旨，要求各方遵守适用的国际法，秉持和平、发展、公平、正义、民主、自由的全人类共同价值，共同防范和打击人工智能技术被恐怖主义、极端势力和跨国有组织犯罪集团所利用。
一、AI越智能存在的风险也就越大，就越需要人类控制
任何新技术的发展初始阶段都会经历一段艰难曲折过程，都具有两面性，既有好的一面，也有不好的一面，AI也不例外。AI在给人类带来工作、生活便利的同时，也不能忽视智能机器人所发挥的巨大作战潜能和负面消极影响。将来有一天，机器人也可能发生不以人们的意志为转移而失去控制作出不当行为，甚至于摆脱人为控制成为杀人机器或者被恐怖分子滥用成为杀人帮凶。
目前，ChatGPT作为AI的佼佼者，并不是一个实体机器人，而是整合了大数据分析、自然语言处理等技术，通过融合领域知识写作系统，对搜集、聚合的全网信息、数据进行抓取后归纳总结，发掘重要的消息和事件，并用自然语言进行表达，还未达到对抓取、搜集的信息资料进行深度分析思考后得出人们的认同和观点。难免学术界专家学者，就其运用中引发吸引媒体眼球的版权纠纷、不实信息、侵犯隐私等相关问题的新闻报道。
AI机器人将来有一天普及运用势不可挡。AI机器人的诞生是数字科技、人工智能技术发展成果的结晶，是推动未来社会进步的发动机。人类要发展，AI机器人是动力源。
万事开头难，难在如何起好步、开好头。在2022年，生成式AI将人工智能的价值聚焦于创新发展，这标志着人工智能开始具备定义和呈现新事物的能力，并在图像生成、自然语言处理、代码生成等领域有所建树，正向技术产品化进军，基于生成模型的计算基础设施和平台会逐步发展起来，以辅助人类完成各类创造性工作。2023年有超过120所英国学校的数千名学生参加国际学士学位组织的考试。那些在学校或评估部门工作的人开始对ChatGPT运用产生浓厚的兴趣，并“将其视为一个非凡的机会”。
在AI处于突飞猛进发展应用的紧要关头，带来的风险挑战也逐渐显露出来。如何防止人工智能传播虚假信息、侵害个人权益、制造安全风险、加大技术鸿沟等，现已成为国际社会共同面对、亟待解决的紧迫“课题”。现阶段,我们不应该把这种非凡的新技术视为威胁，而应合乎道德地使用，并不等同于禁止使用，必须接受它将成为我们日常生活的一部分。在确保创作者权益未受到侵害的情况下，AI与创作者并非对立关系；AI并不能完全取代人类，AI技术应为写作或其他创作性工作锦上添花，而不是进行无休止的“争吵”。
当务之急，国际社会应该秉持真正的多边主义精神，形成具有广泛共识的AI治理框架和标准规范，不断提升AI技术的安全性、可靠性、可控性、公平性。
二、在人和AI的辩证关系上，坚持两点论,既不能片面夸大AI作用防止将其神化，也不能低估AI的潜能防止将其机器化
唯物辩证法告诉我们，遇到问题要坚持全面的观点，抓住主要矛盾和次要矛盾，用一分为二的眼光看待事物、分析问题，坚持两点论和重点论相统一的方法，反对形而上学的一点论与均衡论。
在人和AI的辩证关系上，我们要坚持两点论，反对一点论，坚持人机结合,反对任何将人和智能机器人简单地割裂开来、对立起来的形而上学观点。我们既不能片面夸大AI作用，防止将其神化，也不能低估AI的潜能，防止将其机器化。
马克思主义认为，人民群众是历史前进的动力，是革命战争的主体，是战争胜负的决定因素。恩格斯说过，赢得战争胜利的是人而不是枪。
毛泽东同志在《论十大关系》中指出：“一万年都有两点。将来有将来的两点，现在有现在的两点，各人有各人的两点。”人工智能机器人也如此，是“两点”而不是“一点”。毛泽东同志说过：“武器是战争的重要因素，但不是决定因素，决定的因素是人不是物。”无论战争如何发展、武器装备如何多智能、精确制导武器如何精准，决定战争制胜的决定因素并没有改变，人还是战争胜负的决定因素。
人工智能机器人是人类发明的产物、智慧的结晶，人无疑是最生动、最活跃的因素，离开了人任何智能机器人都将无法发挥智能作用，只能说是一堆废铁。
以AI、大数据、量子计算等为代表的颠覆性技术迅猛发展，并广泛被应用于军事领域，可能全面会改变未来战争形态，给国际安全带来潜在挑战，并可能引发人道主义危机。其中，AI是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。
随着具有智能特征的指挥信息系统、智能新算法不断发展，流程控制进入自主适应、自主调节、自主协同新阶段，人机交互、意念控制机器人是未来军用机器人发展必须要解决的一道难题，也越来越受到学术界和产业界的高度重视。
没有规矩不能成方圆。任何新鲜事物的出现，必将伴随与之健康发展的相配套的一系列法规制度。针对全球AI产业的发展，AI产品逐渐被应用到了各个行业，如无人驾驶汽车、无人机、机器人流水线等。AI的发展运用，意味着全球将面对智慧社会，国际社会应尽快出台有关智能技术设计、研发、销售、运用的相关法律法规，建立健全伦理规范和政策体系，形成AI安全评估和管控能力，确保AI安全、可靠、可控，使AI运用做到有法可依、有章可循，限制智能机器人将来发展带来的各种风险，防患于未然。
“AI+”在很大程度上都是模拟人的思维过程、按照人预先设计的程序，代替人去完成任务。也就是说，人类与AI机器人的关系，既不是纯粹的利用关系，也不是使用的机器或软件，既不是对人的取代，也不是人类的主人，而是一种和谐共生、合而为一的伙伴关系。人类控制AI机器人发展，让AI机器人服务好人类才是根本。
三、安理会首次就人工智能问题举行会议,国际社会就规范AI运用建言献策
人工智能发展与治理，事关全人类共同福祉，需要国际社会群策群力。习近平主席主张各国合力推动，在充分放大和加速人工智能正面效应的同时，把可能出现的负面影响降到最低。
随着AI向更加智能方向发展，越智能就越需要人类控制，绝不能任其自由发展、放任自流，而必须在监管中推动AI可持续发展，才能使其真正成为人类助手。
2021年12月，我国发布《中国关于规范人工智能军事应用的立场文件》，呼吁各国在军事领域负责任开发和利用人工智能技术。2022年11月，我国向联合国大会提交《中国关于加强人工智能伦理治理的立场文件》，文件从人工智能技术监管、研发、使用及国际合作等方面，进一步梳理了我国关于人工智能伦理治理的主张……
目前，国际社会正处于构建人工智能国际安全规范的关键期，也正为应对智能武器系统带来的人道主义挑战建言献策。联合国安理会2023年7月18日举行主题为“人工智能给国际和平与安全带来的机遇与风险”高级别公开会。这是安理会首次就人工智能问题举行会议。
联合国秘书长古特雷斯指出，要带着“一种紧迫感、一种全球视野和一种学习者的心态”来应对这项AI技术，各国应展开协调并设定红线，争分夺秒推动AI造福人类。
2023，美国国防部更新了2012年的一项指令，规定必须负责任地研发自主武器系统，以符合与人工智能领域进步相一致的标准。美国还出台了一份关于军方负责任地应用人工智能的政治宣言。该宣言进一步寻求制定负责任地应用人工智能技术的准则。据说，已有51个国家签署了这份政治宣言，这表明美国在全球采用人工智能的关键时刻发挥了积极作用。
2023年，中国公布《生成式人工智能服务管理暂行办法》，联合国成立“人工智能高级别咨询机构”，全球人工智能安全峰会发布《布莱奇利宣言》，欧盟就《人工智能法案》达成协议……一年来，国际社会虽然对人工智能治理紧迫性的认识在深化，但是治理面对的挑战仍广泛存在，更有效地协调全球合作是当务之急。
联合国《特定常规武器公约》成立政府专家组，“国际机器人军控委员会”“禁止杀人机器人运动”等多元参与主体也应运而生。英国剑桥大学已收到资助以建立AI伦理研究所，由哲学家、法学家、历史学家、心理学家和技术人员一起研究相关行业规范。美国新闻与媒体联盟代表近2000家印刷和数字媒体出版商正式发布生成式AI知识产权、透明度、问责制、公平、安全和设计六大部分监管原则，这也是美国第一家权威机构正式发布的生成式AI监管原则。英国政府发布了《支持创新的人工智能监管办法》，意大利数据保护局宣布暂时禁止使用ChatGPT，等等。
2021年4月21日，欧盟委员会提出《法案》之后，经过多轮讨论。其中，最引人关注的就是关于人工智能的定义和风险等级划分。2023年12月，欧盟理事会主席和欧洲议会代表就《人工智能法案》（以下简称《法案》）达成的《临时协议》规定，除去部分具体条款有例外，《法案》应在生效两年后适用。这意味着，《法案》距离摘掉“案”的帽子，朝着成为正式“法”的方向又迈出一大步。
《法案》对人工智能的监管方法主要是通过将人工智能可能带来的风险区分为四种不同等级：第一级，绝对禁止不可接受的风险，明确禁止具有危害性的四种情形的人工智能；第二级，需要接受人工智能系统全面监管的两类高风险；第三级，需要满足透明度义务的有限风险，主要针对诸如聊天机器人、情感识别系统、生物识别分类系统等风险有限的人工智能系统；第四级，不需要承担任何义务的低风险。如果人工智能系统的风险极低，则可以直接在欧盟进行开发和使用，而不需要承担任何法律义务。 在风险监管方面，《临时协议》扩大了禁止性风险系统的清单，新增的绝对禁止人工智能系统功能包括对认知行为进行操纵、从互联网或电视录像中无目的抓取面部图像、在工作场所和教育机构进行情绪识别、社会评分、用于推测敏感数据（如性取向或宗教信仰）的生物识别分类、对个体的治安预测等。但与此同时，在多方协商后，《临时协议》破例允许各国执法机构在公共场所使用实时远程生物识别系统，并同时要求例外情况仅限于诸如恐怖袭击等特定犯罪中的受害者，以及搜查重罪犯罪嫌疑人。
2025年4月9日，欧盟委员会发布《人工智能大陆行动计划》，旨在推动欧洲成为全球AI领域的领军者。该行动，将围绕以下几个内容构建政策框架： 构建大规模AI数据与算力基础设施，提出《云计算与AI发展法案》； 扩大优质数据获取渠道，创建“数据实验室”，将来自不同来源的大量高质量数据汇聚到“AI工厂”并进行整合管理；2025年将启动“数据联盟战略”，以创建一个能够大规模扩展AI解决方案的内部数据市场； 开发算法并促进AI在欧盟战略领域的应用，将推出“应用AI战略”，开发定制化AI解决方案，加速AI在战略性公共领域和私营领域的工业应用和全面渗透； 强化AI技能和人才培养培训,吸引全球顶尖AI专家与研究人员；欧盟委员会将设立“AI法案服务台”作为核心咨询枢纽，欧盟委员会将陆续就《云计算与AI发展法案》、“应用AI战略”和“数据联盟战略”三项政策开展公众咨询。
四、中国作为负责任的人工智能大国，在国内逐步建立健全相关法律法规和制度体系的同时，主动为加强全球人工智能治理贡献智慧
AI治理关乎人类前途命运，关系到民族未来。
习近平总书记强调，建立健全保障AI健康发展的法律法规、制度体系、伦理道德。
作为负责任的人工智能大国，中国一贯高度重视人工智能治理,在国内逐步建立健全相关法律法规和制度体系的同时，主动为加强全球人工智能治理贡献智慧。
中国政府在人工智能领域真正起到负责任大国的作用，展现负责任大国的担当。中国还积极同各方就全球人工智能治理开展沟通交流、务实合作。2023年，中美元首旧金山会晤期间，双方同意建立人工智能政府间对话，为加强全球人工智能治理注入了新动力，令国际社会备受鼓舞。
2018年，习近平总书记在主持十九届中央政治局第九次集体学习时就强调要未雨绸缪，加强战略研判，确保人工智能安全、可靠、可控。此后，习主席又在多个国际场合倡议“不断提升人工智能技术的安全性、可靠性、可控性、公平性”，“引领全球人工智能健康发展”……
2023年10月，第三届“一带一路”国际合作高峰论坛开幕，习主席宣布中方提出《全球人工智能治理倡议》。这一倡议坚持“以人为本、智能向善”，为世界提供了基于人类命运共同体理念的人工智能治理新视角。
2017年以来，中国连续发布《新一代人工智能发展规划》《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》等文件，提出确保可控可信、强化责任担当、促进公平公正等具体要求，从立法、执法、审查等层面对人工智能技术的开发和应用给予规范和指导。
2021年12月13日，中国出席日内瓦召开的联合国《特定常规武器公约》第六次审议大会，并向大会提交了《中国关于规范人工智能军事应用的立场文件》，从战略安全、军事政策、法律伦理、技术安全、研发操作、风险管控、规则制定、国际合作八个方面提出倡议，呼吁各国通过对话与合作，就如何规范人工智能军事应用寻求共识，构建普遍参与的有效国际治理机制，避免人工智能军事应用给人类带来重大损害 。该文件聚焦人工智能军事应用涉及的研发、部署、使用等重要环节，就如何在军事领域负责任地开发和利用人工智能技术提出人工智能军事应用符合国际人道主义法，避免相关武器系统造成滥杀滥伤和误用恶用，不断提升人工智能技术的安全性、可靠性、可控性等解决思路。
2023年，中国提出《全球人工智能治理倡议》，围绕人工智能发展、安全、治理三方面系统阐述人工智能治理的中国方案，坚持发展与安全并重的系统思维，倡导以人为本、智能向善的普遍共识，弘扬平等互利、尊重人类权益的价值理念，为各方普遍关切的人工智能发展与治理问题提供了建设性解决思路，为相关国际讨论和规则制定提供了蓝本。
2023年1月，中国颁布实施了《互联网信息服务深度合成管理规定》，2023年4月公布《生成式人工智能服务管理暂行办法》，旨在促进生成式AI健康发展和规范应用。
2023年10月18日，中国网信网发表全球人工智能治理倡议：在世界和平与发展面临多元挑战的背景下，各国应秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重的原则，通过对话与合作凝聚共识，构建开放、公正、有效的治理机制，促进人工智能技术造福于人类，推动构建人类命运共同体。倡议重申，各国应在人工智能治理中加强信息交流和技术合作，共同做好风险防范，形成具有广泛共识的人工智能治理框架和标准规范，不断提升人工智能技术的安全性、可靠性、可控性、公平性。倡议内容包括发展人工智能应坚持“以人为本”理念、发展人工智能应坚持“智能向善”的宗旨和发展人工智能应坚持相互尊重、平等互利的原则，以及坚持伦理先行，建立并完善人工智能伦理准则、规范及问责机制，形成人工智能伦理指南，建立科技伦理审查和监管制度，明确人工智能相关主体的责任和权力边界，充分尊重并保障各群体合法权益，及时回应国内和国际相关伦理关切，等等。
2024年7月1日，由中国主提的首份人工智能能力建设国际合作的决议在联大获得一致通过。决议强调，人工智能发展应坚持以人为本、智能向善、造福人类的原则。
2024年11月19日至22日，世界互联网大会乌镇峰会在浙江乌镇举行，主题为“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”，重要成果是发布了《全球人工智能治理研究报告》，深化落实《全球人工智能治理倡议》，系统回应了谁来治理、治理什么、如何治理等关键问题，以中国方案积极推动全球人工智能治理迈向更高水平。
以上所有这些举措都彰显出，中国对人工智能发展和治理的负责任态度，以及重要引领作用。
总之，从国际社会影响看，AI发展和应用既涉及提高生产效率、改善社会福利、促进经济增长等发展问题，也涉及隐私、安全、公平、正义等价值伦理问题。加强AI治理，规范AI运用，是国际社会共同面对的课题，需要各方从不同的认知理解和期望需求中寻求共识，实现智能向善，增进人类共同福祉。同时，个别大国要打破AI技术壁垒，摒弃搞“脱钩断链”，警惕打造封闭排他的“小圈子”，甚至于恶意阻挠他国人工智能发展。这些做法损害各国平等发展和利用人工智能的权利，与共享人工智能知识成果的目标背道而驰。
在世界和平与发展面临多元挑战的背景下，各国唯有秉持共同发展、共享成果、规范使用，才能构建开放、公正、有效的治理机制，确保AI始终朝着向服务好人类方向发展。
国家主席习近平向2024 年乌镇峰会视频致贺指出，当前，新一轮科技革命和产业变革迅猛发展，人工智能等新技术方兴未艾，大幅提升了人类认识世界和改造世界的能力，同时也带来一系列难以预知的风险挑战。我们应当把握数字化、网络化、智能化发展大势，把创新作为第一动力、把安全作为底线要求、把普惠作为价值追求，加快推动网络空间创新发展、安全发展、普惠发展，携手迈进更加美好的“数字未来”。中国愿同世界各国一道，把握信息革命发展的历史主动，携手构建网络空间命运共同体，让互联网更好造福人民、造福世界。
（作者：陈美希 魏岳江；来源：昆仑策网【原创】图片来源网络 侵删）
回顶部