【专题研究】人工智能服务人？还是驾驭人？

以代码为核心驱动的人工智能不仅深刻重塑人类行为与互动的每一个层面，更进一步改变人类生活的应对框架和时间观念。人工智能赋予人类参与更加个性化未来的同时，也将人类悄然拉进复杂的伦理挑战和治理困境。

纵观历史，技术始终是一个中性概念，其价值展现很大程度取决于人类的应用方式。随着人工智能不断高速突破技术边界，在这场人与技术的共舞中，究竟是人工智能在服务人类，还是在驾驭人类的步伐？又或者，人类是否会盲目追随技术的逻辑，陷入即时反应的漩涡，最终在屏幕的孤立与自我价值的无尽比较中迷失方向？

在这个关键时刻，选择何种道路，不仅关乎技术的未来走向，更关乎人类能否在这场技术与治理的“大战”中站稳脚跟，正如莎士比亚所述，“要是我们受制于人，亲爱的勃鲁托斯，那错处并不在我们的命运，而在我们自己。”

01人工智能治理背景与现状

以ChatGPT为代表的生成式人工智能技术，正助力人类打破不同学科领域的知识壁垒，推动创新探索，并持续催生新的应用场景、业态模式、市场形态与发展范式，为人类社会经济进步注入了强大动力。然而，人工智能技术的快速迭代升级及其潜在的异化风险，也带来了一系列的安全挑战和监管难题。

如何促进人工智能的健康开发、保障其安全性，并建立理性的伦理规则和法律规范，已成为当前无法回避的全球课题。随着“主权人工智能”等概念的快速兴起，各主要国家和经济体的人工智能监管和治理进程显著加速。相关机构纷纷成立，立法、指南和规范也陆续出台或提上议程，争相创造对自身发展和安全有利的人工智能法律环境。

2023年，美国成立了由28个联邦部门和机构负责人组成的白宫人工智能委员会，以加强人工智能领域的统筹协调。同年，美国国家科学技术委员会（NSTC）更新了《国家人工智能研发战略计划》，美国国家标准及技术研究所（NIST）也发布了首个《人工智能风险管理框架》。

2024年5月，欧盟理事会正式批准了《人工智能法案》，风险级别最高的“禁止”条款预计率先于2024年底启动适用，标志着全球首个对人工智能进行规范的系统性法律正式生效。

英国政府在人工智能治理方面也采取了积极行动。2023年3月，发布了《创新型AI监管》白皮书，加大包括1亿英镑预算在内的人工智能投资；4月，又发布了《生成式AI使用指南》；11月，举办首届全球人工智能安全峰会，争当人工智能治理方面的“领头人”。

我国作为人工智能技术发展和应用的领先国家，始终致力于在人工智能领域构建人类命运共同体，并积极主动推进人工智能治理工作。2021年12月，我国发布了《中国关于规范人工智能军事应用的立场文件》，呼吁各国在军事领域负责任地开发和利用人工智能技术。2022年11月，我国向联合国大会提交了《中国关于加强人工智能伦理治理的立场文件》，该文件从人工智能技术监管、研发、使用及国际合作等方面，进一步梳理了我国关于人工智能伦理治理的主张。2023年7月，国家网信办等七部门联合发布了《生成式AI服务管理暂行办法》，这是全球首个针对生成式人工智能服务制定的具有强约束力的规则。同年10月，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式中提出《全球人工智能治理倡议》，为世界提供了基于人类命运共同体理念的人工智能治理中国方案。

02《从狭义人工智能（ANI）向通用人工智能（AGI）转型中的全球治理问题》报告解读

技术本身并无善恶，其影响关键在于人类的利用方式。面对人工智能技术的迅猛发展及其带来的复杂治理挑战，国际社会亟需构建一个全面、前瞻且具可操作性的治理框架，以及有效的管理机制，以确保人工智能的健康发展和应用。

近期，千年项目（The Millennium Project，简称“MP”）发布了《从狭义人工智能（ANI）向通用人工智能（AGI）转型中的全球治理问题》报告。该报告聚焦于通用人工智能（AGI）带来的治理挑战，以及超级人工智能（ASI）出现可能产生的潜在风险。

报告认为，“治理AGI可能是人类有史以来面临的最复杂、最困难的管理问题”，并重点强调了解决AGI全球治理问题的紧迫性。报告呼吁各国应在更为先进且超出人类安全控制能力的人工智能出现之前，在国际层面建立针对AGI治理和协调的全球统一监管体系，以有效防止因ASI爆发式增长所带来的不良后果。

MP是由未来学家兼现任执行主任杰罗姆·格伦（Jerome C. Glenn）和曾是兰德（RAND）公司顾问的西奥多·戈登（Theodore Gordon）于1996年创立的未来研究领域顶尖国际智库。该智库在全球拥有72个分部和3个区域网络，其宗旨是“改善人类建设更美好世界的前景”。

MP定期发布“未来展望”报告，评估对人类未来发展至关重要的15个全球性挑战，完成了60多个国际未来研究项目，并开发了40多项未来研究方法，在未来预测、促进国际人工智能治理和人工智能政策指导等方面发挥了重要作用。

该报告的研究阶段分为三个部分：第一阶段于2020年初启动，重点就AGI全球治理模式、伦理、原则、价值取向、机制、模型等方面设置了22个相关议题，并对包括萨姆·奥特曼（Sam Altman）、比尔·盖茨（Bill Gates）和埃隆·马斯克（Elon Musk）等在内来自美国、中国、英国、加拿大和欧盟等国家和国际组织的55名人工智能相关领域的杰出专家的访谈精华和观点进行了汇编，构成了整体研究的评估基础，并于2023年8月发表了《从狭义人工智能向通用人工智能转型中的全球治理问题》报告；

第二阶段由MP借助其全球分部和区域网络，组织了包括中国MP分部的17位中国专家在内的65个国家的学者，参与了第二阶段的实时德尔菲法研究，并于2024年4月完成了《通用人工智能的全球治理要求》的报告，且已提交给联合国相关机构；第三阶段计划研究并发布现在至2035年期间替代性AGI治理的各种情景分析。

该报告的其他关键发现包括：鉴于AGI在医学、教育、管理及生产力方面所展现出的巨大赋能潜力，各国企业正竞相角逐，力求成为这些关键领域的领军者；AGI的崛起预示着政治权力的重新分配，各国政府因此纷纷加速布局，争相参与AGI的研发与应用，以期在新的国际格局中占据有利地位；国际合作在AGI的治理中扮演着至关重要的角色，然而，当前国家和企业间在人工智能领域的霸权争夺导致竞争态势紧张，这可能对国际合作构成威胁。尽管共同的风险可能迫使各方走向合作，但克服彼此间的不信任将是一项艰巨的挑战。

AGI的全球治理要求具备卓越的执行力，以确保治理措施能够在全球范围内赢得信任并得到有效实施。这一要求对于治理体系的构建和实施提出了极高的标准。尽管存在诸多争议，但报告提出，为了争取足够的时间来设计和管理AGI的解决方案，有必要对研发活动进行一定的限制。这一提议旨在平衡AGI的发展与社会、伦理及法律等方面的考量。有效治理AGI的窗口期十分有限，这要求全球各国展开前所未有的紧密合作，共同应对AGI带来的挑战和机遇。这一窗口期的紧迫性也凸显了全球合作的重要性和关键性。

03几点思考

（一）构建全球共识与协作机制：紧迫而充满挑战

面对人工智能加速迭代带来的复杂治理挑战，全球共识与协作机制的构建显得尤为迫切。仅仅依靠市场力量、分散的国家和多边力量已不足以应对风险，各国需在技术伦理、法律框架、安全标准等方面形成统一认识，以共同应对AGI可能引发的社会、经济、科技等全方位变革。

然而，尽管各方对紧迫性达成了广泛共识，但对于应该做什么、如何做、谁应该做，以及最重要的，为什么应该做，却没有达成一致意见。监管国家与地区间话语权的不平衡、监管基础概念与理念的分歧、对ASI市场的利益争夺，以及相关国际组织作用受限等困境，使得建立统一机制变得异常艰难。这要求各国必须超越传统地缘政治的局限，在全球层面形成合力，共同迎接挑战，通过多边机制加强对话与合作，打破当前碎片化、区域性的全球监管不平衡格局，共同探索人工智能治理的新模式和新路径。

（二）探索灵活且规范的治理路径：平衡安全与创新

无论是AGI还是ASI，作为技术进步的重要组成部分，直接阻断其发展是不现实的。更重要的是必须在鼓励创新与确保安全之间找到恰当的“黄金平衡点”。

一方面，过度的监管可能抑制技术创新和应用探索，阻碍人工智能技术带来的社会发展；另一方面，缺乏有效的监管则可能导致技术滥用、伦理失范乃至系统性风险。

因此，探索一种既能激发创新活力又能有效防控风险的监管模式至关重要。这包括建立灵活的监管框架，允许在严格的安全和伦理标准下进行试点项目，并确保关键决策环节不缺少人工监督，确保效率与判断之间的平衡。

（三）制定长远的可持续应对策略：前瞻性与跨学科治理

伴随着大模型技术的发展，生成式人工智能行业突飞猛进，加之公众参与成本和门槛越来越低，可以预见人工智能的升级将持续进行。作为技术创新道路的固有组成部分，人工智能的长远发展可能引发深远的社会结构和权力关系变革。

因此，需要前瞻性地考虑其长期影响，并制定相应的应对策略。这包括对经济模式、就业结构、教育体系、国际关系等方面可能产生的冲击进行评估，并设计相应的调整方案和社会保障措施。同时，建立跨学科的研究团队，结合计算机科学、社会学、法学、伦理学等多领域知识，对人工智能的发展路径进行持续监测和评估，以便及时调整治理策略，应对潜在的不确定性和风险。

总而言之，人工智能治理的核心在于确保技术服务人，而非驾驭人。只有通过正确的方法，才能充分发挥人工智能的价值，迎来一个以数据为驱动、以人为本和以包容性决策为特征的治理黄金时代。

作者：首都科技发展战略研究院国际研究部主任白英、文艺璇。

版权声明：本文版权属作者和首都科技发展战略研究院所有。欲转载文章，请您联络cistds@cistds.org.cn，申请转载授权。转载时请注明"来源：首都科技发展战略研究院"。原创之路不易，请自觉遵守我们的转载要求，尊重作者及原创版权，违者将依法追究责任，感谢您的支持与配合！

编辑：陈瑾