【圆桌对话回顾】全球AI治理的多元视角：从碎片化现状到协同共识的路径探索

从联合国的视角来看，我认为AI治理的核心关键词是包容性。这一观点源于我的实地工作经历——无论是在埃塞俄比亚看到放羊的男孩，还是在印度村庄遇到渴望通过技术创业的农村女性，这些画面都提醒我们："不让任何一个人掉队"不仅是联合国的口号，更应该是AI治理的根本原则。

在讨论治理框架时，我们必须从多维度审视——政府层面、区域层面、法律层面，但最终都要回归到一个根本问题：AI发展将对每一个个体产生什么样的影响？

让我分享三组关键数据，这些数据揭示了当前AI治理面临的包容性挑战：

第一，数字鸿沟问题。 在我们讨论AI治理之前，全球仍有26亿人无法接入互联网。我记得在亚的斯亚贝巴的一次深夜会议，突然停电导致会议被迫中断。这不仅反映了网络接入的不平等，更暴露了基础设施的脆弱性——连基本的电力供应都无法保障，何谈AI技术的普及应用？

第二，就业冲击风险。 根据国际劳工组织（ILO）的报告，全球50%的工作岗位面临自动化冲击风险，而大多数地区缺乏有效的社会保障网络。这意味着数以亿计的劳动者可能面临失业威胁，却缺乏相应的保护机制。

第三，环境公平问题。 训练一个大型AI模型需要消耗约70万升水资源。对于津巴布韦这样面临严重干旱的国家而言，这样的资源消耗是不可承受的。更为关键的是，这些国家往往无法开发自己的AI模型，却要承担技术发展带来的环境代价。

第四，治理标准的地域失衡。 目前70%的AI伦理标准来自北美和欧洲，而全球南方国家——包括亚洲部分地区和非洲——在标准制定过程中缺乏充分的话语权和代表性。

因此，从联合国的多边主义视角出发，包容性不足仍然是当前AI治理体系面临的重大挑战，需要我们在构建未来治理框架时给予优先关注。

各位下午好！很高兴与各位共同探讨AI全球治理这一重要议题。

我认为当前人工智能全球治理面临的核心挑战在于：我们缺乏一个各国都能有效承接和实施的治理框架，来应对新兴技术带来的复杂挑战——特别是智能体（AI Agents）和通用人工智能（AGI）等前沿技术。

随着AI系统自主性和复杂性的不断提升，我们面临着多重风险挑战：网络安全威胁、虚假信息传播，以及潜在的国家安全风险。这些挑战的交织性和复合性，要求我们建立更加综合和前瞻的治理体系。马来西亚充分认识到这些风险的现实性和紧迫性。在总理的直接领导下——总理同时担任国家安全委员会主席——我们将AI治理纳入国家安全框架的核心组成部分，并将相关分析整合到网络安全治理体系中进行统筹考虑。我们已发布国家级人工智能发展路线图，旨在推动符合伦理标准的AI技术发展，确保技术进步与社会责任并重。2022-2024年期间，我们制定并实施了综合性网络安全能力建设方案，重点提升全国在AI相关威胁方面的识别、预防和响应能力，涵盖深度伪造、AI驱动的网络诈骗，以及关键基础设施保护等关键领域。鉴于当前全球AI治理框架仍存在完善空间，马来西亚积极参与各类国际多边论坛，持续倡导建立符合伦理原则、具备包容性和互惠性的AI发展模式，确保技术进步能够真正促进全球安全与人类福祉。我们坚信，治理体系的演进必须与技术发展保持同步，这不仅是政策制定的技术要求，更是确保AI技术造福人类的根本保障。

谢谢各位！

从全球视角审视当前的AI治理体系，我观察到一个显著特征：高度碎片化和割裂性。不同司法管辖区和地区采取了截然不同的治理路径——有些国家暂停了相关立法进程，而今天上午我还听到一位欧洲学者强烈主张对AI技术实施严格管制。这种治理方式的分化，正是我们当前面临的现实挑战。

人工通用智能（AGI）与我们以往经历的技术革命存在本质差异。回顾200年前的第一次工业革命，人类首次见证了机器在体力上超越人类的能力。而今天，我们面对的是机器在认知能力和模仿学习方面可能超越人类智能的前景。面对这种前所未有的技术变革，人们的反应呈现两极化：既有深度担忧，也有充满期待。

我们必须正视一个关键现实——这次技术革命的驱动模式发生了根本性转变。以往的基础技术突破通常由学术界和大学主导，但这一轮AI革命明显是由科技企业引领的。正如克雷格·蒙迪先生今天下午提到的深刻观点：我们不仅仅是在开发工具，我们正在创造新的智能物种。

基于这一认知，我认为科技企业的责任边界需要重新界定。我们的职责不能仅停留在技术创新层面，而必须承担起生态系统建设的综合责任，这包括主动参与相关法律框架的完善和治理机制的构建。这正是当前形势与以往技术发展阶段的关键区别所在。科技企业不再仅仅是法规的被动遵守者，而是创新生态的核心驱动者，同时也应该成为治理体系建设的积极参与者和推动者。

这种角色转变的根本目的，归根结底是为了确保技术进步真正服务于人类整体福祉。

我非常高兴妮可（Nicole）和周先生（Mr. Zhou）提到了AGI治理这一关键议题。因为当我们讨论公平治理时，核心正是如何治理那些通向通用人工智能的通用系统——这些系统将在所有认知维度上与人类能力相当，甚至可能以远超我们预期的速度实现突破。AI治理一直是我过去十年的核心研究领域。我们最初在哈佛大学肯尼迪政府学院启动相关讨论，致力于弥合政策制定者与技术专家之间的认知鸿沟，帮助决策者理解技术对社会的深刻影响，并认识到建立治理体系的必要性。十年前，人们对我们的工作还持怀疑态度，仿佛在问"这些人在讲什么？"

令我倍感欣慰的是，如今即使在上海这样的国际平台上，AI治理已成为核心议题。当我在迪拜总理办公室工作期间，我们启动了首个AI全球治理倡议——薛澜博士也深度参与了当时的讨论。更令我振奋的是，六年前开始的对话，如今中国也成为重要参与者。看到中国和上海对这一议题的高度重视和积极参与，我深受鼓舞。

这确实是我们这个时代最关键的挑战。正如克雷格·蒙迪（Craig Mundie）所言，我们正在创造一种可能比人类智能强大数千倍、甚至数百万倍的智能形态。如何确保人类与这种超级智能和谐共存？ 这正是我们亟需建立治理框架的根本原因。

遗憾的是，当前各国试图构建的治理框架之间缺乏有效的沟通协调机制，许多框架尚未成熟或未能形成广泛共识。我们可以观察到明显的地域差异：

美国模式： 在加州等创新集聚地，众多实验室和初创企业积极游说政策制定者。美国更倾向于讨论竞争优势和行动策略，而非单纯的监管约束，体现了"赢得竞争"的治理理念。

欧洲模式： 欧洲在AI治理方面展现出更多的规制导向，更注重伦理标准和监管框架的建设。

中国实践： 中国正积极构建自身的AI治理体系，展现出系统性的框架建设努力。

核心挑战在于，这些主要经济体之间缺乏充分的沟通机制和协调路径来理解和对接彼此的治理框架。无论是欧洲、中国还是美国，它们之间的协调机制尚未有效建立。尽管全球AI治理面临诸多挑战，但值得欣慰的是，各方都在积极努力推进这一进程。关键是如何在保持各自特色的同时，建立更有效的国际协调机制。

今天下午的讨论确实内容丰富，给了我很多深入思考。我们联盟的核心关注点在于消除对AI治理的误解，推动更好的治理实践。

刚才我们谈到的系列报告发布，展示了AI作为工具在自动驾驶、教育等领域的应用潜力。但我们需要认识到，可能还需要几年时间，我们才能充分理解AI在持续演进过程中日益增长的复杂性，以及如何让这些技术更好地服务于教育、医疗等关键领域。

这里存在一个重要的平衡问题：如果我们过度关注未来的长远挑战——正如克雷格·蒙迪等专家所关注的前沿议题——我们可能会忽视企业在当下就面临的现实社会和经济问题。

当我们讨论治理时，我建议从组织实践角度出发。无论是中国电信、中国移动等大型企业，还是其他组织，它们今天就需要建立有效的治理框架，以确保工具和技术的安全部署。

基于我在更广泛治理领域的职业经历——涵盖体系管理、责任架构等多个维度——我观察到一个核心问题：组织是否能够自信地实现价值观与行为的知行合一？ 这本质上关乎如何确保企业行为与其声明的原则保持一致。

对任何企业或组织而言，都需要建立最低标准的治理基线来实现其目标。这就引出了一个根本性问题：我们是否必须依赖框架性指导，还是可以仅依靠法律法规和监管措施？

当前AI治理呈现多元化格局：各国都有法律法规，也有各自的框架体系，但指令和方向存在差异。我们观察到一个令人担忧的现象：许多组织在构建治理框架过程中选择直接放弃，认为治理并不重要。这种态度的根源在于，这些组织发现现有框架难以有效执行，缺乏坚实的组织架构基础。因此，我认为国际组织承担着重要责任：为各类组织提供底层框架基础设施的赋能支持，只有这样，AI治理框架才能得到更好的普及和实施。最后需要明确的是，推进AI创新并不必然依赖于特定框架的存在，但有效的治理框架能够为创新提供更好的保障和指引。

感谢各位嘉宾的精彩分享。通过刚才的讨论，我们可以清晰地看到一个共识：现有的治理框架已无法跟上未来技术发展的步伐。面对智能体（AI Agents）和通用人工智能（AGI）的到来，我们的准备度仍显不足。这需要我们携手合作，共同构建更加适应性和前瞻性的治理体系。

正如大家所见，AI技术已经深度渗透到我们生活的方方面面。今天虽然是我第一次担任这样重要论坛的主持人，但我也在实际体验最新的AI技术。大家看到我佩戴的这副智能眼镜——这是小米的AI眼镜产品。

通过这个设备，我不仅能看到大家，同时它的摄像头也在捕捉我的视角画面。更令人印象深刻的是，这个AI系统能够实时识别在座每一位嘉宾的身份信息——包括姓名、职业背景，甚至是学术著作和发表文章等详细资料。这种人性化且智能化的信息处理方式，生动展示了AI技术的发展水平和应用潜力。

基于刚才关于框架建设的讨论，我想深入探讨一个更加具体的问题：在构建AI治理框架的过程中，各位作为不同领域的专家和决策者，你们认为自己的角色定位和核心职责是什么？

具体而言：

作为学术机构的代表，如何发挥研究和人才培养的作用？

作为企业领导者，如何平衡商业发展与社会责任？

作为政策制定者，如何在创新激励与风险管控之间找到平衡？

我们如何在各自的职责范围内，协同推进这一全球性的治理框架建设工作？

其实我也很想体验一下您的那副AI眼镜！正如您刚才所说，我们过去一直将AI视为探索性科学而非工程科学，因为我们无法完全预知其未来发展轨迹。

从联合国的角度来看，我们的最大价值在于发挥"安全底线"作用。正如我们常说的，联合国的使命不是把所有人都带上天堂，而是防止人类坠入地狱。

这意味着我们需要寻求一种各方都能接受的合作方式。也许这种共识并非我们理想中的完美方案，但这样的平台能够防止最坏情况的发生，为更好的合作创造条件。

我记得去年联合国大学在澳门举办的会议上，一位与会者告诉我："如果是A组织主办会议，B组织可能不会参加。但如果是联合国大学组织活动，大家都愿意来。"这生动说明了我们平台的聚合价值——能够汇集不同立场的各方形成合力。

这种聚合效应在我们的实际工作中得到充分体现。在最近的任务大会上，我们的会员数量从30个增长到110个，这意味着我们成功聚合了众多不同的方法论和关注焦点，而且各方都非常愿意在我们的框架内开展合作。

在我们的网络实践中，我观察到几个重要趋势：

第一个趋势：青年创新支持。 正如刚才武洁老师发布的创新竞赛所展示的，我们重点关注如何帮助年轻人在创业和创新过程中更好地融入可持续发展目标，让AI成为向善的力量，真正造福人类。

第二个趋势：教育与能力建设。 我们非常重视各类培训项目，并为不同群体提供定制化方案：

政策制定者培训： 我们为政府官员提供专门培训，包括在香港为司法部长授课，在北京为部长级官员提供培训，以及在全球南方国家开展部长级培训项目。

青年人才培养： 与联合国大学、清华大学以及众多高校合作，开展教育培训项目。

教育工作者赋能： 我们无法直接教育所有学生，但可以培训教师和学校管理者，让他们将知识层层传递。

技术从业者教育： 帮助工程师、开发者等科技从业者深入理解治理和伦理议题。

在联合国平台上，我们将持续推动不同利益相关方参与对话，实现相互学习、共同成长，并协力探索解决方案。我们始终着眼未来，提前做好准备。

目前我们正在筹备一系列可持续发展丛书项目，由马尔维拉校长主导，将从多个角度进行前瞻性分析和探讨。

这就是联合国大学视角下的工作内容。我们的DNA决定了我们的独特性：一半是联合国的多边主义精神，一半是学术研究的严谨性，这种双重身份使我们能够在AI治理领域发挥不可替代的桥梁作用。

感谢黄京波女士的精彩分享！作为来自萨里大学的学者，我非常期待能够在学术层面与联合国大学开展合作。萨里大学在英国人工智能学科排名第一，拥有300多位相关领域的学者，我们正积极寻求在AI治理方面的国际合作伙伴。

我深刻认识到技术发展的迅猛速度，以及学术界在塑造社会发展方向中的重要责任。通过构建正确的治理框架和管理机制，大学能够发挥关键的引导作用。接下来，我想向王晓庭女士提出一个关于区域治理的重要问题。马来西亚作为东盟成员国，在区域AI生态系统中具有重要代表性。

我们观察到，人工智能生态系统呈现出明显的双重特征：

全球化生态系统层面： 少数AI巨头企业占据了大量的计算资源、数据资源和人才资源，形成了高度集中的格局。

区域化生态系统层面： 以东盟为例，区域内可能没有如此强势的技术巨头，但拥有自己独特的发展需求、文化背景和治理诉求。

核心问题是：一个国家的政策架构应该如何在全球化与区域化这两种生态系统之间寻求平衡？王女士，您对这一平衡性挑战有什么看法和建议？

非常感谢您提出的这个重要问题。首先需要澄清的是，马来西亚不仅是东盟成员国，今年还担任东盟轮值主席国。基于这一重要角色，我们在年初就积极参与了多项区域治理讨论，发布了系列倡议，并将在全年持续推进相关工作。

在人工智能技术快速发展的环境下，马来西亚坚定认为区域治理与全球治理必须双轨并进，确保技术创新不会以安全、伦理为代价，也不会损害国家主权和稳定性。

作为东盟创始成员国，我们致力于通过区域合作寻求国家需求与全球框架之间的平衡。我们的策略是建立区域性标准和本土化机制，以便更好地执行相关规定，同时充分反映各成员国的经济、社会和文化特色。

让我分享一些我们正在推进的具体措施：

东盟网络安全框架建设： 在现任领导层以及东盟网络安全工作组的指导下，我们正在推动制定新的《东盟网络安全框架2030》。该框架将在今年10月的东盟峰会上进行深入讨论和完善。

区域应急响应机制： 我们正在建立区域紧急响应团队，该团队将具备实时风险检测和跨境协同响应能力，为各东盟成员国提供技术支持和安全保障。

跨境犯罪防控体系： 我们的副总理阿马德·扎希德博士——同时也是国家安全委员会主席——提出建立专门的东盟网络安全犯罪防控机构，重点应对跨境网络犯罪、数据泄露等新兴安全威胁。

我们深刻认识到，当前的网络威胁往往与人工智能技术密切相关。面对这些复合型挑战，单一国家的应对能力有限，必须依靠区域协作才能实现有效治理。

目前，我们正在积极部署上述各项行动计划。同时，我也非常期待能够从今天的圆桌讨论中获得更多智慧和建议，以进一步优化我们的治理框架，更好地服务于区域和全球的AI治理合作。

非常感谢！我认为您完全可以将今天圆桌讨论的精彩内容与东盟各成员国分享，因为在座各位嘉宾都带来了不同的观点和资源，这些都可以很好地整合到区域治理框架中。

顺便提及，去年马来西亚教育部长也访问了我们萨里大学，双方签署了合作备忘录。我注意到马来西亚拥有非常优秀的科技园区，这为我们在技术层面的深度合作提供了广阔空间。如果未来有类似的合作机会，希望能够加强宣传推广，我相信会有很多机构愿意与您们开展合作。

接下来，我想先请教John先生一个问题，然后再听听企业方面的观点。考虑到John先生在国际组织方面的丰富经验，我们刚才已经听到了国家层面和联合国层面的视角，现在能否请您从国际组织协调的角度分享一些见解？

具体而言，您领导的国际人工智能治理联盟——刚才您也做了简要介绍——如何通过能力建设来整合不同的资源？在面对当前AI治理领域众多倡议和框架并存的现状下，如何进行有效的协调调度，避免重复投入或资源浪费？如何确保各方能够形成互补支持的关系，而不是各自重新发明轮子？

基于您在国际治理协调方面的丰富经验，您认为有哪些最佳实践和经验教训可以与我们分享？特别是在促进不同类型组织——政府机构、学术机构、企业、国际组织——之间有效协作方面？

关于"重新发明轮子"的问题，我认为这并非核心挑战。不同组织按照自身逻辑进行创新本身是合理的，关键在于相互学习和借鉴。我记得在布鲁塞尔工作期间，走访了许多机构，发现很多组织都在积极学习欧盟的发展经验。这种学习机制是非常有价值的，适度的重复工作也是可以接受的。

我经常问自己一个问题：我们能够带来什么独特的增值？ 我们能发挥什么样的关键作用和贡献？正如我之前提到的，在AI治理讨论中，我们缺失了一个重要声音，或者说这个声音还不够响亮——那就是国际组织如何有效部署AI治理的视角。

许多优秀的组织往往比较低调，它们需要与客户保持信任关系，进行深入沟通。但这种沟通本身就面临挑战，很多组织在治理经验分享方面还做得不够。我们需要更多地推动国际组织加速治理框架的发展进程。

对于商业领袖而言，许多公司并不抗拒法律法规的存在，他们真正需要的是对法规的深度理解和权威解读。他们希望获得：

消除不确定性的明确指导；全球范围内的一致性和稳定性；标准清晰的合规路径指引；不同区域要求的差异化解析

企业领袖需要明确知道：自己处于什么处境，应该采取什么行动，面临哪些合规要求，以及在不同区域有什么不同的标准要求。我们将持续推动框架建设和标准制定。有效的治理标准能够帮助组织建立可信的治理框架，向社会和客户证明其可信赖性，从而真正释放AI技术的社会福祉潜力。

这里涉及一个重要的经济学问题：谁来承担标准缺失的代价？ 如果没有行之有效的统一标准，各方就需要支付额外的合规成本。因此，国际组织应当承担起这项关键责任。只有在国际组织的有效引领下，我们才有可能更加高效地推动AI技术与伦理标准的协调发展，真正实现技术进步与社会责任的平衡。

非常感谢John先生的深刻分享！我认为在座的所有人——无论来自高校、政府、联合国还是业界——都可以与您的联盟开展合作，共同推动这一重要议题。我们也可以在会后进一步探讨如何建立更加有意义和实质性的合作关系。接下来，让我们听听业界的声音，了解企业对我们正在推进的治理工作有什么样的看法和期待。

今天我们很荣幸邀请到两位业界领袖，一位来自中国，一位来自海外，这为我们提供了多元化的企业视角。我特别想了解的是：

从企业实践角度来看：各位是否感到在AI治理方面得到了充分的支持？对于未来可能获得的支持，你们有什么样的期待？什么样的治理机制最能帮助企业制定有效的AI策略？

首先想请教周总：

从您所在的企业经营实践来看，什么样的治理机制能够最有效地帮助企业制定AI发展策略？不仅仅是针对单个企业，而是能够推动整个行业领域健康发展的治理体系？

您认为一个最合适的治理框架应该具备哪些关键特征？它应该如何平衡创新激励与风险管控，如何在提供明确指引的同时保持足够的灵活性？

今天下午的讨论确实非常丰富。在过去半个小时的对话中，我发现一个关键问题：大家对"治理"的定义完全不同。有些人将治理理解为立法监管，而我们看到不同国家、不同市场对此确实有着截然不同的定义和实践。从我们企业的实际运营经验来看，我们在全球拥有30个运营牌照，在200个市场开展业务。这种全球化布局让我们深刻体会到：各国监管操作和政策环境的巨大差异。在进行跨境业务时，这些差异性确实带来了复杂的挑战。基于这种现实，我们从来不是从寻求立法支持的角度来考虑问题，而是思考如何在现有环境中取得成功，以及我们在全球治理中应该扮演什么样的角色。

因此，当我们谈论治理时，我认为不应该过度聚焦于立法和法律层面。原因很简单：这是一个过于长远的议题，而人类的认知能力是有限的——这是我们必须承认的现实。

新兴科技正在帮助人类拓展知识边界，改变现有的认知体系。我们无法仅凭现有知识来创造针对未来技术的监管框架，因为那些技术发展可能超出我们当前的认知范围。

治理的核心要素：

基于这种认识，我认为现阶段的治理应该重点关注两个核心要素：

第一，共识构建： 各利益相关方需要达成什么样的基本共识？这是治理的基础。

第二，协同机制： 如何在政府、业界、科技界、消费者之间建立有效的协同关系？这是治理的关键。

总结而言，我们需要直面各国治理差异的现实——无论是立法体系还是法律框架对AI治理的不同处理方式，这些都是客观存在的操作差异。在这种多元化的治理环境中，利益相关方之间的沟通和协同显得尤为重要。我们应该达成的基本共识是：AI不仅仅是一个工具，而是一种从根本上改变社会运作方式的革命性力量。在这个层面上，通过持续对话来创建共识就变得至关重要。

只有建立了这样的共识基础，我们才能在复杂的全球治理环境中找到有效的合作路径。

您刚才提到的"对齐"概念非常深刻。确实，真正的挑战并不仅仅在于大语言模型与人类价值的对齐，更大的挑战在于来自不同文化背景、不同行业领域、不同专业背景的人群之间如何实现价值观的对齐——这可能是一个更加复杂和困难的任务。

我们首先需要确认的核心认识是：AI不再仅仅是一个工具，而是一个新的智能物种。基于这种认知，我们讨论的治理机制实际上是一种多元智能协同合作机制。正是基于这样的理念，我们共同创立了相关的研究院，致力于探索这种新型的智能协作模式。

关于企业最佳治理结构的问题，让我快速回应一下，因为时间有限。我们当前讨论的治理，面对的是一项爆炸式增长的跃迁技术。我们当然希望能够通过AI来实现联合国可持续发展目标——包括实现平等、充足的水资源和食物供应等重要目标。AI技术确实在不断增强我们实现这些可持续发展目标的能力。按照目前的技术发展趋势，可能在两年、三年、五年，最多十年内，我们就能够完成这些可持续发展目标。问题在于：我们需要什么样的治理架构来实现这样的目标？正如昨天的讨论中提到的，中国政府也高度关注这一议题。作为每一个公民，我们都应该思考：如何应对从AGI（通用人工智能）到ASI（超级人工智能）这一关键跃迁过程？

短期内，我们当然可以进行这样的探讨和规划。但是，如果我们不能妥善处理这一跃迁过程，我们面临的就不再是短期讨论，而是关乎社会存续，甚至地球文明延续的根本性挑战。因此，这绝不仅仅是茶余饭后的闲谈话题，这是一个极其严肃和紧迫的治理挑战，需要我们以最高的责任感和紧迫感来对待。

-往期回顾-