点击蓝字
关注我们
薛澜
国务院参事、清华大学苏世民书院院长、人工智能国际治理研究院院长、中国科技政策研究中心主任
机器人在生产线上精准作业，无人驾驶汽车穿梭于城市街道，智能算法推送心仪的商品和服务。人工智能正以前所未有的发展速度重塑着我们的世界。"AI+"的未来正从科幻小说的情节撞进现实。
随着AI技术加速迭代演进，各国纷纷把AI作为推动经济社会发展的核心驱动力和科技竞争的战略焦点。近年来，中国大力推进"人工智能+"行动。2017年国务院发布的《新一代人工智能发展规划》为我国人工智能发展指明了方向。2024年，"人工智能+"首次被写入《政府工作报告》。这标志着我国人工智能战略从技术导向迈向场景导向的新阶段。2025年7月31日召开的国务院常务会议审议通过《关于深入实施"人工智能+"行动的意见》。会议强调深入实施"人工智能+"行动，大力推进人工智能规模化商业化应用。
然而，人工智能的广泛应用也带来诸如数据安全、伦理合规、算法偏见等治理挑战。如何平衡技术创新与风险防控？如何构建健全的治理体系以推进人工智能健康、可持续发展？这些问题正日益成为政策界、产业界和学术界共同关注的焦点。围绕"人工智能+"行动与人工智能治理的关键议题，《新经济导刊》特邀请清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜展开深入探讨。
薛澜正在接受《新经济导刊》杂志采访。图 / 杨智童 摄
新经济导刊：自2024年《政府工作报告》提出开展"人工智能+"行动以来，人工智能高效赋能千行百业，形成了一批具有示范效应的重大应用场景。日前，由您担任总主编、清华大学人工智能国际治理研究院牵头组织编写、中国发展出版社出版的"人工智能重大应用场景丛书"在2025世界人工智能大会"人工智能的全球发展与治理：共赢与共治之路"论坛上发布。在国家深入推进"人工智能+"行动背景下，这套丛书的出版恰逢其时。请您向读者介绍一下这套丛书的出版背景、目的及亮点内容。
薛澜：当前人工智能已进入大规模应用阶段。但在实际落地过程中，无论是对于开发者还是用户来说，仍面临诸多挑战。尤其是在人工智能相关法规和治理机制方面仍有待完善。为此，清华大学人工智能国际治理研究院组织研究团队，选取了多个重要应用场景开展深入调研。并在此基础上完成了本套丛书的编写。
本丛书的出版与我国深入实施"人工智能+"行动计划高度契合。其核心目标在于连接人工智能企业、用户与治理机构，共同识别重大应用场景。系统分析其在落地过程中所面临的挑战，并通过政策支持与多方协作，加速推动人工智能技术的广泛应用与推广。
本丛书的内容涵盖多个行业领域。力求从实际应用出发，结合丰富的典型案例，帮助读者全面理解人工智能技术在不同场景中的价值与意义。深入认识人工智能的巨大潜力，推动其在具体实际场景中的应用。同时，丛书为人工智能企业和开发者在商业应用等方面提供了重要参考。有助于促进企业与用户之间的沟通与协作。此外，丛书还可为相关机构在政策与法规制定方面提供依据。从而支撑人工智能更广泛、更安全地落地应用。我们相信，通过各方共同努力，人工智能将在推动社会经济发展、提升公共服务水平、优化产业结构等方面发挥更重要的作用。同时，丛书也为构建开放、协同、安全的人工智能生态体系贡献一份力量。希望读者能够从中获得启发，进一步推动人工智能的创新发展与实践应用。
新经济导刊：从战略层面讲，国家推动"人工智能+"行动的核心目标是什么？与欧美等国家的人工智能发展战略相比，中国的路径有何特点？
薛澜：我国发展人工智能最根本的目标是推动人工智能向善，促进经济社会发展，最终造福于人民。这一点与欧美国家尤其是美国所主导的发展路径存在根本差异。当前，一些欧美国家媒体在人工智能国际发展叙事方面，往往将其描绘成中美之间的一场"巅峰对决"。认为这是大国在前沿领域的竞争。当然，中国也有一批企业在不断研发先进模型。但我们发展与应用人工智能的核心宗旨，始终是造福人类、服务社会。因此，我们更积极地推动人工智能在经济社会各领域的广泛应用。为我国的高质量发展提供支撑与保障。而最前沿领域的模型竞争并不是我们发展人工智能的核心目标。我国更注重推动人工智能安全广泛地应用以实现造福民生的目的。
新经济导刊：当前，"人工智能+"行动正在全国范围内如火如荼地推进。在您看来，哪些行业或重点领域更具发展潜力？同时，您认为在推进过程中还存在哪些政策、市场等层面的挑战？
薛澜：人工智能的应用范围非常广泛。正因其作为一项通用型技术，能够渗透到众多场景中。而人工智能技术的不断进步也将深刻影响社会的方方面面。以医疗领域为例，人工智能在医疗技术中的应用前景十分广阔。正成为医疗行业的关键赋能者，其价值不仅体现在提升医疗质量和效率上。更致力于让优质的医疗服务变得更具普惠性和可持续性。未来，随着技术与临床实践的深度融合，AI有望进一步重构人类健康的守护体系。例如，人工智能赋能影像诊断已经较为普遍。此外还有许多企业正在积极开发各类诊断模型。如我们调研过的一家专注于大模型的人工智能公司—百川智能。其联手北京儿童医院、小儿方健康科技（北京）有限公司推出的一款儿科诊断大模型—"福棠·百川"是全球首个儿科诊断大模型。儿科诊断本身难度较大，幼儿往往无法清晰表达不适，更多依赖医生的经验进行判断。该模型覆盖了儿童常见病与疑难病症的立体化知识体系。具备较强的儿科临床推理能力，并首创儿科"循证模式"。在儿童疑难病症的诊断方面，人工智能在某些测试中的表现甚至已经超过了有经验的医生。由此可见，在医疗影像和辅助诊断等领域，人工智能具备巨大的发展潜力。
当然，人工智能在赋能医疗领域过程中也面临着一些挑战。比如目前仍无法完全保证模型不会产生"幻觉"或误判。因此，即便模型平均表现优于人类，但我们依然需要人类医生的最终审核和确认。这意味着人工智能系统必须与医生协同工作，而不是替代医生。同样的情况也适用于处方权问题：人工智能可以提供治疗方案或药物使用的建议。但最终处方必须由医生签字确认。因此，人机协同将是未来发展的核心方向。
新经济导刊：随着人工智能规模化商用进程的加速推进，人工智能的科学治理正日益成为全球各方关注的重要议题。当前，国际社会在AI治理方面呈现出哪些主要趋势？面临哪些风险与挑战？
薛澜：从宏观角度来看，自清华大学人工智能国际治理研究院正式成立之前，我们就已开展相关研究。纵观近几年的发展，一个非常明显的趋势是，全球各国和相关领域的专家都开始高度关注人工智能治理问题。全球人工智能治理也在不断推进中。
然而，这一进程并非一帆风顺。在近期召开的2025年世界人工智能大会（WAIC）期间，我与国际专家进行了广泛交流。大家普遍认为2023–2024年堪称人工智能治理议题的一个"高潮期"。全球范围内，人工智能治理主题的国际会议广泛召开。相关治理规则和机制的探讨与实践正在持续深化。但近期也出现一些回落迹象，部分国家在治理态度上有所反复。这与人工智能技术本身的发展历程相似，必然伴随起伏。但总体而言，国际社会对AI潜在风险的认识正不断深化。相应治理措施也在持续完善。
国际上的专家把发展人工智能带来的风险概括分为三大类。第一类是"恶意使用"或"滥用"带来的风险。即有意利用人工智能从事加害行为，例如，极端分子可能借助AI开发生化武器，造成大规模伤害。滥用深度伪造技术或从事违法行为。
第二类风险源于技术本身的缺陷。比较典型的情况就是所谓"幻觉"的产生。即AI模型可能会生成不实或误导性内容，甚至是完全虚构的信息内容。而其中最令人担忧的是技术失控风险—人工智能若脱离人类控制、形成自主意识和行为，将构成根本性威胁。这也是国际专家普遍关注的焦点。
第三类风险涉及AI大规模应用对社会结构的长期影响。包括对就业、知识产权、社会认知等方面的影响。当前最受关注的是就业问题，AI未来可能替代体力劳动，还可能影响脑力劳动和高技能白领岗位。其潜在影响广泛且深刻，对社会发展提出了严峻挑战。亟须构建系统性的应对策略。
总体来看，人工智能治理仍处于动态发展、多方博弈的阶段。但认知在深化，机制也在逐渐健全。
新经济导刊：随着人工智能技术的快速迭代演进，其带来的风险和挑战也日益增多。如何构建能够适应AI技术快速演进的治理框架？是否需要动态调整监管政策？您有哪些建议？
薛澜：动态调整监管无疑是必要的。但当前面临的最大挑战在于：技术发展速度很快，而治理体系的调整、新法律法规的出台往往相对滞后。我们很难控制技术的快速发展，等待治理规则完善之后再继续推进，这显然是不现实的。因此，我们必须采取"敏捷治理"的方式，努力跟上技术发展的步伐。"边发展、边治理"，在实践中不断迭代和完善治理体系。
具体来说，我提出以下几个方面的建议。首先，要转变传统治理观念。过去我们倾向于出台一套全面的、覆盖所有方面的法规。但在AI领域，这种做法很容易错失治理时机。更有效的方式是：针对新出现的风险点，及时制定相应的治理措施或办法。关键是要先建立治理框架，再从实践中持续优化和调整。
其次，应重新定位监管者与被监管者的关系。以往，监管部门与企业之间可能存在一种"猫鼠游戏"：企业寻找监管漏洞，监管部门专注于查处违法行为。然而在AI治理领域中，很多风险不仅政府不了解，企业自身也可能尚未意识到。因此，政府和企业应站在同一战线，加强沟通协作。共同识别和应对AI可能带来的各类风险，探索更适宜的监管方式。
最后，要推动监管工具多样化。政府应根据企业行为采取差异化监管措施。对出现轻微风险或非故意违规的企业，可以通过提醒、警告等方式引导其改正。对屡教不改或造成严重后果的，则依法严厉处罚。监管的目标不是扼杀创新，而是推动人工智能在合规前提下更好地发展。应采取轻重手段结合的方式，既保持约束力，也给予企业成长的空间。
新经济导刊：未来5年，全球AI治理可能呈现怎样的格局？中国应如何提前布局？
薛澜：在全球人工智能治理方面，我们期待建立起一个有效的全球治理体系。目前，联合国已在此方面做出积极努力。包括计划成立一个全球性专家小组，旨在及时研判人工智能发展过程中出现的各类风险。同时，也致力于构建一套安全检测与评估体系，确立相关标准并形成评测机制。该体系要求各国前沿大模型必须通过安全测试，才能进入实际部署阶段。以确保人工智能在大规模应用中的安全性与可信性。
与此同时，推动人工智能的普惠发展也至关重要。中国在国际社会中积极倡导并推动人工智能的开放、共享与普惠发展。致力于缩小"数字鸿沟"，中国在推进全球人工智能治理方面做出了多方面努力。一方面，中国在联合国框架下提出多项倡议。例如，2024年7月第78届联合国大会协商一致通过中国提出的加强人工智能能力建设国际合作决议。140多国参加决议联署；另一方面，中国已举办多期国际交流研讨会。帮助发展中国家的政府官员和技术人员提升人工智能治理与运用能力。此外，国务院总理李强出席2025世界人工智能大会暨人工智能全球治理高级别会议开幕式并致辞时宣布。中国政府倡议成立世界人工智能合作组织。强调要坚持统筹发展和安全，加强各国对接协调，推动早日形成具有广泛共识的人工智能全球治理框架和规则。中国在人工智能治理方面提出了众多务实倡议，并持续付诸行动。
未来五年，全球人工智能治理可能逐步形成以联合国为核心的全球治理框架。中国在推动人工智能国际合作、能力建设和普惠发展等方面将发挥更加积极的作用。
新经济导刊：随着加快人工智能领域立法呼声渐高，全国人大常委会2025年度立法工作计划将人工智能健康发展等方面的立法项目列为预备审议项目。如果请您为将来的人工智能立法提几点建议，您最想写进哪些话？
薛澜：人工智能立法确实是一个受到各方高度关注的议题。首先，关于中国是否有必要尽快推进人工智能立法的问题，过去几年已经持续引发讨论。许多法律领域的专家也为此进行了大量的前期准备工作。例如，中国社科院、中国政法大学等机构都分别提出了各自的专家建议稿。这表明我国法学界已经为此奠定了良好的基础。然而，正如前面提到的，人工智能技术发展极为迅速。而立法本身通常需要一个充分讨论和谨慎推进的过程，以全面考量各方利益与技术现实。因此，如何在"尽快立法"与"审慎稳妥"之间取得平衡，仍需社会各方进一步凝聚共识。
在推动人工智能专项立法方面，以下几个方面值得重点考虑。
一是立法定位问题。我们究竟要制定一部以促进人工智能发展为导向的"促进法"，还是以风险监管为核心的"监管法"？例如，欧盟的《人工智能法案》就明显侧重于风险规制。而我国在立法中也需要思考如何既有效防范风险，又为技术创新留有空间。实现创新发展与安全之间的平衡。
二是监管框架与风险分级机制。目前，欧盟《人工智能法案》虽然对风险进行了分类，但划分仍相对宏观。具体实施尚需配套细化的规则。若立法条款过于注重原则性，可能会影响其可操作性与应用效果。因此，立法路径选择至关重要。即是针对特定应用场景出台专门的法规，还是制定一部全面的综合的人工智能基本法。这需要结合实际情况审慎决策。
三是与现有法律体系的衔接问题。实际上，尽管我国尚未出台专门的人工智能法，但已经初步建立起一套覆盖多层面的治理体系。例如，《个人信息保护法》《数据安全法》《网络安全法》等基础性法律已发挥重要作用。而针对生成式人工智能等特定领域也出台了相应的管理规定。未来任何新立法都应充分考虑与现行法律法规的协调性，避免规则冲突。确保制度体系的整体性和一致性。
2025年7月31日召开的国务院常务会议，审议通过《关于深入实施“人工智能+”行动的意见》。会议指出，当前人工智能技术加速迭代演进，要深入实施“人工智能+”行动，大力推进人工智能规模化、商业化应用。
“人工智能重大应用场景丛书”选取金融、教育、政务服务、汽车等典型场景，系统总结我国人工智能在这些重点领域的应用成果，展望技术赋能产业的发展方向。目前，《人工智能+金融》《人工智能+政务服务与社会治理》《人工智能+教育》《人工智能+汽车》4本图书已在2025世界人工智能大会“人工智能的全球发展与治理：共赢与共治之路”论坛上发布。该丛书系统总结了我国人工智能在这些重点领域的应用成果，展望技术赋能产业的发展方向，助力政产学研各界在产业需求中找准方向，在实践应用中加速创新、在协同治理中破解难题，推动形成“人人参与、人人共享”的人工智能发展生态。
“人工智能重大应用场景丛书”（部分）
丛书主编：薛澜
中国发展出版社
图书简介
自2024年政府工作报告提出开展“人工智能+”行动以来，人工智能高效赋能千行百业，形成了一批具有示范效应的重大应用场景。“人工智能重大应用场景丛书”由清华大学文科资深教授、人工智能国际治理研究院院长薛澜担任总主编，清华大学人工智能国际治理研究院牵头组织编写,多家机构联合支持，立足我国人工智能发展实际，响应“人工智能+”行动，聚焦典型应用场景，体现“产学研用”协同创新的鲜明特点，突出“需求牵引”和“问题导向”，以开放式的组稿编写模式，选取金融、教育、政务、医疗、交通、物流、制造、文旅、能源、农业等10余个典型场景，遵循权威性、实用性、创新性、代表性的原则，形成集理论与实践于一体的系列丛书,为实现人工智能“善治”与“善用”提供参考工具。
