点击蓝字
关注我们
梁正
清华大学人工智能国际治理研究院副院长、人工智能治理研究中心主任、中国科技政策研究中心副主任、公共管理学院教授
当生成式 AI 从实验室走向千行百业，当 大模型开始重新定义金融服务的普惠边界、 重构医疗诊断的效率逻辑，人工智能早已不 是停留在概念层面的“未来技术”，而是以 “人工智能 +”的规模化形态，渗透进消费金 融服务、医疗影像分析等方面，悄然重塑着产 业发展的底层逻辑与社会运行的基本规则。
这场技术革命带来了效率跃升，也抛出一连串待解命题：企业该如何在 AI 创新与 合规要求间找到平衡点？医疗 AI 的场景通用化与数据隐私保护如何两全？面对技术内生风险、社会伦理等挑战，治理体系又该如何跟上技术迭代的速度？全球 AI 竞争加剧，中国应如何构建独特的发展与治理优势？
带着这些问题，《新经济导刊》邀请清华大学人工智能治理研究中心主任、人工智能国际治理研究院副院长梁正，从 AI 在金融、医疗领域的商业化实践切入， 拆解“人 工智能 + ”的发展趋势与风险图谱，探讨中 国在 AI 治理与立法层面的探索，以及面向 未来的竞争优势构建之道。
新经济导刊：随着人工智能商业化规模的逐步扩大，AI 在金融、医疗领域的大规 模应用将会带来哪些变革？如何解决落地 难的问题？
梁正：我重点谈一下人工智能给金融、 医疗领域带来的变革。
人工智能 + 金融
从商业领域来看，“人工智能 + 金融”无论是在国内还是国际上，都是推动人工 智能落地应用的重要场景。原因在于，金融行业不仅利润高，还与我们的日常生活息息相关。
在消费金融领域，大模型应用已初见成效。例如，利用大模型，将过去仅面向私人银行客户的服务，提供给每一位普通消费者，大幅降低了零售金融业务的成本，这在过去是难以想象的，也成为科技推动普惠金融发展的重要抓手。
在 To B （企业级）金融业务领域，人工智能的应用同样广泛。一方面是智能投研的应用，过去金融分析师、证券从业人员撰 写行业报告需要高强度的智力投入，而现在几乎所有券商、投资银行都引入了 AI 分析工具。国际上的投行在这方面走得相对靠前，国内不少领先企业也已应用大模型， 这不仅大幅降低了人力成本，还显著提升了工作效率。另一方面，在金融产品设计上，一些保险公司，通过运用大模型，在保险产品创新方面取得了突破，无论是养老年金保 险，还是支持普惠金融服务、科技融资的保险产品，都能发挥重要作用。
总体而言，人工智能大模型在金融领 域的应用，核心是将行业复杂的金融知识转 化为模型化、数字化的形式， 从而能以低成 本、全天候的方式， 为大众提供全系列的金 融服务与产品，意义重大。
人工智能 + 医疗
AI 在医疗领域更多基于健康数据，尤 其是多模态的影像数据（如 CT 影像）进 行分析。通过整合这些数据，AI 能够实现疾病的早期诊断。《国务院关于实施健康中 国行动的意见》中特别提到了早期癌症筛 查。我们在调研中已发现相关案例。例如，阿里巴巴达摩院研发的胰腺癌筛查 AI 模 型——DAMO PANDA，可通过识别 CT 影像，早期筛查出胰腺癌的迹象，实现疾病的早诊断、早处置。
如今，健康体检已成为常态，但我们并 非缺乏体检数据，而是缺乏对数据的深度分析能力。当 AI 具备这种分析能力后，像“三 高”、慢性病、阿尔茨海默病等发展周期较 长、对患者和家庭影响巨大的疾病， 都能通过体检数据实现早期筛查。此外，智能家电、运动手表等设备可实时监测日常健康数据，结合 AI 分析，能实现“早发现、早预防、早治疗、早干预”，避免病症发展到恶性阶段。以癌症为例，若都能像胰腺癌这样实现早期筛查，患者的预后效果会大幅提升。由此可见，大模型与人工智能在医疗健康领域的应用，将为人类健康带来巨大助益。国外有专家认为，未来借助人工智能，人类寿命达到 150 岁并非不可能，这并非空谈，而是有实际技术支撑的。
当然，医疗领域的 AI 应用也面临诸多 技术挑战。在 AI 大模型出现之前，IBM推出的“沃森”（Watson）AI 医生在特定场景下效果较好，但可迁移性差，更换医院或环 境后，效果便会下降。目前，我们在医疗 领域需要解决的核心问题包括场景通用化、模型可迁移性，以及数据隐私保护、成本降低、法律规范等。例如，能否使用患者个人数据进行模型训练、如何保护患者隐私、如何与医疗保险体系衔接等，这些都属于治理层面的问题，需要在技术突破的同时，通过制度完善来解决。实际上，中国在医疗 AI 方面的业务试验、推广示范、规则探索方面，已处于全球领先地位，潜力巨大。
新经济导刊：随着“人工智能 +”规模 化商业落地，人工智能将如何重塑行业发展 模式、推动经济生态新发展？
梁正：从整体来看，“人工智能 +”已渗透到各行各业，尤其是生成式 AI 和大模型，经过近几年的发展，目前已进入规模化 应用阶段。以今年为例，OpenAI 的收入实现大幅增长，美国也涌现出不少原生 AI 企 业并实现盈利，这是行业成熟的重要标志。 一个行业要实现持续发展，除了技术进步， 还需找到被市场接受的产品与商业模式，通 过盈利实现规模扩张与成本降低，这是行业 发展的必经阶段。
今年，AI 硬件应用（如专用领域的端侧模型、专属服务等）不断涌现，这些应用 已进入市场化变现阶段， 这对行业发展是利好信号。从未来趋势看，预计在 2~3 年内， “人工智能 + ”产品与服务将大量涌现。目前手机端的 AI 应用已逐渐普及，如夸克、美图、高德地图等。未来这类多样化应用会进一步丰富，AI 产业应用生态将更加完善。
从产业发展角度，下一步 AI 将进入“大 规模、多样化、低成本、高效率”的应用阶段，只有进入这一阶段，才能真正实现 AI 产业化，像“互联网 +”一样，为各行各业 带来实际的效率提升。从技术发展角度，技术与产业的发展是相互促进的。除生成式 AI 外，具身智能、类脑智能、空间智能等 领域的发展也十分迅速，值得高度关注。
中国“人工智能 + ”的更大应用场景可能并非在 To C （面向消费者）领域，而是在制造、交通等领域。以自动驾驶为例， 目前自动驾驶已并非“未来概念”，有观点预测，不久的将来 10% 的汽车将具备 L5 级自 动驾驶能力，2030 年可能会出台相关立法。
随着产业扩张与资本加持，人工智能技术将加速进步，这一规律在人类历史上已多次得到验证（如蒸汽机、发电机、汽车、飞机、半导体等的发展）。一旦启动“数据 飞轮”或形成“网络效应”，就会获得规模经济与报酬递增效应，技术将快速迭代、成本持续降低，并渗透到各个行业，这才是人工智能作为“革命性技术”的真正内涵——不仅是技术层面的突破，更在于对产业与社会产生的深度影响，这一变革将在我们这一代人的有生之年得以见证。从短期看，大量 AI 应用与服务将不断涌现，为产业带来巨大回报；从长期看，AI 将重塑产业格局与社会形态。
新经济导刊：在大力推动“人工智能 +” 行动的过程中，人工智能治理受到大家高度关注。当前 AI 治理面临的最大风险是什么？哪些风险是我们最需关注的？
梁正：无论是从学术研究还是实践落地角度，我们都需要深入探讨这一问题。目前，学界普遍将人工智能风险分为三类。
第一类是技术内生风险。生成式人工 智能本身存在不可解释性、“黑箱”特征、 鲁棒性不足等问题，这些问题与其技术原理 直接相关。但这类风险并非一成不变，随 着技术发展与科学进步，风险可逐步降低。 例如，最近发布的 GPT-5 的“幻觉率”（生 成虚假信息的概率）已较前代模型大幅降低，我们可通过技术手段不断完善模型性能。这 就如同飞机的发展历程：早期飞机故障率极 高，乘坐飞机曾被视为“冒险”，但随着技 术改进与制度完善，如今飞机已成为最安全 便捷的交通工具。技术内生风险的解决，需 要技术与制度的双重支撑。
第二类是应用适配风险。这类风险并非 人工智能本身的问题，而是 AI 在开发与应 用过程中，与现有体系不匹配引发的风险，如深度伪造、隐私泄露、技术滥用 / 恶用等。 以深度伪造为例，这本质是 AI 技术被滥用 的问题，技术本身并非为“作恶”而生，因 此需要通过鉴别技术、防控手段， 防止其被 用于诈骗等违法领域。
针对这类风险，我国已出台相关治理 措施。例如，《生成式人工智能服务管理暂 行办法》对训练数据的可靠性、来源准确 性、结果客观性提出明确要求；GPT-5 在“安 全对齐”方面的改进，也体现了技术与制 度协同防控风险的思路。尽管有观点认为 GPT-5 的生成性能不如 GPT-4o，但对于要进入千行百业的商用产品而言，合规性是 前提。解决这类风险，需要法律制度、管理 规范与技术手段（如造假鉴别技术、网络攻 击防范技术等）相结合，实现“技防”与“人 防”的协同。
第三类是社会结构与伦理风险。这类风 险影响范围更广，涉及社会结构变化与伦理 挑战，其中最突出的就是就业问题。AI 在 机器人、自动驾驶等领域的应用， 可能会替 代大量传统工作岗位，如何安置被替代的劳 动力，成为社会关注的重要课题。历史上， 重大技术进步都会引发类似就业结构的变 革。我们不应限制技术发展， 而应看到新技 术带来的新空间。例如，自动驾驶将汽车变 为“移动生活空间”，未来人们可在通勤 途中工作、美容、健身，甚至可能催生“车 载美甲服务”等新型消费场景。
此外，AI 还可能引发意识形态误导风险，尤其在教育领域。例如，“人工智能家教”若 缺乏规范，可能传递错误价值观或违背公序 良俗。今年，教育部基础教育教学指导委员 会正式发布《中小学人工智能通识教育指南（2025 年版）》，明确了基本原则，强调价值 观正当性与公序良俗引导，这正是为了避免 将教育责任完全交给大模型可能带来的问题。
综上，人工智能的风险既包括技术本身的缺陷，也包括应用与社会的适配问题，我们应秉持“在发展中解决问题”的理念，通过技术进步、制度完善、管理优化等方式共同防范风险。
新经济导刊：针对 AI 治理面临的风险，中国做了哪些工作、取得了哪些进展？
梁正：客观而言，中国在人工智能发展 与治理领域，已跻身世界领先行列。
在发展规划与治理理念方面，中国于2017 年出台《新一代人工智能发展规划》，明确提出重视人工智能治理规范，并设定目标：到 2030 年建成更加完善的人工智能 法律法规、伦理规范和政策体系，且采用 “软硬法一体”的推进思路。这一认知在全球范围内处于领先水平。2019 年，国家 新一代人工智能治理专业委员会发布《新一代人工智能治理原则—发展负责任的人工智能》，提出和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理八条原则，至今仍不过时。特别是，《新一代人工智能治理原则—发展负责任的人工智能》体现了“治理为发展与安全服务，而非限制发展”的理念。
中国是全球最早在生成式 AI 领域出台具有法律效力文件的国家之一。《生成式人 工智能服务管理暂行办法》《互联网信息服 务算法推荐管理规定》《互联网信息服务深 度合成管理规定》等一系列文件的发布有针 对性地解决了新技术应用中出现的新问题。 值得一提的是，这些办法和文件出台后，国际社会高度关注，多家国外智库认为中国在 AI 治理领域走在全球前列。近两个月，我与国外专家交流时发现，他们正在研究、借鉴中国的相关法律与政策经验，这充分体现了“在发展中发现问题、在实践中解决问 题”的治理逻辑。
中国探索出敏捷动态的治理新模式。AI 治理的核心挑战是“技术发展快、治理调整慢”，因此需采用敏捷治理——不追求长期的静态政策，而是根据技术变化动态调整。以《生成式人工智能服务管理暂行办法》为例，其征求意见稿发布初期业界存在反对声音，但经过三个月的政企交流， 多数意见被吸纳，最终获得业界认可。截至 2024 年年底，在网信办完成备案的大模型达 300 余个，今年数量将进一步增加，这正是敏捷治理的成功实践。
在法律基础层面，我国出台了《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》，形成了较为完整的法律体系，这三部法律构成数字时代治理的“三大支柱”。从立法水平看，即使与欧盟《通用数据保护条 例》（GDPR）相比，中国的这三部法律也 不落后，且在很多方面可实现对接。
地方层面，深圳、北京、上海也有诸多创新实践。例如，深圳在自动驾驶、低空 经济等领域推行“创新免罚”“包容审慎监管”，既试点技术，也试点规则，为全国治理提供了经验。
新经济导刊：与欧美国家相比， 中国在 AI 治理方面有哪些特色？
梁正：中国的 AI 治理导向是以人民为中心，兼顾公共利益与个人权利；倡导构建人类命运共同体，推动全球协同治理。治理模式为敏捷动态治理，软硬法结合；先通过垂直领域法规积累经验，再逐步完善通用框架。中国在国际人工智能治理领域的角色实现了从“管好自身”到“贡献中国方案”的转变，推动实施联合国框架下的 AI 能力建设计划，帮助发展中国家提升 AI 发展与治理能力。
而欧盟的治理导向是以人权为导向，侧重个人权利保护，对公共利益的考量相对不足。其治理模式是基于风险场景划分监管 范围，出台统一的《人工智能法案》（AI Act），采用“一刀切”式监管。在全球层面，其试图主导全球 AI 治理规则制定，但内部成员国意见分歧较大，政策落地难度 较高。
美国的治理导向早期倾向企业自我监管，政府干预较少，政策存在反复。其治理模式依赖市场自我调节，缺乏联邦层面统一的 AI 专项法规，监管呈碎片化。近年来，美国虽增强了监管意愿，但仍以维护自身技术霸权为核心，对全球协同治理的参与度降低。
总体来看，国际社会普遍认可中国建立的 AI 治理体系。美国的“企业自我监管” 模式被认为难以有效防控风险，而欧盟的《人工智能法案》因过度强调风险防控，可能限制技术创新。相比之下，中国的治理模式既保障了技术创新活力，又有效防控了风险，被国际社会寄予厚望。基于丰富的实践，中国有望在 AI 治理领域逐步成为全球表率。
目前，中国正推动多项国际合作，如在 联合国框架下推进 AI 能力建设计划，倡议成立“世界人工智能合作组织”，向发展中国家分享 AI 发展与治理经验，尊重各国在语言、文化、价值观、教育等领域的差异，倡导“各美其美，美美与共”，反对 AI 治 理“单一声音”，保障发展中国家的参与权。比如，过去五年，清华大学人工智能国际治 理研究院推动的“人工智能合作与治理国际 论坛”已形成广泛“朋友圈”，覆盖发达国家、发展中国家的科学界、产业界、学术界等，国际智库对中国治理实践的评价也日益提高。
新经济导刊：随着全球 AI 竞争加剧， 中国在技术研发和治理方面如何保持优势？
梁正：需客观认识中国人工智能的发展水平。当前，中国在 AI 应用场景方面具有 丰富性与潜力，但在前沿技术研发，尤其是 基础研究领域仍存在差距和短板，但短板同 时也意味着机遇。针对 AI 发展面临的挑战， 可从以下方面突破。
一是改革教育理念，培养 AI 时代人才。 AI 时代的竞争本质是人才竞争，而人才培养 的核心在于教育理念的革新。当前，教育不 应仅侧重“智育”，还需强化价值观教育、人生体验教育、艺术素养教育、社会实践教育。国际上，硅谷已出现新型教育模式：由 AI 承担知识传授任务，学生将更多时间用于实践、人际交往与社会认知，且实现“因材 施教”。
在人工智能教育方面，中国虽已成立国家人工智能学院，推行“项目制学习”（以真 实项目替代传统课程），但仍面临教育体制 “内卷”、学生发展空间受限等问题。若不能解决这些问题，未来 AI 所需的新一代人才培养将面临挑战。因此，需推动教育体制改革，打破“唯分数”“唯学历”的评 价体系，为不同特质的学生提供个性化发展 路径。
二是优化创新创业环境，吸引全球资源。创新创业环境的核心是金融支持与政策导向。与美国相比，中国在 AI 领域的创投环境仍有差距，例如，人民币基金在全球创新生态中的吸引力还有待提升。资本天然流向“潜力大、环境宽松、创新导向”的区域，因此，在大力推动风险投资和资本市场发 展、支持科技型中小企业创新创业的同时，需进一步打造“创新友好型”环境，简化行政审批、完善知识产权保护、降低创业门槛，吸引全球资本与人才。
三是加强基础研究，完善科技体制。当前， 中国需推动科技体制改革，取消科研领域的 “帽子工程”，建立以“科学家兴趣导向 +
国家战略需求”为核心的评价体系，让科学 家能潜心研究；同时，既要自主培养高端人 才，也要吸引全球优秀人才，形成开放的科 研生态。
四是坚持“在发展中解决问题”，平衡创新与安全。AI 的创新与安全并非对立关系，而是相辅相成的。政策制定需避 免“一刀切”：既不能因过度监管而限制创新，也不能因放任发展而忽视安全。下一步可沿用“垂直领域先规范、通用框架后完善”的思路，针对医疗、自动驾驶、金融等重点领域出台专项法规，积累治理经验；同时，保持政策的“敏捷性”，根据技术发展动态调整监管措施，为创新留足空间。
中国的目标并非超越他国，而是做好 自己的事—通过技术创新与治理完善，实现科技强国与民族复兴，同时为全球 AI 发展贡献中国方案，推动人类命运共同体建设。
新经济导刊：从法律法规完善层面，请您谈一谈对于人工智能专项立法的看法和建议。
梁正：关于人工智能法的出台，目前社会呼声较高，在此提出以下几点思考和建议。
第一，明确立法目的，以促发展为核心，而非“限创新”。新技术的发展需要明 确的法律底线，而非过度束缚。以基因技 术为例，国外因较早建立伦理指引与法律规 范，基因药物研发得以蓬勃发展。因此，人工智能立法的核心是划定底线、规范应用， 为技术创新提供稳定的制度环境，而非直接 规范技术本身的发展方向。
第二，立法需审慎务实，避免规范“未 出现的技术”。当前业界最担心的是“法律 超前于技术”，规范尚未出现的应用场景， 反而让创新者承担不必要的责任。人工智能相关法应聚焦技术应用的底线规则（如保护生命健康、人格尊严、平等权利等），这些规则是所有技术应用都需遵守的，并非仅针对 AI。
第三，优先完善垂直领域法规，再推进通用法。目前，医疗、自动驾驶、金融等领域已有 AI 应用规范，但尚未上升到法律层面。建议先在垂直领域积累立法经验、形成社会共识，待条件成熟后，再制定通用的人工智能法。国外部分观点认为，现有法律资源已能解决大部分 AI 应用风险问 题，更迫切的是完善专项领域法规，这一思路值得借鉴。
第四，区分“法律底线”与“道德高线”。法律解决的是“最低道德标准”，而 非“最高道德要求”。人工智能立法需明确这一边界，避免设定过高标准，导致法律难以执行，反而限制行业发展。
综上，中国的人工智能立法不应照搬欧盟的“先立法再修改”或美国的“放任不管” 的模式，而应走“先垂直、后通用，先软法引导、后硬法规范”的路径，在“保护消费者权益”与“保障行业创新活力”之间找到平衡，通过政企互动、学界参与，形成科学合理的法律框架。
