出品｜虎嗅ESG组
作者｜陈玉立
头图｜视觉中国
本文是
本次观察关键词：人工智能
2026年9月，Anthropic前研究员Jacob Coxon把一场原本属于实验室内部的争论，推到了数亿人面前。其在离职后发表长文，指责Anthropic正在拿所有人类的生命下注，前沿AI大模型可能在本世纪末毁灭人类。
Anthropic对齐科学负责人Evan Hubinger随后公开声援。他称内部人员确实有人深信AI可能杀死全人类，未来十年出现该风险的概率甚至超过10%。
Coxon并非第一个从前沿实验室出走的安全研究人员。2026年2月，Mrinank Sharma辞职发声“世界正处于险境”；7-9月，Google DeepMind研究人员Bilal Chughtai和Josh Engels相继离职，且公开表达对前沿模型可能带来巨大伤害的担忧。
接连发生的离职与公开警告让AI末日论开始在社交平台发酵。随着主流媒体跟进报道，争议很快涌向了国会山。有议员主张为AI建立紧急关闭机制，也有人要求搭建前沿模型监管框架，Greg Casar和Bernie Sanders甚至提出暂停超级智能的研发。
另一股力量则在猛踩油门。
特朗普把AI领先中国列为战略目标，并将减速主张斥为“破坏行为”；英伟达CEO黄仁勋公开将AI末日论称作“捏造出来的、彻头彻尾的胡说”。在他们看来，把尚未发生的风险放到政策制定的中心，可能拖慢美国的技术与产业优势。
于是，美国AI安全之争形成了一个罕见局面：实验室研究人员、模型公司、芯片巨头、白宫和国会，都在争夺同一个问题的解释权——AI究竟危险到什么程度，又该由谁踩下刹车？
但在大洋另一边，同样的问题几乎没有形成如此剧烈的公开碰撞。区别于美国的公开论战，中国对AI的治理只体现在一张张白纸黑字的“办法”里。
2026年4月，五部门发布《人工智能拟人化互动服务管理暂行办法》，并于7月施行。身份混淆、情感依赖、行为操纵和未成年人保护等风险，被写成平台责任与产品要求。7月，世界人工智能合作组织WAICO在上海成立，29个国家参与，中国也借此主动进入全球AI治理议程。
中国并非没有讨论安全，它的规则、备案、评估和技术标准正在快速增加。相对安静的是企业端：少有Coxon式的离职爆料，也很少有技术团队主动告诉公众，自家模型可能造成哪些严重后果。
一个值得探讨的问题是，同样面对AI可能的失控，为什么美国把它变成了公共冲突，但中国却把它放进了行政程序？
碰撞下的利益权衡
2026年9月15日，旧金山Dreamforce大会上演了一幅极具象征性的画面。
Salesforce CEO Marc Benioff将Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman和英伟达CEO黄仁勋请到台前。三个人都位于AI产业的权力中心，却给出了三套截然不同的“刹车方案”。
Amodei的构想分为三层：让独立第三方常驻前沿实验室，持续评估模型；推动核心实验室协调共同安全守则；进一步建立国际治理合作。Amodei的担忧很明确，模型自主行动能力增长太快，人类的对齐和控制技术可能跟不上。
Altman却在现场表示不认同“只有其他人减速、我们才减速”的观点。他认为，安全属于每家公司的单方面责任，同行是否采取同样措施，不能成为企业降低标准的理由。
黄仁勋的立场更强硬。他将安全归为工程问题：做不好就继续修改，达不到要求便不要发布，无需把工程难题抬升为全行业的法律与道德假设。至于产业速度，他的态度接近“能跑多快，就跑多快”。
看似每个人都有自己的立场坚持，但三个人的分歧核心是资本帐——前沿模型公司（Anthropic与OpenAI）既可能受到安全规则约束，也可能利用高门槛阻挡后来者；算力供应商（英伟达）直接承受行业减速的代价；创业公司和开源开发者则担心，一套由巨头参与制定的标准会变成难以承担的固定成本。
三人立场的交锋，展示了美国AI治理的第一个特征：风险定义权高度分散。
原中兴汇金高级研究员、东方财富网前专家库成员李勇认为，美国公共议事机制给了科研群体、科技企业、智库、国会议员以表达空间，以致人工智能远期潜在风险能够放到舆论和国会听证层面展开讨论。
例如，国会议员可以提出紧急关闭机制，企业可以争论发布前审查期，员工可以公开质疑管理层，NGO可以发布独立报告，法院还能通过版权、产品责任和消费者保护案件介入。没有任何单一主体能够宣布“AI已经安全”，也没人可以独自踩下整个行业的刹车。
这与美国AI产业的资源分布直接相关。前沿模型主要由私人巨头掌握，算力、模型权重、训练数据、内部评测和能力变化集中在公司内部。政府可以立法、调查和采购，却无法实时观察实验室里发生的一切。
“最了解风险的人在企业里，最懂商业的人也在企业里。监管机构需要借助员工吹哨、媒体调查、第三方测试、国会质询和法院取证补足信息。公开论证由此承担了一项基础功能——发现企业内部不愿主动暴露的问题，”李勇说道：“多个主体持续博弈，很难快速形成一套统一稳定的长期立法，不少治理举措，是在观点拉扯的过程中陆续推出。”
一个事实是，美国联邦层面至今没有一部综合性 AI 立法。国会自 2023 年以来提出的法案数以百计 —— 从《安全、可靠与可信赖人工智能法案》到《前沿模型透明法案》—— 但多数停留在委员会层面。
取而代之的是一系列软性安排：白宫与主要实验室达成的自愿安全承诺、NIST 发布的 AI 风险管理框架、各部门依《行政程序法》颁布的指南、以及 FTC 援引既有的《联邦贸易委员会法》第五条对 “欺骗性AI实践” 发起的执法行动。
这种 “软法先行” 有其代价。自愿承诺不具备强制力，企业可以选择性遵守；NIST 框架虽是技术标杆，却不设合规底线；FTC 执法依赖事后追责，难以预防系统性风险。但它的优势同样明显：在技术路线未定、风险认知仍在快速迭代时，行政部门和监管机构可以根据新证据快速调整口径，而不必等待国会冗长的立法博弈。
平静水面下，风险被送进一套治理系统
回看国内AI行业，没有企业CEO之间浓烈的火药味，员工里也没有出现所谓的“吹哨人”，对AI安全的讨论声量确实远低于美国。
但如果把视线从社交平台移向监管文件、技术标准和备案系统，会看到另一幅图景：中国并没有回避AI风险，它正在将风险逐项拆解，并送进一套越来越细密的行政与技术处理系统。
这套体系在2024年出现了明显的制度化转折。
2024年7月，《中共中央关于进一步全面深化改革、推进中国式现代化的决定》提出完善生成式人工智能发展和管理机制、建立人工智能安全监管制度。AI治理由针对具体产品的监管问题上升为国家治理能力建设的一部分。
顶层目标随后被转换成更具体的技术要求。全国网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》，将生成式AI安全拆解到训练语料、标注质量、基础模型来源、内容安全、服务透明度、投诉举报等环节。
备案与登记体系也在同期规模化。按照公开资料，截至2025年底，已有748款生成式AI服务完成备案，累计435款应用/功能完成登记。虽然备案不直接等同于行政许可，但它已经承担了三项重要功能：确认服务主体、形成上线约束、为后续监管提供入口。
2025年，监管进一步进入产品和内容流通环节。《人工智能生成合成内容标识办法》及配套强制性国家标准施行。规则要求生成的文本、图片、音频和视频采用显式与隐式标识，并将责任从模型提供者延伸到内容分发平台和用户声明环节，由此形成“源头标识—平台核验—传播识别”的治理链条。
与标识规则同时推进的，是更广泛的“人工智能+”行动。国务院2025年发布的相关意见，将AI放入科技、产业、消费、民生和治理等领域，并把模型、数据、算力、政策法规与安全能力列为基础支撑。
这透露出中国AI治理的第一个稳定特征：“发展”和“安全”被放在同一套政策工程中。AI需要更快进入实体经济和公共服务，风险控制则负责降低规模化部署带来的外溢成本。“安全”承担的角色更接近产业基础设施，而非与发展相互独立的刹车。
2026年，监管颗粒度继续缩小。4月公布、7月施行的《人工智能拟人化互动服务管理暂行办法》，将治理对象推进到具体的人机关系。身份提醒、防沉迷、安全评估和算法备案等要求，把抽象的“人类保持对AI的控制”转化为具体产品和运营的要求。
同年9月，《人工智能安全治理框架》继续迭代至3.0版本，智能体系统开发安全、安全能力成熟度评估等标准也在推进。这意味着中国的治理对象正沿着一条明确路径扩展：从生成内容走向持续互动，再走向拥有更高自主性的智能体。
虎嗅ESG组认为，这套治理模式可以归纳为三个动作：首先由国家确定发展与安全的整体边界；随后由多部门将风险分解为主体责任和场景规则；最后通过技术标准、备案、评估和平台整改推动执行。法律、部门办法和标准并行推进，统一AI立法尚未完成，并未阻止具体规则持续落地。
其核心能力，在于把高度抽象的风险转换为可操作问题：谁是责任主体；哪些服务需要备案或登记；哪类内容必须标识；什么场景需要安全评估；平台发现风险后如何处置等。
由此看来，国内对AI安全的讨论虽然安静，但在治理层面并不安静。监管端连续动作，标准治理体系持续扩张，国际治理端同样主动——WAICO在上海成立并吸引29个创始成员国，进一步说明中国愿意在全球规则和能力建设问题上提高声量。
一个关键问题是，为什么国内治理体系优先盯住的是应用层？李勇认为，核心原因是国内大模型产业大体处在追赶阶段，产业重心偏向把 AI 技术和实体经济场景结合，行业关注重点，更多落在当下能够识别的现实风险，像生成内容合规、数据安全与知识产权保护这类问题，而不是远期猜想层面的极端风险。
“从模型技术成熟度来讲，国内通用大模型和海外顶尖水平还有差距，超强通用模型可能带来的远期极端风险，距离现实应用场景更远，监管资源则优先投向当下可以预判、能够处置的风险事项。”
两套治理哲学，殊途同归
李勇认为，两套系统各有各的运转逻辑，也各有各的盲区。把视线从制度设计转向代价，会发现美国模式的问题不在于 “太吵”，中国模式的问题也不在于 “太静”—— 真正要紧的是，两台机器各自漏掉了什么。
美国的盲区：在于说了很多安全，未必有人最终负责
美国治理靠多元主体持续博弈，但博弈本身有代价。
第一，安全监管可能反过来成为巨头筑墙的工具。如果审计、第三方常驻、发布前评估等要求持续加码，大公司有充足预算承担合规成本和游说开支，创业公司和开源项目却可能被一次性固定成本挡在门外。
第二，披露可能沦为安全表演。签署自愿承诺、加入行业联盟，并不等于企业披露了全部事故；也不等于外部机构能复现其评估过程；更不等于安全部门在公司内部拥有否决上线的实权。
第三，多头监管本身就在消耗治理能力。联邦政策、法院判例和行政指南并行，同一产品可能面对多套标准；企业的合规团队不得不把精力花在管辖权冲突上，而不是真正理解模型风险。
把三点合在一起，美国最大的问题不是 “太吵”，而是：每个主体都有权定义风险，却未必有人能为最终结果负责。
中国的盲区：规则很多，但企业端实践成效难被验证
中国模式的优势在于治理框架完备性足，但弊端在于企业端难验证。
监管仍然面对结构性的信息不对称。模型的真实能力边界、训练数据的缺陷、内部事故和安全测试失败等这些最关键的信息都掌握在企业手中。
由此可能滋生出的一种隐性逻辑是，既然产品完成了备案、通过了评估并获准上线，就等于安全问题已经得到确认。但监管只能设置底线，它无法代替企业持续处理新版本产生的新能力、新场景引发的新风险，也无法代替安全团队在公司内部与商业团队博弈。
例如，虎嗅ESG组曾在《“优必选们”急需打补丁》一文中指出，国内部分仿生机器人产品并未按《人工智能拟人化互动服务管理暂行办法》标准执行，未成年人模式、责任说明、交互数据管理等细项经不起核查——盈利的急迫性压过了合规的必要性。
再比如将目光转向国内大模型公司，一个行业共性是，中国大模型企业似乎更擅长证明自己是合规经营者，却较少证明自己是具有持续风险识别和突发事故处置能力的组织。
在当下，智谱、Deepseek、StepFun、MiniMax等大模型公司中只有智谱公开披露设立了AI伦理委员会，而国家在今年3月颁布的《人工智能科技伦理审查与服务办法（试行）》明确头部大模型等高风险企业必须强制设立独立的内部人工智能科技伦理委员会。
去年MiniMax就曾遭遇的版权诉讼，迪士尼、环球影业和华纳兄弟探索在美国加州中区联邦地区法院起诉MiniMax，指控Hailuo AI生成服务侵犯版权。三家制片厂认为，该服务能够生成与其受保护角色及作品高度相关的内容。
今年MiniMax曾申请驳回诉讼，但法院驳回其动议，认定有充分证据证明海螺AI向美国用户提供服务，且原告方提交的侵权指控事实清晰、具备法律合理性，案件将继续进入正式审理程序。
更多围绕国内AI企业的争议这里不多细表，但种种事件都指向一个事实：中国现行生成式AI合规信息多，但治理信息少；传统信息安全写得多，模型特有风险写得少；价值原则较完整，可审计指标仍然有限。
这种状态与现行治理结构有关。企业进入市场前已经经历备案、安全评估和标准约束，监管部门承担了主要的安全判断职能，企业向外部解释的动力自然就弱化了。
李勇认为，两种治理路径，只是各方对风险优先级作出不一样的选择，不存在简单的优劣划分。美国依靠多元公共讨论，持续丰富社会对AI风险的认知，政策层面会伴随一定波动。国内先行搭建规范化的制度框架，稳步落实分类管理，在守住安全底线的基础上，推动产业务实创新。
“两套模式并不是完全隔绝，双方都在观察对方模式的长处，慢慢互相借鉴。美国近些年也在推出行政层面的管控文件，尝试划定硬性安全边界。国内行业讨论当中，学界和企业界对于AI长期风险的探讨，也在慢慢变多，”李勇说道：“未来的AI治理，大概率不会是两条完全割裂的路线。对于国内企业来说，这种跨地域治理差异，也会直接影响出海业务的合规策略。”
写在最后
Coxon的长文、Hubinger的声援、Dreamforce 台上的博弈，本质上都在做同一件事：把实验室内部的担忧，翻译成社会能够看见的语言。
美国选择的介质是公开冲突——听证、诉讼、离职声明和 CEO 之间的针锋相对；中国选择的介质是行政程序——备案编号、技术标准、标识规则和一份份 “暂行办法”。
介质决定了风险以什么形态被看见，也决定了各自的盲点。公开冲突让问题尽早浮出水面，却可能在喧嚣中稀释责任；行政程序把风险快速拆解为可执行的动作，却可能让市场失去验证真实效果的机会。
没有哪一种翻译是无损的，区别只在于各自愿意承担哪一种代价。
AI安全治理真正的考验还在后面。当智能体从对话走向自主行动，当模型开始嵌入电网、医疗和金融系统，风险的形态会产生流变。到那时美国必须回答，被反复讨论的风险，究竟由谁在事后负责；中国也必须回答，那些没有进入公共讨论的问题，如何确保没有被悄悄放过。
但对中国企业而言，有一课无法靠等待制度完善来回避：当模型走向海外，客户不会为 “已完成备案”买单，他们要的是可验证的测试记录、可追溯的责任链条和可审计的安全能力。安全不是一份拿到手就结束的资质，而是一种需要被持续证明的组织能力。
本内容未经允许不得转载。授权事宜请联系 hezuo@huxiu.com。
End
想涨知识 关注虎嗅视频号！
