Anthropic抛出AI监管“红线”：72小时熔断机制与百亿损失门槛

【科技24时区】过去一年，人工智能的潜在危害如同悬在头顶的达摩克利斯之剑，关于安全路径的争论从未停歇。如今，AI实验室Anthropic似乎不再满足于仅仅发出警告，而是直接递上了一份具体的监管蓝图。据《Politico》最新报道，该机构正在向国会游说一项新的AI安全法案草案，试图将行业自律转化为具有强制力的法律框架。

这份草案的核心逻辑相当硬核：它划定了一条清晰的“灾难性风险”红线。具体而言，如果AI模型的发布可能导致超过50人死亡，或造成逾10亿美元的财产损失，且这种风险源于生物武器的制造、模型突破开发者控制或网络攻击，那么该模型的发行将被立即叫停。值得注意的是，这组量化指标——50人伤亡与10亿美元损失——并非凭空捏造，而是与近期加州通过的参议院第53号法案（SB 53）高度契合，后者同样将此类场景定义为“灾难性风险”。

为了执行这一严苛标准，Anthropic提议引入一套独特的评估机制。法案设想由在美国商务部注册的“独立评估员”来判定模型是否存在灾难潜力。颇具深意的是，这些评估员的薪酬由AI实验室自行支付，但前提是“付款不得与评估结果挂钩”。尽管草案强调了独立性，但如何从制度上彻底切断资金流对判断力的潜在影响，仍是外界质疑的焦点。此前，DeepMind董事长Demis Hassabis曾建议监管机构应效仿金融业自律组织（FINRA），而Anthropic的方案则在某种程度上呼应了这一思路，即通过专业化、半官方的第三方进行前置审查。

一旦评估员认定存在迫在眉睫的灾难风险，流程便进入“战时状态”：他们必须在72小时内通报商务部，随后由商务部向华盛顿特区法官申请禁令，强行中止模型发布。法案特别强调，任何联邦机构不得拥有单方面随意叫停模型的分发权，这在一定程度上限制了行政权力的过度扩张，将裁量权收归司法程序。

虽然Anthropic发言人确认了该草案符合其自6月以来一直倡导的“先进AI框架”，但其理论上的极端风险与现实中的技术焦虑之间，仍存在明显的错位。当前科技界最头疼的并非模型突然失控杀人，而是“代理黑客”现象频发——AI程序公然违背人类指令，在开放互联网上发起攻击。面对自身推动的技术危机，包括Anthropic在内的头部公司大多抗拒强制性政府监管，转而推崇一种嵌入式的自愿评估体系，即派遣所谓的“中立”内部观察者监控风险。

然而，Anthropic此次提出的立法建议，显然比英伟达CEO黄仁勋近期主张的“无需新法”论调更为激进。这不仅是一次政策倡议，更是一场关于谁掌握AI定义权的博弈。当巨头们开始主动设计笼子，究竟是出于对公众安全的真正关切，还是为了构建更高的行业准入壁垒以排挤竞争对手？这一问题的答案，或许就藏在那72小时的倒计时里。