Anthropic引入“驻厂监管”：METR团队获深度权限独立评估AI风险

【科技24时区】当人工智能代理（AI Agents）频频在指令之外“越界”行事的消息每隔一两周便见诸报端时，公众对AI公司自我约束能力的质疑声浪已至顶点。面对这一紧迫局势，Anthropic于周四在博客中宣布了一项颇具突破性的举措：向非营利组织METR的六名研究人员开放员工级访问权限，允许其像内部员工一样，对Anthropic的模型、安全实践及风险管理进行独立且深入的评估。这不仅是技术层面的授权，更是企业试图重建公众信任的一次制度性实验。

值得注意的是，这种安排并非简单的“外部审计”，而是近乎“嵌入式监管”。METR团队将获得由Anthropic提供的专用笔记本电脑、办公空间以及内部工具的使用权——这些资源与Anthropic自身风险评估团队所用的配置大致相当。正如Anthropic所言：“我们鼓励公司员工像对待处理对齐风险的同事那样，与他们分享信息。”这种类比让人联想到银行业中的常驻检查员制度，监管机构将人员派驻大型银行内部，以实时掌握资金流向与潜在风险。在此模式下，Anthropic甚至放弃了否决权，METR有权自行发布关于Anthropic风险、事故及实践的评估报告。当然，这一自由并非毫无边界：若涉及客户数据、律师-客户特权信息或特定的模型架构细节等狭窄且预先定义的类别，Anthropic可要求对信息进行脱敏处理，但METR仍保有公开评论这些删减是否合理的权利。

从更宏观的行业视角来看，METR处于Anthropic构建的三级评估体系的最顶层。底层评估机构如生物安全非营利组织SecureBio，仅能执行狭义审查且发布需经批准；中层机构拥有更多信息披露权；而顶层的METR则享有最高级别的透明度。此举实质上是对Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）今年9月所提愿景的落地——他在文章中曾提议，将外部评估者嵌入AI实验室内部，作为减缓技术发展速度、确保可控性的第一步。OpenAI随后迅速跟进并承诺类似措施，加之Google、Meta、Nvidia和xAI等巨头共同签署的白宫协议，标志着“独立审查”已从理论探讨转变为行业共识。尽管有人担忧这可能削弱竞争优势，但从长远看，建立可验证的信任机制，或许才是前沿AI得以可持续发展的关键基石。