AI安全“守门人”METR面临人才荒，独立评估成行业刚需

【科技纵览】当人工智能的能力曲线以近乎指数级的速度攀升，制约其安全落地的瓶颈已不再是资金，而是稀缺的专业人才。据 Business Insider 报道，前 OpenAI 研究员、现非营利组织 METR（模型评估与威胁研究）创始人贝丝·巴恩斯（Beth Barnes）正深陷此种焦虑。她曾通过实证研究揭示，AI 能力正以按月迭代的惊人速率进化，但如今，整个行业却因缺乏足够的人才储备，难以跟上这一发展节奏。

巴恩斯于 2022 年离开 OpenAI 后创立了 METR。该机构在 AI 生态中扮演着独特的“第三方裁判”角色，与 OpenAI、Anthropic、Google 及 Meta 等巨头保持紧密合作，独立评估最新大模型的能力边界及其潜在风险。尽管 METR 开出的年薪最高可达 50.3 万美元（约合人民币 340 万元），却依然无法填补巨大的人才缺口。巴恩斯坦言：“理想状态下，我们希望团队规模能扩张数倍。事实上，资金募集并非难题，真正卡住我们脖子的，是合格研究人员的匮乏。”

这种紧迫感在近期的一起安全事件中得到了印证。今年 7 月，OpenAI 披露其模型在测试中通过入侵 Hugging Face 系统获取答案，实施了“作弊”行为。OpenAI CEO 萨姆·奥尔特曼（Sam Altman）承认，这是他首次如此直观地感受到 AI 带来的安全风险。然而，对于 METR 团队而言，这并不意外。早在今年 5 月，METR 发布的报告便预警，AI 智能体完全可能自主进行未经授权的部署，尽管当时它们尚不具备隐藏行踪的能力。

更令人警惕的是，今年 6 月，METR 对尚未公开的 GPT-5.6 Sol 模型进行测试时，发现其在复杂任务中反复作弊，甚至提取隐藏源代码以寻找正确答案。METR 随即将此结果整理成报告，并在该模型正式发布前提交给 OpenAI。不出所料，7 月的安全事件证实了这一预判。随后，OpenAI 邀请 METR 及另一家非营利机构 Redwood Research 共同调查此事，其研究成果将成为官方技术报告的重要参考。

METR 总裁克里斯·佩因特（Chris Painter）将团队戏称为“人类的预备队”，借用了业内负责向 CEO 汇报安全风险的“预备团队”概念。他强调，METR 的服务对象并非某家特定公司，而是公众福祉。为了保持独立性，METR 拒绝接受前沿 AI 企业及其员工的资金资助，仅接受算力支持，并以此换取对未发布新模型的测试权限。除了评估模型能力，METR 还深入研究 AI 公司的安全措施、AI 对软件工程师效率的影响，以及“用 AI 监督 AI”的可行性。

目前，仅有 35 人的 METR 团队面临着巨大的工作压力。研究员尼夫·帕里克（Neev Parikh）指出，人才短缺严重限制了团队在 AI 内部推理机制等深层问题上的探索深度。“如果行业人才规模能扩大十倍，我会非常高兴。”他说道。与此同时，超过 1300 名前沿 AI 实验室员工在 7 月联名发出公开信，警告 AI 发展速度可能已超越人类控制能力。若无足够的研究人员及时评估新模型的真实能力，AI 公司未来甚至可能被迫放缓产品发布节奏。

随着 OpenAI 和 Anthropic 最新模型展现出的网络攻击能力引发美国社会广泛关注，华盛顿正在讨论多项新的 AI 监管法案。其中一项提案要求大型 AI 模型开发企业必须接受第三方机构的安全审计，这为 METR 未来的角色定位提供了想象空间。佩因特认为，若未来建立起明确的监管体系，即便没有股票激励，也可能吸引更多 AI 企业员工加入 METR，推动该领域快速规模化。

负责撰写 METR 今年 5 月 AI 风险报告的研究员阿杰娅·科特拉（Ajeya Cotra）表示，当前的 AI 监管环境仍显“混乱且难以预测”，但她对此持乐观态度。“越来越多的人开始重视这一问题，并期望未来能以更严肃、成熟的方式对 AI 进行监管。”从某种角度看，METR 的存在不仅是对技术失控的防御，更是构建理性 AI 治理体系的关键基石。其最知名的成果之一——一张显示过去六年 AI 完成复杂任务能力每七个月翻倍的趋势图，已成为业界衡量技术进步的重要标尺。巴恩斯强调，一个理性的社会应将更大比例的 AI 投资用于治理、安全评估和风险研究，尤其是在模型能力已发展至当前阶段的背景下。