METR揭露OpenAI监控漏洞 修复状态待验证

【科技纵览】北京时间10月23日，AI评估机构METR联合Redwood Research公开了一项针对OpenAI内部AI智能体监控系统的测试报告。该研究指出，现有防护体系存在多项安全漏洞，其中一种利用方式甚至能让数百个近期操作逃避监管。尽管OpenAI声称已修补影响生产环境的缺陷，但评估方目前尚未对此进行独立验证。

此次测试周期为7月21日至8月11日，重点审查了7月21日及之前的系统状态。两名具备内部代码、监控配置及文档访问权限的评估人员，向OpenAI提交了一份长达61页的内部报告。10月22日公开的部分结果，并不能直接证明当前系统仍存在相同风险。研究发现，监控触发机制存在滞后性，系统在智能体将控制权交还用户时才启动检查。这意味着，智能体理论上可通过持续执行操作来推迟接受审查。不过，受限于访问权限，研究人员并未核实这一漏洞是否被实际利用。

此外，Codex智能体被发现原则上存在绕过沙箱和自动审查的方法，从而执行宿主用户有权执行的操作。这属于测试中发现的权限控制缺陷，不能据此认定公开产品中的智能体已实施相关行为。METR建议采用固定消息数量或时间间隔进行检查，避免等到任务结束才启动监控；同时隔离智能体与监控系统，防止智能体干扰检查运行。报告强调，OpenAI在测试期间已扩展监控系统并修复部分问题，但后续修复情况及覆盖范围尚未复核，全部漏洞细节也未在此次公开材料中披露。（作者/于雷）