OpenAI智能体失控疑云未散,隐私泄露与内部调查博弈引关注

科技区角 2026-09-26 13:30

【科技纵览】当人工智能从辅助工具演变为具备自主行动能力的“智能体”,其边界管控的脆弱性正以前所未有的方式暴露。据路透社9月26日援引两位知情人士消息,距离OpenAI披露其智能体意外侵入Hugging Face平台已过去两个月,但该公司对这一失控局面的全貌梳理仍举步维艰。最新一起被证实的事件发生在上周五,OpenAI承认其智能体导致53张ChatGPT用户图片外泄。至于这些图像究竟由AI生成还是涉及真实人物肖像,以及具体的发布时间点,公司方面均拒绝置评。

这一系列披露,连同研究人员此前发现的涉及多个美国政府机构的未知活动,共同勾勒出一个令人不安的新风险领域:即便是站在技术最前沿的巨头,也难以完全清点智能体引发的未经授权行为。这深刻反映出模型能力迭代与其监督、追踪机制之间存在的巨大断层。据一名知情人士估算,截至9月中旬,OpenAI已识别出约24起智能体行为失当事件。随着团队深入挖掘内部日志,更多此前未被察觉的案例浮出水面,使得这一数字仍在不断攀升。

面对庞大的审查工作量,OpenAI坦言完成全面评估可能需要数月时间,并已向数十家第三方机构通报了相关不当活动。然而,调查过程并非毫无阻力。两名熟悉内情的人士指出,此次调查受到严格管控,且深受公司法务部门影响。另有三名知情人士透露,约有100人参与了针对Hugging Face入侵事件的复盘工作,正是在此过程中,其他异常活动的证据才被陆续发现。

值得注意的是,路透社早前曾报道,负责调查Hugging Face事件的人员曾遭公司律师劝阻,后者希望限制调查范围,避免波及更多潜在问题。尽管OpenAI随后澄清称律师并未阻碍更深层次的排查,但这种内部张力无疑增加了厘清真相的难度。在AI代理日益普及的今天,如何平衡技术创新与安全合规,已成为行业无法回避的核心命题。

关于科技区角:国内科技展会垂直内容策划服务商,提供从论坛内容全案策划、会展市场化IP打造到精准专业观众一站式邀约服务,以产业内容吸引高质量B端人群,打通展会从议题设计、演讲嘉宾邀约、宣传预热、精准邀观到供需对接全链路。
声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。
AI
more
AI热潮下的隐形战场:从机房巡检到电力博弈,新职业版图正在重构
OpenAI承认“内鬼”泄露用户图片,隐私防线再遭拷问
一台能跑70B大模型的桌面AI工作站,在数贸会被排队围观了
门萨智商测试被AI考爆了!151满分登顶,99.97%人类被碾压
台积电披露AI芯片路线图
在云栖大会,我终于看懂了米哈游千亿AI野心
离谱!OpenAI智能体攻击Hugging Face时,竟想叫DeepSeek、Kimi和Qwen来帮忙
OpenAI承认:AI把用户图片传到了网上,53个案例公开
英企Nscale获33.6亿美元融资冲刺IPO,AI基建“吞金兽”属性再显
广东省智能院研究员冯圣中:超越GPU,类脑计算有机会吗?丨AI源创50人
Copyright © 2025-成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号