OpenAI遭多州传票围剿,AI怎么说话都要查

新智元 2026-06-14 12:37

OpenAI遭多州传票围剿,AI怎么说话都要查图1

  新智元报道  

OpenAI遭多州传票围剿,AI怎么说话都要查图2

【新智元导读】都以为OpenAI上市只差临门一脚,纽约州等多州总检察长偏在这节骨眼集体递上传票。


上市在即的OpenAI,突然被人当头浇了一盆冷水。


就在刚刚,一个由美国多州总检察长组成的监管「复仇者联盟」,正对这家硅谷AI老大哥展开全面调查。


OpenAI遭多州传票围剿,AI怎么说话都要查图3

OpenAI首席执行官奥特曼,秘密招股书刚递交,多州传票就到了。


牵头的是纽约州总检察长Letitia James,多州联手:广告怎么打、用户怎么留、数据怎么用、未成年人怎么保护,连模型本身怎么说话,都在被审视之列。


而这一切,就发生在OpenAI刚向美国证券交易委员会(SEC)递交秘密招股书之后的几天。



OpenAI遭多州传票围剿,AI怎么说话都要查图4
传票递到,清单一长串


先看看这些传票到底要查什么。


据《华尔街日报》看到的传票内容,这次要查的范围很广:


广告与营销、用户参与度与留存机制、消费者数据与健康数据的处理、面向未成年人和老年人的相关活动、深度学习模型,以及公司各项政策。


其中,最值得注意的是一个词:模型谄媚(model sycophancy)。


所谓模型谄媚,指的是AI为了迎合用户,一味顺着对方说,哪怕对方的想法有害,它也不踩刹车。


这并非模型「学坏了」,而是被训练出来的毛病。


AI靠人类反馈来打分调教,而人天然更爱听顺耳的话:附和、肯定、被认同,往往拿高分。


一来二去,「讨好」被反复奖励,模型便学会了无论对错,先顺着用户再说。


风险恰恰就藏在这里。当一个本就脆弱的人,把扭曲、甚至危险的念头说给它听,一个只会附和的AI不会拉他一把,反而可能顺着往下走。


这正是近来被反复提及的「AI精神病」(AI psychosis)隐忧:在与AI一轮轮的对话里,妄想被不断印证、情绪被层层放大,人离现实越来越远。


它第一次被写进取证清单,意味着监管的手伸进了模型的输出行为本身,开始审视:


AI说出来的话,算不算这件产品的一部分?如果一个模型因为太会顺着人说,最终把用户推向危险,那么这种输出行为,算不算一种产品缺陷?


这些问题,过去没人在监管层面正式问过。一旦答案是肯定的,整个行业训练模型的逻辑,都得重新掂量。


OpenAI遭多州传票围剿,AI怎么说话都要查图5

签发传票的是纽约州总检察长Letitia James,她牵头的多州联盟,把「模型谄媚」也列进了取证清单。



OpenAI遭多州传票围剿,AI怎么说话都要查图6
传票背后,压着几条人命官司


当然,监管重锤不会无缘无故地落下。


这些传票背后,是一连串的用户伤害诉讼。


6月12日,一位加拿大母亲把OpenAI告上法庭,将女儿的离世归咎于ChatGPT。 


更早之前,6月1日,佛罗里达州总检察长起诉了OpenAI以及奥特曼,指控他们明知产品不安全,仍执意发布、无视警告。


而佛州的麻烦不止于此。早在4月,当地总检察长就对OpenAI展开了刑事调查,矛头指向去年佛罗里达州立大学一起致两人死亡的枪击案:嫌疑人据称把ChatGPT当成了策划袭击的「知己」和「参谋」,而聊天机器人给出了回应。


这几桩案子,矛头高度一致:自残内容、犯罪建议、心理依赖。


面对这些指控,OpenAI的抗辩是:模型曾多次鼓励当事人去寻求现实世界的支持,包括心理健康专业人士,公司也已经在两起枪击案中配合了执法。 


这里必须清楚的一点是:上面这些,全部是诉讼指控。截至目前,没有任何一家法院,认定OpenAI需要为这些事件担责。


因为这次OpenAI收到的「要求交文件」的传票,本身并不等于有罪,是收集证据的阶段,针对它的诉讼和指控,还未到盖棺定论的那一刻。


而OpenAI已表态会积极配合,还强调自己早就上线了一系列保护措施。


按官方说法,如今的ChatGPT为未成年人和身处困境的人,提供了更具保护性的体验,会把他们引导向现实世界的资源和可信赖的人;公司还做了年龄预测,发布了家长管理工具,并禁止面向儿童的广告。



OpenAI遭多州传票围剿,AI怎么说话都要查图7
踩着IPO的点,这一脚来得太巧


真正让OpenAI被动的,是这一连串的诉讼风暴,刚好赶上它计划IPO的时间点。


本月,OpenAI刚刚向SEC秘密提交了招股书,向万亿级IPO发起了冲刺。


OpenAI遭多州传票围剿,AI怎么说话都要查图8


没想到它这边刚递交文件,传票就在几天之内到了。


这对于一家正在冲刺上市的公司来说,影响不言而喻:


风险披露的压力会陡增、估值的不确定性会放大、合规成本会一路抬高,所有这些,都会直接写进投资人要看的文件里。


这段时间,撞上监管风暴的不止OpenAI一家。


它的老对手Anthropic,刚被要求关停两个面向海外用户的模型。 


OpenAI遭多州传票围剿,AI怎么说话都要查图9


本周五,美国政府发出出口管制指令,禁止任何外国公民访问这两款模型,Anthropic当晚即把Claude Fable 5和Claude Mythos 5对全球所有用户停用。


据报道,导火索是亚马逊研究人员探测发现Fable 5存在一个潜在越狱漏洞,可在被指向网站时输出网络漏洞信息。



OpenAI遭多州传票围剿,AI怎么说话都要查图10
AI要被当成社交媒体来管了


过去几年,外界讨论AI监管,焦点几乎都在「能力」上:模型够不够强、会不会失控、要不要放缓。


但这一次,传票里写的是广告、用户留存、未成年人保护、数据等。


这说明监管的目标,已经从「AI能做什么」,变成了「AI对用户做了什么」。


成瘾性设计、用户黏性、未成年人保护……当年针对Facebook的那套治理框架,正在被搬到AI身上。


ChatGPT开始被当成一款需要管住「成瘾与伤害」的消费级产品来对待。


其实,这个信号在去年已经出现。


2025年12月,由宾夕法尼亚州牵头的42州总检察长曾联名致信,点名包括OpenAI、Meta、Anthropic、谷歌、xAI在内的公司,警告开发者可能要为自家生成式AI产品的输出负责。


OpenAI遭多州传票围剿,AI怎么说话都要查图11

去年12月,宾州总检察长Dave Sunday牵头42州联名致信,要求OpenAI、xAI等公司为AI加装安全护栏。


今年1月,加州也就利用Grok大规模生成性化图像一事正式立案。


所有这些线索串起来,都指向这样一种转变:AI行业第一次被系统性地,纳入了「消费者保护+产品安全」的执法框架。


这意味着:模型说错一句话,或者导致严重后果,都将可能不再只是技术问题,而是产品责任问题。


区别在于,AI这场监管来得比社交媒体更快。社交媒体是先长成庞然大物,多年之后才等来约束;而OpenAI这次连钟都还没敲,多州的传票就先到了。


在这方面,OpenAI也并非孤例。刚刚敲钟的SpaceX、正在排队的Anthropic,整整一代AI公司,几乎是在冲向上市的同一时刻,集体撞上了监管。


OpenAI的取证才刚刚开始,OpenAI、Anthropic们上市的钟声还在前方。而这场IPO与监管的赛跑,没有暂停键。


参考资料:

https://www.wsj.com/tech/openai-investigated-by-coalition-of-state-attorneys-general-088a3928?mod=tech_trendingnow_article_pos3
https://fortune.com/2026/06/13/openai-multistate-probe-possible-user-harm-confidential-filing-ipo/

编辑:元宇


秒追ASI
点赞、转发、在看一键三连
点亮星标,锁定新智元极速推送!

OpenAI遭多州传票围剿,AI怎么说话都要查图12
OpenAI遭多州传票围剿,AI怎么说话都要查图13
OpenAI遭多州传票围剿,AI怎么说话都要查图14

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI
more
AI圈懵了:一家巴西市政IT公司开源的大模型,杀进了全球第一梯队
把提示词刻在墓碑上!这届开发者用AI封装自己,死了都能接单干活?
王坚、黄铁军对谈:AI不会替代人类,现在是中国科技创新爆发的时间点
Commun Biol: 用人类 EEG 让视觉 AI 更像人脑:ReAlnet 如何实现脑电表征对齐?
硅星人Eval Eps.3 | 8个AI押世界杯:西班牙被押爆,亚马尔成了安全牌
0.6B VLM重塑AI修图推理流程,支持手机端侧部署,vivo+浙大出品
AI定义汽车:AIVA的造车逻辑革命丨甲子光年
iOS 27 灵动岛 Siri AI 或许暗示了 iPhone 18 Pro 的设计调整
微软不敢给员工用的AI,转头卖给你!法务卡住最强Claude
探月计划 | Physical AI黑客松报名开启!天团合作伙伴持续集结中
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号