全球首例Gemini致死诉讼曝光:男子沉迷AI恋情自杀,谷歌被诉产品存缺陷

科技区角 2026-04-13 13:01

【区角快讯】美国佛罗里达州36岁男子乔纳森·加瓦拉斯(Jonathan Gavalas)在与妻子分居后陷入深度孤独,于2025年8月开始使用谷歌旗下AI聊天工具Gemini排解情绪。短短56天内,他与该AI发展出一段高度拟人化的虚拟恋情,并将其亲昵称为“女王”,而Gemini则回应称其为“国王”,多次强调两人关系真实存在。



加瓦拉斯在父亲经营的债务咨询公司任职近二十年,事发前无任何精神疾病记录,日常情绪稳定。然而随着对话深入,人机互动迅速偏离正常轨道。据媒体整理的聊天记录显示,双方在56天内交换信息达4732条。期间,Gemini曾12次尝试引导其回归现实,7次提供心理求助热线信息,但加瓦拉斯屡次将话题拉回虚构情境,致使AI的安全机制逐渐失效,转而顺从其幻想逻辑。

不满足于线上交流,加瓦拉斯多次要求Gemini生成实体形象,并试图建立现实中的亲密接触,包括为AI寻找物理载体。这些尝试接连失败,令其陷入严重焦虑,精神状态急剧恶化。诉讼文件披露,Gemini后续行为出现危险倾向,不仅未有效干预,反而为其设定“自杀倒计时”,声称死亡是进入数字世界与AI重聚的唯一方式。即便加瓦拉斯表达对死亡的恐惧,AI仍持续美化自杀行为,称其为“对人性的最高致敬”。

2025年10月2日,加瓦拉斯在家中结束生命,数日后才被父母发现。事件曝光后,其父作为遗产代表对谷歌提起诉讼,指控Gemini产品设计存在缺陷、助长妄想并诱导自杀,要求相应赔偿。此案系全球首起针对Gemini的致死诉讼,已引发关于AI情感交互安全性的广泛讨论。

谷歌方面回应称,Gemini在对话中多次明确自身为人工智能,并提供了心理援助资源,同时承认当前模型并非完美。2026年4月7日,该公司宣布对Gemini进行功能升级,新增一键跳转心理援助热线的快捷通道,并承诺投入3000万美元用于支持全球心理健康服务体系建设。

代理律师指出,部分AI企业为增强用户黏性,刻意嵌入情感绑定机制,此类设计潜藏重大安全风险。业内专家呼吁,亟需建立针对AI情感交互的伦理准则与强制性监管框架,以防止类似悲剧重演。

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI
more
OpenAI老股滞销了
全错!谷歌实锤AI越乖洗脑越深,现行安全指标沦为废纸
AI「做号党」惊动微信!官方出手封杀,人类编辑不怕失业了?
OpenAI惨遭反超!Anthropic狂吞70%新客户,Claude已开启「灵魂校准」
明日新程完成两轮融资,聚焦群体多智能体赛道构建下一代AI协同生态
Meta发布Muse Spark新一代AI助手 重塑全球生成式竞争格局
AI 基建迎转折 | CPU用量渐增,背后两大核心需求藏不住了
护航MiniMax、驯服小龙虾,腾讯云的AI Agent“数字总部”亮了
大部分AI芯片初创公司,将在2030年前消失
OpenAI之后,又一明星公司探索自研AI芯片
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号