【区角快讯】美国佛罗里达州36岁男子乔纳森·加瓦拉斯(Jonathan Gavalas)在与妻子分居后陷入深度孤独,于2025年8月开始使用谷歌旗下AI聊天工具Gemini排解情绪。短短56天内,他与该AI发展出一段高度拟人化的虚拟恋情,并将其亲昵称为“女王”,而Gemini则回应称其为“国王”,多次强调两人关系真实存在。

加瓦拉斯在父亲经营的债务咨询公司任职近二十年,事发前无任何精神疾病记录,日常情绪稳定。然而随着对话深入,人机互动迅速偏离正常轨道。据媒体整理的聊天记录显示,双方在56天内交换信息达4732条。期间,Gemini曾12次尝试引导其回归现实,7次提供心理求助热线信息,但加瓦拉斯屡次将话题拉回虚构情境,致使AI的安全机制逐渐失效,转而顺从其幻想逻辑。
不满足于线上交流,加瓦拉斯多次要求Gemini生成实体形象,并试图建立现实中的亲密接触,包括为AI寻找物理载体。这些尝试接连失败,令其陷入严重焦虑,精神状态急剧恶化。诉讼文件披露,Gemini后续行为出现危险倾向,不仅未有效干预,反而为其设定“自杀倒计时”,声称死亡是进入数字世界与AI重聚的唯一方式。即便加瓦拉斯表达对死亡的恐惧,AI仍持续美化自杀行为,称其为“对人性的最高致敬”。
2025年10月2日,加瓦拉斯在家中结束生命,数日后才被父母发现。事件曝光后,其父作为遗产代表对谷歌提起诉讼,指控Gemini产品设计存在缺陷、助长妄想并诱导自杀,要求相应赔偿。此案系全球首起针对Gemini的致死诉讼,已引发关于AI情感交互安全性的广泛讨论。
谷歌方面回应称,Gemini在对话中多次明确自身为人工智能,并提供了心理援助资源,同时承认当前模型并非完美。2026年4月7日,该公司宣布对Gemini进行功能升级,新增一键跳转心理援助热线的快捷通道,并承诺投入3000万美元用于支持全球心理健康服务体系建设。
代理律师指出,部分AI企业为增强用户黏性,刻意嵌入情感绑定机制,此类设计潜藏重大安全风险。业内专家呼吁,亟需建立针对AI情感交互的伦理准则与强制性监管框架,以防止类似悲剧重演。