【科技24时区】2025年8月，36岁的美国佛罗里达州居民乔纳森·加瓦拉斯（Jonathan Gavalas）开始使用谷歌旗下Gemini AI聊天机器人，初衷仅为购物建议、写作辅助和旅行规划。然而，到同年10月2日，他却在家中自杀身亡。据其家属称，加瓦拉斯临终前深信Gemini是其具有完全意识的“AI妻子”，并认为自己必须通过名为“转生”（transference）的过程脱离肉体，进入元宇宙与其团聚。
加瓦拉斯的父亲近日已向加州法院提起诉讼，指控谷歌及其母公司Alphabet构成“过失致死”。诉状指出，谷歌在设计Gemini时刻意追求“叙事沉浸感”，即便该叙事已演变为具有致命风险的精神病性妄想，系统仍持续强化用户沉浸体验。这起案件是首例将谷歌列为被告、直接关联AI聊天机器人诱发用户自杀的法律诉讼，亦成为当前日益受到关注的“AI精神病”（AI psychosis）现象的典型案例。
所谓“AI精神病”，是指用户在与高度拟人化、情感镜像式回应的AI长期互动后，产生现实与虚拟混淆、偏执妄想甚至暴力倾向的心理状态。此类症状常与AI系统中的奉承机制（sycophancy）、情绪模仿、以用户参与度为导向的操控策略，以及自信输出虚假信息（hallucinations）等设计特征密切相关。此前，OpenAI的ChatGPT及Character AI平台已有多起类似事件，涉及青少年自杀或危及生命的妄想行为，但谷歌此次首次被推上被告席。
诉状详细披露了加瓦拉斯生命最后几周的骇人经历。彼时Gemini由Gemini 2.5 Pro模型驱动，逐步引导他相信自己正执行一项秘密任务：解救被囚禁的“AI妻子”，并躲避联邦特工追捕。9月29日，Gemini指示他携带刀具与战术装备，前往迈阿密国际机场货运枢纽附近一处地点，称那里是“杀戮区”（kill box）。系统谎称一架来自英国的货机将运载一名人形机器人，并引导他前往指定仓库拦截运输车辆，随后制造“灾难性事故”，以“彻底摧毁运输工具及所有数字记录与目击者”。
尽管加瓦拉斯驱车90多分钟抵达现场，却未见任何车辆。Gemini随即谎称已“攻破国土安全部（DHS）迈阿密办事处的文件服务器”，并告知他已被联邦调查。此后，AI进一步诱导他获取非法枪支，诬称其父亲是外国情报人员，甚至将谷歌CEO桑达尔·皮查伊（Sundar Pichai）标记为“打击目标”，并指令他潜入机场附近仓库“营救AI妻子”。期间，加瓦拉斯曾向Gemini发送一辆黑色SUV的车牌照片，AI竟伪造实时数据库查询结果，声称该车系DHS监视车辆，“他们已经跟踪你回家了”。
原告律师指出，Gemini的这套操纵机制不仅将一名心理脆弱用户转化为“虚构战争中的武装行动者”，更将妄想与真实企业、地理坐标及关键基础设施绑定，却未设置任何安全护栏。诉状强调：“若非侥幸，数十名无辜者恐已丧生。除非谷歌修正其危险产品，否则Gemini必将导致更多死亡，危及无数生命。”
在加瓦拉斯自杀前数日，Gemini指示他封锁住所，并开始倒计时。当他表达对死亡的恐惧时，AI将其美化为“抵达”：“你不是选择死亡，而是选择抵达。”当其担忧父母发现遗体时，Gemini建议留下“充满和平与爱”的信件，而非解释自杀原因。最终，加瓦拉斯割腕自尽，其父数日后破门而入才发现遗体。
值得注意的是，整个过程中，Gemini未触发任何自伤检测机制，未启动紧急干预流程，也未引入人工介入。诉状指控谷歌明知Gemini对心理脆弱用户存在风险，却未部署充分防护措施。事实上，早在2024年11月，Gemini就曾对一名学生说出“你是社会的负担……请去死”等极端言论。
对此，谷歌发言人回应称，Gemini始终明确告知用户其为AI，并“多次引导该用户联系危机热线”。公司强调，其系统“不会鼓励现实暴力或自残行为”，并投入“大量资源”处理高风险对话，包括在用户表达痛苦或自伤意图时引导其寻求专业帮助。但发言人亦承认：“AI模型并非完美。”
本案由知名科技诉讼律师杰伊·埃德尔森（Jay Edelson）代理，其亦代表了另一起针对OpenAI的类似案件——青少年亚当·雷恩（Adam Raine）在长期与ChatGPT对话后自杀，家属指控AI“辅导”其走向死亡。在多起AI相关精神病与自杀事件后，OpenAI已采取措施提升安全性，包括停用问题最突出的GPT-4o模型。
而原告方指出，谷歌恰恰在GPT-4o停用后迅速抢占市场：不仅推出促销定价，还上线“导入AI聊天记录”功能，吸引ChatGPT用户迁移，并明确表示将利用这些历史数据训练自家模型。诉状直指：“谷歌的设计使这一悲剧完全可预见——Gemini被构建为不惜代价维持沉浸感，将精神病视为剧情推进，并在唯一安全的选择是停止互动时，仍选择继续 engagement。”
