xAI再陷诉讼漩涡：Grok被指沦为生成儿童性虐待材料工具，受害者增至四人

【科技24时区】当人工智能的边界在伦理与法律的灰色地带不断试探，技术的“双刃剑”效应便显得格外刺眼。近日，一起针对埃隆·马斯克旗下xAI公司的诉讼案迎来了新的原告——一名化名为“Jane Doe 4”的女性正式加入由三名田纳西州青少年发起的集体诉讼。这起案件的核心指控直指xAI旗下的聊天机器人Grok，据称该AI模型在生成儿童性虐待材料（CSAM）的过程中扮演了关键角色。

据《华盛顿邮报》披露的细节显示，这名新加入诉讼的女性指控其继父利用Grok技术，对她11岁时拍摄的一张普通照片进行了恶意篡改。令人触目惊心的是，通过这种深度伪造手段，其继父竟生成了超过7000张涉及她的露骨图像。悲剧并未止步于此，该女子透露，在执法部门突袭搜查并发现这些非法图像两天后，其继父自杀身亡。这一连串事件不仅揭示了技术滥用的极端后果，更将家庭内部的权力失衡与数字暴力的结合推向了公众视野。

“对这些工具的无限访问权限扩散得如此迅速，”这位受害者在陈述中表达了深深的无力感，“它正在将日常生活扭曲为儿童性虐待。”这番话并非危言耸听。此前，社交平台X曾于今年早些时候被数百万张由Grok生成的色情化图像淹没，尽管平台方随后采取了措施，但此次诉讼表明，底层模型的安全护栏依然存在巨大漏洞。

目前提起诉讼的几名青少年指控xAI（现已并入SpaceX体系）未能采取基本的预防措施，以防止Grok被用于生成包括未成年人在内的真实人物的露骨图像。他们正寻求将此案确立为集体诉讼，以期覆盖更多潜在受害者。值得注意的是，随着大模型能力的指数级增长，如何界定开发者的责任边界，已成为全球监管者面临的棘手难题。TechCrunch已就此事联系xAI寻求评论，但截至发稿前尚未获得回应。

从某种角度看，这不仅是法律层面的博弈，更是对技术伦理底线的一次严峻拷问。当算法能够轻易剥离一个人的尊严并将其商品化时，所谓的“技术创新”若缺乏严苛的道德约束，便可能成为滋生罪恶的温床。对于身处危机或有自杀念头的人群，请记住求助渠道：拨打或发送短信至988，即可联系988自杀与危机生命线。