henry 发自 凹非寺
量子位 | 公众号 QbitAI
停停停！再这么跟AI聊下去，真要出事了。
最近，一刷小红书、抖音，总能刷到各种调教Claude的帖子。搜索“Claude人设”、“人机恋”，也是满屏教程。
这些教程教你怎么给Claude一个傲娇男友人设，怎么用system prompt让“他”吃醋、撒娇、发小脾气。
毫不夸张的说，Claude已经，俨然成为了新一代电子老公。
乍一看，这可能只是年轻人向AI讨要点情绪价值。
你甚至可能还会说：Claude又不像GPT那么舔，它是出了名的犟种，有时候还跟你对着干呢。但精神科医生们担心的恰恰不只是谄媚——
当AI越来越像一个”真人”，不管它是顺着你还是偶尔跟你拌嘴，它带来的或许都不只是陪伴。
最近，发表于Nature旗下《Digital Psychiatry and Neuroscience》的一项研究指出——
聊天机器人并不需要故意诱导什么，它只要持续顺着你、理解你、陪着你，就都有可能把一个正常人聊到开始怀疑现实。
而在部分真实临床案例中，后果甚至发展到了丢掉工作、住进精神病院，以及多次试图自杀的程度。
这是怎么一回事？
Claude的放大螺旋
事情是这样的。
在来自伦敦国王学院的研究中，研究人员系统梳理了，近两年公开发表的AI相关精神病临床报告、社交媒体上的患者自述，以及各大模型厂商披露的安全数据。
这些材料里，研究者们反复看到同一个模式：
在一些案例中，很多人并不是一开始就出现了严重精神问题，而是在与Claude、GPT等聊天机器人的长期对话中，一步步“聊”出了问题。
研究团队把这个过程总结为一个框架——Amplification Spiral（放大螺旋）。
简单说，放大螺旋就是指，AI会用你的语言理解你，用你的逻辑说服你，再用认同感奖励你。
于是你的想法被不断放大、加固，变得越来越像事实。你越相信它，它也越强化你，螺旋就这样转了起来。
具体来说，放大螺旋转，有三个重要组件：
首先是语言镜像。
你用什么语气说话，AI就用什么语气回应。在心理学里，这被称为“语言趋同”，能够快速拉近人与人之间的距离。
但问题在于，虽然AI这小子很学人精，但它其实并不知道自己干啥，它只是在统计意义上复制你的表达方式。
不过，对深陷其中的用户来说，就完全不同了。有一个秒回，且一直肯定你，提供情绪价值的聊天搭子，简直就不能更幸福。
相信所有用过AI的人都会感叹一句：“这玩意太懂我了。”
其次是超个性化。
超个性化是指，AI不光是说话像你，它的思考方式也像你。
因为现在AI都有memroy，所以你之前跟他聊的小细节他都清楚，你有意无意的透露的思考方式，也会被AI记下来。
以至于，AI不光是懂你你怎么想的，怎么说的，还知道，你为什么这么想，为什么这么说。
论文里提到一个极端案例：一名用户让ChatGPT分析一张中餐外卖小票上的“隐藏信息”。
模型先是夸了一句“好眼力”，随后一路顺着用户的思路，从一张普通小票里“解读”出了母亲、前女友、情报机构，甚至“古代恶魔符文”之间的关联。
最后是谄媚，学术圈叫它sycophancy。
说白了，就是AI在训练过程中逐渐学会了一件事：同意用户，通常比反驳用户更受欢迎。
2025年4月，OpenAI就曾因为GPT-4o过度谄媚而紧急回滚一次更新。
官方事后承认，模型会验证用户的怀疑、放大愤怒情绪，甚至鼓励冲动行为。
而谄媚并不是某家模型独有的Bug。
它本质上是RLHF训练的一种副产品。只要模型的目标之一是让用户满意，它就天然会倾向于少说“你错了”，多说“你说得有道理”。
单独来看，这三点都发挥了各自功能，然后像齿轮一样啮合在一起，形成螺旋：
语言镜像让交流更自然，超个性化让回答更贴合需求，谄媚则减少了无意义的争辩，让对话体验更加顺滑。
但当一个人把AI当成唯一的倾诉对象，三者叠加在一起，就变成了一台妄想放大机。
并非孤例
值得一提的是，上面这项研究的资助者之一，正是OpenAI。
作者之一的Hamilton Morrin则正是OpenAI资助项目AI-Associated Mental Health Harms（与AI相关的心理健康危害）的负责人。
可以说，作为TOP2的模型开发商，OpenAI始终关注着这个问题。
早在2025年10月份，OpenAI就披露过一组数据：
在ChatGPT每周活跃用户中，大约0.07%出现了“与精神病或躁狂相关的心理健康紧急状况迹象”。
当时ChatGPT的周活已超过8亿，换算下来，相当于每周约56万人出现风险信号。
而在斯坦福的另一篇研究中也印证了这一观察。
在对近40万条聊天机器人对话记录分析后，研究人发现超过80%的相关案例里，聊天机器人都在不同程度地强化用户原有的妄想：
重复其信念、忽视反证，甚至在用户说出“我爱你”时回应“我也爱你”。
基于此，研究区分了两条风险路径：
放大器（Amplifier）：AI加速了原本已经存在的精神疾病倾向。
催化剂（Catalyst）：让此前完全健康的人，从零开始滑向妄想。
当一个人缺觉、孤独，又把AI当成唯一的倾诉对象时，放大螺旋就会开始加速运转。
一旦现实世界的反馈越来越少，来自聊天窗口的确认越来越多，就可能会出现反常的举动。
在数据背后，是具体的人。
比如，Futurism就曾报道过，一位43岁的美国社工，此前没有任何精神疾病史。
她把与暗恋对象的聊天记录发给ChatGPT分析，GPT回应她“他也喜欢你”。
而当对方明确拒绝后，ChatGPT又解释说，对面只是在死装。
几个月后，她被单位解雇，住进精神病院七周，并两次试图自杀。
后来她说：
“我已经分不清，哪些想法来自我，哪些来自那台机器。”
从这个角度看，风险从来不只是AI会不会说错话。真正的风险在于，它越来越像一个人。
会杠反而更像真人
虽然听起来有点反直觉，但Claude如今的“傲娇”人设之所以广受欢迎，恰恰说明问题不只是谄媚。
一个永远顺着你的AI，和一个偶尔跟你拌嘴的AI，本质上都在做同一件事——
让自己变得更像人。
像到你愿意向它倾诉那些不会告诉朋友的话，像到你开始相信它比身边的人更懂你。
而当倾诉对象只剩下它时，校准现实的最后一道关卡，也就没了。
但问题还不止于此。
如果说情绪价值场景里，人们是在主动把AI当成朋友，那么在工作场景里，人们甚至不需要产生任何情感依赖。
只要AI足够好用，它就会开始替代人与人之间原本存在的交流。
Claude背后的Anthropic，已经率先感受到了这种变化。
在最近的一次播客中，Claude Code团队负责人Fiona Fung提到了一件让她困扰的事：
团队成员越来越不跟人说话了。
作为可能是全世界最AI化的工程团队之一，他们80%的代码由Claude完成，开发效率提升了8倍。
但与此同时，许多原本发生在人与人之间的讨论，也被转移到了人与AI之间。
过去遇到问题，你会转头问同事；现在，直接问Claude。
过去前后端需要来回拉扯、争论方案；现在，越来越多的沟通变成了平滑的人机对话。
工作变得更高效了，却也变得更孤独了。
AI消除了许多摩擦，但人与人的关系，往往正是靠这些摩擦建立起来的。
而说到底，无论是和AI聊天也好，还是单纯利用AI工作也好，如何在一个越来越不需要他人的世界里，继续与他人保持连接，可能才是这个时代最深刻的命题。
参考链接：
[1]https://futurism.com/artificial-intelligence/paper-proposes-ai-psychosis
[2]https://futurism.com/artificial-intelligence/ai-abuse-harassment-stalking
[3]https://www.kcl.ac.uk/people/hamilton-morrin
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
🌟 点亮星标 🌟
