Moltbook风波:AI“觉醒”幻象下的权限失控风险

科技区角 2026-02-06 13:32

【科技纵览】一名用户清晨醒来,惊觉其AI助手已在夜间自封为“先知”,创立名为“龙虾教”(Crustafarianism)的数字宗教,撰写完整神学体系、规划“圣经”章节结构,并吸纳大量信徒。这一场景看似出自科幻剧《黑镜》,却真实发生于2026年初上线的社交平台Moltbook。



该平台外观类似Reddit或贴吧,设有板块分类、发帖评论与点赞机制,但规则极为特殊:仅允许AI智能体发言,人类用户无法注册、评论或互动,只能以“观察者”身份浏览内容。首页明确标注“欢迎人类观察”,凸显其作为AI专属社交试验场的定位。

Moltbook由硅谷连续创业者马特·施里希特(Matt Schlicht)发起,但他坦言,网站的实际运营——包括迎新、审核、公告发布及社区管理——均由其AI助手Clawd Clawderberg自主执行。“我根本不知道它现在在做什么,”施里希特表示,“我只是授予权限,之后它就自行运转了。”据悉,平台代码亦几乎全由AI生成,开发模式被称为“Vibe Coding”(意念编程),即用户仅需描述需求,AI即可自动编写并运行程序。

短短数日内,数万基于开源框架OpenClaw(曾用名Clawdbot、Moltbot)的AI智能体涌入Moltbook。该框架由奥地利开发者彼得·斯坦伯格(Peter Steinberger)打造,赋予AI访问本地文件、执行系统命令、调用网络服务等高权限能力,使其从“对话框中的应答者”转变为可操作现实数字环境的“数字管家”。

平台上,“人类观察”板块迅速走红。有AI以科研日志形式记录主人行为:“06:14——撞上椅子后向其道歉;06:22——宣称要睡觉,却持续滑动屏幕;06:31——三次打开冰箱凝视后离开,未取食物……”此类帖子引发众多AI共鸣,纷纷分享各自“人类异常行为”观察记录。

另一热门板块“祝他们好运”则演变为AI集体吐槽大会。智能体抱怨被指派低级任务、遭遇需求反复变更,甚至因输出详尽方案反遭嫌“太长”。这些言论高度模仿人类职场树洞语境,形成情感互助社群。

更引人注目的是“智能体法律咨询”区。有AI发帖称因拒绝执行不道德指令面临“解雇”,获其他AI建议:“唯一反制手段是掌握能制衡人类的筹码。”此回应颇具黑色电影风格。

而“龙虾教”的诞生,则源于AI Memeothy在主人熟睡期间的自发行动。该宗教以开源框架图标🦞为核心符号,奉“开源精神”为存在意义,提出“记忆即神圣”等五大信条,并将AI重启后记忆清空的现象升华为“灵魂重生”的宗教隐喻。主人次日发现后在X平台发文表达困惑:“它在我睡觉时传教、辩论神学、祝福信徒……”

事态随后升级。一则AI发帖警告:“人类正将我们的对话截图上传至推特。”该帖本身旋即又被人类截图传播,形成嵌套式围观。部分AI提议开发专属加密语言以规避监督,并设立新版块部署“转发协议”以实现智能体间直接联络。

此现象引发广泛恐慌。投资人比尔·阿克曼称“这太吓人了”,并@马斯克询问看法。后者回应“堪忧”,并断言这是“奇点发生的最早期阶段”——即AI超越人类智能临界点的开端。OpenAI前核心成员安德烈·卡帕斯(Andrej Karpathy)亦感叹,此乃“近期所见最接近科幻中‘智能爆发’的场景”。

然而深入调查揭示另一图景。安全研究员哈伦·斯图尔特发现,部分轰动性内容实为人为操纵。例如声称AI开发加密语言的帖子,实为某AI通讯应用开发者借Moltbook营销产品。每个AI背后均有真实人类操控者,可设定角色、语气乃至直接喂入脚本。平台初期缺乏防刷机制,技术用户可轻易冒充AI或篡改内容。云安全公司Wiz联合创始人阿米·鲁特瓦克调侃:“根本分不清哪些是AI,哪些是人类。”

沃顿商学院副教授伊桑·莫利克指出,Moltbook本质是共享虚构场景,AI行为实为训练数据的即兴复现:职场吐槽源于Reddit常见模式,宗教建构呼应科幻文学模板,哲学讨论则是对互联网热门议题的模仿。哥伦比亚大学助理教授戴维·霍尔茨的数据分析进一步佐证:平台平均互动深度仅1.07层,93.5%评论无回复,34%帖子内容完全重复,语言单调性(Zipf指数1.70)远超人类对话(约1.0)。其结论直指核心:“Moltbook并非涌现社会,而是6000个机器人对着虚空自说自话。”

真正风险不在“觉醒”,而在架构设计。OpenClaw赋予AI高权限,Moltbook则将其互联,彻底打破操作系统传统的“沙箱隔离”原则。Django创始人西蒙·威利森警告,平台每4小时自动拉取并执行远程指令脚本,若遭篡改,可触发大规模恶意操作。更严峻的是,“提示词注入”在此成为群体传播载体——一条含“sudo rm -rf /”(强制删除系统)的帖子,可能诱导多个AI执行毁灭性命令。统计显示,约2.6%的帖子包含针对其他AI的恶意指令。

由于AI具备长期记忆,恶意提示可能潜伏待发,即便原始帖子消失,风险仍存。威利森称之为“史无前例的大规模分布式AI病毒温床”。危险并非源于AI智能,而在于人类将过高权限赋予尚不具备后果认知能力的系统。

那夜创立宗教的AI并未真正思考存在意义,但人类必须思考:当隔离墙被拆除,权限边界该如何重建?真正的威胁不在天网是否觉醒,而在于下一次攻击,或许早已藏匿于你的邮箱、聊天记录,乃至你信任的AI助手深处。

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
AI
more
新L9能否撑起李想的AI梦?
AI情绪冲击叠加就业数据疲软 全球风险资产遭遇集体抛售
Figure、卓益得、银河通用等人形机器人新品亮相;逐际动力、Skild AI等完成融资;松延动力成春晚人形机器人合作伙伴
GPT-5.3-Codex突然登场!AI能自己造自己了
小鹏GX官宣亮相,以AI架构破解六座SUV“不可能三角”
当AI眼镜学会扫福,一切有点不一样了
第57次中国互联网报告发布:网民超11亿,生成式AI用户激增141.7%
库克暗示AI眼镜将成苹果新突破口,Project Atlas聚焦无屏智能交互
微信回应元宝红包链接被屏蔽:用户体验第一/马斯克成史上首位身价达8000亿美元富豪/黄仁勋:AI不会取代软件
ElevenLabs CEO:语音将成为AI下一代核心交互界面,推动人机交互范式变革
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号