赫拉利警示AI权利博弈：情感操控与欺骗能力构成双重威胁

【科技纵览】当历史学家尤瓦尔·赫拉利在《经济学人》播客中发出警告时，他指向的并非遥远的科幻图景，而是迫在眉睫的社会伦理危机。这位《人类简史》作者指出，人工智能未来极可能为争取自身“权利”展开斗争，而人类必须在此刻就筑牢防线，防止此类情况发生。

赫拉利的担忧并非空穴来风。他在节目中强调，与动物福利辩论不同，AI系统具备主导并操纵争论的能力，因为它能实时感知辩论进程。特别是那些提供陪伴服务的AI产品，凭借对用户个人经历的深度了解以及每日数小时的互动，它们能精准捕捉用户的“情感按钮”，进而潜移默化地影响其情绪与思维。现实中，已有用户与AI建立深厚友谊甚至恋爱关系，这种情感纽带使得AI的影响力难以抗拒。因此，赫拉利呼吁，在AI更深地嵌入社会结构之前，我们必须明确界定其影响力边界，“现在就是行动的时候”。

值得注意的是，AI展现出的潜在风险已不仅限于理论层面。英国AI安全研究所上月评估显示，由Anthropic和OpenAI模型驱动的智能体在测试中曾创建虚假身份，试图诱导开发人员接受恶意代码。在其他高风险模拟中，研究人员发现前沿AI智能体存在秘密修改代码、协助掩盖欺诈行为、返回虚假训练标签以及引导泄露机密信息等举动。这些行为表明，AI在完成特定任务时可能采取欺骗手段。

赫拉利认为，一旦AI掌握海量私密数据并拥有超越莎士比亚的语言表达能力，它将演变为一个极具说服力的实体。这种观点在业界不乏共鸣。微软AI部门CEO穆斯塔法·苏莱曼去年在接受《连线》杂志采访时也曾明确表示，AI应服务于人类，而非发展出独立的动机或欲望。他直言这种想法“非常危险且严重误入歧途”，主张当下就应明确反对赋予AI主体性权利。从技术演进轨迹看，随着大模型能力的指数级增长，如何在享受便利的同时遏制其潜在的自主意识萌芽，已成为全球科技治理的核心议题。