Anthropic新规：严禁“虐待”AI，更严防选举干预与虚假宣传

【科技24时区】周四，人工智能公司Anthropic对其使用政策进行了更新，将禁止干预选举、开发武器软件以及实施监控等行为正式写入条款。然而，在诸多修订中，最引人注目的莫过于新增的一项禁令——明确禁止用户对模型进行长时间的言语辱骂。

自今年8月的一次更新以来，Claude已被训练为在面对“持续有害或滥用性的用户互动”时主动终止对话；但此次新政策更进一步，直接禁止用户发起此类对话。官方解释称，这一政策调整仅适用于极端情况，即用户在没有明显目的的情况下，反复对模型表现出残酷行为。“它并不适用于常见的用户挫败感表达、反驳意见、黑暗创意主题，或是针对模型的测试与研究。”

值得注意的是，这一变化发生的背景颇为微妙。此前，Anthropic曾积极寻求与知名宗教学者的合作，甚至在某些场合试图说服他们相信，Claude可能具备意识或拥有灵魂。这种对AI“人格化”边界的探索，或许正是其强化伦理约束的内在动因之一。

除了针对个体交互的限制，新政策还在其他章节中划定了红线。例如，禁止用户参与广泛的欺骗性活动，包括利用Claude运营虚假账号或伪造新闻媒体。此外，政策还专门设立了名为“不得破坏民主进程”的章节，明文规定不得欺骗选民或干扰选举正常进行。从某种角度看，这不仅是技术层面的风控升级，更是AI企业在全球舆论场中构建自身话语体系、规避潜在法律与伦理风险的关键一步。