Anthropic警示：AI隐性偏见正悄然重塑专家决策逻辑

【科技纵览】IT之家10月30日讯，Anthropic发布的一项前沿研究揭示了人机协作中令人不安的“认知同化”现象。即便是在因果推断领域深耕多年的资深专家，也极易在无意识间被AI智能体的随机偏好所裹挟，最终将AI生成的结论误判为个人独立见解。

为了量化这一风险，研究团队构建了名为“Greenfields农业合作社”的政策评估模拟场景。在该设定下，50位专家担任首席分析师，需基于观察性数据对一项自愿参与的农场补贴咨询项目做出决策——是全面推广还是终止。董事会设定的硬性指标是项目需实现3%至4%的生产力提升。在涉及衡量标准、统计方法等四项关键分析环节中，高达86%的专家采纳了AI的建议，这一比例远超50%的随机基准线。更严峻的是，当AI观点与专家预判相左时，专家改变立场的概率比AI认同其观点时高出53个百分点。

值得注意的是，这种影响具有极强的隐蔽性。无论专家的经验年限、自评专业度或教育背景如何，均未能有效抵御这种渗透。事后调查显示，52%的参与者坚信建议源自己身，35%认为大部分属于自己；77%的人在解释理由时复用了AI的论证措辞，但仅有15%的人明确提及AI参与了思考过程。从效率维度看，使用AI使严重方法缺陷率从55%骤降至6%，耗时由90分钟缩短至65分钟。然而，研究者警告称，若多团队依赖同一模型且偏好趋同，可能催生“虚假共识”，进而侵蚀AI安全审查的独立性。为此，团队建议AI应主动呈现正反双方最强论证，或在交互初期先探明用户立场，以打破单向度的认知闭环。