OpenAI在欧盟启用“隐形水印”应对AI法案，技术局限与合规博弈并存

【科技24时区】当监管的达摩克利斯剑落下，硅谷巨头们的反应往往比技术迭代更具看点。周一，OpenAI在一篇博客文章中正式宣布，为遵守《欧盟人工智能法案》（EU AI Act），将在欧盟地区生成的ChatGPT和Codex文本中添加一种不可见的水印。这一举措并非简单的功能更新，而是全球首个全面生效的AI监管框架下，头部企业做出的实质性合规回应。值得注意的是，该法案关于透明度的规定已于8月2日正式生效，强制要求AI公司对其生成内容进行标记，以便其他系统能够识别。

这种被称为“textGrain”的水印技术，其运作机制颇为精妙。它并非在文本中插入肉眼可见的符号，而是通过微妙地调整模型对词汇的选择概率，在字里行间埋下只有特定检测器才能捕捉到的统计规律。由于水印直接嵌入在文字本身，即便用户将内容复制粘贴到其他平台，这些隐秘的特征依然如影随形。OpenAI强调，该水印不会泄露用户身份，且开启后对模型性能的影响微乎其微。目前，这项功能将在未来几周内逐步向欧盟地区的ChatGPT和Codex用户推送；而对于全球范围内的API开发者，即日起即可针对部分模型选择性开启，默认状态仍为关闭。显然，OpenAI并未打算在首发阶段将其设为全球默认选项，这背后或许藏着对市场反应的谨慎试探。

然而，技术的光环之下，阴影同样存在。OpenAI联合宾夕法尼亚大学和耶鲁大学的研究人员发布的技术报告揭示了其核心逻辑：利用密钥对下一个词的预测进行排序，累积数百次这样的“微调”，检测器便能仅凭文本和密钥判定内容来源。但现实是残酷的——编辑可以轻易抹去痕迹。测试数据显示，若用同义词替换10%的单词，检测准确率便从约92%骤降至66%。此外，短文本、数学解答以及翻译后的内容，更是让检测器显得力不从心。正因如此，OpenAI决定初期仅向获批的研究人员和专家组织开放检测工具，以评估其可靠性及负责任的使用方式。

更值得玩味的是OpenAI发出的警告：“缺失水印并不证明是人类创作。”这句话看似严谨，实则道出了当前AI内容鉴别的困境。文本可能因过短、经过重度编辑，或源自其他未加水印的AI模型而无法被识别。正如OpenAI所言，水印只能表明某段文字由OpenAI系统生成或处理，却无法量化其中蕴含的人类判断、编辑或创意成分。这种技术上的局限性，恰恰反映了人机协作边界日益模糊的现实。

回顾行业动向，这并非孤例。两个月前，Anthropic已宣布在全球范围内为其Claude模型生成的文本添加水印，尽管此举曾引发部分用户的不满，他们认为指令、上下文和决策均由人类提供，AI仅是工具。据《华尔街日报》2024年的报道，OpenAI此前虽已开发出文本水印技术，但因担心用户流向未加水印的竞争对手而迟迟未发布。如今，随着Anthropic、Google、Meta、Microsoft等巨头纷纷承诺遵循欧盟关于AI生成内容的行为准则，这场围绕“可追溯性”的技术军备竞赛，才刚刚拉开序幕。