无需验证的水印：欧盟人工智能法案生效后的AI文本水印
arXiv cs.AI · · 发布于 2026-09-11 · 3 分钟阅读
2026年8月2日，欧盟《人工智能法案》第50条义务生效，要求生成式人工智能服务商标记其系统生成的内容，并确保其可被检测为AI生成。数日后，Anthropic披露该日期之后发布的全部Claude模型都在生成文本中嵌入基于SynthID-Text的水印，默认开启且用户无法选择关闭；谷歌自2024年起已在Gemini中部署SynthID-Text。用户提出反对意见，认为水印会降低内容质量（对代码尤为明显）、暗中编码身份识别信息，并且相互矛盾地认为它既容易被去除又无法摆脱；厂商则回应称质量不变、不含身份识别信息，且对轻度编辑具有稳健性。本文认为，上述反对意见与厂商保证目前均无法得到验证，而这种不可验证性本身——而非水印技术本身——才是实质性的治理失败。作者按“需要何种证据才能定论”对争议性主张进行分类，并在两个开放权重模型上评测开源的SynthID-Text实现，因为目前没有公开工具可以测试已部署的系统。在散文类文本上，水印的实测影响不超过更换采样种子带来的差异；在代码上，一个模型的正确率下降三点，另一个低于可测量范围，而检测率仍接近随机水平，这属于可检测性而非质量的局限。其余差距源于访问受限或机构缺位，作者将其逐项对应为要求：发布匹配输出、披露配置、认证审计、共享评测协议以及可互操作的检测。
当前来源仅提供摘要，以下要点基于摘要生成；可通过官方原文查看完整信息。监管触发点
2026年8月2日，欧盟《人工智能法案》第50条义务生效，要求生成式人工智能提供商标记其产出内容，并确保其可被检测为人工智能生成。
厂商部署
该义务生效数日后，Anthropic披露此后发布的每个Claude模型都在全部生成文本中嵌入基于SynthID-Text的水印，默认开启且用户无法退出；Google自2024年起已在Gemini中部署SynthID-Text。
用户反对意见
用户认为水印损害质量，尤其影响代码；认为其秘密编码身份识别信息；同时又互相矛盾地主张水印既容易被去除又无法逃避。
厂商保证
厂商回应称质量未变、不包含身份识别信息，并对轻度编辑具有鲁棒性。
论文核心主张
作者认为双方的反对意见与保证目前均无法核实，这种不可验证性而非水印本身才是实质性的治理失败。
争议分类方法
作者按“要解决每一项争议需要什么条件”对相互冲突的主张进行归类。
实证评估对象
由于没有公开工具可以测试已部署的系统，作者改为在两个开放权重模型上评估开源的SynthID-Text实现。
散文类文本结果
在散文类文本上，水印的实测影响不超过更换采样种子所造成的影响。
代码与检测结果
在代码上，一个模型的正确率代价为三个点，另一个模型低于可测量水平；同时检测率接近随机，这属于可检测性的局限而非质量的局限。
缺口与要求映射
剩余差距可追溯至访问被保留或机构缺位，作者将每项缺口映射为要求：发布配对输出、披露配置、认可审计、共享评估协议与可互操作的检测。