A Watermark for Large Language Models：软prompt绿名单水印，可检测LLM输出且不影响文本质量
2023年1月提交。提出一种针对专有语言模型的文本水印框架：在生成每个token前，基于之前token的哈希值随机选择一组“绿色”token，并在采样时软性地促进使用这些绿色token。水印对文本质量影响可忽略，检测时无需访问模型API或参数，仅需一个公开算法和少量token即可统计检验。在OPT多亿参数模型上验证，并分析了鲁棒性和安全性。
Development
- First ReportA Watermark for Large Language Models：软prompt绿名单水印，可检测LLM输出且不影响文本质量arXiv cs.AI
- Current Assessment该水印技术可直接集成到LLM API中，为OpenAI、Google等提供商提供合规工具，满足监管对AI生成内容标识的要求。内容平台（如新闻、社交媒体）可用其自动标记AI生成内容，减少虚假信息传播。对法律和金融领域，可追溯文档来源。Agent Pulse · analysis
该工作为LLM输出提供了一种实用的水印方案，解决了AI生成文本的溯源和滥用问题。通过软prompt机制嵌入水印，既不影响生成质量，又能高效检测，且不依赖模型内部状态。这对内容审核、版权保护和防止虚假信息传播具有重要意义。
水印机制：生成第i个token时，使用前一个token的哈希值作为种子，将词汇表随机分为绿色和红色列表（比例γ）。在采样时，对绿色token的logits增加一个偏置δ，从而软性地提高其被选中的概率。检测时，对一段文本计算绿色token的比例，若显著高于γ则判定为有水印。使用统计检验（z检验）给出p值。在OPT-1.3B和OPT-6.7B上测试，困惑度增加小于1%，检测AUROC接近1。鲁棒性：对文本编辑（如替换、删除）有一定抵抗力，但强攻击（如重写）可能移除水印。安全性：攻击者若知道算法可尝试逆向，但需要大量查询。
该水印技术可直接集成到LLM API中，为OpenAI、Google等提供商提供合规工具，满足监管对AI生成内容标识的要求。内容平台（如新闻、社交媒体）可用其自动标记AI生成内容，减少虚假信息传播。对法律和金融领域，可追溯文档来源。
LLM服务商应优先集成该水印方案，作为合规功能提供给企业客户。内容审核公司可开发基于水印的检测服务。投资关注水印技术专利和标准化进展。
后续需关注水印对长文本和低熵场景（如代码）的影响，以及对抗攻击的鲁棒性提升。部署时需平衡偏置δ与文本质量。安全方面，需防范自适应攻击。建议标准化组织推动水印协议统一。