据The Register报道,Anthropic将开始对由Claude、Claude Code及其API生成的内容进行标注,同时也涵盖第三方服务中部署的Claude模型所生成的内容。
未来版本的Claude模型所生成的文本将被嵌入隐形水印。据Anthropic介绍,该水印直接嵌入生成文本中,不会影响内容的语义或可读性。对于文件类内容,Anthropic则将采用符合C2PA标准的签名元数据进行标注。
此举是Anthropic履行欧盟《人工智能法案》及相关AI生成内容透明度要求的重要举措。不过,该标注机制将面向全球所有用户统一实施。
与此同时,Anthropic也指出该技术存在一定局限性。水印标记的存在并不能保证内容一定由Claude生成,同样地,没有水印也不能作为内容非AI生成的确凿证明。
Q&A
Q1:Anthropic的Claude水印是如何嵌入文本的?
A:Anthropic的水印技术将标记直接嵌入到生成文本内部,采用不可见的方式呈现,不会对文字的语义或可读性造成任何影响。对于文件类内容,则使用符合C2PA标准的签名元数据来进行标注,两种方式分别适用于纯文本和文件场景。
Q2:Claude水印标注是只针对欧盟用户还是全球用户?
A:虽然该措施最初是为了遵守欧盟《人工智能法案》的透明度要求而推出,但Anthropic表示,水印标注将面向全球所有用户统一实施,并不局限于欧盟地区的用户。
Q3:有Claude水印就能证明内容是AI生成的吗?
A:不能完全确定。Anthropic明确指出,水印技术存在局限性:有水印并不能百分之百保证内容由Claude生成,而没有水印也不代表内容一定不是AI生成的,因此水印仅作为参考依据,不能作为唯一的判断标准。