DeepMind为AI生成文本打“水印”
日期：2024-10-29 08:59:00 信息来源:中国科学报
（作者：许悦）人工智能（AI）生成与真人创作的界限越来越模糊的今天，许多研究机构都在寻求甄别的方法。在近日一项发表于《自然》的研究中，谷歌DeepMind的研究人员设计了一种“水印”，可以无形地标记AI生成的文本，并将其部署给数百万聊天机器人用户。
这并不是第一个为AI生成文本制作的水印，但这似乎是第一次在现实世界中大规模部署的文本水印。“在我看来，目前为止最重要的消息是他们真的在部署水印。”美国得克萨斯大学奥斯汀分校计算机科学家Scott Aaronson说。
事实上，此前该公司已经开发出图像水印技术——SynthID，可以识别AI生成图像，而将水印应用于文本比应用于图片更难，因为单词选择基本上是唯一可以更改的变量。此外，瑞士联邦理工学院的研究人员发现，任何水印都很容易被移除，比如被“擦洗”掉，或者用于欺诈，即将水印应用于文本给人一种是AI生成的错误印象。
DeepMind此次开发的文本水印技术——SynthID-Text，引入了Tournament 采样算法，将水印整合到大语言模型（LLM）本身文本生成的步骤中，以一种隐秘但公式化的方式标记模型选择的单词，而这可以用密钥检测到。因此，与其他方法相比，DeepMind的水印更容易被检测到，而且应用它不会减慢文本的生成速度和生成质量。此外，由于密钥复杂，删除、擦洗水印或使用水印欺诈变得更加困难，即使使用第二个LLM来解释文本，水印仍然可以被检测到。
目前，该水印已开放，因此开发人员可以将自己的水印应用于他们的模型。DeepMind计算机科学家Pushmeet Kohli说：“我们希望其他AI模型开发人员能够接受这一点，并将其与自己的系统集成。”
美国马里兰大学帕克分校计算机科学家黄福荣（音）说：“我很高兴看到谷歌为科技界迈出这一步。”