谷歌DeepMind开源AI内容检测工具 _光明网

　　随着大型语言模型被用于传播虚假信息、生成谣言等恶意目的，水印技术已成为防范这些风险的重要工具。为规范人工智能生成合成内容标识，国家互联网信息办公室近日就《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见。征求意见稿指出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动。包括提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。与此同时，美国加利福尼亚州正在考虑将AI水印强制化，这些动向进一步凸显了水印技术在当前的重要性和紧迫性。

　　近日，谷歌DeepMind宣布正式开源其旗下的SynthID Text文本水印工具，供开发者和企业免费使用。目前，这一技术的相关研究成果已在《Nature》期刊上发表，并通过整合进Google Responsible Generative AI Toolkit的形式开源。谷歌同时提到，他们已在Gemini AI输出的内容中整合了SynthID Text技术。

　　“现在，生成式AI开发者将能够使用这项技术检测文本输出是否源自他们自己开发的大语言模型，这将助力更多开发者能够负责任地构建AI。”谷歌DeepMind研究副总裁Pushmeet Kohli如此表示。

　　今年8月，谷歌推出了SynthID工具，该工具不仅能创建AI内容水印（用于声明作品由AI生成），还具备识别AI生产内容的功能。它能够在不损害原始内容的前提下，将数字水印直接嵌入AI生成的图像、声音、文本和视频中，同时也能扫描这些内容以辨识它们是否由AI生成。不过，此次谷歌开源的仅为针对文本生成的SynthID Text版本。

　　谷歌介绍，大模型主要通过预测形式生成文本，一次生成一个Token（可能是一个字符、一个单词或段落的一部分）。为了保持文本的连贯性，模型会在输出内容时预测下一个最可能生成的Token，这些预测基于先前的文本内容。例如，当大模型要生成“我最喜欢的热带水果是……”这句话时，芒果、荔枝、木瓜或榴莲都是可能用于完成句子的候选字段，每个Token都会获得一个概率分数。只要存在多个可选的Token，SynthID就会在不影响输出质量和准确性的情况下，微调每个Token的概率分数。这一过程在生成的文本中不断重复，因此一个句子可能包含10个或更多的调整概率分数。模型选词的最终得分模式与调整后的概率得分相结合，即为水印。

　　谷歌声称，该技术的一大优势在于不会损害生成文本的质量、准确性、创造性或速度，这解决了水印系统长期存在的问题。它能在文本短至3个句子时发挥作用，甚至在文本被裁剪、改写或修改后仍能识别。然而，在处理短文本、被重写或翻译的内容，以及回答事实问题时，该技术可能会遇到一定的挑战。对此，谷歌表示，SynthID并不是识别人工智能生成内容的灵丹妙药，但SynthID将是开发更可靠人工智能识别工具的重要组成部分。（吴双）