AI文本识别重大突破,谷歌水印工具大规模应用

admin 2024年10月29日13:07:45评论13 views字数 1485阅读4分57秒阅读模式

AI文本识别重大突破,谷歌水印工具大规模应用

随着AI生成内容在教育、软件开发和社交媒体网络新闻领域的泛滥,准确识别和溯源AI文本对于内容安全和版权保护的重要性与日俱增。但是,准确识别AI生成内容始终是生成式人工智能领域久攻不下的难题之一。

近日,谷歌DeepMind研究团队开发出一款名为SynthID-TextAI的文本水印技术,可用于标记人工智能系统(AI)生成的文本。这一水印系统首次在大规模的实际应用中投入使用,覆盖数百万用户,引起了广泛关注。

这款水印工具可“无痕”嵌入在文本生成过程中,并通过一组加密密钥检测AI生成内容,在AI文本识别领域实现了重要的技术突破。

AI内容识别的重大意义

区分AI生成文本的能力已成为应对假新闻、学术作弊等问题的重要工具,同时有助于避免AI模型“自我污染”——即通过AI生成内容训练AI模型,导致内容失真。

在一次史无前例的大规模测试中,谷歌的Gemini大型语言模型(LLM)生成的2000万条回复中,含水印文本的质量评级与无水印文本相当。这一成就令业界感到兴奋,马里兰大学的计算机科学家Furong Huang指出:“谷歌采取这一步对于科技社区来说是令人振奋的,相信未来大多数商业工具都会采用类似的水印。”

文本水印比图像水印难得多

在文本生成过程中加入水印比图像水印更具挑战性。DeepMind团队采用的SynthID-Text水印技术,通过在词汇选择上加入隐秘但有规律的调整,利用加密密钥将每个可能的词汇标记为候选选项。这些选项会在一系列“锦标赛”中进行对比,最终“获胜”的词汇将用于文本生成。这种“锦标赛”过程如同解锁一个密码锁,每一轮比赛代表锁中的一位数字,显著增加了水印被篡改或删除的难度。

剑桥大学计算机科学家Zakhar Shumaylov评价称,SynthID-Text在检测效率和生成速度方面领先于同类水印技术。相较其他方法,该水印既不减慢文本生成速度,也便于通过加密密钥检测,使其成为目前效果较佳的文本水印方案之一。

SynthID-Text系统的竞标赛采样方法不仅提升了水印的抗干扰性,也提高了水印的“不可擦除”性。研究人员测试发现,即便通过另一AI模型对带水印文本进行改写,该系统依然能够识别出隐藏水印。这种抗干扰性对于内容较长的文本尤其显著,而在较短文本中则表现稍弱。这种设计让删除水印的难度大大增加,也使得伪装成AI生成文本的“假水印”操作更为困难。

DeepMind的科学家Pushmeet Kohli认为,这款水印工具的初衷是鼓励良性使用。“我们希望开发出一个可以由社区不断优化的工具,协助AI模型在实际应用中更加合规。”他表示。

如何让水印不再脆弱?

在AI内容安全性领域,水印的韧性及其在抵御“恶意攻击”方面的表现受到关注。

尽管水印技术有助于规范AI生成内容的使用,但如何应对蓄意去除水印的行为仍是一大难题。苏黎世联邦理工学院的研究指出,任何水印都可能面临“洗白”风险,即通过技术手段去除或伪造水印。此外,政府正着力将水印作为规范AI内容的核心手段,但如何协调开发者自愿加入,以及在全球范围内标准化实施,依然存在政策层面的挑战。

帝国理工学院的计算机科学家Yves-Alexandre de Montjoye表示:“在AI安全框架下,水印技术的实际保护力度尚待验证。”

参考链接:

https://www.nature.com/articles/d41586-024-03462-7

ttps://www.nature.com/articles/s41586-024-08025-4

AI文本识别重大突破,谷歌水印工具大规模应用

END

原文始发于微信公众号(GoUpSec):AI文本识别重大突破,谷歌水印工具大规模应用

  • 左青龙
  • 微信扫一扫
  • weinxin
  • 右白虎
  • 微信扫一扫
  • weinxin
admin
  • 本文由 发表于 2024年10月29日13:07:45
  • 转载请保留本文链接(CN-SEC中文网:感谢原作者辛苦付出):
                   AI文本识别重大突破,谷歌水印工具大规模应用https://cn-sec.com/archives/3328220.html

发表评论

匿名网友 填写信息