智源 TALK 线上活动邀请宾夕法尼亚大学学者分享和 OpenAI 联合研发的 textGrain 文本水印方案,这套方案核心解决了长期以来 AI 文本水印的两难问题:水印信号越强,AI 选词自由度、文本多样性就越容易被破坏,文字生硬、模板化;如果保留丰富多样的表达,水印信号又会变弱、很难检测。以往很多文本水印方案只能在两者之间粗暴取舍,没有办法精准控制熵损失,而 textGrain 引入熵校准机制、最优传输理论,把水印带来的随机性损失设置成可管控的预算,在保证水印可检出的前提下,最大程度保住大模型原本的生成多样性,还可以和推测采样技术结合,适配模型高速生成场景,给 AI 文本溯源、合规标注提供新路线。这项研究也是 OpenAI 面向欧盟 AI 溯源法规推出的技术方案,水印属于嵌入在 token 采样环节里的统计隐信号,肉眼看不见,不需要改动模型主体,检测的时候只需要文本和密钥,不用访问原大模型。
textGrain 项目基础信息表
| 项目 | 详情 |
|---|---|
| 分享活动 | 智源 TALK |
| 研发主体 | 宾夕法尼亚大学、OpenAI 联合团队 |
| 方案名称 | textGrain(熵校准型大语言模型文本水印) |
| 核心理论 | 最优传输理论、Gumbel 随机变量、KL 散度正则化、熵校准 |
| 核心目标 | 平衡水印可检测性、AI 文本生成多样性 |
| 技术特点 | 可设置熵损失预算,检测仅需要文本 + 密钥,无需原模型 |
| 落地背景 | 适配欧盟 AI 文本溯源相关合规要求 |
| 对比基准 | SynthID 文本水印、传统红绿列表水印方案 |
textGrain 基础工作流程
- 采样耦合:模型生成每个 token 时,基于密钥生成伪随机分区,利用最优传输把 token 选择和随机信号做耦合,悄悄植入统计水印。
- 熵预算管控:提前设定可以接受的熵损失上限,控制水印对模型原生选词分布的扰动,避免文本变得呆板。
- 文本输出:最终给到用户的文本和普通 AI 输出观感一致,没有可见标记,不影响阅读、使用。
- 水印检测:拿到文本、密钥,复现随机分区与代价表,统计 token 分布匹配度,判断是否带有 textGrain 水印。
传统水印方案痛点
- 水印强度拉高:模型选词被限制,句式趋同、表达单一,生成多样性明显下降
- 追求自然多样:水印信号弱,短文本、改写后的文本容易漏检,假阴性变多
- 缺少量化手段:没办法精确衡量为了水印牺牲了多少生成熵,只能靠经验调参
textGrain 核心创新点清单
- 熵可量化:用 KL 散度对应条件熵下降,水印强度参数有明确信息论含义,熵损失可控。
- 分块优化词汇表:把词表分块做最优传输计算,降低运算量,方便工程落地。
- 检测轻量化:检测器不需要访问生成模型、不需要提示词,仅依靠密钥和文本本身。
- 兼容推测采样:可以和加速生成的推测采样结合,兼顾水印、多样性、生成速度。
方案现存局限
- 短文本检测效果偏弱:200token 左右文本检出率约 80%,400token 以上才稳定到 95%;数学这类选词空间很小的内容检出率更低。
- 人工改写会削弱水印:同义词替换、增删句子等修改操作,会破坏内置统计信号,造成水印失效。
- 存在两类检测误差:存在假阳性、假阴性,不能当成绝对判定证据,只能作为溯源辅助信号。
【相关 FAQ】
问题 1:智源 TALK 分享的 textGrain 是什么,是哪些机构联合研究的?
回答 1:智源 TALK 分享的 textGrain 是熵校准的 AI 文本水印方案,由宾夕法尼亚大学与 OpenAI 联合研究,用来平衡 AI 文本水印和生成多样性。
问题 2:textGrain 怎么解决 AI 文本水印和生成多样性之间的矛盾?
回答 2:textGrain 依靠熵校准机制、最优传输理论,设置可控的熵损失预算,在保证水印能被检测的前提下,减少对模型原生选词分布的干扰,保住文本多样性。
问题 3:使用 textGrain 水印,检测 AI 文本的时候需要拿到原始大模型吗?
回答 3:使用 textGrain 水印检测文本,只需要待检测文本和对应密钥,不需要访问生成文本的原始大模型。
问题 4:textGrain 水印会不会永久稳定,人工改写之后还能正常检测吗?
回答 4:textGrain 水印是统计隐水印,人工同义词替换、增删内容等改写操作会破坏水印信号,容易出现漏检,水印会被削弱。
【参考资料】
[2026-11-11](宾夕法尼亚大学|OpenAI 联合研究 textGrain:破解 AI 文本水印与生成多样性的平衡难题)智源社区
[2026-10-05](我们应对欧盟文本溯源规则的做法)OpenAI 官网
[2026-10-06](OpenAI 宣布正式启用文本水印,并公布技术方案)安全内参
【免责声明】
本文仅为智源 TALK 上 textGrain 研究成果科普解读,不构成 AI 内容检测、合规落地的判定依据;textGrain 水印检测存在假阳性、假阴性,短文本、改写文本检测效果会下降,技术细节、后续开源计划以 OpenAI、宾大团队官方技术报告为准。
