OpenAI启用文本水印,幕后推手是统计学诺奖得主

OpenAI启用文本水印,幕后推手是统计学诺奖得主

AI 资讯 来源:新闻/公众号 发布时间:2026-10-07 更新于 2026-10-07 预计阅读 6 分钟

今天,OpenAI 宣布正式启用文本水印。即日起,全球 API 客户可为部分模型自行开启水印,默认仍关闭。未来几周,欧盟地区符合条件的 ChatGPT 与 Codex 文本输出将加上肉眼不可见的水印,覆盖所有付费档位。检测器仅向通过审核的研究者和专业机构开放申请,暂不面向公众。

直接推手是欧盟。《人工智能法》第 50 条自 2026 年 8 月 2 日起适用,要求生成式 AI 提供方以机器可读方式标记输出内容。欧盟委员会 6 月发布的《AI 生成内容透明度行为准则》将“不可感知的水印”列为基本要求,并指出自由文本无法像图片那样携带元数据,水印几乎是唯一可行手段。

给ChatGPT打水印的人,是「统计学诺奖」得主苏炜杰

文本水印对 OpenAI 并非新课题。2023 年,时任客座研究员 Scott Aaronson 就介绍过基于 Gumbel-max 的水印方案。此后多次传出 OpenAI 已具备能力却迟迟未推出。拖延原因之一是工程两难:难题不在“能不能打上”,而在能否精确计量——为换取可检测信号,模型让出了多少生成自由。

一同发布的还有技术报告《textGrain: Entropy-Calibrated Watermarking for Language Model Text》。通讯作者是今年考普斯会长奖得主苏炜杰。他是 2012 年以来首位获此奖的华人统计学家,评奖委员会列举贡献的第一项就是生成式 AI 的统计基础。他 2011 年本科毕业于北京大学数学科学学院,2016 年在斯坦福获统计学博士,师从 Emmanuel Candès,随后在沃顿任教。今年 5 月底,他宣布以学术休假身份加入 OpenAI,参与模型训练,同时晋升为沃顿正教授。8 月 5 日,他在波士顿领取 2026 年考普斯奖。

给ChatGPT打水印的人,是「统计学诺奖」得主苏炜杰

苏炜杰与 OpenAI 水印的缘分早于入职。他与合作者 2025 年发表在《统计年鉴》的论文,为水印检测建立统计框架,研究对象正是 OpenAI 此前的 Gumbel-max 方案,并推导出优于已有做法的检测规则。此后研究延伸到人类编辑下的稳健检测、拟合优度检验、混合文本水印比例估计等。textGrain 是九人合作成果,第一作者 Xiang Li 也是上述论文第一作者,与苏炜杰合作多年。

要理解 textGrain,先看水印原理。LLM 逐词从“下一词预测分布”抽样。水印用密钥和前文生成伪随机数,让抽样依赖这串数字;检测时用密钥重建数字,检验文字与它的统计关联。学术界此前追求“无偏”:把密钥看作随机抽取时,对所有密钥平均后,水印模型输出分布与原模型完全一致。但实际部署密钥固定。以 Gumbel-max 为例,固定前文和密钥下总选中同一个词,导致同一提示反复生成结果一字不差,对多次采样择优等应用是实打实损失。另一极端是生成与密钥无关,随机性完好但信号不存在。textGrain 要回答的是,能否用可解释旋钮精确控制位置。

给ChatGPT打水印的人,是「统计学诺奖」得主苏炜杰

报告第一个关键观察是,任何无偏水印都可看作生成词与密钥随机数之间的“耦合”,偏离独立程度可用 KL 散度衡量,恰等于两者互信息,也等于固定密钥后平均丢失的抽样熵。团队据此引入“熵预算”β,取值 0 到 1,表示允许损失的熵占原始预测分布熵的比例。β 为 0 时退化为普通抽样;β 越大,密钥支配越强,信号越强。确定预算后,团队采用带 KL 正则的最优传输,给每对候选赋予由 Gumbel 随机变量生成的代价,KL 项把依赖程度压在预算内。

直接在十几万词表上解最优传输计算量难以承受,textGrain 第二个设计是分块。以“The morning was”为例,候选词 warm 0.30、cold 0.25、mild 0.15、calm 0.10、sunny 0.10、bright 0.10。密钥和前文窗口把词表随机分成若干块,如 {warm, calm}、{cold, sunny}、{mild, bright},概率分别为 0.40、0.35、0.25;再把三块与 m 个等概率“列”做最优传输耦合,代价表由密钥生成,求解中调节正则强度使实际熵损失逼近预算;由密钥选出一列决定三块抽样概率,例子中变为 0.04、0.69、0.27;最后在选中块内按原始相对概率抽词,例子中抽到 cold。分块使优化维度从词表规模降到“块数×列数”,单次 Sinkhorn 迭代只需 O(Bm) 次运算,且块内词相对概率完全不变。

检测端同样简洁:不需要访问生成模型,不需要知道熵预算,只需文本和密钥。每个位置用密钥和前文窗口重建分块、代价表和被选中的列,根据观察到的词找到所在块,读出代价转成分数。水印偏好低代价组合,带水印文本分数整体偏高。理想化假设下,无水印文本单分数服从单位指数分布,n 个分数之和服从 Gamma(n,1) 分布,可按预设误报率设阈值。报告也审慎指出,固定部署密钥和有限精度运算都要求经验校准。据 OpenAI 博客,在前沿模型 Astra 多项基准

标签: AI 资讯 AI

更多推荐阅读

OpenAI一次公开722份数学手稿

OpenAI一次公开722份数学手稿

10月7日,OpenAI在GitHub上线openai/math仓库,一次性发布722份手稿,归入372个问题家族,涵盖乘法函数、π的无理性指数、马勒猜想、黎曼zeta函数零点区域、海森堡铁磁体自发磁化、自由群因子同构等领域。仓库分三层:preprints目录放PDF和源文件,lean目录放Lean形式化证明,reasoning_traces目录放模型推理过程摘要,并公开10份推理摘要。OpenA...

2026-10-07
AI几年内或超越所有人类?Anthropic研究员预测

AI几年内或超越所有人类?Anthropic研究员预测

Anthropic强化学习技术负责人Sholto Douglas在8月录制、10月2日上线的访谈中表示,能力等于甚至超过所有人类的模型,很可能在未来几年内出现。他设想AI能完成人类在电脑上做的所有工作,把原本需要几个世纪的科技进步压缩到一二十年。他推算,2028年AI年度资本开支可能达4万亿美元,全球GDP可能在2030年代初翻倍,届时地球上每个人都能享有连今天首富也无法拥有的富足。同场研究员Ni...

2026-10-07
陶哲轩为何突然转向AI减速派?

陶哲轩为何突然转向AI减速派?

曾最爱AI、逢人就安利AI工具的陶哲轩,一夜之间转向AI数学的对立面。在SAIR最新演讲中,他公开向模型公司开火:AI公司无休止加速,却对后果一无所知,必须慢下来,完全没理由这么快。感受到危机的远不止他一人,菲尔兹奖得主Cédric Villani在看到OpenAI拿下千禧难题后直言“大受震撼,简直跟世界末日一样”,而仅3个月前他还称LLM根本没有智能、只是统计学复读机。 就在几个月前,陶哲轩还...

2026-10-07
全球最大AI影视公司如何用模型拍电影

全球最大AI影视公司如何用模型拍电影

AI 视频已能生成足够像电影的镜头,但真正的 AI 电影仍很少。一旦进入长篇制作,角色一致性、镜头衔接、表演控制和团队协作都会成为问题。国内常见的 UGC 和 ProC 路线把编剧、导演、分镜、剪辑甚至制片压到一个创作者身上,AI 提升了个人效率,却没有把专业人群组织成生产线。ProC 的上限往往是模型的上限,影视公司的上限才可能是人的上限。 在 Artificial Analysis 最新有声...

2026-10-07
DeepSeek Harness兼容Claude Code Mods,作者回应

DeepSeek Harness兼容Claude Code Mods,作者回应

10月1日,Claude Code发布Mods,插件作者可用函数钩子改写提示词、拦截工具调用、在终端绘制界面。10月3日,DeepSeek Harness(DSH)发布v0.2.1-alpha.1,更新之一是实验性的Claude Code Mods兼容层。知乎随即出现相关讨论。10月4日下午,兼容层作者、DSH组崔添翼作答,明确“一切皆插件”与开源一样,是立项之初就定下的方向,不是被迫或模仿。 ...

2026-10-07
Claude用Lean严格验证,攻克菲尔兹奖得主数年未解的渗流猜想

Claude用Lean严格验证,攻克菲尔兹奖得主数年未解的渗流猜想

2026年8月30日,菲尔兹奖得主Hugo Duminil-Copin发文感叹,他倾注数年心血、屡败屡战的渗流猜想,恐怕迟早会被AI攻克。几乎同时,同行在GitHub上发现Anthropic工程师提交的代码仓库,其中是由大语言模型Claude生成、并经Lean严格验证的完整证明——困扰人类近70年的连续相变猜想已被AI证明。没有发布会,没有官方博客,消息传出后全球数学界震动。德国数学家Benedi...

2026-10-07
订阅
关注

扫码关注公众号「60秒看懂AI」

扫码关注公众号 60秒看懂AI

微信搜索「60秒看懂AI」也可关注

顶部