序贯重置程序:在LLM水印检测与金融回测中实现与检验期无关的FDR控制
核心概要
作者提出基于e值与检验上鞅的序贯重置程序,在每次拒绝后把资本重置为1并继续检验,从而报告多个含违反零假设的区间;进一步提出精化规则,只报告每个拒绝块内资本达到块内最小值之后的观测。在零假设e值相互独立时FDR上界为α,在允许零与非零数据相依时上界为α乘以对数因子且具有任意时刻有效性,并在LLM水印检测与ES回测中验证。
Figure 1 : The texts are from the prologue of Efron’s Large-Scale Inference ( Efron, 2010 ) , where two text blocks are replaced by watermarked model output (in italics) using Tournament-watermarked OPT-1.3B continuations. Each underbracket, illustrated by “ token ﹈ \underbracket{\,\mathrm{token}\,} ”, represents one rejection block from our sequential resetting procedure. A report is false if its rejection block contains no watermarked position, and is true if there is at least one watermarked position. The above example reports 92.5% of the AI-generated text, and none of the reported blocks is false. See Section 5.2.5 for further details.
arXiv深度剖析
提出序贯重置程序:以条件有效的e值累乘构造检验上鞅,当资本首次达到阈值α^{-1}时拒绝并报告自上次重置以来的观测区间,随后把资本重置为1继续检验,从而在同一数据流上报告多个违反零假设的区间。 经典e-process序贯检验只针对全局零假设、拒绝一次即停止,且不指出哪些数据点导致拒绝;该程序把单次拒绝扩展为可重复的区间报告,并保持检验上鞅性质。 方法在定义1、定义2与式(7)(8)中给出,作者指出重置与精化除底层e-process计算外仅需O(t)额外工作,即更新e-process值并记录其运行最小值与最后一次最小值的时间。
提出精化规则:在每个拒绝块内取资本达到块内最小值的最后时刻作为左端点,只报告该时刻之后到拒绝时刻的观测,从而在长拒绝块中丢弃信息量较低的前段数据。 普通程序报告的区间并集覆盖除最后一段外的整个检验期,精化程序报告非覆盖的区间集合,能更精确地定位违反发生的位置;作者证明两者共享几乎相同的可证FDR上界,因此推荐在多数应用中使用精化版本。 精化不改变拒绝时刻(区间右端点),左端点在拒绝发生时回溯选取;作者指出精化的FDR按路径不小于普通版本,但例3表明两者存在共同的紧上界,独立零假设情形下该界紧到一个小因子。
建立两类FDR上界:在零假设e值相互独立且与备择e值独立(Assumption IND)时,FDR上界为α;在允许零与非零数据相依、零时刻可适应数据且要求任意时刻有效时,均匀FDR上界为α乘以对数因子,并给出基于几何随机变量的显式界。 作者称这是首次为基于检验上鞅的重复序贯程序建立非平凡FDR界;证明需要新的加权函数把全零区间上e-process的起止资本与累积FDR相连,并证明一个精化版Ville不等式,其难点在于块最小值位置不是停时。 定理1与定理2给出上界,例1说明独立情形下界不能改进到α,例2说明任意时刻有效或允许相依任一放宽都要付出同尺度对数因子,例3说明界在特定零备择排列下是紧的,例4说明结论对一般e-process不成立而需检验上鞅。
在LLM水印检测与ES回测中验证:对Gumbel-max与Tournament水印,重置相对一次性检测大幅提升覆盖备择位置的比例,精化版本以略低的功效换取更低的覆盖FDP与更高的IoU;对NASDAQ复合指数ES回测,重置程序在2008年金融危机与2020年疫情期间及之后给出多个警告块。 作者称首次实现带非平凡有限样本FDR保证、且在一般设定下对可选停止仍有效的自适应精化区间重复在线报告;并把现有一次性序贯ES回测扩展为拒绝后继续报告。 水印实验使用facebook/opt-1.3b、20个固定提示、每个温度500条路径、每条600个token,温度取0.75与1;回测使用1996年1月17日至2025年12月31日NASDAQ数据,检验上鞅含2000年1月3日至2025年12月31日的6539个样本外点,所有经验均匀实现FDP均低于理论界。
启示与展望
该结果适用于每个时点可获得条件有效e值、且以区间而非单点作为报告单元的场景,例如LLM水印检测与金融ES回测。在独立零假设设定下,阈值α可直接给出FDR上界α;在允许相依与任意时刻有效的设定下,阈值α给出α乘以对数因子的均匀FDR上界,作者建议在多数应用中采用精化版本,除非并不关心缩小报告区间。对水印检测,方法不绑定特定水印方案,只要方案在无水印时给出分布已知的token级分数即可;对回测,重置使监管者能在一次拒绝后继续获得后续警告,而非以首次危机作出永久判定。作者还指出制造过程监控与异常检测是潜在应用方向。
作者指出经验FDR通常远低于理论界,这是e值方法的典型情形,若引入额外假设仍有提升功效的空间。定理2的界通过几何随机变量表达且显式界在α趋于0时渐近紧,但紧性构造依赖特定的零备择时间排列,实际数据中的表现仍需具体评估。精化会缩短报告区间,可能移除备择观测而使拒绝更易变为假,因此真实报告不必完全由备择观测组成。覆盖FDP是逐时点(水印场景下逐token)度量,与逐拒绝的FDP不同,且覆盖FDR没有理论上的FDR控制。回测中经验预测的快速警告与其基于滚动历史窗口、日间变化较小有关,作者明确这不意味着该设定普遍更保守或更常被拒绝。此外,本文为全文阅读,图表与附录中的具体数值细节未在正文中完整呈现,若需复现具体数字应查阅原文图表与公开代码。
