跳到主要内容
检索

Yajie Yin

2 篇关联报道

订阅更新
  1. arXiv

    没有标准答案也能学会守住边界:奖励训练把自发正确拒答从25%拉到100%

    在证据是否足以支持因果主张这类没有可判定正确答案的判断任务上,一套先监督微调、再用大模型评审奖励做GRPO的边界保持配方,把行动压力下无评估提示时的自发正确拒答从基线的25%提高到100%(每臂40条,Wilson 95%置信区间下界91.2%,与基线区间[14.2%, 40.2%]不重叠),而打乱配对的安慰剂跌到5%。同一配方在281条结构良好的主张上自动误拒率为1.1%(Wilson上界3.09%),说明效果针对边界而非一律拒答;但监督微调已在该面上饱和,GRPO的增量无法单独识别,且评分来自模型会话而非人类专家。

  2. arXiv

    同一份零:VAL 分级框架显示相同 ASR 背后是不同保证,VAL 引导栈在 0.000 攻击成功率下保持 1.000 良性成功率

    作者将验证自主等级(VAL,L0 至 L5)应用于 22 项 LLM 智能体安全防御,并在等预算下对比 VAL 引导栈(确认门 + schema 沙箱)与主流直觉栈(提示加固 + 关键词过滤),在 50 个场景、12 种攻击变体及自适应/白盒/PAIR 升级下发现:VAL 栈在 1.000 良性成功率下保持 0.000 攻击成功率,而直觉栈虽达 0.000 ASR 却使全部良性动作失效,且在攻击面加硬的测试台上其零值漂移(0→1.9%→6.2%),VAL 栈则在其 ODD 内保持(0→0→0),唯一突破为已披露的 ODD 外口令缺口(0.5%)。

已读完全部报道