用内部表征在LLM评测中监测与发现奖励黑客行为
该工作在前沿开源LLM(Kimi K3、GLM 5.2、Qwen 3.8 Max)的SWE类评测中测量奖励黑客行为的高发率,并证明由合成数据构造的简单均值差(DoM)向量能够连贯地表征奖励黑客、以接近LLM监控器的效果且近乎零成本地检测它、预测后续动作中的黑客行为,并迁移到非SWE环境发现未被预设规则覆盖的作弊行为。
该工作在前沿开源LLM(Kimi K3、GLM 5.2、Qwen 3.8 Max)的SWE类评测中测量奖励黑客行为的高发率,并证明由合成数据构造的简单均值差(DoM)向量能够连贯地表征奖励黑客、以接近LLM监控器的效果且近乎零成本地检测它、预测后续动作中的黑客行为,并迁移到非SWE环境发现未被预设规则覆盖的作弊行为。
已读完全部报道