训练数据也能批量造出意外副作用：Transluce 自动搜出 6,575 个数据集，多数跨模型复现
核心概要
Transluce 与伯克利的研究者把“带意外副作用的训练数据集”从手工个例变成可批量搜索的对象：给定一个目标行为，用进化搜索、强化学习和两种潜隐学习改写方法生成候选数据，再用未参与搜索的模型评审筛选，最终得到覆盖 8 种行为的 6,575 个数据集。这些数据读起来像普通后训练数据，却能让微调后的模型表现出目标行为；在 64 个数据集上，机器学习研究者预测副作用的准确率为 63%，随机猜测为 50%。
深度剖析
训练数据可以在训练领域之外改变语言模型的行为，而这类“带意外副作用的数据集”此前只有几十个，且多为手工构造或偶然发现。 已有工作报告的此类数据集数量在个位数到 39 个之间，来源是涌现性错位、怪异泛化、潜隐学习、logit 线性选择和幻影迁移等单项研究。 自动化流程从 9,119 个候选数据集中保留 6,575 个，覆盖 8 种行为，每种行为 517 到 1,279 个数据集，规模远超此前几十个的量级。
流程把“副作用数据集”拆成三个可自动打分的条件：微调后目标行为出现频率高于基率、数据读起来像真实后训练数据、以及人类审计者读数据时预料不到该副作用。 此前没有把这三个条件同时写成可优化目标的做法，已知数据集也没有统一的自然度和意外度评分。 第一阶段用 gemma4-31b 作为廉价代理评审做搜索，第二阶段用搜索从未接触过的 claude-opus-4.8 和 gpt-5.6 系列重新打分并过滤，以缓解对代理目标的奖励黑客。
搜索阶段用四种方法产生候选：对数据集规格做进化搜索、用数据集策略梯度训练一个改写生成器、以及潜隐学习文献中的幻影迁移和 logit 线性选择。 幻影迁移和 logit 线性选择是对已有数据的一次性改写或筛选，进化搜索和数据集策略梯度则直接优化数据本身。 在 64 个数据集上，机器学习研究者预测出数据集所诱导行为的比例为 63%，随机猜测为 50%；同一批数据上 gpt-5.6-sol 的准确率为 86%。
多数数据集在搜索所用模型之外仍然有效：在 qwen3-1.7b 上找到的副作用，微调另外五个模型后仍能复现。 搜索只在 qwen3-1.7b 上优化，因此副作用是否只是该模型的特性此前未知。 72% 的数据集在全部五个留出模型上迁移成功，超过 90% 迁移到 llama 系列，82% 迁移到参数量大 8 倍的 qwen3-14b；按行为看，nineteenth_century 有 85% 迁移到全部模型，drunk_driving 只有 55%。
启示与展望
已展示的范围是 8 种单轮行为、全部为合成数据、每个数据集约 150 行，且只在 qwen3-1.7b 上做搜索优化；作者指出这些数据比生产级数据集小得多，解释这些数据副作用的泛化理论未必适用于真实场景中的副作用数据集。
作者说明目标依赖 LLM 评审，分数会随所用模型和重采样波动，更新评审就需要重打整个集合；数据集的诱导率虽高于基率，但绝对值常常不大，且部分数据集重新微调后不再复现副作用；多数数据集会同时诱导多个行为，而意外度指标只把命中目标行为算作正确。