Yaowen Ye

Transluce 与伯克利的研究者把“带意外副作用的训练数据集”从手工个例变成可批量搜索的对象：给定一个目标行为，用进化搜索、强化学习和两种潜隐学习改写方法生成候选数据，再用未参与搜索的模型评审筛选，最终得到覆盖 8 种行为的 6,575 个数据集。这些数据读起来像普通后训练数据，却能让微调后的模型表现出目标行为；在 64 个数据集上，机器学习研究者预测副作用的准确率为 63%，随机猜测为 50%。

Transluce 与伯克利的研究者把“带意外副作用的训练数据集”从手工个例变成可批量搜索的对象：给定一个目标行为，用进化搜索、强化学习和两种潜隐学习改写方法生成候选数据，再用未参与搜索的模型评审筛选，最终得到覆盖 8 种行为的 6,575 个数据集。这些数据读起来像普通后训练数据，却能让微调后的模型表现出目标行为；在 64 个数据集上，机器学习研究者预测副作用的准确率为 63%，随机猜测为 50%。