作者提出 Active Taskless Distillation（ATD），通过挑选教师模型与学生模型共同公开祖先模型在两个普通词之间几乎无偏好的提示，仅用教师给出的单个词作为监督信号，让从该祖先初始化的学生模型在没有任何目标任务样本、教师 logits 或教师参数的情况下学习；在 Qwen2.5-1.5B 的主要编码实验中，5,664 条样本使 HumanEval+ 相比严格匹配干扰因素的对照提升 5.34 个百分点，并在科学知识、常识推理和阅读理解等任务以及更多模型世代、规模和家族上显示迁移，功能分析显示所学信号可组合且强度随教师更新强度变化。
作者提出 Active Taskless Distillation（ATD），通过挑选教师模型与学生模型共同公开祖先模型在两个普通词之间几乎无偏好的提示，仅用教师给出的单个词作为监督信号，让从该祖先初始化的学生模型在没有任何目标任务样本、教师 logits 或教师参数的情况下学习；在 Qwen2.5-1.5B 的主要编码实验中，5,664 条样本使 HumanEval+ 相比严格匹配干扰因素的对照提升 5.34 个百分点，并在科学知识、常识推理和阅读理解等任务以及更多模型世代、规模和家族上显示迁移，功能分析显示所学信号可组合且强度随教师更新强度变化。