跳到主要内容
检索

# 对齐审计

1 篇关联报道

订阅更新
  1. arXiv

    蒸馏可让隐藏怪癖的模型更易招供,也可在保留数学能力的同时抑制动物偏好转移

    作者提出并分别验证两种蒸馏策略:面向定罪的蒸馏(DFI)把 AuditBench 保密模型蒸馏回其指令微调基座,学生比教师更常承认隐藏怪癖,说明怪癖知识比隐瞒倾向更易转移;面向能力的蒸馏(DFC)在保留数学能力的同时,用少样本多轮训练和接种提示显著降低动物偏好这一错位代理的潜意识转移。

已读完全部报道