跳到主要内容
检索

# 激活分类器(探针)

1 篇关联报道

订阅更新
  1. OpenAI把安全分类器搬进模型内部:从GPT-5.6起,每个助手回复都过一道激活探针

    OpenAI在GPT-5.6起为所有助手回复增加了一层基于模型内部激活的轻量分类器,即探针,与外部文本分类器并行部署。探针可在生成中途流式拦截违规回复,对越狱更稳健,运行开销更低,且准确率随被监控模型能力提升而提高;但它依赖标注数据,只能识别已知的可测量行为,换基座模型需重新训练。

已读完全部报道