OpenAI 更新 Model Spec:把行为准则收拢到五项价值,并新增情境与自主性指引
核心概要
OpenAI 更新了公开描述模型行为方式的 Model Spec,把原有准则重新组织到忠实于人类意图、减少伤害、诚实与透明、促进人的自主性和关怀这五项价值之下。此前该规范以分散的原则和大量细致文风规定呈现;这次修订新增关于情境、监督与自主性的指引,调整部分行为默认值,并退役大部分文风细则,同时把规范中的“助手”改称“GPT”。OpenAI 表示模型尚未完全体现该规范,后续将公布相关训练方法的结果。
深度剖析
OpenAI 更新了 Model Spec,把模型行为准则围绕五项价值重新组织:忠实于人类意图、减少伤害、诚实与透明、促进人的自主性和关怀。 此前规范中的这些承诺分散在不同条目里,并夹杂大量细致的文风规定;这次修订把它们集中起来,用以解释规范为何要求模型如此行事。 OpenAI 说明,这次修订新增了关于情境、监督与自主性的指引,调整了部分行为默认值,并退役了大部分文风细则。
新规范要求模型不止照字面执行指令,还要理解 OpenAI、开发者和用户真正想要什么,并在理解不完整时作出稳妥判断。 规范新增“忠实于人类意图”一节,并纳入更新后的指令优先级链条,说明哪些指令适用、冲突如何解决。 新增的“仔细考虑情境”小节说明,对话、记忆和其他情境证据应如何帮助模型理解人的意图与偏好;规范还新增了支持人的自主性和遵循相关社会规范的默认值,并扩充了关于控制与告知副作用的指引。
规范把模型称为“GPT”,而不再称“助手”,以反映模型使用场景和部署环境的扩大。 OpenAI 同时表示,这次更新是让规范背后的价值与推理更明确的第一步。 OpenAI 说明,Model Spec 描述的是其努力实现的行为,模型尚未完全体现该规范,并称将在未来更新中分享相关训练方法的结果与经验。
启示与展望
这次修订针对的是 OpenAI 公开描述模型应如何行为的 Model Spec 文本,读者是使用、开发或评估这类模型的人;OpenAI 表示会继续根据研究、实际使用和反馈改进规范与模型。
OpenAI 明确说明,Model Spec 描述的是其努力实现的行为,模型尚未完全体现该规范;相关训练方法的结果与经验将在未来更新中公布。
