智能体护栏不再只靠大模型判断:规则由模型改写、验证器把关,覆盖范围随部署扩大
VEPA把智能体护栏写成可执行符号规则,由大模型根据部署反馈提出补丁、确定性验证器只放行结构合法且无冲突的策略,在三个智能体安全基准上按活跃策略覆盖的事件取得最高F1,并随部署逐步扩大确定性执行的范围。
VEPA把智能体护栏写成可执行符号规则,由大模型根据部署反馈提出补丁、确定性验证器只放行结构合法且无冲突的策略,在三个智能体安全基准上按活跃策略覆盖的事件取得最高F1,并随部署逐步扩大确定性执行的范围。
已读完全部报道