HASTE 用稀疏威胁证据自动演化智能体防护栏，在多种骨干模型与攻击类型上降低攻击成功率并保持良性任务效用
相关研究与后续进展
核心概要
HASTE 是一个多智能体框架，通过安全规范生成与攻击用例生成之间的对抗性互动，从威胁报告和预印本中的简短描述或少量攻击样例等稀疏证据出发自动演化智能体防护栏，并把评估结果反馈回两个过程，从而针对超出初始观测证据的新兴攻击持续更新防护栏；在多种骨干模型、攻击类型和证据形式上的实验显示，它一致降低攻击成功率，同时保持良性任务效用。
Figure 1: Illustration of harness evolution from a full benchmark versus sparse threat evidence . (a) With a full benchmark, diagnosis and proposal directly revise the harness based on judge feedback. (b) With sparse threat evidence, attack cases and a safety specification are generated to guide harness adaptation and iteratively optimized using judge feedback.
arXiv深度剖析
提出 HASTE，一个从稀疏威胁证据出发自动演化智能体防护栏的多智能体框架。 此前防护栏适配依赖人工，而新兴攻击的速度超过人工适配；HASTE 把这一过程自动化，并专门面向威胁报告与预印本中只有简短描述或少量攻击样例的稀疏信号场景。 摘要说明该框架由安全规范生成与攻击用例生成两个过程构成对抗性互动，并给出代码链接；具体实现细节、证据规模与实验设置未在摘要中展开。
安全规范生成引导防护栏更新去处理已识别的安全漏洞，攻击用例生成则在每次更新后探测仍然存在的安全漏洞。 两个过程不是单向流水线，而是相互对抗：规范指出要修补什么，攻击用例检验修补后还剩什么，使防护栏演化能够覆盖初始观测证据之外的新兴攻击。 摘要以机制描述方式给出这一对抗性互动，并说明评估结果被反馈回两个过程；未提供消融或组件贡献的量化结果。
在多种骨干模型、攻击类型和证据形式上的实验显示，HASTE 一致降低攻击成功率，同时保持良性任务效用。 结果覆盖多个骨干模型、多种攻击类型与多种证据形式，说明该方法不局限于单一模型或单一攻击形态，并在降低攻击成功率的同时维持正常任务表现。 摘要报告的是跨条件的总体一致性结论，未给出具体攻击成功率数值、效用指标、样本量或统计检验。
启示与展望
该工作面向需要为智能体防护栏持续加固安全约束的开发者与安全研究者，适用场景是只能获得稀疏威胁证据的情形，例如威胁报告或预印本中的简短描述与少量攻击样例。其目标是在初始观测证据之外继续演化防护栏，并在多种骨干模型、攻击类型和证据形式上保持降低攻击成功率与维持良性任务效用的平衡。摘要同时给出代码链接，便于在相同设定下复现与扩展。
摘要未披露具体攻击成功率数值、良性任务效用的度量方式、证据规模、骨干模型清单与攻击类型清单，也未说明评估是否包含统计检验或消融分析；这些细节影响对效果幅度与各组件贡献的判断。此外，本次读取范围仅为摘要，未包含正文、图表与附录，因此上述机制与结论的完整验证条件仍需查阅原文。