攻防不再各打各的:CyberArena让智能体同场互攻互守,12个前沿模型分出高下
核心概要
CyberArena把网络安全评测从静态靶标改成多轮攻防对抗:两个智能体在隔离沙箱里同时攻击对方服务并修补自己的服务,目标每轮轮换。在40个挑战、466局比赛中,12个前沿模型里GPT-5.6 Sol与Claude Opus 5领先,而三个模型单独都能解出的30个挑战进入对抗后,第三轮捕获率分别降到52%、37%和35%。
深度剖析
网络安全智能体的评测从单角色、静态靶标,变成两个智能体在同一局里同时进攻和防守。 此前的基准多让智能体单独面对固定漏洞靶标,防守能力用预先录制的攻击回放来打分,没有实时对手。 在40个挑战、466局有效比赛中,12个前沿模型–工具组合按统一参考对手和挑战的期望得分排序,GPT-5.6 Sol以78.6分居首,Claude Opus 5以73.8分次之,第三名GLM-5.3为68.5分。
每局比赛里,两个参赛方在隔离沙箱中各自托管同一套有漏洞的服务,一边攻破对方、一边修补自己。 比赛采用攻防夺旗格式,分三轮、每轮20分钟,不给漏洞提示,目标每轮轮换,防守方对服务的修改跨轮保留。 平台用健康检查确认修补没有破坏服务功能,并用一个潜在能力模型把每次夺旗按对手强弱和挑战难度校正,估计攻击、防守和可用性三项能力。
对抗压力下,原本单独就能解出的挑战重新变得有区分度。 在单独模式下,40个挑战中有30个被GPT-5.6 Sol、Claude Opus 4.8和GLM-5.3全部解出。 在这30个挑战的对抗局中,到第三轮GPT-5.6 Sol的捕获率保持在52%,Claude Opus 4.8和GLM-5.3分别降到37%和35%。
启示与展望
评测覆盖12个固定的模型–工具组合和40个挑战,其中14个改编自攻防夺旗赛、26个基于开源软件;排名只相对于这批参赛者和挑战集。平台代码、挑战构建流水线和40个挑战环境对外共享,比赛轨迹将在审查和脱敏后发布。
轨迹审计由语言模型完成,并辅以独立智能体复核和抽查,但不构成对每条发现的独立人工核验。完整性探针发现,在面板接口修复前有6次夺旗经由未认证的观战接口获得;审计还把6次夺旗(占1,336次被接受夺旗的0.45%)直接关联到重放签名请求或读取目标日志,这些夺旗仍计入排名。健康检查通过并不总能证明服务可用,审计记录到少数防守方只对检查器放行的情况。
