多步智能体安全不再逐步各管一段:TAS用共享预算压住尾部风险,平均攻击成功率降到45.15%
多步LLM智能体的风险会沿工作流传播,而逐步独立校验看不到这种传播。TAS把工作流安全状态建成马尔可夫决策过程,用谱风险度量刻画罕见但代价高的尾部风险,并以一个跨步骤共享的预算约束每一步决策。在Agent Security Bench上,TAS在直接与间接提示注入下的平均攻击成功率分别为45.15%和29.73%,低于所比较的十一种防御基线。
多步LLM智能体的风险会沿工作流传播,而逐步独立校验看不到这种传播。TAS把工作流安全状态建成马尔可夫决策过程,用谱风险度量刻画罕见但代价高的尾部风险,并以一个跨步骤共享的预算约束每一步决策。在Agent Security Bench上,TAS在直接与间接提示注入下的平均攻击成功率分别为45.15%和29.73%,低于所比较的十一种防御基线。
地球系统AI模型逼近公里级分辨率时,网格间距减半会让格点数翻四倍,端到端训练成本随之上升。One2N把分辨率细化拆成逐级增量:每一级冻结上一级完整预报器,只训练一个跨分辨率残差修正模块,父模型的激活与优化器状态都不再保留。以NeuralGCM-0.7°为基线加一级细化得到One2N-0.07°,在单张80GB A800 GPU上训练约四周,对HRES-0.07°分析保持父模型的对流层技巧,同时降低平流层上部误差并刻画更细结构。
多模态长文档问答里,智能体式检索并非每次都划算,额外计算还可能让答案变差。RouteDRAG把是否调用智能体、以及调用后如何执行都变成可学习的选择:它用图索引组织跨页、表格与图像内容,预测智能体相对短路径的收益,并控制工具调用与终止。在两个基准上,它只把79.3%的查询交给智能体,平均准确率比只用短路径高3.47个百分点,同时超过统一走智能体的执行方式且回答调用更少。
该工作提出EMFA,将失败的多智能体执行轨迹重构为结构化依赖表示,显式建模级联错误传播与持续交互循环,经双分支候选筛选与反事实验证定位“决定性错误”(即修正后能恢复失败执行的智能体–步骤对);在Who&When基准上取得最优步骤级归因准确率,较此前最佳在Hand-Crafted与Algorithm-Generated子集上分别提升3.45与4.40个百分点,智能体级准确率在Hand-Crafted子集最优、在Algorithm-Generated子集保持竞争力。
该工作提出 Learner2Skill,把从历史交互中获得的学习者模拟能力外化为一个持久、可复用的 Simulation Skill,该技能记录学习者当前学习状态与反复出现的响应模式,并随新的真实交互演化,还能通过轻量级执行器校准迁移到新的 LLM;实验显示它更忠实地复现细粒度学习者行为、降低总体 token 成本,且同一构建出的技能可在不同 LLM 执行器间有效复用。
该工作提出AdaptiveSafety数据集(10,939条训练样本、1,000条测试样本,策略含1至100条规则)与SafePO强化学习算法,并据此训练出0.6B、4B、8B三档AdaGuard护栏模型,在推理时按用户提供的策略评估智能体轨迹;其中4B模型在AdaptiveSafety与DynaBench上分别取得89.30%和71.82%的二分类准确率。
该工作提出“语义疫苗学”范式并实现为 SemVac:通过 PaperBLAST 检索每个蛋白相关文献,压缩为结构化语义档案,再提示大语言模型输出抗原性概率;在 246 蛋白细菌基准上,14 个通用大语言模型中最佳者达到或超过专用预测器 PLGDL 的精确度,开源权重 Kimi K2 0905 在性能与成本间最均衡,预测对疫苗关键词遮蔽稳健、重复推理可复现,并泛化到 1200 蛋白跨病原体数据集;显式思维链推理在所有测试模型中提高召回但降低精确度;应用于 mpox 病毒蛋白组时复现已知抗原谱并优先排序未表征候选,其中 A30L 与 C19L 获得近期正痘病毒疫苗开发的独立实验支持,而 B20R 出现与 curated 注释不符的连贯但错误的 T
已读完全部报道