智能体集群学会自适应注入:最强防御模型Gemini 4 Argon也只挡住66%攻击
提示注入攻击在公开基准上接近饱和后,一种由多个智能体协作搜索攻击载荷的优化器重新把攻击成功率推高。研究构建了100个合成工具调用场景,攻击目标是与用户任务无关的随机工具调用;面对最强攻击者Gemini 4 Argon,最稳健的防御模型Gemini 4 Argon在完整查询预算下只抵抗66%的攻击,限制到150次查询时为87%。
提示注入攻击在公开基准上接近饱和后,一种由多个智能体协作搜索攻击载荷的优化器重新把攻击成功率推高。研究构建了100个合成工具调用场景,攻击目标是与用户任务无关的随机工具调用;面对最强攻击者Gemini 4 Argon,最稳健的防御模型Gemini 4 Argon在完整查询预算下只抵抗66%的攻击,限制到150次查询时为87%。
稀疏自编码器(SAE)常被用来从生物基础模型嵌入中提取可解释特征,而跨随机种子可复现一直被当作特征可信的标志。研究在概念已知的嵌入上同时测量可复现性、概念覆盖与纯度:单次SAE拟合只复现27–46%的特征,却覆盖多数概念;对五个种子拟合做共识后,可复现率升到78–98%,纯度与单次拟合相当。代价是共识覆盖的谱系少于单次拟合,且所有SAE都漏掉弱细胞状态。
合成电子健康记录长期在临床保真度与形式化隐私保证之间取舍。SynthEHR-DP把混合类型编码器、时间Transformer编码器与条件变分自编码器组合起来,在差分隐私随机梯度下降和Rényi隐私核算下训练,并在推理后加一层不消耗隐私预算的临床约束层。在MIMIC-IV上、总预算ε=8、δ=10⁻⁵时,成员推断攻击AUC为0.52,下游TSTR AUROC为0.786,比非私有的TRTR上界0.821低4.2%,临床有效性得分0.961。
作者为球形、椭球形、立方体和棒状四种胶体颗粒各构建了约135–155张合成图像的数据集并人工标注为孤立颗粒、二聚体、链、环和团簇五类,用YOLOv8-seg(多边形实例分割)训练出四个识别模型,在合成测试集上准确率约97–99%,但迁移到40张实验显微照片(每种形状10张)后性能显著下降,相对合成基准的平均误差为43.1%,其中球体20%、椭球44.7%、棒49.2%、立方体58.5%,数据集与模型已公开并集成到isanm.space信息系统中。
已读完全部报道