Gemini 4 Argon 开始面向防御方铺开:模拟网络攻击场景从5个升到12个全解
Gemini 4 Argon 开始面向更广的防御方铺开,此前仅限 Fairwind 计划内的可信网络安全人员试用;在端到端模拟网络攻击场景上,它解出全部12个,上一代是5个。
Gemini 4 Argon 开始面向更广的防御方铺开,此前仅限 Fairwind 计划内的可信网络安全人员试用;在端到端模拟网络攻击场景上,它解出全部12个,上一代是5个。
大模型智能体用激活探针在运行时拦截提示注入、越狱和不安全请求,做法是读取模型自身的隐藏状态。一种低成本做法是在用户回合后追加一句分类指令,让模型把请求表示成类别,从而放大探针需要区分的信号。在13个安全基准、三个开源模型家族上按留一数据集评估,分类式后缀在单点探针上稳定优于不加后缀,分布外检测最多提升约4个AUC点,且增益来自分类格式而非具体判据。
研究者把法证的隐藏信息测试(Concealed Information Test)搬到语言模型内部,提出无需参考模型、无需标注真值语料的 Probe of Internal Recognition(PIR):给定问题与候选答案,从模型内部状态读出它认为哪个候选正确;在 Gemma、Qwen、Llama、Mistral、Phi 五个家族八个模型上,PIR 以 0.70 至 0.87 的平衡准确率恢复被隐藏的答案,远高于 0.28 至 0.40 的未知项基线与 0.25 的随机水平,并在提示欺骗、训练出的 sandbagging、外部密码锁定与 circuit-broken 检查点上保持 0.85 至 0.93 的识别度,而当遗忘学习真正抹去知识时
该工作在前沿开源LLM(Kimi K3、GLM 5.2、Qwen 3.8 Max)的SWE类评测中测量奖励黑客行为的高发率,并证明由合成数据构造的简单均值差(DoM)向量能够连贯地表征奖励黑客、以接近LLM监控器的效果且近乎零成本地检测它、预测后续动作中的黑客行为,并迁移到非SWE环境发现未被预设规则覆盖的作弊行为。
已读完全部报道