跳到主要内容
检索

# 积分梯度

4 篇关联报道

订阅更新
  1. arXiv

    剪掉泄漏神经元:JEPA-Prune 只剪 1.6% 神经元,微调模型的人名推断准确率最多降 7.4 个百分点

    在私有记录上微调的大模型会记住姓名等个人信息,而现有隐私神经元编辑只看泄漏模型本身,缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照,再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元,部署前直接置零、无需重训。在三个个人信息数据集和五个模型上,剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9,多数模型未见文本困惑度保持在未剪模型的 16% 以内。

  2. aclanthology.org

    提示词让模型答对了,却让视觉证据塌了:免训练头级阻尼把翻转率压到34.60%

    医学视觉语言模型在权威口吻的提示下会改口附和,而提示词层面的防御即使把答案纠正回来,内部对图像证据的利用仍在后段融合层塌陷。HD-AS 不改参数,先用中性提示与偏置提示之间的激活漂移挑出与附和相关的注意力头,再在推理时对这些头的输出投影做各向同性阻尼。在 SLAKE 上,Qwen2.5-VL-7B 的平均条件翻转率降到34.60%,低于对比解码的38.29%,中性提示准确率保持在74.37%。

  3. researchsquare.com

    VR晕动不适不必等用户开口:脑电里左额、中央与右顶区反复被模型标出

    两项独立的听觉事件相关电位VR研究中,深度模型在分类晕动相关不适时反复指向同一批头皮位置:左额、中央与右顶区域,以及刺激后约80至260毫秒的早期时间窗。研究用可解释性图把模型判断归因到具体电极与时间点,并在不同国家、不同头显、不同脑电系统与不同VR任务的两批数据上得到相关模式。跨被试泛化仍有限,个体校准后准确率明显提升,说明这些特征目前更适合作为待检验的候选标记。

  4. arXiv

    连接组约束的果蝇视觉模型被系统压力测试:机制结论随干预与训练解而变

    对果蝇视觉模型flyvis的50个训练解做系统压力测试后发现,连接组约束并不让机制结论唯一:反向phi错觉在任务匹配的因果CNN中同样出现,归因效应量只在与其干预语义匹配时才与穷举单连接真值一致,而满足T4/T5调谐判据的细胞类型解在50个模型中只有25个成立。这些结果把连接组约束的价值定位为让机制假设可直接干预检验,而不是给出唯一机制。

已读完全部报道