跳到主要内容
检索

# 数据泄露

5 篇关联报道

订阅更新
  1. arXiv

    剪掉泄漏神经元:JEPA-Prune 只剪 1.6% 神经元,微调模型的人名推断准确率最多降 7.4 个百分点

    在私有记录上微调的大模型会记住姓名等个人信息,而现有隐私神经元编辑只看泄漏模型本身,缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照,再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元,部署前直接置零、无需重训。在三个个人信息数据集和五个模型上,剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9,多数模型未见文本困惑度保持在未剪模型的 16% 以内。

  2. arXiv

    数据科学智能体多数解出答案却踩了方法坑:220个任务里,数据泄漏越多,预测分数反而越高

    对220个数据科学任务的评估显示,多数智能体方案至少含一种方法性失败,且数据泄漏出现得越多,预测性能反而越高,说明只看准确率会漏掉方法问题。

  3. researchsquare.com

    糖尿病症状数据集里近半记录是重复档案:按档案分组重评,集成模型准确率从98%回落到90–93%

    在UCI早期糖尿病风险数据集上,520条问卷记录中有269条与另一条记录共享完全相同的预测变量组合,按行随机划分的交叉验证会把同一档案的副本同时放进训练与测试折。改用按档案分组的交叉验证后,十个集成模型的MCC下降0.105至0.157,准确率从97.2–98.2%降到90.2–93.2%,模型排名也随之改变。进一步把仅年龄不同的近重复症状模式并入同一折,所有模型的表现继续下降。

  4. arXiv

    钙钛矿电池模型评测换了分法:随机切分让查表法追平最优,换到未见机构后神经模型反超树模型

    钙钛矿太阳能电池的机器学习评测改用按来源分组的切分后,一个不做学习的查表法在随机切分上追平已发表最优值,而在未见机构与后续年份上神经模型反超树模型。

  5. arXiv

    Whiteout 用定向混淆样本覆盖个人敏感信息,在多种 LLM 上阻止目标信息被复述且对模型效用与安全影响可忽略

    该工作提出 Whiteout:在个人提出请求后,用精确设计的混淆样本覆盖其真实个人敏感信息(PSI),从而阻止 LLM 复述这些信息;在包括一款广泛使用的 OpenAI 模型在内的不同规模与厂商的现代 LLM 上评估显示,Whiteout 能有效阻止目标 PSI 泄露,对模型效用与安全影响可忽略,并优于现有替代方案,同时经受住从越狱等黑盒攻击到重学习、量化等白盒自适应攻击的多类反制测试。

已读完全部报道