跳到主要内容
检索

# 成员推断

5 篇关联报道

订阅更新
  1. researchsquare.com

    纯噪声蒸馏不再等于消毒:共享初始化让学生模型继承教师记忆的标签与后门

    只用高斯噪声查询教师模型做蒸馏,学生模型仍会继承教师对训练样本的记忆和植入的后门,前提是师生共享同一个公开初始化。MNIST 上,仅通过从未训练过的辅助输出蒸馏,成员推断 AUC 达 0.86、后门攻击成功率提升 93%;独立初始化的学生则接近随机。在公开基座微调的现实威胁下,攻击者不持有任何训练数据,仅用噪声查询即可恢复 93% 私有金丝雀的记忆标签。

  2. researchsquare.com

    重症监护有了一个不用任务标签的生成式数字孪生:13个终点AUROC 0.83–0.98,20个预测器中排第一

    一个123.5M参数的生成式模型Didymos在五个国家七个重症数据库的409,297例住院上一次性训练,不使用任务标签,靠采样患者未来来回答预测问题。在留出数据上,它从模拟未来读出13个主要终点的AUROC为0.83–0.98,在20个预测器中平均排名第一,包括有标签训练的LightGBM与TabPFN-3.5。它模拟的治疗反应与九项观察对照中的八项一致,但在俄罗斯与中国两家未参与训练的医院,仍需用当地无标签住院做数分钟继续训练才能追平本地有监督模型。

  3. arXiv

    PrivTab 将差分隐私机制嵌入表格基础模型架构,在 33 个 TabArena 数据集上于中强隐私区间超越 DP-LR 与 DP-MLP,并将拟合时间从数分钟压缩至约 10 毫秒

    作者提出 PrivTab,一种将差分隐私机制嵌入架构的表格基础模型:它在模拟数据上预训练,通过上下文学习把敏感行压缩为紧凑的可证明私有摘要,在 33 个 TabArena 分类数据集、六个隐私区间上于中强隐私下优于 DP-LR 与 DP-MLP,保持良好校准,并将拟合时间从数分钟降至约 10 毫秒的单次前向传播。

  4. arXiv

    综述用五条件框架评估13种成员推断攻击,发现无一能同时满足非过拟合、有竞争力、可靠且计算可行

    作者提出一个包含五个必要条件(C0敏感披露潜力、C1非过拟合模型、C2有竞争力模型、C3可靠成员推断、C4计算可行)的评估框架,并用它审查13种代表性黑盒成员推断攻击在61个攻击-数据集组合上的表现,结论是没有任何攻击能同时满足C1至C4,因此在这些现实条件下成员推断攻击只构成较弱的隐私威胁。

  5. arXiv

    MemGuard-Alpha 审计发现:MIA 污染分数在固定日期下判别力降至 0.487–0.537,且无过滤变体在对称交易成本下跑赢未过滤集成

    作者提出 MemGuard-Alpha,包含融合五种成员推断攻击(MIA)方法与时间邻近特征的复合污染分数,以及利用模型训练截止时间差异的跨模型记忆分歧,并在七个 LLM(124M–7B)、50 只标普 100 成分股、42,800 条提示与 299,600 条提示-模型 MIA 分数(2019–2024)上审计这两者,得到三项负面结果:时间邻近特征以 ROC-AUC 1.000 完美恢复样本内标签(因其是定义变量的单调变换),MIA 分数的判别力主要来自模型间规模差异(固定日期下原始分数 AUC 高达 0.99,但三种模型内归一化后降至 0.487–0.537),且在对称交易成本下没有任何过滤变体改善风险调整后表现、无一获得显

已读完全部报道