持续更新的模型会泄露“何时用过”:TMIA 从置信度轨迹推断样本进出时间,时间戳级 F1 超 83%
持续更新的模型会保留一串历史快照,攻击者可以查询这些快照,从而不仅判断某条样本是否被用于训练,还能推断它何时被加入、何时被移除。TMIA 把同一条样本在各快照上的置信度变化当作时间序列,用带滑动窗口的双向 LSTM 标出进入点和退出点,再按时间顺序配对成合法的成员区间。在三个语言模型和三个图像分类模型上,TMIA 的时间戳级 F1 在语言模型各设置中均高于 83%,区间级 F1 相对两个基线至少提升 21.82%。