手机智能体被跨模态注入劫持:图文同现时攻击成功率85.4%,单通道重复做不到
面向多模态大模型驱动的手机智能体,MobileInject把同一恶意目标同时写进截图与界面文本,在可重置的安卓模拟器上跑完108个可执行风险实例。此前评测多只看单一文本通道或只判攻击成败;在曝光次数对齐的对照中,图文各出现一次的攻击成功率达85.4%、良性任务完成率为0,而同一通道重复两次只到72.9%或27.8%。108对实例中有30对出现单通道均未达成、图文一致注入却成功的反转。
面向多模态大模型驱动的手机智能体,MobileInject把同一恶意目标同时写进截图与界面文本,在可重置的安卓模拟器上跑完108个可执行风险实例。此前评测多只看单一文本通道或只判攻击成败;在曝光次数对齐的对照中,图文各出现一次的攻击成功率达85.4%、良性任务完成率为0,而同一通道重复两次只到72.9%或27.8%。108对实例中有30对出现单通道均未达成、图文一致注入却成功的反转。
已读完全部报道