加密数据上跑BERT-base不再需要格式转换：MOAI把单条输入摊到2.36分钟，比THOR少52.8%
全同态加密能让云端在密文上直接做Transformer推理，但旋转和格式转换的开销一直拖慢速度。MOAI把列打包与对角打包串成一条贯穿各层的固定流程，并用免旋转算法计算Softmax和LayerNorm，在BERT-base的全部矩阵乘法中只需9648次同态旋转。在单块A100 GPU上，它的端到端评估时间比THOR减少52.8%，摊薄到每条输入2.36分钟。
Perseus把同态加密推理栈收进一个公开Python库：Llama-3-8B解码延迟低于已知最快实现Sylph
同态加密能在密文上直接算模型，但自举（bootstrapping，刷新密文可用乘法深度的昂贵操作）带来的延迟让加密大模型难以实用，而现有优化分散在不同、有时闭源的框架里，集成困难且耗时。Perseus是一个公开的Python库，覆盖密码后端、数据打包和自举放置三层，在GPU上实现内核内密钥再生、复数Cachemir打包，以及按系数幅值和打包周期性规划自举。在Llama-3-8B解码上，其延迟低于已知最快实现Sylph，后者运行在相近硬件但基于闭源的HEaaN。
HAO 将零均值中心投影用于时序差分目标，使 FHE 强化学习在全部随机种子上实现 0% 边界越界
该工作提出同态优势算子（HAO），把基于优势的价值估计中的零均值中心投影直接施加到时序差分目标上，以消除驱动 Bellman 漂移的均匀状态价值基线；在三层评测（表格 MDP、使用真实 CKKS 运算的加密 CartPole、20 节点物流路由基准）中，HAO 将网络预激活严格限制在安全多项式近似域内，全部随机种子 0% 越界，而仅用正则化在 5 个种子中有 3 个越界、未稳定基线在 83.8% 的回合中越界，并在表格域把最优策略准确率提升 18.0 个百分点。
已读完全部报道