Vincent-Daniel Yun

该工作提出 HeteroFold，一种在发送方与接收方模型均冻结的前提下、无需接收方预填充的跨家族 KV 缓存迁移方法，通过基于共享字符边界的 Token 对齐、跨层跨头 K/V 映射与面向接收方行为的校准，在 Llama-3.1-8B、Qwen3-4B、Ministral-3-14B 之间的六个迁移方向上于四个长上下文基准取得最佳缓存迁移表现，并在 HiddenBench 多智能体通信上达到与文本通信相当的水平，32K 上下文下 Llama-3.1-8B 到 Ministral-3-14B 的迁移比原生预填充快约 10.7 倍。

该工作提出 HeteroFold，一种在发送方与接收方模型均冻结的前提下、无需接收方预填充的跨家族 KV 缓存迁移方法，通过基于共享字符边界的 Token 对齐、跨层跨头 K/V 映射与面向接收方行为的校准，在 Llama-3.1-8B、Qwen3-4B、Ministral-3-14B 之间的六个迁移方向上于四个长上下文基准取得最佳缓存迁移表现，并在 HiddenBench 多智能体通信上达到与文本通信相当的水平，32K 上下文下 Llama-3.1-8B 到 Ministral-3-14B 的迁移比原生预填充快约 10.7 倍。