云端写程序、端侧小模型答问:AppWorld 成功率最高提升 14.9 个百分点,用户数据不出设备
云端模型先写好程序、把运行时才出现的用户数据问题交给端侧小模型回答,这种分工在 AppWorld 上让纯代码智能体的成功率在全部六种骨干模型与测试划分组合中都有提升,最高提升 14.9 个百分点,同时用户数据留在设备上。
云端模型先写好程序、把运行时才出现的用户数据问题交给端侧小模型回答,这种分工在 AppWorld 上让纯代码智能体的成功率在全部六种骨干模型与测试划分组合中都有提升,最高提升 14.9 个百分点,同时用户数据留在设备上。
联邦聚类此前每轮都会向服务器多暴露一层模型信息,即使原始样本不出本地,多轮交换也让各客户端的贡献可被关联。eFDPC把演化模糊聚类与密度峰聚类放进联邦设置:各客户端在私有小批量上增量演化微簇,只把密度峰候选经混洗层加性分片后上传,服务器在混洗后重建峰值并做全局峰选择。在合成与真实基准上,该方法在单轮设置中优于近期联邦聚类基线,并可扩展到更高维、非独立同分布数据。
作者提出图变换器语言模型(GTLM),通过在预训练 LLM 的注意力模块中直接注入图感知注意力偏置,使模型原生处理图拓扑,仅增加约 0.015% 的结构相关参数,并证明该双向注意力前缀对节点具有置换等变性、无图时精确退化为预训练模型;在文本属性图基准、WebQSP 上的 GraphRAG 以及分子基准上匹配或超越领域专用最先进模型,在 GraphQA 上显著优于强基线,且针在图中的准确率从 1k 到 64k token 保持平稳、超出训练长度 4 倍仍不下降,而同等训练的纯文本基线崩溃。
已读完全部报道