跳到主要内容

日报

AI 与科学前沿 · 2026-11-16

仅汇集当天已送达公开发布边界的内容。

此日期尚未封刊,内容随公开文章更新。

arXiv

神经控制器接管非线性时间最优MPC:训练数据减半,控制频率从1.4 Hz升到1 kHz

非线性时间最优模型预测控制(TOMPC)能最快把受约束系统推到目标,但在线求解太慢,难以用于快速动力学系统。这套工作用神经网络模仿长时域、带硬终端约束的非凸TOMPC,并提出自知情采样:网络多输出一个“剩余时间”预测,只在轨迹偏离时间最优时向专家求解器要标签。在Furuta摆上,该采样约用三分之一训练时间、不到一半数据就达到标准数据集聚合的效果,所得控制器保持与专家相当的吸引域,GPU推理把控制频率从约1.4 Hz提高到1 kHz。

arXiv

辩论训练协议首次被当作学习问题分析:辩手改为合作,某些情形下错误数可降到常数次

辩论作为训练协议时,人类只判断两名辩手谁说得对,而不直接给标签。此前的工作只分析固定裁判下的辩论博弈,没有回答辩手如何学到正确函数。该研究把辩论写成在线学习问题,证明存在对抗式辩论学不会、而合作式辩论只需常数次错误的情形,并用一个新的组合维度刻画合作辩手在可实现情形下的最优错误上界。

arXiv

组合图像检索不再一步压成单向量:FactEmbed先拆解修改意图,再对候选重排

组合图像检索要按“参考图加一句修改文字”找回目标图,常见做法是把多模态查询直接压成一个检索向量,模型没有显式机会先想清楚文字改了什么。FactEmbed在Qwen2.5-VL-7B的输入中插入一组可学习的因子化潜变量,用重建目标图细节的“目标想象”目标让它们各自对应目标中的语义区域,再用因子级对比损失和注意力蒸馏把这些分解带入检索。在精化后的CIRR与FashionIQ基准上,其Recall@1与平均Recall@10均高于CSMCIR与ReCALL,但正文所述提升幅度与表格数值不一致。

arXiv

视觉token砍掉四分之三,机器人策略仍保住95.75%成功率:APS-VLA让推理降到68.75毫秒

视觉-语言-动作策略每步要处理数百个视觉token,推理延迟高。APS-VLA在冻结主干的前提下,用轻量评分器按当前观测、指令和本体感受挑选token,训练时同时要求保留的表示复现策略输出并预测后续视觉变化。在LIBERO上保留128个token时,平均成功率95.75%,比未剪枝的97.00%低1.25个百分点,推理延迟降到68.75毫秒。

arXiv

剪掉泄漏神经元:JEPA-Prune 只剪 1.6% 神经元,微调模型的人名推断准确率最多降 7.4 个百分点

在私有记录上微调的大模型会记住姓名等个人信息,而现有隐私神经元编辑只看泄漏模型本身,缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照,再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元,部署前直接置零、无需重训。在三个个人信息数据集和五个模型上,剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9,多数模型未见文本困惑度保持在未剪模型的 16% 以内。

arXiv

冻结的图基础模型也能查多变量时序异常:Gfm4Mtsad在三个真实数据集多数指标上取得最好或次好

多变量时序异常检测长期依赖在目标域小数据上从零训练的图检测器,学到的传感器拓扑易被伪相关带偏,也无法复用预训练图模型的关系先验。Gfm4Mtsad把冻结的图基础模型包在三个外围模块里:SICA对齐时序特征与正常连接先验并补回投影丢失的细节,MAPS用保留残差的局部依赖破坏合成近边界伪异常,TGEC只在分数上尾重排多粒度证据。在MSL P-15、SMAP T-3、SMD 1-1三个真实数据集和AnomalyGFM、OwlEye两个骨干上,该适配在多数指标上取得最好或次好成绩。

arXiv

SinkState 把循环状态存成自适应低秩:混合模型解码峰值内存最多降到基线的 1/2.6

混合语言模型把历史压进固定大小的循环状态,但现有服务系统仍把状态当稠密矩阵,每一步解码都整块读写,显存与带宽开销随批大小增长。SinkState 利用线性注意力中查询、键、值集中于稳定低维子空间这一现象,在解码全程把每个状态保存为自适应低秩分解,用局部 SVD 合并新 token,并在 CPU 上异步整理冻结部分。在四个 Mamba-2 与 GDN 混合模型(4B 到 120B)上,循环状态峰值内存降到基线的 0.38–0.63,解码最多加速 1.58 倍,准确率保持不变。

arXiv

力觉世界模型拆开两件事来学:演示定目标,玩耍数据补接触响应,四类真机任务成功率最高到95%

接触密集操作里,专家演示只覆盖成功路径,难以说明力如何随动作变化;无任务目标的玩耍数据记录了更广的接触动力学,却不对应任务目标。ForceWAM把“任务期望的运动与六轴力/力矩未来”交给力觉世界模型从演示中学习,把“哪些动作能实现这一未来”交给逆动力学模型从演示与玩耍数据共同学习,部署时用新测得的力反馈在两次世界模型更新之间反复修正动作。在力调节滑动、有扰动与无扰动的翻箱、套环放置四类真机条件下,完整系统成功率分别为85%、95%、85%、90%,均高于所列基线。

arXiv

边缘大模型不再按固定位宽读权重:LazyWeights 把码字压小,Orin 上每 token 省时最多 36%

边缘设备上的大模型权重格式给每个整数码分配相同位宽,而权重码本身分布并不均匀。LazyWeights 保留 llama.cpp 的 GGUF 格式,只调整 GPTQ 让码更集中,再用可按 32 条并行通道解码的 Huffman 码无损压缩,并在 DRAM 与 L2 之间的小单元里按需解码,GPU 内核不变。在 1% 与 3.5% 困惑度预算下,编码后的 Phi-3-mini、Mistral-7B 和 SmolLM-1.7B 比最好的 llama.cpp 格式小 5.7–31.4%;在 Jetson Orin Nano Super 上,配合该解码单元,每 token 延迟与能耗最多降低 36% 和 38%。

arXiv

只看重建残差会漏掉漂移传感器:CLOSURE 另学一路通道互证,SMD 上 Aff-F1 达 88.13

多变量时间序列异常检测长期依赖重建残差,但残差只说明一段观测能被还原,不说明各通道之间是否仍像正常时那样互相解释。CLOSURE 把可重建性与跨通道一致性拆成两个各自用正常数据训练的预测任务:一路用离散正常基记忆条件化的扩散重建器打分,另一路让每个通道只由其余通道预测,再用正常数据校准把两路分数合成。在 SMD、MSL、SMAP、SWaT、PSM 五个公开基准上,其 Aff-F1 均高于所列方法,其中 SMD 为 88.13。

arXiv

决策模型当不好行动者也能当老师:JEV 用整条轨迹打分,把 1.5B 策略成功率从 72.8% 提到 82.9%

决策模型通常按“会不会行动”来评价,但同一批模型在 ALFWorld 上作为行动者时会被更容易的子目标带偏。把 JEV 改作教师,在回合结束后看完整轨迹、逐个问“这个动作是否有助于达成目标”,它给出的分数加进 GRPO 后,Qwen2.5-1.5B 策略在 ALFWorld 上的成功率从 72.8% 升到 82.9%,在 WebShop 上从 56.8% 升到 71.4%;而 JEV 自己作为行动者只完成 42.9% 的 ALFWorld 任务。

arXiv

高斯泼溅不再经过光栅化器:GaussianRenderFormer直接出图,未见物体38.08 dB

GaussianRenderFormer把3D高斯泼溅的成像从手写光栅化器换成Transformer:每个高斯一个token,视角相关解码器按相机光线小块出像素。在26,820个Objaverse物体上训练后,300个未见物体上对完整泼溅渲染达38.08 dB PSNR,而直接光栅化同一份剪枝输入为44.02 dB;诊断指向视角解码器瓶颈,但训练不足未被排除。

arXiv

近分布外检测不再另起炉灶:PLUS给18个现成检测器补上类内子空间信号,126个组合全部提升

近分布外(near-OOD)样本与训练类在特征上高度相似,现有事后检测器擅长远分布外却在此处失效。PLUS不替换检测器,而是用稀疏自编码器为每个类别挑出最活跃神经元、张成低维子空间,再以该类别的白化马氏距离给出补充分数,按单一固定权重与任意已校准基础分数相加。在ImageNet-1K的OpenOOD v1.5基准上,18个检测器与7种骨干的全部126个组合近分布外AUROC均提升,远分布外大体保持,仅在基础分数已接近饱和处出现不超过1个点的回落。

arXiv

聚合本身就是一道谱谷:SpecValley把谷的位置交给数据学,六个异配图上四个领先

图神经网络在异配图上做节点分类时,聚合前的那一步一直由度归一化固定,而度归一化在谱上相当于一道零点位置由归一化而非数据决定的谷,稠密图的特征值恰好堆在那里。SpecValley把这道谷的中心、锐度和两侧增益改为按图学习,再接入一个普通的ChebNet谱滤波器。在六个异配基准上,SpecValley在其中四个达到或超过已发表最好结果,在Tolokers上落在最好结果的置信区间内,在Actor上落后;交叉五种聚合器与四种滤波器的对照把增益归到聚合这一步,而不是下游滤波器。

arXiv

WaveGen把零样本TTS压成单模型:文本直出波形,Seed-en上WER 1.47、SIM 0.75

WaveGen把零样本语音合成从多级流水线收回到单个扩散模型:文本直接生成原始波形,不再经过神经音频编解码器、梅尔声码器、VAE潜变量或时长预测器。它用Spectral Forcing在模型内部同时学习一条低分辨率频谱轨迹和目标波形轨迹,为高分辨率波形上的文本-语音对齐提供结构化引导。在Emilia开源数据、单阶段训练下,0.6B参数的WaveGen在Seed-en基准上取得WER 1.47和说话人相似度SIM 0.75。

arXiv

推理视觉语言模型的KV缓存压到约六分之一:TraceKV用在线策略校准保住推理准确率

推理视觉语言模型的KV缓存既要装下多模态输入,又要随推理链不断增长,现有低秩压缩按静态输入校准,生成越长与稠密模型的预测偏差越大。TraceKV把校准激活改为稠密模型自己生成的推理轨迹,并按各KV状态对策略散度的敏感度加权做SVD,再在全局预算下分配秩。在Qwen2.5-VL-7B等四个模型上,70%秩比叠加4位量化时总体准确率73.41%,稠密模型为73.58%,KV缓存缩小5.64倍。

扩散语言模型学会数字符:不微调也能把摘要卡在目标长度,误差降到3.1字符以内

面向标题、预览等必须卡准字符数的摘要场景,Delta 在掩码扩散语言模型的去噪循环里估计当前输出的期望字符长度,并动态增删掩码位置把生成引向目标长度。它不需要微调,直接用于现成的 LLaDA 与 Dream。在 XSum、CNN/DailyMail、arXiv 三个摘要基准上,字符长度误差比各基线低一个数量级,同时自动与人工评价下的摘要质量保持可比。

arXiv

视觉语言动作模型去掉视觉编码器:NEO-VLA让动作信号在中间层就接上

NEO-VLA把视觉语言动作模型里的固定视觉编码器去掉,图像经轻量卷积层切块后与语言在主干中一起演化,动作专家从不同深度的指令条件视觉表示中取用信息。受控比较中这类原生结构优于带编码器的对照,全量微调缩小差距但没有消除,单纯加大规模也补不回来;逐层探测显示对动作关键的信号常在最终视觉表示之前就达到峰值。

arXiv

反馈延迟又占内存,在线风险控制怎么撑住:CA-OCRC 用随机代理延迟,容量只需随最大延迟对数增长

在线保形风险控制此前默认每轮损失都能及时、无损地拿到,但真实系统里反馈会延迟,跟踪待定预测的容量也有限,部分反馈因此永久丢失。CA-OCRC 把“跟踪哪些轮、跟踪多久”和预测集构造放在一起设计:每轮抽一个随机代理延迟,容量允许就跟踪到反馈到达或代理延迟到期,再用两级逆概率加权补偿丢失的反馈。理论分析给出任意延迟与随机延迟下的风险界,并据此优化代理延迟分布;在优化设计下,容量只需随最大延迟对数增长,就能达到无限容量 OCRC 的收敛速率。

arXiv

四旋翼不再只靠隐状态记路:ScanDreamer 把在线地图写进想象,成功率96.3%、碰撞3.6%

面向未知杂乱环境中的四旋翼导航,ScanDreamer 用深度图与位姿在线构建二维扫描记忆地图,并让世界模型、演员与评论家都以这张地图为条件,想象时在冻结地图上推进位姿、由地图几何给出测地进度与撞墙信号。在 NVIDIA Isaac Sim 的1560个未见布局与参数区间测试回合上,三个随机种子平均成功率为96.3%、碰撞率为3.6%;同一在线交互预算下,AirDreamer 的成功率为59.6%、碰撞率为28.8%。

arXiv

情绪视频生成不再靠固定奖励:EmoReward把上一轮训练的经验变成下一轮的权重

情绪视频生成的质量没有唯一正确答案,固定融合视觉、运动和文本对齐奖励难以表达情绪意图。EmoReward把一次完整训练中收集的奖励轨迹整理成各情绪场景下各评分通道的可靠性,转成有上限的权重乘子,在下一轮训练中与当前视频的实例门控结合,且不更新任何奖励模型参数。在HunyuanVideo 1.5上配合DanceGRPO、FlowGRPO和SAGE-GRPO,VideoAlign Overall在三种算法下均提高,其中SAGE-GRPO配合EmoReward从-0.8269升至-0.2624。

arXiv

科学智能体不再只靠上一轮反馈:Sage-Taiyi把搜索中形成的理解存下来,泰一基准总分54.0

Sage-Taiyi 把科学发现拆成两层:对象层在目标树与想法图上做搜索,元层用可修订的认知状态记录哪些判断有证据、哪些前提未验证,再据此决定下一步查什么、用什么方法。在含50篇论文、265个任务、覆盖十个学科的泰一基准上,它的总分是54.0,最强基线 AI Scientist-v2 为47.9,八项指标均列第一。五个专家参与的化学、材料与工程合作把部分提案推进到实验或计算验证,其中钴催化羰基化模型反应产率从痕量提高到84%。

arXiv

选对图像也挡不住干扰:Qwen2.5-VL在五张干扰图下靠答案一致性正则把圆形准确率提高16个百分点

视觉语言模型在目标图像旁混入无关图像时准确率明显下降,即使提示直接点名目标图像,干扰仍会通过中间层“干扰图到文本”的连接影响推理。研究在Qwen2.5-VL上以单图预测为参照,用答案一致性正则对齐有干扰与无干扰时的答案分布,在五个感知基准、五张干扰图条件下把圆形准确率平均提高16个百分点,同时保持单图性能。

arXiv

视频动作识别解释拆成“看什么”和“何时动”:删除AUC在三个数据集上多数轴最低,掩码约稀疏五倍

视频动作识别的归因图通常把画面外观与帧间运动混在一张显著性图里,使用者无法判断模型是靠物体还是靠动作做出预测。该工作把解释拆成空间外观掩码与时间运动掩码,在冻结的分类器上联合优化,并用最近帧替换来切断时间动态。在EPIC-Kitchens-55、EGTEA Gaze+与Something-Something V2上,该方法在多数数据集与轴上取得最低的删除AUC,掩码约为最强基线的五分之一大小。

arXiv

多说话人转写不再逐人独立解码:Pandemonium让说话人互相看见,会议基准平均错误率降到14.7

面向多说话人会议转写的目标说话人识别此前按说话人逐个独立解码,且被限制在30秒窗口内。Pandemonium把说话人条件接入可整场解码的Parakeet长音频骨干,并加入跨说话人注意力与掩码修正模块,让同一场对话中的说话人表示在编码器内互相可见。在合成、伪标注与真实数据上训练后,该系统在多个会议基准上取得最优结果,并在预测说话人日志条件下平均cpWER为19.2。

arXiv

长序列三维重建的融合瓶颈被绕开:CrossPressor免训练把256视角跨视图融合从125毫秒压到4.8毫秒

前馈三维高斯泼溅在视角数增长时,锚点式压缩虽固定了解码端表示,却让支撑视图到锚点的融合计算随视角数膨胀。CrossPressor不改动已训练检查点,在K/V投影前按覆盖循环路由支撑特征,把保留的空间证据分散到各支撑视图与融合层。在256视角下,它只保留1.85%的稠密QK交互,跨视图延迟从125.28毫秒降到4.80毫秒,渲染质量接近稠密融合。

arXiv

推理不再只靠事后投票:VGSC在解码中随机接受候选步,平均准确率63.1%

大模型多步推理的测试时搜索长期在两种不完美信号之间取舍:事后投票保留多样性却无法把生成引向正确路径,束搜索式验证器引导能提前干预却容易过度集中并放大验证器误差。VGSC把逐步正确性与未来结果预测合成一个接受权重,在解码时对候选步做有上限的拒绝重采样,同时保留多条轨迹做最终自洽投票。在五个推理基准、Qwen2.5 Math 1.5B Instruct生成器与Qwen2.5 Math PRM 7B验证器下,VGSC在验证器信任指数为10时取得63.1%的平均准确率,高于最强非VGSC基线BS+SC-Future的60.7%。

arXiv

冻结的模仿策略不再重训:A2WM 用动作仿射世界模型把平均成功率从 27.18% 提到 59.51%

模仿策略执行中的小误差会累积导致失败,而此前的修正要么依赖在线强化学习,要么需要昂贵的在线规划。A2WM 从冻结策略的动作扰动轨迹中离线学习局部动作响应,把任务相关几何预测为名义轨迹加对修正的线性响应,从而把在线修正化为一次模型评估加一次凸二次规划求解。在四个仿真操作任务上,它取得所评估基线中最高的平均成功率,从 Diffusion Policy 的 27.18% 升至 59.51%,每控制步平均修正开销 3.8 毫秒,不含基础策略采样。

arXiv

字节顺序不只影响长度:UBE 把一符号前瞻的字素边界平衡错误从 8.76% 降到 0.06%

字节级语言模型用学到的边界预测器把字节切成片段,而预测器在有限前瞻下能看到什么,取决于文本编码。UTF-8 中许多文字的一个码点占三字节,首字节只携带 4 个高位码点比特,因此同一左文后“延续字素簇的附标”和“开启下一字素的字母”可能共享首字节。在匹配的 FineWeb-2 文本上训练小型因果预测器、在 FLORES-200 的 17 种语言上评估,一符号前瞻下字素边界的平衡错误在 UTF-8 为 8.76%,在 UBE 为 0.06%;同长度的 UBE-BE 为 8.62%,说明增益来自字节顺序而非流长度。

arXiv

ReLU特征乘上单位分解门:回归谱偏置不再随窗口数增长,泊松问题却把最慢模式换成低频

浅层ReLU模型里,高频分量学得慢的谱偏置与特征字典的Gram矩阵条件数直接相关。把每个ReLU特征乘以帽形单位分解权重后,Gram矩阵对任意局部双线性形式都呈块三对角,其块Toeplitz符号决定各频率的学习速率。回归损失下符号远离零,匹配模型规模时频率相关学习速率的实测离散度从四个数量级降到五倍以内;刚度矩阵下符号在零频处消失,门控不改善条件数,反而把最慢模式变成低频。

arXiv

AskALCF把HPC问答的失败分给具体组件:2174轮里无法归因的失败从41.4%降到14.2%

面向高性能计算用户支持的智能体系统AskALCF把每次问答的失败归因到知识、检索、提示、模型或工具五类组件之一,而不是只给一个质量分。它在2174轮生产支持对话上把无法归因的失败从41.4%降到14.2%,并在150轮专家标注参考上把与专家的一致数从108提高到123。改进对象是规则、提示和评审策略,模型权重不变,所有面向生产的改动仍由专家把关。

arXiv

MoE 服务每步重分专家副本:Relief 用整数松弛逼近每步最优,片上引擎把有效利用率提到 99.5%

专家并行 MoE 服务中,每层都要等负载最重的 GPU 收工,而路由每个解码步都在变。Relief 不再求解每步的线性规划,改用整数双向成对松弛,在副本边上反复折半搬运负载,几轮就逼近每步最优。在三个开源 MoE 家族的解码路由上,按相对每步最优的有效利用率计,部署的静态方案为 66% 到 72%,GPU 内核升到 93%,片上引擎升到 99.5%,最大一处比静态放置多回收 37.3 个百分点。

arXiv

多模态旋转位置编码被拆开检验:文本与图像之间的空间偏置几乎不帮忙,去掉后定位反而更准

视觉语言模型常用的多模态旋转位置编码(MRoPE)给没有空间结构的文本也分配了高、宽坐标,使文本与图像块之间的注意力带上位置偏好。研究把图像内部的空间编码与跨模态空间效应分开控制,在官方预训练检查点上做免训练探测,并在2B、4B两个规模上从相同初始参数出发做控制训练。结果显示跨模态空间效应作为空间参照几乎没有额外收益,甚至可能损害性能,而图像内部的空间编码对细粒度定位仍然有用。

arXiv

扩散语言模型引导不再多跑一遍前向:GCG只改注意力头特征,LLaDA-8B的Ruler从26.2升到29.5

扩散语言模型靠迭代去噪并行生成文本,但已有引导方法要额外构造一个弱模型,每个去噪步多一次前向,推理成本翻倍。GCG先分析发现这类模型在去噪时更依赖局部上下文、常低估远处证据,于是直接在特征空间放大负责全局上下文的注意力头输出,不建弱模型。在LLaDA-8B、Dream-7B和LLaDA-1.5上,GCG在多个基准上优于U-CFG和A-CFG,且LLaDA-8B的FLOPs与未引导基线相同。

arXiv

会议转写不再只看谁在说话:结构化说话人条件让重叠语音下的目标识别更稳

会议转写需要按指定说话人输出文字,但此前的四状态活动条件会把不同的干扰人数和交接历史压成同一个目标条件。结构化说话人条件把每条说话人活动轨迹先单独编码,再与整场会议得到的声学身份结合,并用条件相关的低秩跨通道调制控制声学编码器。在 Qwen3-ASR-0.6B 与 oracle 分离结果上,完整方法用 1.46M 条件参数,在四个会议测试集上相对四状态对角条件取得 6.23% 的平均相对 cpER 下降。

arXiv

条件流匹配也能迁移:冻结源表示之外再加一层修正,五维响应上能量差异降26.4%

条件流匹配在目标样本有限时,可以借用相关源总体学到的协变量表示。TFM-Freeze 固定源编码器、只训练目标速度头;TFM-Adapt 在函数锚定惩罚下联合学习速度头与表示修正。在五维相关表示的模拟中,源样本量为10000时,无惩罚的 TFM-Adapt 把能量差异从 TFM-Freeze 的0.3158降到0.2325,降幅26.4%;目标验证则用于在迁移无益时退回仅用目标数据的生成器。

arXiv

搜索系统运行正常却答非所问:WISE把质量问题追到排序与召回环节

工业搜索的检索、排序流水线可以按时返回结果,却仍可能给出不满足用户意图的页面,而现有监控只看延迟、可用性和报错。WISE把这类结果质量问题拆成两步:先只用用户可见的多模态证据判断页面是否有问题,再调取内部流水线证据,把已确认的问题归因到供给、召回、相关性打分、排序或重排。在1.2万条真实搜索案例构成的WISE-Bench上,Qwen3.5-35B-A3B经轨迹监督微调与AHPO优化后,端到端完全匹配从35.25%升到75.20%。

arXiv

LoRA秩不必再统一:按域各选秩,平均与效用选择不掉分,冲突消解法最多丢4个百分点

模型合并通常要求所有专家用同一个LoRA秩,但各领域的最优秩并不相同。研究者在数学、指令跟随、多语言三个域、四个秩、三种模型规模上训练36个专家,用六种合并方法比较统一秩与各域自选秩:简单平均和按损失效用选分量的方法不受影响,多域准确率最多提高1.8个百分点;TIES、KnOTS这类按奇异值大小裁剪并消解冲突的方法表现不一致,最多损失4个百分点。原因是按幅度选分量会把奇异值最小的指令适配器几乎整体丢弃,IFEval随之下降16到25个百分点。

arXiv

符号执行不再卡在环境建模:智能体补上数据库模型,CrossHair 可执行函数从 4.5% 升到 81%

符号执行工具 CrossHair 在真实 Python Web 应用上几乎跑不动,因为代码没有契约,调用数据库的部分也无法符号化。一个把 AI 编码智能体与 CrossHair 组合起来的流水线自动为函数写契约、为数据库合成符号模型,在 11 个开源应用、1,156,044 行代码上把可执行函数比例从 4.5% 提高到 81%,并找出 221 个经测试复现的缺陷。这些缺陷多为输入域边角情况,其中一部分是同模型直接阅读代码所遗漏的。

arXiv

并行推理不再把每条路径写完:PreG先看前缀再决定,54/60种配置省下token

大模型并行测试时扩展通常把每条推理路径完整生成后才用内部置信度打分,低质量路径的算力已经花掉。PreG改为先并行生成短前缀,用内部置信度排序,只把最有希望的候选补全,再按原有投票方式聚合。在Qwen3-8B与Llama-Nemotron-4B上的数学竞赛题和GPQA-Diamond评测中,它以更少token达到原方法1000k预算的准确率,60种配置里54种省token,最多省80%。

固定变换不必再靠猜:自适应插值变换让视觉模型只加九个参数、语言模型每层加三个参数就超过固定变换基线

离散傅里叶变换、离散余弦变换等固定变换常用于机器学习特征提取,但选哪一种往往要先了解数据集性质,缺少这类知识时效果受限。自适应插值变换(AIT)把变换本身变成可学习参数,按数据集与任务学出数据驱动的映射。在ImageNet-2012与通用语言理解评估任务上,AIT增强的模型在从零训练和微调两种流程下都超过固定变换基线,视觉模型只增加九个参数,语言模型每个编码器层只增加三个参数。