不用GPU也能预演大模型服务:BLIS在CPU上跑完整流水线,4卡就守住300毫秒首字延迟
BLIS是一个纯CPU的确定性离散事件模拟器,把准入、路由、调度、预填充/解码执行、KV缓存管理和抢占整条大模型推理服务流水线一起模拟,在36组实验上端到端延迟中位误差6.7%,比真实执行快约200倍。
日报
仅汇集当天已送达公开发布边界的内容。
已封刊 · 第 1 版 · 已隐藏 1 篇撤回或替代文章
BLIS是一个纯CPU的确定性离散事件模拟器,把准入、路由、调度、预填充/解码执行、KV缓存管理和抢占整条大模型推理服务流水线一起模拟,在36组实验上端到端延迟中位误差6.7%,比真实执行快约200倍。
Anthropic让Claude在无人干预的闭环里设计量子电路:给定自然语言规格和自动评分器,模型针对化学、优化、物理模拟与数论等八个计算原语给出新设计,在若干任务上同时减少量子比特与门数,超过此前已发表的最好电路,个别情形改善达一个数量级以上。椭圆曲线点加任务上,Claude在极少人工提示下连续工作53小时,把最贵的模逆元做成首个不存储分支历史的可逆实现;DQI最贵的Reed–Solomon解码步骤门数相对Google此前构造降低12倍。
科研智能体集群的自我改进不再只靠单个智能体反复试错。此前,失败的实验无法说明是假设错了还是实现错了,整体得分不高的程序里也可能藏着别的智能体需要的组件。SwarmRSI把假设、程序和实验证据作为可继承的研究状态放进共享图,用其他智能体的反馈决定改假设还是修程序,并让保留的假设在别的程序上重测、把互补组件组合起来。在OpenProblems上平均分达76.2,在NatureBench上44.4%的任务追平已发表SOTA,为对比方法中最高;MLE-Bench Lite上81.8%的任务获奖。
NIST标准椭圆曲线参数的“种子”来源长期不明,这些种子由NSA提供且未作解释,社区多年怀疑其中可能藏有后门。Anthropic内部研究模型Claude在不到半小时内查明,P-192、P-224、P-256、P-384、P-521等曲线的种子并非任何哈希算法的输出,而是1990年代C库随机数生成器lrand48以Unix时间戳初始化后的输出,P-256的种子对应第1842次迭代。该结果不构成对ECDSA的攻击或弱点,反而使曲线被刻意植入后门的可能性明显下降;B-163种子以及P-224、P-256、P-384、P-521的基点生成方式仍未解释。
自回归逐词生成的能力边界被完整刻画:带少量私有状态的采样器无法采样伪随机生成器输出,而允许任意位置插入的插入式采样器可以做到。
Echo把张量并行的all-reduce改成4比特传输、高精度求和,并把每次舍入误差反馈到后续调用,使累积误差不随层数增长;在A100上1GB消息比16比特NCCL快2.09倍,Qwen3-8B七项基准平均只差0.4分。
大模型强化学习里的PPO裁剪被推广成散度几何与估计器两个维度的设计空间,其中KL散度配原子估计在八个竞赛级数学与代码基准上把平均分相对标准GRPO提高约50%和14%。
英伟达发布开放可定制的多模态模型 Nemotron 3.5 Super VL,面向需要推理、工具调用与文本图像文档视频理解的长流程智能体任务。它采用120B参数的混合专家架构,每个token激活12B参数,官方称在单张GPU上处理智能体任务时吞吐最高可达同尺寸其他开放模型的5倍。企业可用 NeMo 以自有数据、工具与流程做后训练,官方同时放出智能体工具调用、金融推理与40个视觉语言数据集。
一项覆盖文本、视觉、音频三种模态的混合专家预训练研究,用268次实验拟合出数据配比规律,并给出可操作的分配结论:音频更该把算力花在参数上,视觉和音频数据重复超过两遍收益很小,视觉对音频的干扰最强。
在 18 对 Base–Instruct 模型上,有害性信息在注意力更新中更易解码,而拒绝证据主要由 MLP 写入,且后训练只增强写入、不提升识别。
Zebra3D把预训练3D重建模型的全局注意力按层敏感度换成线性与瓦片稀疏混合,在约94%平均注意力稀疏度下仍保持接近稠密模型的位姿精度,1024视角端到端提速最高5.6倍。
多比特大模型水印的账号标识可以在不知道密钥的情况下被改写:攻击者只用几个自己的账号,就能让解码器把一段文本判给另一个账号。
Gamma把机器人长时记忆从像素改成可核查的文本行,在固定执行策略下把RoboMME十六项记忆任务的平均成功率从44.5%提到66.0%,并在三项任务上追平特权子目标上限。
异步RLVR训练在维持高并发时把上下文处理压缩进更少的解码步,使KV缓存而非权重成为主要开销。KV4-RL用免校准INT4存储全部上下文,只对注意力汇点和最近上下文做有界INT8保护,在Qwen3-4B-Base与Qwen3-8B-Base的全参数GRPO训练中,六项基准平均准确率与BF16 rollout相差不超过0.5个百分点,同时显著加快rollout与整轮迭代。
多智能体协作里,用推断准确率决定是否让协调者行动会两头出错:在Hanabi这类错误会叠加的任务上放行有害部署,在代价错误稀少的任务分配上否掉有益部署。
DiTaR把视频奖励建在任务相关潜动态上,MetaWorld-v3最终成功率94.3%,高于最强视频奖励基线ReWiND的65.2%,并在真实机器人离线强化学习中把成功率从43.3%提到83.3%。
循环语言模型过去在一次循环时明显落后同规模非循环模型,现在同一份权重在一次循环下与同数据训练的非循环基线相当,四次循环在十任务平均上再涨7.25分。
编码智能体评测改成两名智能体互出题、互解题:GPT-5.5配Codex CLI在1500回合中修掉98.3%的缺陷,Claude Opus 4.8配mini-swe-agent出题最难,红方胜率27.3%。
工具智能体的鲁棒性测试改用可执行任务契约,在智能体运行前判定改动后的用例是否仍是同一任务;对同一批 14,336 条已存轨迹重新打分后,Mistral 在 MiniLM 余弦阈值下被记为受攻击的任务从 64 个降到 26 个。
MemForm把智能体长期记忆的形成过程拆成内容、证据、范围、选择、路径五个可干预接口,在六个大模型和两种作答格式上,五个接口都出现了行为被改写的情况。
离线示范、当前策略采样和历史轨迹现在可以共用一个回归目标训练,在四个数学推理基准上,Qwen3-1.7B的统一配置把平均avg@32和pass@32比两阶段SFT加DAPO分别提高2.33和4.44个百分点。
个人助手把用户没答应的提议当成用户指令执行,一个不改模型、不训练的记忆外挂层把这类越权执行从0.44降到0.08。
Evo2把智能体外壳的改写结果反过来训练负责改写的模型,在SWE-bench Verified上把解决率从最强基线的41.0%提到48.3%,Polyglot通过率从62.6%提到82.1%。
推理模型在思维链里早早写出代码草稿,SecReason在草稿交付前扫描流式token并插入警告,让模型在同一条推理轨迹内改稿,把既安全又通过功能测试的运行比例从不足15%提高到72.8%–98.1%。
把每个样本的增强强度记录下来并让内容方差随强度变化,自监督学习就能把原本混在一起的内容坐标分开;dSprites 上因子对齐从 0.837 升到 0.932。
在公开的AgentX智能体负载上,八卡AMD Instinct MI355X系统用vLLM服务Kimi K3,在每用户每秒50 token的P90交互性下,单卡总吞吐约7,567 token/s,比NVIDIA HGX B300的6,083高出24.4%;按SemiAnalysis建模的每小时1.50美元与2.26美元GPU成本,每美元TCO产出1,816万对969万token,多87.4%。这一结果来自AMD与vLLM社区在注意力、循环状态、MoE和缓存上的持续工程优化,而非单点改动。
英伟达发布Nemotron 3.5系列三款开放模型:1200亿参数的Super VL面向多模态智能体任务,在指令遵循、工具调用、多步业务流程和视觉理解上取得领先准确率,与英伟达自家最大推理模型相当,而参数量约为其五分之一;同时推出面向边缘的Bolt 74B-A9B 24GB与Bolt E4B 4GB。Super VL与Bolt 74B-A9B现已可用,Bolt E4B将于10月23日推出,三者覆盖从企业服务器到本地硬件的部署层级。
Reflection的Beam是一个501B参数、每词元激活23B的混合专家模型,vLLM在发布首日即提供完整支持,推理、工具调用与结构化输出开箱可用。其初始版本几乎是未优化的纯PyTorch实现,编码智能体自主剖析模型、编写内核并逐项基准测试,在TP8上把批大小为1的解码从每步8.95毫秒降到3.30毫秒,8×2K预填充从328毫秒降到176毫秒。配合DFlash2草稿头,单请求在TP8上达到708词元每秒,接受长度为3.7。
肿瘤内部不同恶性细胞状态共存,单细胞测序能分辨但成本高、难以上规模,而批量RNA测序便宜却需要把混合信号拆开。CDState用带比例归一约束和余弦相似度惩罚的非负矩阵分解,在不需要参考数据的情况下从批量RNA中推断恶性细胞状态;在五种癌症的模拟批量数据上,它估计状态表达和比例的总体表现优于现有无监督方法。把它用于TCGA的33种癌症、9,669个样本,得到193个恶性细胞状态,其中上皮–间质转化、MYC靶基因和氧化磷酸化是最常见的反复出现的程序。
酶工程生成模型此前多在氨基酸层面优化,很少同时考虑编码序列与宿主表达。EZPro-Fit把蛋白质三维结构、编码序列和分类学信息放进同一个生成框架,先在嗜热微生物数据上预训练,再用高表达大肠杆菌基因微调,从而直接由结构生成宿主适配的编码序列。在工业内切葡聚糖酶Cel5E上,该框架给出的N291D与D259E两个变体在实验中同时提高了熔解温度和催化活性。
智能体评测的难度来源从换题转向改环境。递归环境缩放(RES)在不改变任务目标与完成条件的前提下,改写信息获取路径、资源关系与执行依赖,并用可执行校验逐轮接受改动、让子代继承。在三个基准的294个初始任务上,六个评测模型的任务成功率全部下降,Claw-Eval-Live上降幅为57.14至77.14个百分点;用等量轨迹和相同优化设置微调时,RES轨迹在全部九组模型—基准对比中优于原始轨迹监督微调7.00至14.61个百分点。
Reflection在Hugging Face上以Apache 2.0许可证发布了其首个开放权重模型Beam的权重,这是一个面向编码、推理和长时程智能体工作负载的稀疏混合专家模型,总参数5010亿、激活230亿。此前该模型只能通过Reflection及合作方访问,如今开发者可以下载并自托管,并对其进行评估和领域定制。发布同时附带模型卡中的最终基准和安全技术报告,以及覆盖推理、量化、微调、强化学习、智能体框架、评估与可观测性的40余家合作方集成,Reflection将其称为面向智能体的开放操作系统。
无人机ISAC合成孔径雷达把成像写成精确线性逆问题,用预训练扩散模型作先验、回波作似然引导,在任意已知轨迹和未知位置误差下都能重建超分辨图像。
把平面波DFT的哈密顿量转成原子轨道形式时,改用投影度筛选本征态来补全子空间,不再依赖经验平移;在钠的五种高压相上,每原子13个轨道函数的误差为1–3 meV,而实空间重建用23个函数仍为12–28 meV。
血浆游离DNA的甲基化测序原本只用来读甲基化,现在被证明还能部分保留片段长度与末端基序等片段组信号。研究在血浆cfDNA中直接划分共甲基化区块,把甲基化与片段组特征放进同一批基因组区间,并据此构建可解释的集成模型用于癌症检测与组织来源预测。跨平台比较显示主要片段组模式在甲基化测序中得以重现,但保留程度因特征而异。
结直肠癌肝转移的治疗决策要在肿瘤生物学、可切除性和残余肝体积之间权衡,此前大模型只能靠提示词直接给建议,与专家多学科讨论的一致性有限。METATRON研究把肝胆外科医生在肿瘤委员会上的评估顺序写成结构化工作流,并与指南文献检索结合,在110例合成病例上由三名独立大模型评审按五个维度打分。工作流加检索的组合策略综合得分最高(0.626,基线0.444),但解剖可切除性判定的敏感性仍只有40%,尚不足以独立用于临床。
血管CT超分辨重建出的血管常出现断裂、多余或错误连接,而图像质量指标看不出这些结构错误。VascuSR把血管结构从CT灰度重建中拆出来,先在3D血管标签空间用条件整流流修正血管,再通过轻量控制器把修正后的结构注入扩散解码器,并在每轮重建后重新提取结构形成反馈。在重新标注的MSD Task08与HVM上,它的Dice和clDice优于插值和学习型基线,类别平均连通分量数在两个数据集上均下降超过20%,MSD上平均中心线距离下降超过10%,图像质量与SR骨干相当。
Reflection发布首个开放权重模型Beam,总参数5010亿、激活230亿,采用稀疏混合专家结构,面向编码、推理与长时程智能体任务,权重以Apache 2.0许可在Hugging Face放出,并附模型卡与安全技术报告。此前开放权重发布通常只给出一层模型,而这次同时给出BF16、FP8、NVFP4三种精度格式、投机解码草稿模型,以及40多家伙伴的推理、微调、部署与智能体集成,使开发者可以自行下载、自托管并按自身领域定制。
Kimi K3在vLLM中的解码路径改由编码智能体协助编写CuTe DSL内核,把注意力、MoE与跨GPU通信融合成一条统一路径。在16块NVIDIA GB300、DSpark合成接受长度6的设定下,解码吞吐达到842 tokens/s,为同规格投机解码下原生vLLM的1.73倍;无投机解码时,TP16在批16至64上保持1.62至1.71倍增益。配套的快速通道流程要求隔离改动、限定硬件与负载范围,并用内核测试与模型评测共同验证正确性。
量子DeepONet集成把算子学习的隐藏层代价从稠密层的平方级压到近线性,并首次给出有限样本、不依赖分布的查询平均覆盖率下界。此前量子算子学习只输出带噪点预测,贝叶斯网络与蒙特卡洛丢弃又给不出无分布保证。做法是用量子正交神经网络替换稠密隐藏层,再对独立训练集成的均值与标准差做分裂保形校准。合成反导数与平流基准上相对L2误差为0.46%与2.28%,8模型集成覆盖率92.13%与88.99%,目标为90%。
德累斯顿大学肿瘤中心在MASTERsg精准肿瘤项目中用梯度提升模型重读TSO500 panel测序的拷贝数原始分箱数据,专门找被标准流程漏掉的PTEN局灶缺失。TSO500按基因内分箱读数取平均,局灶事件达不到倍数变化阈值;模型在204例被判为PTEN野生型的样本中报出33例缺失,其中20例有组织可染色,15例显示PTEN蛋白缺失或明显降低。
Meta发布面向智能体编码工作流的开源混合专家模型Muse Spark Open,总参数816B、每token激活42B,上下文窗口达1M token,可容纳包含复杂依赖与遗留代码的整个项目。此前的通用编码模型面向生成单个函数或单元测试这类上下文小、答案即时的单次补全任务,而多文件重构、跨数千文件导航、失败测试恢复与子智能体协调需要持续多步执行。该模型在NVIDIA GB300 NVL72上训练,支持工具调用、输出评估与迭代修正,并以目标条件保持方向、以上下文压缩维持长会话进展。
英伟达发布 Nemotron 3.5 Super VL,一个面向长时间运行智能体的开放多模态模型,把文档、图像、视频理解与推理、指令跟随、工具调用合并在同一个模型里,减少分别部署文本模型和视觉模型的需要。它采用1200亿总参数、120亿激活参数的混合专家架构,配合混合 Mamba-Transformer、多令牌预测与 NVFP4 量化,并可在 NVIDIA NeMo 上用机构自有数据、工具、策略和工作流做后训练。官方给出的对照是:在单张 GPU 上,该模型在智能体任务上的吞吐最高可达同尺寸其他开放模型的5倍,任务完成速度可达4倍。
东亚寒潮的分类不再只看冷空气强度,而是看冷空气通量从长白山哪一侧通过。研究者用1979/80至2023/24年冬季的JRA-3Q再分析资料算出冷空气通量,再用自组织映射把2052次寒潮事件归为西侧、北侧和中间三组,并提出以长白山东西两侧通量之比取对数得到的通量路径指数。该指数与日本海925百帕水平风辐合呈显著负相关,西侧路径对应日本海极地气团辐合带更易形成,日本海沿岸降雪更多。
Anthropic在Claude平台发布说明中宣布,Claude Opus 5.5的快速模式结束研究预览,开发者不再需要申请访问,请求也不再需要携带fast-mode-2026-02-01 beta头,仍发送该头的请求继续可用。Claude Opus 5.5在Start、Build、Scale三个用量层级上获得默认的快速模式速率限制,快速模式同时登陆Azure上托管的Claude in Microsoft Foundry。Claude Opus 5与Claude Opus 4.8的快速模式仍处于研究预览,向这两个模型发快速模式请求仍需携带beta头。
Reflection发布其首个开放权重模型Beam,并同步上线Baseten平台。Beam是自回归Transformer,采用混合专家架构,总参数501B、每token激活23B,上下文窗口最高100万token,面向编码与智能体工作负载。训练以强化学习为主,通过更长的多步rollout让模型练习使用工具并根据反馈调整,同时施加长度惩罚抑制多余token,目标是降低这类任务的成本。
敦煌壁画的数字修复不再只在像素空间里逐点去噪。像素域扩散要同时兼顾整体结构与局部笔触,代价高,还容易在颜色和风格上偏离原作。WDCRF 先用二维离散小波变换把受损壁画拆成一个低频子带和三个高频子带,再让条件扩散模型直接在小波域重建这四组系数,以受损系数本身作为条件信号,最后经逆小波变换合成完整画面。在敦煌壁画数据集上,总 PSNR 为 32.04 dB、SSIM 为 0.922,优于 EdgeConnect、WaveDiff、PGRDiff 与 LRDiff;在 DhMurals 数据集上总 PSNR 为 18.95 dB、SSIM 为 0.7598。
Reflection发布首个模型Beam,一个总参数501B、激活23B的开源权重模型,在Artificial Analysis智能指数上得30分,位列美国开源权重模型第二,仅次于Meta的Muse Spark Open(39分),高于前一日发布的NVIDIA Nemotron 3.5 Super VL(26分)。它每个智能指数任务约用26k输出token,约为领先一分的K2 Horizon(31分)的一半,但专有模型仍居前沿,GPT-6 Astra(max)在同一预算下得53分。
IBM发布Granite Switch 4.1,把通用决策、安全决策和语音转写三类能力组合进同一个托管端点,8B与30B两个版本在GPU上占用的显存与单独的基础模型大致相当。此前的Granite Switch项目已支持把专用适配器组合进定制模型,而这次随版本一同给出的Decision适配器、Guardian安全适配器和Granite-Speech-5.0-Turbo-CTC转写模型被预先编译进模型。由于适配器以缓存高效的Activated LoRA形式构建,基础模型生成产生的KV缓存可被后续适配器决策复用,因此聊天、决策与语音请求之间的切换不必重建缓存。
臭氧浓度预报改用两级分解与两尺度特征选择。原始序列先经ICEEMDAN分解,复杂度最高的IMF1再由VMD二次分解,其余子序列按模糊熵重构;随后用偏自相关函数与随机森林两级筛选输入维度,最后交给时间卷积网络预测。北京与上海日臭氧数据上,该组合模型的MAE、RMSE、SMAPE分别为0.53509、0.73346、0.8433%,在四组对比实验中指标最优。
ElevenCreative上线Instant Soundtracks,上传视频后模型先为画面生成原创配乐,再分析画面中需要音效的时刻,把生成的音效按时间戳自动放到时间线上。此前配乐与音效需要分别制作再手动对位,这次更新还改善了短视频的卡点精度与跨场景情绪切换,并允许用视频原有音频的曲风、渐强、每分钟节拍或配器等特征来塑造新配乐。音效在音乐视频编辑器中以独立图层出现,可单独调整、替换或补充,API侧新增add_sfx、separate_tracks和use_audio_as_reference参数,单次请求最多支持10个视频、合计200 MB与10分钟。
Vercel在Ship 2026上把平台重心从托管前端扩展到智能体基础设施,宣布Python在Vercel上正式可用,并推出处于公开测试的Vercel Daemons,用于持续运行的后台工作进程。平台同时给出面向智能体的命令行接口、连接器与持久工作区,让智能体可以部署软件、被部署,并参与平台自身的运维。官方给出的能力范围包括用标准CPython运行FastAPI、Flask或Django,以及由平台维持实例数量并在失败时替换。
Tessl工程团队在单一仓库上运行软件工厂,每周产生超过1200个由智能体编写的拉取请求,审查一度成为最大变量成本。团队把自家编码规范、设计系统和AI代码审查策略编码进Tessl Code Review,并自行设定审查策略,使约75%的PR在无人纠正智能体或讨论工程细节的情况下合并。在为期一周、超过600个PR的并排对比中,该审查器提出的问题有91%是真实缺陷,此前使用的AI审查器为68%,每PR修复的真实缺陷数为1.56对0.75,单PR审查成本低约35%。
Perplexity 的 Decider V1.2 27B 与 Decider Flash V1.2 4B 两款多模态决策模型现已通过 AI Gateway 提供。它们面向内容分类、请求路由与打分,以带类型的提问返回概率:布尔题给出“是”的可能性,选择题在用户自定义类别中挑选,评分题按有序评分标准评估内容。应用可据此路由工单、标记破损商品,或把不确定的判断转交人工复核,同一份输入可在一次请求中承载多个问题。
Google 在 Android 开发文档体系下发布了一个名为 Android skills 的仓库,把面向 AI 智能体的模块化指令与资源按开放标准的 agent skills 形式组织成 SKILL.md 文件,为智能体提供具体任务的技术规范与领域工作流信息。开发重点放在评测显示大模型表现不佳的使用场景与工作流,而不是基础 Jetpack Compose 最佳实践这类模型已经熟练的领域。技能可通过 Android CLI 安装到当前目录或所有已检测到的智能体目录,也可经 Claude Code 与 Codex 的插件市场安装,智能体在遇到相关任务时自动激活对应技能。