跳到主要内容
检索

# NVIDIA Vera Rubin NVL72系统

5 篇关联报道

订阅更新
  1. Artificial Analysis

    Vera Rubin NVL72 首份智能体推理成绩:每兆瓦吞吐最高约为 GB300 的 5.7 倍

    AA-AgentPerf 首次公布 NVIDIA Vera Rubin NVL72 在真实编码智能体轨迹上的服务结果:在 DeepSeek V4 Pro 上,每兆瓦总吞吐最高约为前代 GB300 NVL72 的 5.7 倍,在 DeepSeek V4.1 Flash、GLM-5.2 和 Kimi K3 上分别约为 5.4 倍、3.0 倍和 2.8 倍。这些倍数出现在 GB300 吞吐随每用户速度下降的位置,峰值吞吐时的领先只有 1.14 倍到 1.45 倍。测试负载中平均 97% 的输入 token 与上一请求重复,因此前缀缓存和跨内存层级的 KV 缓存成为关键。

  2. NVIDIA Technical Blog

    英伟达把智能体推理的内存账算到每个字节:Vera Rubin NVL72 每兆瓦吞吐最高达 GB300 NVL72 的 30 倍

    英伟达把 AI 工厂的内存问题从“GPU 有多少容量”改成“每个字节产出多少有用 token”,用 NVFP4 压缩权重与 KV 缓存、宽专家并行分散 MoE 权重、Dynamo 复用 KV 缓存、Vera CPU 暂存工具调用期间的上下文、CMX 在机架级共享上下文存储。在回放真实编码智能体会话的 SemiAnalysis AgentX 上,每 GPU 同为 288 GB 的 Vera Rubin NVL72 在每用户 160 token/s 下,每兆瓦吞吐最高达到 GB300 NVL72 的 30 倍。

  3. NVIDIA Technical Blog

    NVIDIA 用 Groq 3 LPX 的确定性执行把电压跌落降低逾 60%,让每兆瓦产出更多推理 token

    NVIDIA 介绍其 Vera Rubin 平台中 Groq 3 LPX 低延迟加速器的确定性执行模型:LPU 编译器可把计算与数据搬运排到时钟周期级,从而提前预测每个周期的电流需求,并借助 Preemptive Power(PEP)与 Clock Period Synthesis(CPS)两项技术降低电压跌落、缩小电压保护带,内部测试显示电压跌落减少逾 60%,估计可持续供电基线电压下降高个位数百分比,同一工作负载功耗有望降低低两位数百分比,平台层面在 2T+ 参数模型、长上下文与高交互场景下相较上一代 GB200 NVL72 可实现最高 35 倍每兆瓦吞吐。

  4. NVIDIA Blog

    CoreWeave 将 NVIDIA Vera Rubin NVL72 投入生产,Cognition 实测 SWE-2 推理总 token 吞吐量最高提升 4.8 倍

    CoreWeave 在 Fully Connected 大会上宣布 NVIDIA Vera Rubin NVL72 搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用,首个客户 Cognition 用 FrontierCode 任务子集构建真实软件工程负载,早期测试显示 SWE-2 推理总 token 吞吐量较 GB200 NVL72 最高提升 4.8 倍;同时 CoreWeave 将提供面向 AI 智能体的 NVIDIA Vera CPU,并推出整合 Weights & Biases、OpenPipe 后训练能力与 marimo 的 CoreWeave Forge 环境。

  5. NVIDIA Research

    NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 首秀中取得领先性能

    NVIDIA 在 MLPerf Inference v6.1 中首次提交 Vera Rubin NVL72 预览结果,在 Qwen3-VL 上吞吐量最高达 GB300 NVL72 的 3.7 倍、在 DeepSeek-R1 上最高达 2.5 倍,同时 GB300 NVL72 以 288 GPU 四机架实现 99% 扩展效率,软件优化较 v6.0 提升最高 1.6 倍。

已读完全部报道