跳到主要内容
检索

# NVIDIA Groq 3 LPX

1 篇关联报道

订阅更新
  1. NVIDIA Technical Blog

    NVIDIA 用 Groq 3 LPX 的确定性执行把电压跌落降低逾 60%,让每兆瓦产出更多推理 token

    NVIDIA 介绍其 Vera Rubin 平台中 Groq 3 LPX 低延迟加速器的确定性执行模型:LPU 编译器可把计算与数据搬运排到时钟周期级,从而提前预测每个周期的电流需求,并借助 Preemptive Power(PEP)与 Clock Period Synthesis(CPS)两项技术降低电压跌落、缩小电压保护带,内部测试显示电压跌落减少逾 60%,估计可持续供电基线电压下降高个位数百分比,同一工作负载功耗有望降低低两位数百分比,平台层面在 2T+ 参数模型、长上下文与高交互场景下相较上一代 GB200 NVL72 可实现最高 35 倍每兆瓦吞吐。

已读完全部报道