跳到主要内容
返回时间线
NVIDIA Blog来源发表:

英伟达推出Minerva:把GPU、网络和作业放进一张动态知识图谱,让AI工厂先修再停

核心概要

英伟达发布AIOps平台Minerva,面向由大量GPU组成的AI工厂做端到端可观测性。此前网络、计算、站点可靠性和机器学习团队各自看到数据中心的不同部分,告警彼此割裂。Minerva把GPU、SuperNIC、交换机、线缆、存储、调度器与作业的遥测汇到一起,构建动态知识图谱,并用监督与无监督学习识别异常、预测故障、按拓扑关联事件,把告警风暴收敛为带可能根因的单一事件。

Source-provided article image: NVIDIA Unveils Minerva to Bring End-to-End Observability for AI Factories
NVIDIA Research

深度剖析

AI工厂的运维从分散视图转向一张覆盖基础设施与作业的统一视图,运维团队可以沿拓扑把变慢的训练作业追溯到影响它的部件。 传统监控工具常把数据中心拆成网络、计算、站点可靠性和机器学习等各自独立的视图,每个团队只看到运行的一部分。 Minerva连接英伟达GPU、网络、存储、调度器与工作负载的信号,并据此构建动态知识图谱,其覆盖范围可延伸到数十万块GPU的工厂。

平台把每小时数十亿数据点转成少量可处置事件,而不是把每个症状都推给运维人员。 此前的做法是让运维面对大量彼此孤立的告警,难以判断哪些属于同一故障。 Minerva用监督与无监督机器学习学习正常行为、检测此前未见的异常、预测正在形成的故障,并按工厂拓扑关联相关事件,把事件风暴归并为带可能根因的聚焦事件。

运维人员可以用自然语言查询集群健康状况并获得修复建议,修复既可以由人手动执行,也可以交给自动化。 平台内置AI助手并连接外部智能体工具,使自然语言界面以实时遥测为依据。 团队可保留人工介入手动实施修复,也可通过基础设施应用编程接口和外部系统把Minerva接入自动化流程。

启示与展望

报道范围限于英伟达发布的Minerva平台及其所述能力:汇聚GPU、网络、存储、调度器与工作负载遥测,构建动态知识图谱,用监督与无监督学习做异常检测与故障预测,并提供自然语言助手与自动化接口。适用对象是运营大规模AI工厂的AIOps、网络、计算与机器学习团队。IREN已在用该平台优化其AI工厂,Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI与Tesla计划部署,戴尔、联想与超微将在其AI工厂运维产品组合中提供Minerva。

材料以定性方式描述收益,即更长的无中断运行时间、更快的修复与更聚焦的告警,未给出具体数值或与既有监控方案的对照测量。平台能力围绕英伟达自家GPU、SuperNIC、交换机与线缆展开,其他基础设施组合下的表现未在材料中说明。合作伙伴中除IREN为在用外,其余为计划部署,实际效果尚待运行验证。