HPC运维报告不再只靠检索:REPORT-OPS把证据门槛写进流程,无据结论直接拦下
核心概要
高性能计算设施的运维报告需要把监控、调度、事故与存储记录拼成一条可追溯的结论,而检索到相关记录并不等于它能支撑某个具体说法。REPORT-OPS让大模型负责理解请求、规划取证和起草报告,由作者预先写入的策略与自动校验判断证据是否够格,再决定回答、限定结论还是拒绝作答。在68条脱敏运维查询上,完整系统取得68.63%的Pass@80,最强检索基线为7.02%;证据门槛把主张支撑精度从40.58%提高到90.06%。
深度剖析
运维报告的可信度被拆成两个可分别检验的环节:大模型负责理解与生成,证据是否够格由显式策略和自动校验裁定。 此前的检索式问答与工具调用系统能取回相关记录,但没有一般性地规定一条运维结论需要哪些权威、语义和时间条件才算可用。 在68条查询上,完整REPORT-OPS的Pass@80为68.63%,最强检索基线为7.02%,两项配对检验均显示差异显著。
系统按证据状态给出三种完成方式:证据支持就作答,只支持一部分就带限制地作答,核心结论需要无据推断就拦下。 不加证据门槛的REPORT-OPS版本Pass@80为70.42%,高于完整版的68.63%,两者差异不显著。 门槛的主要收益体现在主张支撑精度上,从40.58%升到90.06%,在证据缺失或来源不适配时作用尤其明显。
解释类请求走的是对已编码解释族的假设检验,而不是开放式因果发现。 把原始证据转成结构化记录只把解释准确率从30.53%提到33.95%,两种配置都没有产生通过的解释报告。 加入作者编写的工作负载关系后,Pass@80达到33.97%、解释准确率51.37%;再加主张校验后升至41.02%和55.54%,但相对仅加关系的提升不显著。
策略改进被当作一次受控发布:批评模型提出局部补丁,人只批准或否决而不改写,自动测试决定是否上线。 局部更新在五轮中把91.17%的目标失败纠正,并在相关留出案例上提升9.33个百分点;无回归门槛时观测到6.06%的回归破坏率。 15次智能体—轮次机会中有10个候选通过完整门槛、5个保留旧策略,带门槛策略最终观测到的回归破坏率为零。
启示与展望
评测在一个HPC设施的冻结脱敏语料上进行,68条查询由50个基础场景扩展而来,覆盖完整、缺失、时间无效、来源替换、矛盾与工具失败等证据条件;解释类结论只覆盖13条查询和已编码的解释族。方法面向需要可审计运维报告的设施运维与工程读者,跨设施、非HPC系统以及智能体之间的策略迁移均未评测。
作者指出,基准、参考评分标准和初始策略来自同一语料,领域知识可能同时影响期望答案与系统策略;参考标注由作者完成并经第二作者复核,未经外部HPC运维人员标注。两个评审模型在Pass@80判定上一致率超过96%,但连续分数平均相差约十个百分点。带门槛策略的零回归破坏率是这五轮的观测结果,门槛本身允许最高10%的破坏率,并不保证未来更新不引入回归。
