跳到主要内容
检索

# 碳–SLO权衡边界刻画

1 篇关联报道

订阅更新
  1. arXiv

    跨区LLM推理调度不再只看电网碳强度:把批处理与排队算进去,碳排最多降六成,SLO违规约3%

    跨区LLM推理调度把引擎的批处理与排队状态纳入决策后,在MLPerf的每token时延目标下,相对轮询策略最多减少60%的碳排放,平均SLO违规约3%。

已读完全部报道