跳到主要内容
检索

Chaoqian Ouyang

1 篇关联报道

订阅更新
  1. arXiv

    TokenCast 用可组合分段成本在智能体运行中预测 token 消耗,96 组对比平均降低 MAE 14.5%

    TokenCast 为 LLM 智能体的每个执行分段学习一个可组合的成本三元组(调用次数、净输入长度变化、成本残差),通过精确的组合恒等式把早期上下文被后续每次调用重复计费的成本纳入累计预测,并在执行过程中用新观测刷新预测而无需额外 LLM 调用;在 SWE-bench Verified 上平均累计预测耗时 32.8 ms 每次运行,在 4 个任务套件与 6 个智能体模型共 96 组评估中相对最强对比方法的平均绝对误差平均降低 14.5%,离线预算控制回放中在相同轨迹完成率下比固定预算策略平均少用 21.3% 的 token。

已读完全部报道