Hennadii Kutomanov

语言模型执行指令的质量随负载下降，但此前没有以负载为单位、带不确定度的容量数值。一种测量工具把负载定义为“单词替换规则”，让每次替换成为可程序判定的伯努利试验，再用分箱加平滑律的统计模型反解容量。对GPT-4o mini的2958次请求、642430次试验测得：在95%正确替换率下容量约37–38条规则，在满替换密度下约18–19条。

语言模型执行指令的质量随负载下降，但此前没有以负载为单位、带不确定度的容量数值。一种测量工具把负载定义为“单词替换规则”，让每次替换成为可程序判定的伯努利试验，再用分箱加平滑律的统计模型反解容量。对GPT-4o mini的2958次请求、642430次试验测得：在95%正确替换率下容量约37–38条规则，在满替换密度下约18–19条。