# Koi-4B

循环语言模型过去在一次循环时明显落后同规模非循环模型，现在同一份权重在一次循环下与同数据训练的非循环基线相当，四次循环在十任务平均上再涨7.25分。

循环语言模型过去在一次循环时明显落后同规模非循环模型，现在同一份权重在一次循环下与同数据训练的非循环基线相当，四次循环在十任务平均上再涨7.25分。