故事还没写，事件类型已可解码：四个开源模型能提前四个事件，但只有下一个事件胜过纯文本预测
核心概要
四个24–32B开源模型在事件结束时，隐藏状态能解码至少四个后续事件的状态变化类型，但只有下一个事件显著优于纯文本预测；在OLMo上沿该方向持续干预可双向改变后续事件构成。
深度剖析
故事还没写出来，模型内部已经带着接下来会发生哪类事件的信息，而且这种信息能往前看不止一个事件。 此前对隐藏状态的研究多针对后续词元或整段回答的属性，比如回答长度、推理步数或人物选择，而不是故事里改变人物、关系或故事世界的事件。 四个24–32B开源指令模型各生成500个故事，共标注23355个事件；在事件结束处探测隐藏状态，下一事件的Macro-AP分别为OLMo .701、Qwen .643、Gemma .754、Mistral .656，相对训练集恒定流行度的增益为.229、.213、.282、.190，经模型内Holm校正后均显著。
这种可解码性并不等于隐藏状态比读同一段文本更有预测优势，优势集中在紧接着的下一个事件。 纯文本预测器用与激活完全相同的字符截断前缀，并采用同样的故事划分、目标、事件视野和探针拟合流程。 相对全前缀嵌入与按事件结束分块平均嵌入中较高的那个Macro-AP，下一事件上激活的增益为OLMo .090、Qwen .041、Gemma .081、Mistral .081，八个成对比较在共享的120项检验族内Holm校正后均显著；没有任何视野同时满足对两个文本预测器都为正且显著。
在OLMo上，沿由下一事件SOCIAL探针导出的方向持续干预，能双向改变生成故事里SOCIAL事件的比例。 Gemma的下一事件SOCIAL可解码性与OLMo相当，但在同一协议下没有出现预期的双向控制，较高强度下两个方向都降低SOCIAL得分并伴随大量退化。 100个种子匹配故事、每个强度四个条件：强度16时正向干预使每故事SOCIAL比例提高17.13个百分点（95% CI [12.45, 21.88]），负向降低24.36个百分点；强度32时分别为提高26.07和降低32.70个百分点，四个对比经强度内Holm校正后均显著。
启示与展望
这项工作考察的是四个24–32B开源指令模型在同一个最小英文提示“Write a long story”和单一采样温度下生成的故事，事件与标签由单一专有LLM标注，仅在OLMo生成的故事上做过人评验证。适合关注长文本生成内部状态与可控性的研究人员阅读；若要把结论外推到其他提示、体裁、模型规模或人类写作，需要另行验证。
事件类型的前瞻可解码性在更远视野上增益总体下降，但每个模型最大可用视野只剩5–12个故事，曲线并不能指出预测信息消失的明确边界。文本对比只针对指定的两种表示和线性读出，不能说明文本本身缺少等价信息。干预实验只在OLMo上针对SOCIAL事件、在选定层持续施加，较高强度出现重复、退化和零事件输出等生成质量代价，且效果扩展到INTERNAL和WORLD-STATE，因此不构成对单个未来事件的选择性控制。