表征不必靠规模对齐：正视图让1.09亿参数文本编码器在PRH基准上超过720亿参数语言模型
研究把“不同模态模型会收敛到同一世界表征”的柏拉图表征假说，在JEPA（联合嵌入预测架构）上变成可证明的定理：只要各模态的正样本对描述同一世界状态，分别训练的编码器就只差一个旋转。据此区分“正视图”与“坏视图”，在相同文本与编码器下正视图对齐最好；一个1.09亿参数的文本JEPA在PRH基准上达到.184，高于所评估的全部语言模型（最高720亿参数，.154）。
研究把“不同模态模型会收敛到同一世界表征”的柏拉图表征假说，在JEPA（联合嵌入预测架构）上变成可证明的定理：只要各模态的正样本对描述同一世界状态，分别训练的编码器就只差一个旋转。据此区分“正视图”与“坏视图”，在相同文本与编码器下正视图对齐最好；一个1.09亿参数的文本JEPA在PRH基准上达到.184，高于所评估的全部语言模型（最高720亿参数，.154）。
已读完全部报道