语言模型回答总是千篇一律：先找嵌入空间里的空位，碰撞率最多降12.8%
核心概要
语言模型面对开放问题时常常给出语义相近的答案，即使可选项很多。Gap Detection把候选方向放在共享文本嵌入空间里搜索，用查询相关性（Demand）与对最近已有答案的差异性（Defensibility）相乘得到GapScore，再经语言模型映射为概念词并生成文本。在五个主题和90条INFINITY-CHAT查询上，报告的输出Collision平均相对下降分别为12.8%和10.8%；在每方法100条训练样本的迭代合成数据增强中，Collision从0.324降到0.298，Vendi Score从27.16升到29.20，而40例测试集上的准确率只差一例。
深度剖析
开放问题的回答不再只从已有答案里挑一个，而是先找嵌入空间中相关但尚未被占据的方向。 此前的做法是在已有回答之间做选择或改写，没有显式搜索未被覆盖的方向。 在五个精选主题和90条INFINITY-CHAT查询上，报告的输出Collision平均相对下降分别为12.8%和10.8%。
方向的好坏由两个量相乘决定：与查询的相关性，以及与最近已有条目的差异性。 GapScore把Demand和Defensibility合成一个乘积目标，并在单位球面上优化。 候选方向随后由语言模型映射成概念词，再经任务特定过滤和受限提示转成文本；组件消融显示语义分离与相关性之间存在权衡。
同一套搜索还能用于生成式引擎优化和迭代式合成数据增强。 在每方法100条训练样本的迭代合成数据增强中，与无方向累积相比Collision从0.324降到0.298。 同一设置下Vendi Score从27.16升到29.20，而40例测试集上的准确率差异为一例。
启示与展望
报告覆盖五个精选主题、90条INFINITY-CHAT查询、四个产品市场的生成式引擎优化实例，以及每方法100条训练样本的迭代合成数据增强设置。适用读者是处理开放生成同质化的研究人员与工程师，用于理解显式缺口搜索这一机制及其报告范围。
组件消融显示语义分离与相关性之间存在权衡，且更好的方向得分并不统一带来更好的下游指标。报告强调任务有效性需与几何新颖性分开检验，合成数据增强设置中准确率差异仅为一例。