在线健康安全鸿沟:共识对齐并不等于同伴健康叙事中的安全
核心概要
该研究提出并实证验证了“在线健康安全鸿沟”:在704条健康叙事(699条完成分类)中,由互不重叠特征集计算出的叙事真相距离(NTD,衡量认知偏离)与叙事风险分数(NRS,衡量健康风险潜力)仅共享4.9%的方差(r=0.222,p<0.001),导致39.6%的叙事落入单轴系统必然误判的两个非对角象限(对齐但高风险25.2%、偏离但安全14.4%),并在437条专家标注的误信息基准(含127条误信息实例)上最高判别力仅为Youden J=0.349,据此提出“分类象限”框架,主张从以事实为中心转向风险感知的评估。
actionable. Figure 1 presents the partition.
medRxiv · 第 8 页深度剖析
识别并实证验证了“在线健康安全鸿沟”这一结构性错误设定:医学上准确的内容可能携带显著健康风险。 以往在线健康信息系统以内容与医学共识的对齐程度作为安全的可靠信号,本文指出该假设在同伴健康话语中失效,并给出可量化的证据。 基于704条健康叙事(699条完成分类),两个由互不重叠特征集计算的分数仅共享4.9%方差(r=0.222,p<0.001),为相关性证据。
量化了单轴系统必然误判的规模:39.6%的叙事落在两个非对角象限,其中“对齐但高风险”占25.2%、“偏离但安全”占14.4%。 将“对齐不等于安全”从概念主张转化为可计数的分布结果,说明事实核查会漏掉高风险内容、又会错误压制安全内容。 来自同一704条叙事语料的象限分布统计,属描述性计数证据。
现有以事实准确性为标签的基准难以评估风险感知能力:在437条专家标注误信息基准(含127条误信息实例)上,最高判别力为Youden J=0.349,且由直接在该标签上训练的监督分类器取得,冻结生物医学嵌入与提示式大语言模型均未超越。 表明编码事实准确性的标签对行为风险信号贡献很小,此类构造的基准无法评估风险感知评估。 基于专家标注基准的判别力比较,含监督分类器、冻结嵌入与提示式大语言模型三类方法的对照。
提出“分类象限”,将认知偏离与健康风险潜力映射为四个具有不同干预含义的治理类别,并主张从以事实为中心转向风险感知的评估。 为操作化该鸿沟提供了治理框架,把评估目标从单一事实维度扩展到风险维度。 属概念框架与论证性贡献,其经验基础来自前述语料与基准分析。
启示与展望
该工作面向同伴健康话语场景,适用于以医学共识对齐作为安全代理的在线健康信息与内容治理系统,以及构建误信息基准的评估实践;其经验结果基于704条健康叙事(699条完成分类)与437条专家标注基准(含127条误信息实例),并依赖VERITAS实现及UMLS、SNOMED CT、SemMedDB、PubMed等生物医学知识库。
读者仍会关注:NTD与NRS两个分数在不同健康主题、不同平台与不同语言中的独立性是否稳定;分类象限四类的边界如何界定与操作化;以及以Youden J=0.349为代表的判别力水平在其他基准构造下是否同样成立。本次为不完整阅读,缺少图表与完整方法细节,上述问题需结合原文与配套先前工作进一步确认。
