跳到主要内容
返回时间线

当记录者承担推理:环境人工智能、推理冒充与受训者临床判断力的培养

核心概要

本文提出并命名了“推理冒充”现象——环境AI记录工具在评估与计划部分并非转录而是生成临床推理,其文本与转录内容在最终病历中无法区分,使受训者可能在编辑AI草稿而非自主推理中错失判断力的养成,并据此提出供应商层面的学习者专属配置与章节级透明度,以及培训项目层面的推理先行、能力门槛与口试评估等应对措施。

AI-generated editorial illustration: When the scribe does the reasoning: ambient artificial intelligence, inference impersonation, and the development of trainees' clinical judgment.

深度剖析

论文识别并命名了“推理冒充”这一现象:环境AI记录工具在评估与计划部分生成而非转录临床推理,其文本模仿医师判断,却缺少迭代式假设检验、情境权衡与管理推理。 相对于以往对AI记录工具文档负担与编码收益的讨论,本文把关注点从效率转向推理内容的来源与归属,指出生成内容与转录内容在最终病历中实际上无法区分。 属于概念性识别与论证,基于对记录工具在评估与计划部分行为的观察性描述,未提供量化数据。

风险最集中于受训者:有经验的上级医师可能识别出过窄的鉴别诊断或泛化方案,但受训者无法评估自己尚不能独立产出的内容,且自动化偏倚影响显著。 将AI记录工具的讨论从医师整体扩展到培训阶段的学习者,指出能力形成过程本身可能被改变。 论证性推断,并引用一项随机试验作为支持:在20小时AI素养培训后,看到故意错误AI建议的医师诊断推理得分为73%,而看到无错误建议者为85%。

作者提出技术与教育并重的应对:供应商应提供集中管理、面向学习者的专属配置与区分转录与生成内容的章节级透明度,培训项目应将其作为部署的明确条件。 把治理要求具体落到供应商配置与培训项目部署条件两个可操作层面,而非仅停留在一般性警示。 属于规范性建议,基于作者对当前商业记录工具现状的判断,即尚无主流商业记录工具对受训者限制推理生成。

在现有工具尚未限制推理生成的情况下,培训项目可立即保护既有规范:要求受训者在病历生成前先陈述推理、以已展示的能力作为记录工具使用门槛、并通过口试病例汇报与书面病历共同评估推理,并映射到某项可信赖活动及其里程碑。 提供了不依赖供应商改变的即时可行路径,并把推理评估与可信赖专业活动及里程碑框架相衔接。 属于实施建议,未报告试点或评估数据。

启示与展望

本文面向临床培训场景,尤其是使用环境AI记录工具的住院医师与培训项目,其建议适用于供应商可提供学习者专属配置与章节级透明度的前提;推理先行、能力门槛与口试评估等做法可在现有工具条件下先行实施。

文中引用的随机试验数据来自其他研究情境,其在真实记录工具使用中的可迁移程度尚待观察;供应商是否以及多快提供学习者专属配置与章节级透明度仍属开放问题;推理先行与能力门槛在繁忙临床流程中的可行性、以及口试与书面评估如何具体映射到可信赖活动与里程碑,均需进一步实践检验。由于当前为摘要级阅读范围,未能核对图表与补充材料,上述判断以正文所述内容为限。

来源