跳到主要内容
返回时间线
World Journal of Methodology来源发表:

致编辑的信:人工智慧与真理的暂时性——对人工智能-人类历史探究的伦理与时间性反思

核心概要

这封致编辑的信回应了 Zhou 等人发表于《世界胃肠病学杂志》的关于「人工智慧」(AW)应用于历史医学探究的研究,该研究本身是对一项人工智能与人类协作分析亚历山大大帝死因工作的回应;信件承认生成式人工智能与临床推理相结合的创新性,同时指出其认识论与伦理层面的局限,主张人工智能系统受暂时性数据与迭代淘汰所塑造,无法触及恒久或永恒的真理,大语言模型流畅的说服力可能制造确定性错觉,将概率性综合与智慧混为一谈,因此应强调透明、问责与人类道德守护,并以「认识论守护」取代「人工智慧」这一概念。

AI-generated editorial illustration: Letter to the Editor: Artificial wisdom and the transience of truth: Ethical and temporal reflections on artificial intelligence-human inquiry into history.

深度剖析

信件指出,人工智能系统由暂时性数据塑造并经历迭代淘汰,因而无法获取恒久或永恒的真理,在证据零散且依赖语境的历史远端情境中尤为如此。 相对于将生成式人工智能与临床推理结合以推断历史医学问题的做法,该信将讨论从技术能力转向认识论边界,强调历史证据的碎片化与语境依赖性。 这是一封致编辑的信,属于概念性与伦理性论证,基于对人工智能系统数据特性的推理,而非新的实证数据或实验。

信件认为,大语言模型具有说服力的流畅表达可能制造确定性错觉,把概率性综合误认为智慧。 该论点将关注点从模型输出内容转向输出形式本身的说服力,提示流畅性可能掩盖不确定性。 属于概念性论证,未提供量化证据或对照实验,依据的是对语言模型输出特性的观察性判断。

信件援引伦理人工智能使用原则,强调透明、问责与人类道德守护是必要的保障措施。 将伦理原则具体应用于人工智能-人类历史医学探究这一场景,提出可操作的规范性要求。 属于规范性伦理讨论,基于既有伦理人工智能原则的引用与推演。

信件最终提议从「人工智慧」概念转向「认识论守护」,认为真理随时间演变,智慧不在于算法,而在于有伦理根基的人类判断。 相对于以「人工智慧」为框架的讨论,该信提出一个替代性概念框架,重新定位人类判断在知识生产中的角色。 属于概念性提议,未附带实证验证,其价值在于为后续讨论提供框架。

启示与展望

该信面向关注人工智能伦理、历史医学探究与知识生产规范的研究者与从业者,适用于人工智能与人类协作进行历史远端问题推断的场景;其提出的「认识论守护」框架为后续在具体案例中讨论透明、问责与人类判断角色提供了概念起点。

读者可能仍会关注:「认识论守护」如何在具体的人工智能-人类历史医学探究流程中落地;透明与问责的具体机制如何设计;以及该信所回应的 Zhou 等人研究及亚历山大大帝死因分析的具体细节,因本次仅加载了摘要性文本,未能呈现原文的完整论证与例证。

来源