跳到主要内容
返回时间线
发表出处待核验来源发表:

循环中的人:生成式AI漩涡中UX实践的伦理能动性与思辨路径

核心概要

这项研究以作者本人在微软担任UX从业者与AI伦理团队成员的经历为出发点,结合对九位在生成式AI工作中经历过价值错位的从业者的半结构化访谈,采用自反性主题分析与175字思辨微小说作为分析工具,提出三个主题——从业者对生成式AI更多是矛盾而非反对、因结构性障碍与职场伦理讨论缺失而感到伦理上被去权、并以“靠进去”和“退出来”的策略行使能动性——进而以“循环”为隐喻论证:要求从业者对其无法真正影响的结果承担伦理责任日益难以成立,而“另类思考”与自我书写仍可实践,并最终落为一个分支叙事设计原型《HUMAN IN A LOOP:一本UX伦理选择你自己的冒险书》。

AI-generated editorial illustration: Humans in a Loop: Ethical Agency and Speculative Pathways in UX Practice Within the Generative AI Maelstrom

深度剖析

研究识别出从业者对生成式AI的态度以矛盾为主而非反对,他们在承认益处的同时担忧其对认知、劳动与福祉的伤害。 相对于以往聚焦UX伦理维度的研究,这里把关注点放在生成式AI产品情境下从业者的实际体验,并指出“矛盾”而非“对立”是更贴近经验的态度结构。 基于九位经历过价值错位的从业者的半结构化访谈,经自反性主题分析得出,并辅以175字思辨微小说的自反性分析工具。

研究指出从业者在UX工作中感到显著的伦理去权,来源包括结构性障碍、工作场所缺乏伦理讨论,以及生成式AI引发的道德困扰。 把伦理困境从个人道德判断问题重新定位为结构性支持缺失的问题,补充了以往对UX伦理讨论中较少展开的“去权”体验维度。 来自访谈数据的主题归纳,并结合作者作为前UX从业者与AI伦理团队成员的自传民族志视角。

研究记录从业者通过“靠进去”与“退出来”两类策略行使能动性,在悲观与谨慎乐观之间摆动。 相对于把能动性视为有无之别的框架,这里呈现为在受限结构中来回摆动的动态实践。 基于访谈主题分析,属于质性、解释性设计的归纳结果。

研究以“循环”为隐喻论证:让从业者对其无法有意义地影响的结果承担伦理问责日益难以成立,但“另类思考”、构建替代现实与自我书写仍然可行,并由此产出分支叙事设计原型《HUMAN IN A LOOP:一本UX伦理选择你自己的冒险书》。 把批判性论证与一个可供读者探索伦理摩擦、共同构建可能路径的设计原型结合起来,使思辨不只停留在论述层面。 属于理论论证与设计原型的结合,其经验基础来自前述访谈与自传民族志材料。

启示与展望

该研究适用于当前社会经济环境下、在生成式AI产品上工作并经历过价值错位的UX从业者情境,其结论意在为理解伦理能动性、结构性障碍与问责分配提供解释性框架,并可作为后续设计探索与讨论的起点;设计原型《HUMAN IN A LOOP》面向希望反思伦理摩擦并共同构建可能路径的读者。

读者仍可留意:九位从业者的访谈在多大程度上能代表更广泛的UX群体;自传民族志视角与访谈材料之间的相互影响如何被处理;175字思辨微小说作为分析工具在结论形成中承担何种角色;以及“循环”隐喻与分支叙事原型在后续实践中如何被进一步检验与延展。由于当前载入的是摘要层面的文本,图表与更细的分析过程未包含在内,这会影响对具体分析步骤的完整把握。

来源