人机协作在眼科临床推理中的应用：提高诊断准确性，但存在过度自信和自动化偏差的风险

临床推理的新前沿：通过人机协作弥合差距

临床推理是医学的核心，但却是临床医生最难以掌握的任务之一，尤其是在高度专业化的领域如眼科。随着大型语言模型（LLM）的不断演进，人机协作（HAC）的概念已从理论讨论转变为实验现实。Ong等人的最新研究发表在《国际医学信息学杂志》上，对对话式AI如何协助医疗专业人员处理具有挑战性的实际案例进行了关键评估。

尽管先前的研究主要关注AI模型的独立性能，但这项研究将焦点转向了机器与医生之间的互动。研究结果提供了复杂的视角：AI可以成为强大的诊断盟友，但其融入临床工作流程中充满了心理和方法论障碍，必须解决这些问题以确保患者安全和诊断精度。

亮点

• HAC显著提高了学生、住院医师和认证眼科医生的平均诊断准确性，从0.45提高到0.60。
• 单独工作的AI（0.70）的准确性超过了人机协作（0.60），突显了‘协作差距’。
• 协作显著提高了医生的信心并减少了认知负担，即使在最终诊断错误的情况下也是如此。
• 协作的成功高度依赖于病例的基础难度，只有当人类准确度超过一定阈值时，才能看到显著的提升。

背景：专业化诊断推理的挑战

诊断错误仍然是医疗保健中的一个重要问题，通常源于认知偏差、信息过载或罕见临床表现的复杂性。在眼科，诊断往往依赖于细微的视觉线索和综合的系统知识，因此风险很高。大型语言模型（LLM）在通过执业考试和提供鉴别诊断方面表现出色，但其作为实时推理‘副驾’的角色尚不明确。Ong等人研究的核心问题是，对话界面是否能真正增强人类智能，或者是否会引入新的偏见形式，如自动化偏见——过度依赖自动化系统的倾向。

研究设计：严格的交叉实验

研究人员采用交叉实验设计以最小化个体差异。研究对象包括30名参与者，分为三组：10名认证眼科医生、10名眼科住院医师和10名高年级医学生。这种分层允许评估临床经验如何影响AI协作的有效性。

任务包括解决30个来自《美国医学会眼科杂志》的具有诊断复杂性的案例。每位参与者在两种不同条件下完成这些案例：

1. 独立工作（仅人类）：参与者仅使用现有知识和提供的案例材料进行诊断。
2. 协作（HAC）：参与者与Claude-3.5-Sonnet进行自由文本对话以得出诊断。

主要终点是诊断准确性。次要终点包括自我评价信心（用李克特量表测量）和认知负担（通过NASA任务负荷指数评估）。此外，研究人员深入分析了交互日志，将LLM的行为归类为六种接受或争论人类用户的模式。

关键发现：显著提升但仍存在差距

性能悖论：HAC vs. 仅AI

最引人注目的结果是整体准确性的提升。平均准确性从仅人类条件下的0.45提高到HAC条件下的0.60（P < 0.001）。然而，这一提升并未达到单独使用LLM的性能水平，后者为0.70。这表明人类经常‘过滤掉’或忽略AI提供的正确见解，或者相反，AI无法说服人类，当人类坚持错误路径时。

有趣的是，AI的好处并不均匀。80%的参与者在性能上有所提升或保持稳定，而20%的参与者在与AI协作时表现更差。这种下降通常发生在AI提供看似合理但错误的信息，而医生随后采纳的情况，这是自动化偏见的一个典型例子。

信心和认知负荷：心理转变

从安全角度来看，一个更令人担忧的发现是HAC对医生心理的影响。HAC显著提高了自我评价信心并减少了认知负担（两者P < 0.001）。尽管减少倦怠和提高信心通常是积极的，但这些效果在‘失败的HAC’会话中也观察到了。换句话说，AI使医生对自己的决定感到更加确定和不那么紧张，即使这些决定是错误的。这种‘虚假的安全感’可能导致高风险医疗决策所需的批判性怀疑减少。

当HAC失败时：行为分析

研究人员对交互模式进行了分类，以了解为什么一些协作成功而另一些失败。在成功的HAC会话中，最常见的模式（92.6%）是LLM提出正确的见解，人类随后接受。相比之下，58.6%的失败会话涉及LLM提出错误的见解，人类在没有充分质疑的情况下接受。这凸显了一个关键的脆弱点：医生可能缺乏验证AI建议所需的‘AI素养’或特定主题深度，特别是在案件处于其专业知识边缘时。

专家评论：导航临床AI的‘诡异谷’

研究使用滑动配对t检验揭示了一个重要的‘难度阈值’。当仅人类的正确响应率高于47%时，HAC最为有效。当案件过于困难，导致人类准确度低于30%时，AI协作未能提供显著的提升。这表明对于最‘无法诊断’的案件，当前的AI模型可能尚未提供所需的突破，或者人机界面尚未针对极端不确定性进行优化。

从临床角度来看，这些结果表明应将AI视为‘推理伙伴’而非‘神谕’。AI单独的表现优于人机团队，这是一个呼吁改进界面设计的行动号召。未来的系统不仅应提供正确答案，还应以一种方式提供底层证据，使医生能够批判性地评估逻辑。目标是‘增强智能’，最终决策优于人类或AI单独所能达到的水平。

研究的局限性包括其专注于单一医学专科和使用特定的LLM（Claude-3.5-Sonnet）。不同的模型或不同的临床领域可能会产生不同的结果。此外，实验设置可能无法完全捕捉到真实世界诊所的时间压力和环境干扰。

结论：对未来医疗实践的影响

Ong等人的研究表明，人机协作是提高复杂眼科病例诊断准确性的一种有力工具。然而，它也提醒我们注意AI的心理影响。减少认知负担和提高信心必须与严格的临床验证相平衡。

对于医学教育者而言，这些发现表明需要将‘AI交互技能’纳入课程。医生必须学习如何与AI争论，如何识别幻觉，以及如何保持健康的怀疑态度。对于卫生政策专家，‘协作差距’——团队表现不如单独使用AI——表明我们仍处于优化人机界面的早期阶段。随着AI在未来诊所中的普及，重点必须放在确保这些工具能够增强而不是削弱临床思维。

参考文献

1. Ong KT, Seo J, Kim H, Kim J, Kim J, Kim S, Yeo J, Choi EY. 成功与失败的人机协作在临床推理中的应用：对具有挑战性的实际病例的实验研究。Int J Med Inform. 2026年2月10日；211:106342。doi: 10.1016/j.ijmedinf.2026.106342。
2. JAMA Ophthalmology. 马萨诸塞州眼耳医院的病例记录。（研究案例的来源材料）
3. Parasuraman R, Manzey DH. 人类使用自动化中的自满和偏差：注意力整合。Human Factors. 2010;52(3):381-410。