机器学习在医疗设备中的前景、陷阱与未来之路
机器学习（ML）正在重塑医疗设备，带来更快的诊断与更灵敏的护理。然而，随着这些系统从研究走向临床，其局限性——捷径学习、自动化偏见以及监管空白——亟需审慎审视。近期一系列进展，包括英国国家人工智能在医疗保健中监管委员会的成立，凸显出人们日益认识到ML的影响既取决于技术，也取决于治理。
ML模型可在20秒内分析心脏MRI扫描，精度比人工分析高出40%，每年可节省数千个临床医生工作日。
捷径学习——模型学习虚假关联而非真正病理——可能导致系统性误诊，例如气胸胸部X光AI工具中出现的情况。
自动化偏见，即不加批判地接受机器输出的倾向，是临床环境中主要的患者安全风险。
边缘AI在设备本地处理数据，降低带宽、延迟和隐私风险；用于新生儿的手持式白内障筛查工具Neocam是一个显著例子。
英国药品和健康产品管理局（MHRA）于2025年9月启动了国家人工智能在医疗保健中监管委员会，以应对这些挑战。
模式识别：ML的强项
ML模型处理大量数据的速度快于人类，在某些应用中的准确性也更高。随着诊断需求上升和专科人员短缺给服务带来压力，这种能力可以帮助临床医生管理工作量并更快做出决策。
例如，英国心脏基金会（British Heart Foundation）资助的AI工具可以在20秒内分析心脏MRI扫描，检测心脏结构和功能变化的精度比人工分析高出40%。据估计，该工具每年可节省约3000个临床医生工作日，使专家能够专注于更复杂的病例。
捷径问题
这些结果虽然令人印象深刻，但有一个关键警示：任何ML模型输出的质量完全取决于训练数据的质量和训练过程的严谨性。当流程中出现问题时，模型可能完全学到错误的东西——这种现象称为捷径学习。
一个经典的例子是胸部X光分析。研究人员发现，基于开放获取放射数据训练的气胸AI模型学会了将胸腔引流管的存在与诊断相关联，而不是与潜在的肺部状况相关。这些模型在测试中表现良好，因为气胸患者通常带有胸腔引流管，但它们会系统性遗漏没有引流管的病例。AI找到了一个统计捷径，而不是学习识别病理本身。
自动化偏见与人在回路
这种失败模式指向一个更广泛且更隐蔽的风险：人类不加批判地信任AI输出的倾向。如果一个ML模型因学到错误的捷径而自信地误诊，而临床医生却未加审视地接受其输出，就会对患者造成危险。
因此，医疗保健中每次部署ML都必须基于以下假设进行设计：模型有时会出错，而人在回路中是最后一道防线。ML系统呈现结果的方式加剧了这一风险。语言模型经过优化以生成听起来合理的文本，而诊断分类器可能返回自信的概率分数。看起来正确的结果更容易被不加质疑地接受。这种倾向——自动化偏见——或许是AI在医学中安全使用所面临的最大威胁。
边缘AI：护理点智能
医疗保健ML中一个特别有前景的分支是边缘AI，即模型直接在本地设备上运行，而非远程服务器。与基于云的系统不同，边缘AI在数据捕获处进行处理，减少了对互联网连接的依赖，降低了延迟，并限制了通过网络传输的敏感信息量。
例如Neocam，一种手持式筛查工具，由剑桥阿登布鲁克医院（Addenbrooke’s Hospital）的儿童眼科顾问医师Louise Allen博士发明。它利用数字成像检测新生儿的先天性白内障。该设备的开发得益于基于46,000张图像训练的ML模型，帮助助产士确认照片质量是否足以做出诊断。目前，Neocam正在英国30家产科单位进行NIHR资助的DIvO研究试验，预计将筛查超过14万名婴儿。
由于处理后的摘要（而非原始传感器数据流）离开设备，边缘AI系统所需的网络带宽大大低于依赖云的系统。这种较轻的通信负载可延长电池寿命。混合系统结合了边缘AI的即时设备分析功能和云端模型进行更深入、更长期的洞察，在响应性和隐私性与更强的处理能力之间取得平衡。
监管格局
监管必须随着技术的发展而演变，而技术的风险不会在设备上市后停止变化。2025年9月，MHRA启动了国家人工智能在医疗保健中监管委员会。该委员会汇集了临床、技术、监管和患者视角，以解决有关AI医疗设备应如何治理的根本性问题。随着英国和欧盟的监管机构继续完善其方法，我们将看到这些新兴框架是否能在支持创新的同时维护患者安全。
关于“智能”的一点说明
人工智能中最具误导性的部分或许是“智能”这个词。这些系统并不理解诊断结果，也不会意识到结果对人的意义，更不知道何时情况超出了它们的经验范围。它们识别模式并计算概率——有时以惊人的速度和准确性——但缺乏理解。
这种区别很重要，但不应掩盖它们的潜力。一个工具不一定需要像临床医生那样思考才能成为临床实践不可或缺的一部分。其价值在于支持人类专长，而不是试图取代它。机会相当大，前提是热情不要超越审慎。
机器学习不会单独塑造医疗保健。其影响将取决于它如何被设计、治理以及在实践中使用。如果处理得当，它可能开启医学的新篇章。接下来会发生什么，不取决于机器变得多智能，而取决于我们选择多智能地使用它们。
参考文献
University College London, “Superhuman 20 second AI heart tool begins NHS roll-out,” March 2022. https://www.ucl.ac.uk/news/2022/mar/superhuman-20-second-ai-heart-tool-begins-nhs-roll-out
Banerjee et al., “‘Shortcuts’ Causing Bias in Radiology Artificial Intelligence: Causes, Evaluation, and Mitigation,” Journal of the American College of Radiology 20, 842–851 (2023). https://www.sciencedirect.com/science/article/abs/pii/S1546144023005264
Cambridge University Hospitals NHS Foundation Trust, “AI power improves cataract test tool for babies,” April 2025. https://www.cuh.nhs.uk/news/ai-power-improves-cataract-test-tool-for-babies/
MHRA, “National Commission into the Regulation of AI in Healthcare,” launched 26 September 2025. https://www.gov.uk/government/groups/national-commission-into-the-regulation-of-ai-in-healthcare