AI在放射影像判读中表现出的过度自信可能带来严重医疗风险。最新基准测试RadLE 2.0揭示了这一隐患。

发生了什么

RadLE 2.0基准测试专门评估AI模型在放射学任务中判断何时应让位于人类医生的能力。测试发现，许多AI聊天机器人在解读X光片时，即使给出错误结论，仍然表现出极高的自信度。相比之下，人类放射科医生的诊断准确性和自我认知能力明显优于现有AI系统。

该基准测试并非简单衡量AI的准确率，而是聚焦于AI的“自知之明”——即模型能否识别自身知识边界，在不确定时主动放弃诊断，将病例转交人类专家。

为什么重要

随着AI在医疗影像分析领域的应用日益广泛，从辅助筛查到初步诊断，AI的可靠性成为关键问题。放射科医生每天需要处理大量影像，AI本应成为减轻负担、提高效率的工具。然而，如果AI在错误时仍坚持己见，反而可能误导临床决策，增加患者风险。

RadLE 2.0的出现，标志着行业开始关注AI的“校准”（calibration）问题——即模型的置信度是否与其实际准确率匹配。此前，多数基准测试仅关注准确率，忽略了模型在不确定情况下的行为。这一测试填补了空白，提醒开发者和医疗机构：AI的“自信”不等于“正确”。

影响与看点

对于AI开发者和医疗AI公司而言，RadLE 2.0提供了一个新的评估维度。未来，模型训练可能需要加入“不确定性估计”或“拒绝回答”机制，让AI学会在无法确认时主动求助。这不仅是技术挑战，也是安全伦理要求。

对于医院和放射科医生，该测试结果意味着现阶段AI更适合作为辅助工具，而非独立诊断者。引入AI系统时，必须建立人机协作流程，确保AI的“高置信度”输出经过人工复核。

值得关注的是，RadLE 2.0的测试方法可能被推广至其他医学影像领域（如CT、MRI），甚至扩展到非医疗场景。AI的过度自信问题具有普遍性，任何高风险决策领域都应重视模型的校准能力。

一句话判断：在AI学会“闭嘴”之前，它还不能真正上岗。