来自 ARISE 领导层的话
距离 ChatGPT 面世不过数年，医疗 AI 已从演示走向部署。超过 80% 的受访医疗领导者表示已上线首个生成式 AI 用例（Lamb 2026）；前沿模型在多项研究中达到或超过医生水平（Brodeur et al. 2026；Goh et al. 2025）。资本也随之涌入：在 142 亿美元美国数字健康初创融资中，AI 企业占到 54%（Zweig et al. 2026），医疗行业的 AI 采用速度是整体经济的两倍以上（Yap et al. 2025）。
但能力的提升并不自动等于患者获益。本报告聚焦一个更难、也更重要的问题：环绕模型的基础设施——安全评估、治理、临床工作流整合与财务激励——是否足以把能力可靠地转化为规模化的患者获益。我们的答案是：尚未。这份报告由 ARISE（Alliance for Responsible & Inclusive Safe-AI Evaluations，暂译“负责任、包容、安全的 AI 评估联盟”）撰写，作者为 Ethan Goh、Adam Rodman 与 Jonathan H. Chen。
执行摘要
本报告围绕两个核心问题展开，它们共同决定医疗 AI 能否真正惠及患者。
问题一：安全如何衡量，又是与谁比较？
早期评估主要盯着能力与性能，而“安全”问的是伤害发生的频率与严重程度。在 NOHARM 真实病例基准上，即便最好的模型也约每 14 次会诊就给出一次严重伤害级建议，尽管整体优于全科医生（Wu et al. 2026）。更关键的是：安全必须放在语境里比较——与常规诊疗、延迟诊疗或完全不诊疗相比，AI 表现如何？脱离比较对象的“安全”没有意义。
问题二：更强的性能，能否真正传递到患者身上？
答案是：并不稳定。人机协作通常优于医生单独诊疗，却往往达不到 AI 单独的水平。也就是说，模型的“能力”与真正落地的“已实现能力”之间存在鸿沟——基准分数的提升未必会转化为床旁获益。
本报告覆盖的范围
报告聚焦三大领域：临床决策支持、行政工作流与直接患者交互；不涵盖药物发现、基因组学、精准医学、公共/人群健康与支付方运营。报告同时区分三类 AI：预测式（较成熟）、生成式与自主式（agentic）（参见 JAMA 峰会，Angus et al. 2025）。
更多背景数据
MASAI 研究纳入超过 10 万名女性，AI 辅助乳腺钼靶检出了更多癌症（Hernström et al. 2025），间期癌发生率相当（Gommers et al. 2026）。TRICORDER 随机对照试验覆盖 205 家 NHS 基层诊所，评估 AI 听诊器，未达到主要终点（Kelshiker et al. 2026）。过去一年公众使用医疗聊天机器人的比例翻倍（Holzwarth et al. 2026）。有估计认为，美国每年或可因此获益 2000 亿至 3600 亿美元（Sahni et al. 2023）。
教育与参与
ARISE 通过公开的评估基础设施、课程与工具推动医疗 AI 的负责任落地。下方三个项目卡展示了ARISE 的教育与参与项目。
公开工具与资源
MAST（医学 AI 超级智能测试，Medical AI Superintelligence Test）：arise-ai.org/mast；完整参考文献书目：tinyurl.com/ARISE-References-26；教育项目 HAILS：www.arise-ai.org/hails。
引言
本报告聚焦三个应用领域——临床决策支持、行政工作流与直接患者交互，并有意不涉及药物发现、基因组学、精准医学、公共/人群健康与支付方运营，以便对“AI 是否已准备好进入临床”给出更聚焦的判断。
图 1：医疗 AI 的范围
三类 AI：预测式、生成式、自主式
报告区分三类 AI：预测式 AI（如风险评分，相对成熟）、生成式 AI（大语言模型）与自主式 AI（agentic）（能规划并执行多步任务）。这一划分沿用 JAMA 峰会的框架（Angus et al. 2025）。
如何阅读本报告
第 1 章论证“AI 能力正在超越安全评估”；第 2 章论证“准确率不等于结局”。全文使用（作者, 年份）的内嵌引用，完整书目见 ARISE 官网。
AI 能力正在超越安全评估
1.1 能力的提升快于安全评估的建立
自 2022 年 ChatGPT 问世以来，模型能力快速跃升，但评估仍以“做对了什么”为主，而非“如何失败”。监管与治理框架正在追赶：世界卫生组织提出 6 条原则（WHO 2023）；FUTURE-AI 汇集来自 50 个国家的117 位专家（Lekadir et al. 2025）；斯坦福的 FURM 与 RAIL 提供了机构级评估路径（Callahan et al. 2024）。
图 2：AI 安全的参照模型（Waymo）
自动驾驶提供了一个有用的参照：安全不是某一刻的“达标”，而是贯穿全生命周期的分层保障。Waymo 追求“不存在不合理风险”（Favarò et al. 2026），其部署与“行人受伤碰撞减少 92%”相关联（Waymo n.d.）。值得注意的是，2026 年的多次软件召回恰恰说明：持续监测而非“一次性完美”，才是行业标准。
1.2 三个层面的失败：模型、人机、系统
临床 AI 的失败可发生在三个层面：模型本身、人机交互，以及所处的医疗系统。下表汇总了不同模型类型的独特安全风险。
1.2a 模型层面的失败
模型层面的失败主要有四类。(1) 分布漂移：模型在真实环境中的表现常低于论文报告值——Epic 脓毒症模型真实 AUROC 为 0.65，而报告值为 0.76–0.83；再入院预测 0.70 对 0.73；临终预测 0.76 对 0.89（Patel et al. 2026）。(2) 偏倚与捷径学习：一款照护管理算法低估了黑人患者的风险——在第 97 百分位仅 17.7% 被标记，若纠偏后应为 46.5%（Obermeyer et al. 2019）；AI 甚至能从影像中预测患者自报种族（Gichoya et al. 2022）。(3) 不确定性失败：模型难以恰当表达“我不知道”（Griot et al. 2025；Sikora et al. 2026）。(4) 遗漏错误：在 NOHARM 上，超过 80% 的严重错误属于“遗漏”（该做而没做）（Wu et al. 2026）。
1.2b 人机交互层面的失败
在内罗毕 16 家诊所约 1500 次就诊中，AI 给出的有害建议约每 13 次出现一次；临床医生完全采纳有害建议的比例为 22%，部分采纳为 37%（Agweyu et al. 2026）。大语言模型单独作答准确率达 94.9%，但在面对真实用户时降至不足 34.5%（Bean et al. 2026）；在交互式对话中，准确率同样下降（Johri et al. 2025）。
1.2c 系统层面的失败
医生会忽略约 90% 的药物相互作用警报（Felisberto et al. 2024）；由漂移触发的模型更新相较锁定模型可带来 +0.44 的 AUROC 提升（Subasri et al. 2025）；谷歌乳腺钼靶系统的召回率是人类首读者的两倍（Kelly et al. 2026）。
1.3 基准评测滞后于部署现实
一项覆盖 519 项研究（2022–2024）的大语言模型评估综述发现，仅 5% 使用了真实患者数据（Bedi et al. 2025）。安全导向的基准正在出现，如 MedSafetyBench、MedGuard、CSEDB。但学术医疗中心仅占美国医院约 5%（AAMC 2026），评估环境与真实部署环境存在系统性偏差；而一旦基准变成目标，就会应验古德哈特定律（Goodhart's law）——指标一旦成为目标，便不再是好指标。
图 3：NOHARM 与其他基准上的表现
NOHARM（Numerous Options Harm Assessment for Risk in Medicine，医学风险的多选伤害评估）基于 100 个真实病例：表现最好的模型严重伤害率约为每 14 次一次，最差者高达 22.6%（约每 4 次一次），且超过 80% 的严重错误来自遗漏（Wu et al. 2026）。斯坦福的自主式出院小结工具幻觉率为 2%，遗漏率为 25%（Grolleau et al. 2026）。
1.4 医学尚未迎来“MMLU 时刻”
医学缺少一个能够真正代表临床能力的统一基准。MedHELM 正在尝试更全面的评估（Bedi, Cui et al. 2026）；ARISE 推出了 MAST（医学 AI 超级智能测试）。MAST 的早期结果显示：能力不等于安全行为（Wind et al. 2026）——在推理基准上的成功，未必转化为多步 EHR（电子病历）任务的成功；而多模态是一项独立于文本推理的能力。
准确率不等于结局
2.1 模拟环境达到医生级，未必意味着可以落地
在模拟场景中，o1-preview 达到甚至超过医生水平（Brodeur et al. 2026），但模拟并不等于“准备就绪”。TRICORDER 试验未能改善结局；而 MASAI 随机对照试验纳入 105,934 名女性，达到了主要终点，在间期癌发生率上非劣（Gommers et al. 2026），检出更多癌症且未增加假阳性（Hernström et al. 2025）。
越过“AI 战胜医生”的标题党
在 6 项推理实验（包括 NEJM CPC、Healer、Grey Matters 与 BIDMC 急诊）中，o1-preview 均优于医生；盲法评审者“分辨不出”的比例达 83.6% 与 94.4%（Brodeur et al. 2026）。但需要提醒：媒体“AI 在急诊战胜医生”的说法夸大其词——该急诊子集其实是内科主治医师，而非急诊科医师。
为什么模型选择很重要
开源权重模型通常落后约 3 个月（Emberson 2025）；集成进 EHR 的模型采用率更高（Everson et al. 2025）。谷歌研究院的 Yun Liu 指出开源模型的价值。视觉-语言模型 MARCUS 在单模态上提升 34–45 分，多模态上提升 43–48 分（O'Sullivan et al. 2026）。但也存在捷径学习：即便移除图像，模型得分仍高于随机（Gu et al. 2025）。下表比较闭源与开源模型的多项维度。
2.2 需要更多真实世界证据
OpenAI 与 Penda Health 在肯尼亚的合作覆盖 39,849 次就诊，诊断错误减少 16%、治疗错误减少 13%，但患者自报结局无显著差异；该研究为整群分配而非随机分配，且由 OpenAI 资助（Korom et al. 2025）。一个新兴模式是“分阶段积累证据”。
图 4：谷歌 AMIE 的分阶段证据路径
谷歌的 AMIE 提供了一个范例，从基础研究（AMIE 临床推理、SymptomAI 个人健康代理、Wayfinding AI 信息检索），到多轮 AI 模拟与 OSCE（客观结构化临床考试）式评估，再到 BIDMC 的小规模真实患者可行性研究，最后走向与 Included Health 合作的全国性随机对照试验（已宣布）。这一路径松散地对应医学生的培养过程与临床试验的多期结构。AMIE 团队负责人 Cameron Chen 与 Mike Schaekermann 表示，他们坚持“分阶段、安全优先”的研究方式。此外，斯坦福的自主式出院小结工作流在真实住院医师流程中试点后，医师职业倦怠评分显著下降（Grolleau et al. 2026）。
2.3 如何在医生与 AI 之间分配任务
文书只是起点。有估计认为，已在实践中的 AI 用例（行政自动化、欺诈与账单错误削减、风险预测改善、临床支持）可带来美国医疗支出 5–10% 的下降（Sahni et al. 2023；Singhal et al. 2025）。在五家学术医疗中心，采用书写助手与文书时间的适度减少及每周多出 0.49 次就诊相关联（Rotenstein et al. 2026），医生也普遍报告倦怠减少、与患者相处时间增加（You et al. 2025）。
医疗系统的工作人员远不止医生，AI 的使用也是
对斯坦福儿童医院一款安全大语言模型工具的 30,503 条对话线程的回顾分析发现，98% 的使用来自非临床人员，覆盖 239 种岗位，集中在写邮件与文档（53.9%）、文本处理（9.1%）与头脑风暴（6.7%）（Black et al. 2026）。护士使用 AI 少于医生（41% 对 57%），且仅约半数认为获得了足够的机构支持（Elsevier 2026；Berlin et al. 2026）。在覆盖 18 个国家 28 家 NGO 的调查中，61% 运营社区卫生工作者项目的 NGO 正在试点 AI 工具，但仅 4% 报告与公共卫生系统实现了有意义的整合（O'Donovan et al. 2026）。此外，早期证据显示 AI 书写助手可能反而抬高每次就诊的报销成本——Riverside Health 报告在引入环境书写助手后，医师工作相对价值单位（wRVU）上升 11%，每次接诊记录的分层病情类别（HCC）诊断增加 14%（Dai et al. 2025）。在 HealthAdminBench 上，最佳代理在有门户指引时端到端任务成功率仅 36.3%，无指引时仅 19.3%，尽管最强系统在单项子任务上可达 82.8%（Bedi, Welch, et al. 2026）。
2.4 人机协作是前沿
最关键的问题是：临床 AI 与医生一起工作时表现如何。理论上二者可以互相纠错、实现互补；但现实中尚未大规模发生。医生借助 AI 往往优于毫无辅助，却常常无法超过 AI 单独的表现（Goh et al. 2025）。既然人与 AI 将长期协作，如何设计这种协作值得认真投入——为“与医生协作”设计的 AI，与为“替代医生”设计的 AI，形态截然不同。
“互补性”——即人与 AI 的长处结合、优于任何一方单独——其实并不常见。2024 年一项涵盖 106 个实验（含医疗）的荟萃分析发现，人机组合的表现反而差于最强的人类或 AI，损失主要集中在决策类任务（Vaccaro et al. 2024）。2025 年一项针对医疗的可靠性分析汇总了 52 项研究中的 87 种情形，发现95% 的人机团队优于医生单独，却只有 44% 的情形能胜过 AI 单独（Liu et al. 2025）。换句话说：给医生加上 AI 几乎总能让医生更好，但在多数情况下，给 AI 加上医生并不能超过 AI 单独。需要注意，这些研究多在受控环境中进行、严重偏向影像，且大多取材于 2023 年以前的文献（Liu et al. 2025）。对 Vaccaro 研究的再分析表明，纳入人类学习（如结合 AI 解释给出决策反馈）的实验设计能改善结果（Berger et al. 2025）。因此，互补性必须被刻意设计：一是任务分配（哪些任务归医生、归 AI、或二者共担，以及如何解决分歧），二是系统设计（围绕临床判断而非既有破碎流程来构建工具），并让 AI 的推理与分歧对医生保持可见。
表 3：临床医生 + AI 与 AI 单独的对比研究
过度信任与信任不足：可以缩小的差距
两类信任校准的失败可以部分解释这一差距。其一是过度依赖，进而导致技能退化。波兰四家医疗中心的研究发现，医生在结肠镜检查中长期借助 AI 检测息肉后，其不借助 AI时发现腺瘤的能力下降了 6 个百分点（Budzyń et al. 2025）。其二是拒绝了本来正确的 AI 输出。在一项覆盖两家 NHS 筛查中心5 万名女性的《Nature Cancer》影像研究中，AI 检出了比人类读者更多的间期癌与下一轮癌症，但这一优势在两名 NHSBSP 认证乳腺读者仲裁后基本消失：人类仲裁者推翻了 93 例 AI 正确的判断；在可分析的 84 例中，AI 有 36 例（约 43%）未能定位癌灶，另有 20 例虽标对位置却叠加了额外假阳性框——两者都可能削弱读者信心（Warren et al. 2026）。过度信任与信任不足可以同时存在，甚至发生在同一工作流中。
但差距是可以缩小的，设计原则正在浮现。2026 年一项纳入 70 名美国执业临床医生的随机试验，评估了一个专门设计的协作界面：医生与 AI 各自独立给出评估，随后由 AI 生成综合意见，明确呈现一致与分歧之处。该队列的诊断准确率达到 85% 与 82%，而使用常规资源的医生为 75%；AI 单独最高（87%）。不过，这种协作方式确实稳定地提升了医生表现，尤其减少了低分病例（Everett et al. 2026）。
医学教育与 AI：如何避免“技能退化”与“从未习得技能”
斯坦福大学医院医学部主任 Jason Hom 指出：“AI 会长期存在并愈发重要，因此我们应尽早为学员合理地整合相关课程。但魔鬼在细节：谁该在何时使用哪种工具。我们不希望早期学习者未能充分发展独立临床推理等基础医学技能。”一项研究揭示了“虚假的精通”，即“从未习得技能”（never-skilling）的隐忧——使用生成式AI 的学生完成任务的成功率高出 48%，但在移除 AI 后表现下降 17%（OECD 2026；Bastani et al. 2025）。认识到这一风险，培训项目正在调整。斯坦福内科住院医师 AI 课程的联合负责人 Kevin Keet 与 Poonam Hosamani 表示，课程重心已从“提示工程、幻觉检测”等技术能力，转向“保留技能”的 AI 使用方式。斯坦福医学院2025 年秋季的 AI 课程要求所有 MD 与 PA 学生学会评估并应用 AI 输出，同时禁止在闭卷考试中使用 AI，并要求在不借助 AI 的情况下展示临床推理。斯坦福还自研了 Clinical Mind AI 与 AI Clinical Coach 等工具，通过 AI 中介的练习来培养基础问诊与推理能力（D'Ardenne 2025）。由 UCSF、Weill Cornell、俄亥俄州立大学与耶鲁组成的多机构联盟共同开发了 MedSimAI（AI 标准化病人平台），在三所医学院的 1,024 次接诊中提供了结构化的形成性反馈；在将其纳入课程的一个院区，OSCE 问诊平均分从 82.8 升至 88.8，而在自愿使用的院区则无显著提升（Hicke et al. 2026）。纽约大学 Grossman 医学院由 Macy 基金会资助的 Communication Compass 则分析医患互动的环境音频，为住院医师提供个性化的沟通技能反馈（NYU Langone Health 2025）。
2.5 公众采纳在增长，但随着 AI 走向临床决策，信任仍然偏低
过去一年，公众将 AI 聊天机器人用于健康的比例翻了一倍（Holzwarth et al. 2026）。三分之一的美国成年人使用 AI 聊天工具处理身心健康问题，年轻人比例更高；值得注意的是，黑人、拉丁裔以及无保险的成年人，比白人更可能使用 AI 心理健康聊天机器人。许多使用者并未再去咨询医疗专业人员（Montero et al. 2026）。另一项调查显示，在可以选择时，88% 的人认为自己的医生比聊天机器人能更好地解释诊疗方案（Nair et al. 2026）。
这种使用量的增长与公众信任形成反差。仅半数受访者信任 AI 聊天机器人，47% 对医疗提供方在诊疗中使用 AI 感到不适（Nair et al. 2026）。此外，非 AI 用户对健康聊天机器人的信任约为 AI 用户的四分之一、对社交媒体约为三分之一，显示出使用者与非使用者之间的信任鸿沟（Holzwarth et al. 2026）。还需注意，这些公众采纳数字只反映了全球人口的一小部分：微软 AI 经济研究院发现，到 2025 年下半年，全球仅 16.3% 的人使用过生成式 AI 工具，约 83% 的人从未接触过免费 AI 聊天机器人，更不用说付费（Microsoft AI Economy Institute 2026）。如果这些工具主要是为一小部分全球人口构建与部署的，那么公众教育与 AI 健康素养就成为兑现行业所承诺“可及性”的前提；同样关键的，是为跨语言、跨年龄与阅读水平、跨文化语境与数字素养的所有人群设计模型与工具。
结论
在临床决策支持、行政工作流与患者交互三大领域，前沿模型已在越来越多任务上展现出达到或超过医生基准的表现。但更难、也是本报告聚焦的问题是：环绕模型的基础设施——评估、治理、临床工作流整合与财务激励——是否足以把能力可靠地转化为规模化的患者获益。
证据表明：尚未。安全评估仍是最关键的未满足需求。基准更关注模型“做对了什么”，而非“如何失败”，而临床中最要紧的失败模式——遗漏之害、自动化偏见、模型的静默退化——恰恰最不被现有框架所捕捉。人机协作同样有待成熟：理论上二者应优于任何一方单独，实践中多项研究却显示协作往往无法带来叠加收益。问题不只是模型性能，更是协作的设计——如何把 AI 引入临床流程、如何培训医生使用、AI 何时该让步或升级、以及人机判断分歧如何解决。
随着强大的开源与闭源模型不断涌现，医疗的挑战已不再是“能否获得能力”，而是更艰难的工作：在真实临床场景中证明——AI 何时真正帮助了患者，何时没有。感谢您阅读本报告，并为构建更审慎、以证据为驱动的临床AI 方法贡献力量。本报告是 ARISE 更广泛努力的一部分，旨在为医疗 AI 建立共享的评估基础设施，包括考察安全性、临床有用性与真实世界落地的开放基准。我们欢迎来自医疗系统、研究者、开发者、政策制定者与患者权益倡导者的反馈与合作。完整报告见 ARISE 官网。