医疗 AI 写好了诊疗计划，医嘱却没有开出去

一份诊疗计划写得很完整，下一步该做什么也判断对了，电子病历系统里却没有相应的医嘱。

读斯坦福 HAI 的《Measuring What Medical AI Can Actually Do》，我停在了这个细节上。在 PhysicianBench 的动作执行失败中，GPT-5.5 有 62%、Claude Opus 4.6 有 73% 属于这种情况。注意这个分母，它们是动作执行失败中的占比，不能据此推断整体任务的医嘱遗漏率。

如果只读最后的总结，这类遗漏很容易被一份条理清楚的计划遮住。医疗 AI 到底完成了多少工作，需要去系统里找答案。

从考题走到病历系统

原文串起了一条评测路线。MedHELM 先把医疗工作摊开，覆盖临床决策支持、文书生成、患者沟通与教育、医学研究辅助、行政与工作流五大类，再往下细分为 22 个子类、121 项任务。

这张分类图的价值在于提醒我们，医院需要的帮助很杂。写一段出院说明、整理研究材料、处理保险申请，各有不同的成功条件。“医学能力强”这个总括说法，无法替这些具体工作作答。

原文中的 MedHELM 分类图保留了这些工作之间的关系，英文小字可在原始页面放大查看。图源为斯坦福 HAI 所引 MedHELM 研究。

不过，给出提示、生成文字、给文字打分，仍然无法检验一项跨系统工作有没有完成。于是后续评测把 Agent 放进可操作的环境，让它查病历、推理、执行，再核对留下的结果。

PhysicianBench 包含 100 项长流程任务，覆盖 21 个专科，平均需要 27 次工具调用。病例来自经过隐私处理和扰动的真实记录，运行发生在电子病历测试环境。其结果表中，GPT-5.5 的单次完整完成率是 46.3%。这个成绩描述的是论文指定的任务与配置，不能拿来估计现实医院里有多少患者会被正确诊治。

我更看重它怎样认定完成。计划里说应当开药，系统就应当存在对应的药物医嘱；计划里提到转诊，就要检查有没有相应记录。写得对和做到了，需要分别拿出证据。

做对大部分步骤，事情仍可能办不成

另一项 HealthAdminBench 测的是就诊背后的行政工作。它用电子病历、两个保险门户和传真系统组成模拟环境，安排了 135 项任务，涉及事前授权、拒付申诉和耐用医疗设备订单。

这里的困难很容易理解。前面查到的信息，可能要到后面的保险表单才用得上；病历摘要需要下载，再作为附件上传。只要材料没带过去，前面搜得再准确，申请也可能停在那里。

在这项测试的原生计算机操作配置中，GPT-5.4 的子任务通过率达到 82.8%，完整任务通过率却只有 26.7%。测试中完整任务成绩最高的 Claude Opus 4.6 CUA 也只有 36.3%。这些数值与 PhysicianBench 的成绩不能直接比较，两边的任务、接口和评判方法都不同。

子任务成绩和完整任务成绩回答了不同问题。前者能帮助定位哪一类操作有进步，后者才接近使用者关心的“这件事还要不要我接手”。表单的大部分字段填对了，缺少必要附件时，使用者仍然得回来补。

也不能把这种落差简单归结为“步骤一多，成功率相乘”。步骤会互相依赖，错误也可能被发现和修复。前面一次没记住资料，可能连带影响后面的填表、判断和提交；能够回头补查，又可能挽救整项任务。实际要测的是系统怎样传递信息、发现遗漏和恢复工作。

有了记忆，仍然需要检查它记了什么

原文把改进方向指向 Agent 的外围系统和记忆。我赞成这个方向，但论文里还有值得留意的细节。

HealthAdminBench 已经提供了外部记事空间，研究者仍观察到 Agent 经常没有记下关键细节。记事工具可用，和重要信息能在需要时被取回，中间还有设计与训练问题。

PhysicianBench 的失败分析也提醒人保持克制。临床推理约占失败检查点的一半，其中包括推理不完整和遗漏细节。把信息保存下来，不能保证模型理解正确，更不能保证药物、监测要求和安全条件都处理妥当。

所以，我不愿意把这组研究读成“换一套记忆方案，医疗 Agent 就能上岗”。更有用的启发是为不同失败找不同证据。资料是否取到了，判断是否有依据，动作是否写入系统，文书是否与实际一致，都需要有办法单独核对。

这让我想到之前读 Google 评测实践时讨论的执行轨迹验收。医疗场景把这个要求推得更具体了。工具调用记录可以解释 Agent 做过什么，病历中的最终状态则帮助确认那些动作有没有留下应有的结果。

“医生最后看一下”也需要算工作量

一种合理的反驳是，实际产品可以只做狭窄任务，并由人复核。完整自主任务的成绩低，并不能否定辅助工具的价值。我认同这个边界。这些研究没有替所有医疗 AI 产品作出判决。

但人工复核需要设计。如果医生看到的只是 Agent 生成的总结，未执行的医嘱仍可能藏在后面。若医生必须重新翻查病历、逐项寻找订单、确认附件去向，省下的工作量就需要重新计算。

在我看来，采购或试点时值得追问的，是复核者究竟会收到什么。已执行的动作能否指向系统记录，失败或存疑的步骤是否明确列出，接手的人能否看懂工作停在哪里。没有这些信息，“有人把关”可能意味着让人重新做一遍核验。

验收也应包括不该发生的事。即便预期医嘱存在，还要检查有没有重复订单、错误患者关联或多余操作。这是我从研究进一步推出来的要求，不能把它当成论文已经测过并解决的问题。

行政测试还简化掉了验证码、会话超时等实际部署条件。沙箱中的成功值得记录，进入医院后的接管成本仍要另测。将独立完成率、错误后果和人工纠正负担一起看，才有机会判断一套系统到底帮了多少忙。

读完这篇文章，我会改变观看医疗 AI 演示的方式。面对一份漂亮的总结，接下来应该打开相应记录，看看医嘱、申请、附件究竟到了哪里。若工作停住，界面应当让接手的人直接看见那个断点。

参考资料

• Stanford HAI，Measuring What Medical AI Can Actually Do
• MedHELM，Holistic evaluation of large language models for medical tasks（阅读公开摘要、图注及数据说明，正文有订阅限制）
• PhysicianBench 论文全文
• HealthAdminBench 论文全文