AI 初步整理—核对原始资料—医务人员专业复核（医疗 AI 三层复核工作流）
方法定义
这是世界卫生组织（WHO）在 2024-01-18 发布的中文指导文件所支持的安全工作流，用于普通人使用多模态大模型（LMMs）理解健康信息时降低过度信任与医疗幻觉风险。它不是让 AI 替人做医疗决策，而是让 AI 充当"理解辅助"，所有医学结论仍由合格医务人员负责。
三层步骤
第一层：AI 初步整理
- 让 AI 把医学术语转成较易理解的说明
- 让 AI 帮助整理病历、检查报告、电子健康档案
- 让 AI 根据原始资料生成就医问题清单或随访要点
- 输出形式：解释、表格、问题清单，不输出诊断或治疗建议
第二层：核对原始资料
- 将模型摘要与原始报告逐项核对
- 检查检验单位、参考区间、采样日期、检测方法
- 标注模型遗漏或与原文不一致的项目
- 对于训练数据可能存在群体偏差的群体（儿童、老年人、罕见病、孕产妇等），需要更谨慎地核对
第三层：医务人员专业复核
- 把诊断、疾病概率、紧急程度、用药、剂量、治疗方案交由合格医务人员决定
- 对孕产妇、儿童、老年人、罕见病、复杂慢病和急症直接寻求专业医疗服务
- 不可把 AI 的解释或建议直接当作诊断
适合哪些情况
不适合哪些情况
- 急症、危重症状、突发情况——必须直接就医，不可先问 AI
- 需要诊断、处方、手术决策的医学判断
- 涉及隐私敏感的健康信息且平台未提供充分数据保护承诺
经验与失败点
- WHO 强调"用户和医务人员可能因过度信任 AI 而忽略错误"，因此第二层"核对原始资料"不可省略
- 即使 AI 输出看起来合理，也必须以原始报告和医生记录为准
- 模型可能在罕见病、复杂慢病、孕产妇、儿童群体上表现更不稳定，需要更高比例的人工核对
配套边界
来源