WHO 提出的医疗 AI 治理与自动化偏差风险(训练数据群体偏差、过度信任、网络安全、伦理三原则)
世界卫生组织在 2024-01-18 发布的中文指导文件中,明确指出多模态大模型(LMMs)在卫生领域同时存在潜力与系统性风险。这些风险不是任何特定模型的缺陷,而是整个技术类别在医疗场景中固有的治理与使用边界问题。
需要留意的边界
把看不懂的医学术语、检查报告、化验单或病历交给多模态大模型,让它:
把看不懂的医学术语、检查报告、化验单或病历交给多模态大模型,让它:
把报告中看不懂的名词单独列出,要求 AI 用日常语言解释,同时标注:
把 AI 的解释整理成准备带给医生的问题,例如:
将模型摘要与原始报告逐项核对,特别是单位、参考区间、采样日期。任何不一致都应以原始报告为准。
把最终解释和问题清单带给医生,由医生做出诊断与治疗决策。不可直接根据 AI 输出做医疗决定。
先展示关系含义清楚、来源可追溯的内容。