AI 不能替代事实查核的原始证据核验与专业判断

风险描述

事实查核实验室 Factcheck Lab 在其方法说明中明确：AI 可用于拆解命题、翻译、生成搜索词、做摘要和整理证据表，但不能替代打开原文、核对图像出处、联系主管机构与专业判断。把 AI 的"看起来很有把握"的回答直接当作查核结论使用，是这一风险的核心。

容易出现的情况

• AI 给出"是/否"的判断，但其所依据的"证据"是自身训练数据中的拼凑而非可追溯原文。
• AI 引用了一组链接，但链接内容其实并不直接支持该判断（见 AI 给的链接不等于已经核实（带引用也不可靠的七类错误））。
• 把 AI 当作图片/影片反向搜索的替代品，跳过反向图片搜索、关键帧、地图街景等开放来源比对。
• 在即时事件、政策、灾害和公共安全信息上，没有优先核对主管机构的最新通报。
• 涉及医疗、法律、金融、公共安全或个人指控时，跳过专业复核。

与相邻风险的关系

• 与 AI 给的链接不等于已经核实（带引用也不可靠的七类错误） 互补：后者聚焦"带引用也不可靠"的七类错误；本风险则从机构方法论层面给出更宽的边界：即便没有引用问题，AI 也不构成事实查核。
• 与 AI 引用是否真正支持表述的核验流程（拆事实 → 打开链接 → 定位原文 → 判断支持关系） 互补：前者是拆事实—打开链接—定位原文—判断支持关系的具体流程。

缓解方向

• 把 AI 限定为"整理和发现线索"的辅助角色，最终判断回到可打开、可追溯且与命题直接相关的证据。
• 对即时事件、政策、灾害和公共安全信息，优先核对主管机构的最新通报。
• 对涉及医疗、法律、金融、公共安全的命题，保留相应专业复核。
• 任何"看似合理"但缺乏开放来源线索佐证的图像都不应被采信。

关联任务和方法

• 任务：核验一条网络传言或来源不明图片
• 方法：拆解命题—追溯原始来源—图像验证—交叉核验—透明记录不确定性