AI 文件检索的漏检与误分类导致重要资料被错判"不存在"的风险
带 AI 识别与检索能力的网盘使用自动分类、OCR、语义匹配和全文检索来定位文件，但这些能力都可能漏检或误检。如果用户把搜索结果当作"文件是否存在的唯一依据"，可能在以下场景出现严重后果：丢失重要合同、保修凭证、证件、医疗记录...
用途匹配
任务描述、口语长句、创作者、工具和仓库名称都可以直接搜索。
按名称、标签、主题和内容相关性排列
带 AI 识别与检索能力的网盘使用自动分类、OCR、语义匹配和全文检索来定位文件，但这些能力都可能漏检或误检。如果用户把搜索结果当作"文件是否存在的唯一依据"，可能在以下场景出现严重后果：丢失重要合同、保修凭证、证件、医疗记录...
用途匹配
带 AI 识别与检索能力的网盘（以夸克网盘为例）会对照片做人脸聚类、场景分类，对图片做 OCR 文字识别，对文档做全文索引。家庭资料中包含儿童人脸、住址、证件、票据、学校资料、医疗记录等敏感信息，将这些资料上传到云端并交由 A...
标签匹配
模型在联网搜索后给出带链接的回答，会让用户产生"已经核实过"的错觉。实测显示，链接存在 ≠ 链接真实支持表述。原文实验中 3123 次引用中 45.37% 不能完整支持对应表述，"无中生有"出现 952 次，是最突出的错误。这...
用途匹配
把对话式生成式 AI 用于教师备课、出题、写评语、整理复习资料或做初步学情分析时，存在三组典型风险：
用途匹配
把 AI 搜索与网页摘要当作政策理解主入口时，至少存在四类风险叠加：
用途匹配
把个人体检报告交给通用 AI 模型做通俗解释与趋势归纳时，存在三层互相叠加的风险：
用途匹配
把 AI 搜索当作通用搜索引擎的替代品，用它去问"现在能不能办""附近哪里开门""今天天气怎么样"等即时、本地、碎片化的生活信息时，往往得不到比传统搜索更优的体验，反而可能得到过期或不带本地化的回答。
用途匹配
AI 研究工具生成的报告通常包含正文、引用列表、数据表、图表和 assets 文件。当这些不同来源类型的对象被放在同一份"引用"集合里，读者很容易把内部生成的图、模型生成的数据表、报告附件当作外部学术证据。
用途匹配
世界卫生组织在 2024-01-18 发布的中文指导文件中，明确指出多模态大模型（LMMs）在卫生领域同时存在潜力与系统性风险。这些风险不是任何特定模型的缺陷，而是整个技术类别在医疗场景中固有的治理与使用边界问题。
用途匹配
学生在使用 LLM 辅助写作 Research Report 时，模型可能捏造不存在的论文、作者、会议、年份或 DOI；可能给出看似合理的引用编号，但内容并未在原文中出现；可能把联网整理的题录与摘要当作正式书目，跳过原文核对。
用途匹配
计算机课程中，同一概念可能存在不同符号、算法变体或实现方式。通用 LLM 可能给出"理论上成立、但不符合教授讲法或作业评分标准"的答案，导致学生沿用非课程口径的解法而失分。
用途匹配
风险描述 事实查核实验室 Factcheck Lab 在其方法说明中明确：AI 可用于拆解命题、翻译、生成搜索词、做摘要和整理证据表，但不能替代打开原文、核对图像出处、联系主管机构与专业判断。把 AI 的"看起来很有把握"的回...
用途匹配
通用对话模型对扫描版 PDF 的识别能力有限。在 SRC-LIFE-005 中，qlxsbridge 的 2022 年体检报告为扫描版，平台未能支持，实际有效分析范围从标题声称的"四年"缩为三年。这一失败点暴露了一个常被忽视的...
用途匹配
在主题、术语、文献和多数叙述都显得合理的研究文本中，AI 模型可能混入缺乏直接证据的数字或成果。这种错误比完全虚构更难发现：报告"看起来对"，但具体数字（GPU 小时、性能提升、数据规模、计算成本）找不到对应的原文支持。
用途匹配
在使用 AI 帮助"拍照找同款"类任务时，模型给出的零售链接可能真实存在，但与用户照片中的商品不是同一型号。链接的真实性不等于型号的匹配性，这是消费决策类 AI 任务中最容易踩到的坑。
用途匹配
事实核查工具（搜索 API、preset、独立审计模型）会把"看起来异常"的标记直接抛给用户，包括但不限于：标注为未来日期的会议、被付费墙挡住的论文链接、需要机构登录的资源、内部生成的附件。这些标记中既有真实问题，也有人工可以...
用途匹配
涉及未公开课程内容、内部教研资料、未公开会议记录、敏感讲座内容或包含个人信息的工作材料被上传到 NotebookLM 的场景。
用途匹配
元数据缺字段：网页抓取并不保证每条文献都带完整字段；作者、期刊、年份、卷期页码、DOI 缺失会直接体现在 Word 生成的引文与参考文献中。
用途匹配
AI 生成的參考文獻錯誤並不限於「整條虛構」一類。第二類同樣常見、且更難被察覺的錯誤，是在真實元數據上做局部竄改：把論文年份寫錯、把題名與期刊錯配、把預發表與正式出版混淆，或是把多篇真實論文的題名片段拼接成一條不存在的記錄。這...
用途匹配
任何把 NotebookLM 的自动摘要、学习指南、时间轴、思维导图、会议总结或音频概述作为阅读入口或工作起点的使用场景。
用途匹配