用户上传内容含第三方信息的隐私与授权风险
风险描述
很多 AI 产品接收的是用户"自己保存下来的内容",但内容里往往包含未授权第三方:聊天另一方、合照里的其他人、邮件抄送者、协作文档里的同事。这些第三方既不是用户,也不是产品的客户,更没有同意被模型读取、存储或用于训练。
适用场景
- 聊天记录分析(情侣、家庭、群聊)。
- 合照生成、合影美化、人物提取。
- 邮件或工作群摘要、协作文档整理。
- 客服对话录音转写、用户上传的售后截图。
来源案例中的具体表现
loneranger1024 的微信聊天报告产品直接读取用户导出的聊天记录。即使上传者本人同意,这些数据中相当一部分属于对话另一方甚至群聊中的其他人。上传者事实上没有取得这些人的授权,却把整段文本交到了第三方服务器上。作者自己承认:"承诺生成后删除,但难以自证"。
为什么这是结构性风险
- 用户授权不等于第三方授权:上传者签字无法覆盖所有被提及的人。
- 平台删除承诺可信度低:缺乏审计和独立核验,个体开发者更难举证。
- 模型可能"记住"或被用于二次训练:即便立刻删除,明文上传的窗口期仍是泄露面。
- 跨境或第三方模型调用:数据可能被传到用户与服务商之外的第三方。
缓解方向
- 默认优先端侧或本地处理。
- 如必须上传,给出明确的保存期限、删除机制、是否进入训练的告知,并提供"按上传者声明剔除第三方"的工具。
- 对包含敏感第三方内容(未成年人、医疗、亲密影像、工作群)的场景直接禁止或采用更严格处理。
- 收集可被独立核验的删除证据(如日志哈希、第三方审计)。
与已有风险页的关系
- 与 历史客服对话中的 PII 与隐私风险 同属"用户上传内容里的 PII 风险",但更聚焦在第三方而非上传者本人。
- 与 本地 vs 服务器数据处理权衡 互为方法与风险的对应。