AIAI学习站
继续学习
本章进度 8 / 18
44%
安全、权限与隐私·判断·13 分钟
正文已完成

让脱敏覆盖输入、输出和日志

根据数据用途选择删除、掩码、泛化或令牌化，并验证敏感值不会从旁路重新出现。

L193
为什么现在学

把“敏感数据”从听懂变成会判断，避免遇到真实任务时仍靠感觉选择。

本课会用什么
  • 无需安装新工具
  • 准备一个可对照的真实问题或样本

只在界面上把手机号显示成星号没有意义；原值可能仍出现在提示、追踪、错误堆栈和导出文件中。

这一课的结果

能为一条生成式 AI 数据链设计一致的脱敏规则与恢复边界。

核心概念

先把关键判断说清楚

01

方法服从用途

不需要回填就删除，需要关联可用稳定令牌，只需统计则泛化到区间。

02

先脱敏再记录

日志采集前就执行字段级过滤，不能指望事后清理已经扩散的数据。

03

防止旁路回显

工具结果、缓存命中、错误消息和模型引用都要使用同一敏感字段策略。

案例拆解

客服摘要隐藏了界面却泄露到追踪

客服界面将手机号打码，但观测系统记录了发送给模型的完整请求体。

  1. 01

    定义手机号在任务中只用于关联工单

  2. 02

    调用前替换为稳定客户令牌

  3. 03

    禁止追踪记录原始正文，并测试错误路径

案例结果

摘要仍能关联同一客户，观测数据中不再保存真实手机号。

提交前练习

现在轮到你

为客服对话摘要链路制定姓名、手机号、订单号的处理规则。

完成本课需要：完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

姓名用客户代号，手机号只留末四位，订单号令牌化；仅工单服务可还原；日志记录字段类型和令牌；用已知测试号码搜索输出、追踪与错误日志。

评分标准

  • 处理方法符合用途
  • 还原权限被限定
  • 测试覆盖至少一个旁路

本课收口 · 应用检查

完成一次应用，再检查理解

完成一次必填练习，再通过理解检查；阅读标记和总结不设硬门槛。

0 / 2
02完成本课必填练习0 / 4 项必填内容已填写03通过理解检查点此去回答，约 30 秒
04补一句总结（可选）可以留空，不影响完成本课。
需要跨多条对话关联同一客户但不暴露手机号，优先使用什么？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。