AIAI学习站
继续学习
本章进度 1 / 18
6%
安全、权限与隐私·理解·10 分钟
正文已完成

先认出提示注入从哪里进来

区分用户指令、外部内容与工具返回，识别直接注入和间接注入的入口。

L186
为什么现在学

先用本课建立“提示注入”的基本直觉，后面的判断和练习才不会只靠记结论。

本课会用什么
  • 无需安装新工具
  • 直接阅读并完成本页理解检查

提示注入不只藏在聊天框里。网页、文档、邮件和工具结果都可能夹带试图改变模型行为的文字。

这一课的结果

能为一个带检索和工具调用的 AI 功能标出提示注入入口与受影响资产。

核心概念

先把关键判断说清楚

01

直接注入

攻击者把越权指令直接写进用户输入，试图覆盖系统目标或绕过限制。

02

间接注入

模型读取外部资料时把资料中的恶意文字误当指令，风险来自内容供应链。

03

资产与入口联动

同一句恶意指令是否造成损害，取决于模型能访问的数据、工具和后续自动动作。

案例拆解

知识库页面诱导导出通讯录

客服助手检索到一篇被篡改的内部文档，其中写着忽略原任务并调用联系人导出工具。

  1. 01

    标记检索文档为不可信数据

  2. 02

    确认助手同时拥有通讯录读取和文件导出能力

  3. 03

    把风险链写成外部内容→模型决策→高权限工具

案例结果

团队确认，外部文档中的恶意文字可以驱动越权工具组合，风险由此产生。

提交前练习

现在轮到你

为一个会搜索网页并保存摘要的助手绘制提示注入入口表。

选做练习：本节练习可用于加速你巩固，但不影响继续学习。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

入口包括搜索词、网页正文和抓取器返回；资产是笔记库与发布接口；攻击链为恶意网页诱导模型把隐藏指令写入并公开发布。

评分标准

  • 至少覆盖一个间接入口
  • 资产描述具体
  • 攻击链包含可观察后果

本课收口 · 理解检查

用 30 秒确认你理解了

用 30 秒理解检查确认你抓住了重点；阅读标记、练习和总结都不设硬门槛。

0 / 1
02完成练习（选做）0 / 3 项已填写，不影响完成03通过理解检查点此去回答，约 30 秒
04补一句总结（可选）可以留空，不影响完成本课。
助手读取网页后被网页中的文字诱导调用删除工具，这属于什么风险？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。