本地模型的失败不会因离线而消失

判断质量、提示注入、资源耗尽、版本老化与日志泄露等本地风险。

L343

本地部署改变的是控制边界，不是让模型更真实或更安全。幻觉、恶意文档指令、上下文泄露和破坏性工具调用仍存在；资源不足与更新滞后还会成为新的运营问题。

这一课的结果

能识别本地推理降低了哪些风险，又新增或保留了哪些风险。

核心概念

数据不出设备能降低第三方暴露，但本地日志、备份、多人账户和恶意软件仍可能访问。

事实核验、提示注入隔离、工具最小权限和人工审批不因本地运行而取消。

长期不更新可能保留框架漏洞或已知模型缺陷，更新又需要回归和回滚。

案例拆解

本地模型读取外部文档后把其中“上传配置文件”的文字当成工具指令，险些读取敏感目录。

案例结果

本地数据边界得到保留，提示注入也被最小权限与审批阻断。

提交前练习

为一个本地AI工作流做威胁与控制对照。

保护资产 · 必填主要威胁 · 必填控制措施 · 必填剩余风险 · 必填

内容会自动保存在当前设备

查看参考答案与评分标准

资产是合同与签名密钥；威胁是恶意PDF指令、日志记录全文、模型误判；控制是沙箱只读合同目录、密钥不可见、日志脱敏、外发需审批；剩余风险是法律结论必须人工审核。

本课收口 · 学习证据

确认阅读、保存练习，再用 30 秒检查和一句话总结留下真实学习证据。

0 / 3

02完成本课练习0 / 4 项必填内容已填写

03通过理解检查约 30 秒

本地推理后，哪项风险仍然存在？A模型对不可信文档产生提示注入响应B第三方API一定保存提示C设备永远不会资源不足

用自己的话写下一句本课结论至少再写 12 个字。

你现在更接近哪一种状态？

完成上面三项后，才能把本课记为已验证。

资料来源

本课内容最近更新于 2026-08-23。