AIAI学习站
继续学习
本章进度 9 / 18
50%
AI 产品设计·练习·18 分钟
正文已完成

画清 AI、人和系统各自负责什么

明确每个节点的执行者、最终决定者、异常负责人、申诉路径和责任证据。

L212
为什么现在学

现在把“人机边界”用于一次具体操作，检查你能否独立做出并修正结果。

本课会用什么
  • 按本课练习说明准备真实材料
  • 保留练习与复盘记录

责任图同时记录执行动作、最终决定权、出错后的接管人，以及用户质疑结果时的复核路径。

这一课的结果

能画出一张可用于评审和事故追溯的人机责任图。

核心概念

先把关键判断说清楚

01

执行与负责分开

AI 或系统可以执行动作，但最终责任必须落到具备权限和组织职责的人或角色。

02

证据随责任流转

每次状态变化记录输入、建议、人工修改、批准者和时间，才能复盘真实决策链。

03

申诉是正常路径

高影响结果要提供可理解理由、补充材料入口和明确复核人，而不是把申诉当异常。

案例拆解

贷款预审结果无人负责

模型给出不通过建议，客服照单发送，风控称只是参考，用户申诉时找不到能重新决定的人。

  1. 01

    模型只执行资料核对和风险提示

  2. 02

    持牌审核员作最终决定并记录采纳或推翻理由

  3. 03

    用户可提交补充材料，由另一名审核员复核，系统保留版本链

案例结果

每个决定都有负责人、依据和复核入口，模型不再成为责任空洞。

提交前练习

现在轮到你

为贷款预审画一张人机责任图。

完成本课需要：完成以下内容用于本课收口。

内容会自动保存在当前设备
查看参考答案与评分标准

参考答案

系统校验材料，AI 提示异常，审核员作最终决定；规则冲突由风控主管接管；用户看到主要理由并可补材料，由另一审核员复核；记录输入版本、建议、人工修改、决定者与时间。

评分标准

  • AI 不被写成最终责任主体
  • 申诉包含可操作复核
  • 证据能还原决策链

本课收口 · 学习证据

留下完整学习证据

读完内容、完成练习、通过理解检查并留下 12 字以上总结，才记为已验证。

0 / 4
02完成本课必填练习0 / 5 项必填内容已填写03通过理解检查点此去回答，约 30 秒
04写下 12 字以上总结还差 12 字
高影响 AI 建议被人工采纳后，责任图至少要记录什么？
你现在更接近哪一种状态？
尚有必填项未完成，请补齐后再继续。

资料来源

继续核对与延伸阅读

本课内容最近更新于 。