第12章 让 AI 进入你的专业:AI 辅助工作流的工程化设计
本章导读
走到这一章,前面章节已经介绍了 AI 应用中的多项核心能力:提示词工程、幻觉核验、检索增强、视觉理解、工具调用和智能体编排。这些能力在通用层面已经比较清楚,但只要放到具体专业岗位上,就会出现新的问题:哪些环节适合 AI?哪些环节必须人工复核?怎样留下责任链?
本章的定位是专业工作流迁移训练。前面章节更多讨论单项能力,本章则把这些能力组织成一套可以落地到专业岗位的工作流设计框架:
- 可行性评估:面对一个具体的专业任务,怎么判断 AI 能不能帮上忙?
- 辅助层次设计:能帮上忙的话,让 AI 在建议级 / 草稿级 / 半自动 / 全自动哪一层介入?
- 责任链:从输入到交付,每一步谁做、谁签字、出事谁负责?
- 工程落地:怎么把这套设计真正跑成一份能交付的成果?
学完本章后,你要能够把一个专业任务拆成输入、AI 动作、人工复核和输出四个环节,并能说明哪些环节可以交给 AI 辅助,哪些环节必须由人确认。这种能力也将为第13章和第14章的物理 AI 综合实践打下基础。
陆游说:纸上得来终觉浅,绝知此事要躬行。 学过 AI 的单项能力,还要把它放进具体任务中运行、检查和复盘,才能真正转化为可用的方法。
学习目标
- 知识目标:
- 能用四段式工作流(输入 → AI 动作 → 人工复核 → 输出)准确描述一个专业任务的 AI 辅助流程。
- 能解释 AI 辅助的四个层次(建议级 / 草稿级 / 半自动 / 全自动)并说明各层次对应的护栏强度差异。
- 能用重复性 × 可逆性 × 专业门槛 × 影响他人四维矩阵评估一个任务的 AI 介入可行性。
- 能力目标:
- 能为自己专业的一个真实业务任务,完成一份完整的《AI 辅助工作流设计书》,含可行性评估、辅助层次、护栏配置、责任链、对外交付标准。
- 能在 Notebook 里跑通这份设计书的最小可工作版本,并产出可被独立验证的最终交付物。
- 素养目标:
- 建立专业判断权归人、重复劳动归 AI、责任链清晰可追的工程化职业直觉。
- 在跨岗位协作的真实场景中,能清晰表达 AI 辅助系统的边界、责任与失效模式,避免承担非自身职责的风险。
先修要求与环境清单
- 先修知识:已完成第 4—11 章;理解“流畅 ≠ 正确”“有出处 ≠ 一定正确”“看到 ≠ 真的理解”“AI 提议不等于执行”“智能体触发护栏后要停下来”等核心底线。
- 软件环境:
- 课程统一配置的本地大模型服务(使用课程指定的合规模型或课程提供的本地服务)。
- 配套 Notebook 拓展环境(仅在 AI 协同实践第6步拓展任务中使用)。
- 配套资源:
- 本章
Notebook:
notebooks/ch12_workflow_design.ipynb,提供《AI 辅助工作流设计书》填写工具和任务跑分器——填好设计书后能在沙盒中跑通最小版本并产出交付物。 - 6 类专业的种子任务库(餐饮/电商客服/前台接待/实训管理/财务核对/校园活动),含完整素材和评估示范。
- 拓展脚本:
scripts_optional/ch12/workflow_runner.py(拓展任务用)。
- 本章
Notebook:
- 本章要求:所有 AI 动作在沙盒进行;不接入真实账号、不对外发布;所有涉及他人的环节只做模拟人工确认;案例资料使用模拟或脱敏数据。
知识准备:先认识这些词
这一章不以引入新模型为重点,而是把前面学过的核心方法整合为可落地的设计语言。
- AI 辅助工作流(AI-assisted workflow)
- 一句话说明:把专业任务拆为输入 / AI 动作 / 人工复核 / 输出四段,让 AI 在最适合它的环节出力,人在关键判断点保留控制权。
- 核心认识:四段式中只有 AI 动作那一段由 AI 执行,其余环节仍然由人承担责任。
- 任务可行性评估(task feasibility assessment)
- 一句话说明:在投入开发之前,对一个任务做“AI 是否适合介入”的结构化判断。
- 工程要点:四维矩阵——重复性、可逆性、专业门槛、影响他人;任何一维触线,介入策略要相应调整。
- AI 辅助层次(levels of AI assistance)
- L1 建议级(advisory):AI 给建议,人完全自由决定要不要采纳。
- L2 草稿级(draft):AI 给草稿,人编辑后才交付(默认有人复核)。
- L3 半自动(semi-autonomous):AI 跑流程,关键节点人工确认。
- L4 全自动(fully autonomous):AI 独立完成并直接产出最终成果;这里把它作为低风险、可逆、可审计场景下的概念边界,不建议在真实对外任务中尝试。
- 工程原则:层次越高,护栏越严。L4 仅适用于完全可逆、不影响他人、有完整审计回路的低风险内部场景。
- 责任链(responsibility chain)
- 一句话说明:从输入到交付,每一环节的责任主体、签字人、出错追溯路径必须事先明确。
- 关键性质:AI 不承担任何责任——所有责任最终落到具体的自然人。
- 失效模式与对策(failure modes & mitigations)
- 一句话说明:对工作流可能的失效点提前枚举(AI 错、复核漏、责任不清、对外失控),并为每一类设计对应的兜底机制。
- 工程要点:好工作流不是不会出错,而是出错了能及时发现、及时止损、能追溯改进。
- 对外可解释性(explainability for stakeholders)
- 一句话说明:当工作流的输出影响到外部当事人(客户/同事/学习者/公众)时,必须能向他们清楚说明哪部分是 AI 做的、AI 用了什么资料、人做了哪些复核。
- 应用价值:这是 AI 时代职业人保护自己和服务对象的基础能力。
12.1 问题与现象:通用能力与专业落地
12.1.1 同一个能力,不同的可用度
询问三个不同专业方向的学习者:AI 能不能在专业里帮上忙?会听到截然不同的答案:
- 小张(中餐烹饪与营养膳食):写菜品介绍肯定能;但帮我判断过敏原?不行——厨师真用了什么油我都不一定知道,AI 怎么会知道。
- 小李(计算机网络技术):看错误日志、配置文件比对、流量异常初筛能;但’要不要紧急断开某条业务链路’这种判断,AI 给个建议可以,按按钮的必须是我。
- 小王(护理):整理交接班记录的草稿能;但任何涉及’判断病情变化、调整药品剂量、做出处置决定’的事——AI 永远只能在我做完判断之后帮我记录,不能反过来。
注意三个人都有但是——能描述清楚那个但是,就掌握了这一章。
- 能说清 AI 能帮做 X,绝不能让它做 Y,说明掌握了边界。
- 只能说 AI 能帮很多事,说明还没有掌握。
- 认为 AI 全能或完全不能用,都是风险意识不足。
12.1.2 一个典型反面案例
某二年级食品工艺与管理专业的小陈,在校外实习时被店长安排用 AI 把本月新菜单的菜品介绍做出来。她让 AI 一口气把 12 道菜的介绍全写了:菜名、卖点、价格、热量、过敏原提示。她打印贴到门口的菜单板上。
第二天店里出事。一位顾客点了红烧排骨——AI 写的过敏原提示是无,但厨师为了增香加了花生油,顾客对花生过敏。
这件事到底错在哪?让我们做一次系统性的归因——
相关内容见表12-1。
表12-1 维度与这件事的失效记录表
| 维度 | 这件事的失效 |
|---|---|
| 任务可行性评估缺失 | 过敏原标注涉及健康安全(影响他人)+ 不可逆(吃了就吃了)+ 需要现场信息(AI 无法获知厨师真用了什么)——四维矩阵里三维触线,根本不应交给 AI 全自动完成 |
| 辅助层次选错 | 直接用了 L4 全自动(AI 出 → 直接对外);正确应当是 L2 草稿级或更低(AI 起草样式 → 厨师本人填实际过敏原 → 店长签字) |
| 责任链断裂 | 没有任何人在最终菜单板上签字——出事时,店长、厨师、小陈三方互相找责任 |
| 对外可解释性缺失 | 顾客拿到的菜单上既没有本信息已经过厨师核对标识,也没有过敏体质请向服务员咨询的兜底声明 |
四个问题中任何一个被及时发现和修复,都能显著降低事故风险;全部修复到位,才算形成合格工作流。小陈一个都没做。这不是单纯的 AI 能力问题,而是这套工作流的设计错了。
12.1.3 本章要建立的三个判断力
读完本章你要能独立完成三件事:
- 可行性判断:拿到一个任务,30 分钟内说清楚 AI 能帮到什么程度、需要哪些边界。
- 层次设计:根据可行性结论,确定 AI 在 L1/L2/L3/L4 哪一层介入,并配置对应护栏。
- 责任设计:画出完整责任链——输入由谁负责、AI 动作由谁配置、复核由谁做、签字由谁签。
这三件事是本章的核心产出。它们不像前面章节那样有代码、API 或可量化指标,但正是这种专业判断能力,把会使用 AI 的学习者与能在岗位中承担责任的职业人区分开。
【思考 1】 结合 12.1.2 节小陈的故事,请回答:① 如果你是小陈,从店长接到任务的那一刻起,你会先做什么、再做什么?把前三步写清楚。② 如果店长说“明天就要贴出来,没有那么多时间走流程”,你会怎么回应?
思考提示:① 第一步:可行性评估,指出过敏原标注涉及健康安全和不可逆影响,不能由 AI 全自动完成;第二步:确定层次,AI 只做 L2 草稿(菜名、卖点初稿),过敏原必须由厨师本人填写、店长签字;第三步:确定责任链,菜单板上明确标注本菜单经厨师核对、店长签发。② 回应思路:把“明天要贴”和“出事后谁担责”放在一起说明;AI 全自动生成的菜单可以很快贴出,但一旦出事,责任仍会回到签发人。
12.2 原理与分析:工作流设计的四个支柱
相关结构如图12-1所示。图12-1强调责任链:AI 可以参与动作段,但输入、复核、签字和追溯必须落实到具体责任主体。
12.2.1 四段式:底层结构
前面学过的所有方法,到这里浓缩成一张图:
┌──────────────┐ ┌──────────────┐ ┌──────────────┐ ┌──────────────┐
│ 输入 │ │ AI 动作 │ │ 人工复核 │ │ 输出 │
│ │ │ │ │ │ │ │
│ 来自人/资料/ │ → │ AI 做哪几步? │ → │ 你检查什么? │ → │ 真正可交付的 │
│ 系统的数据 │ │ 用了哪些工具? │ │ 错了怎么改? │ │ 最终成果 │
└──────────────┘ └──────────────┘ └──────────────┘ └──────────────┘
↑ ↑ ↑ ↑
数据负责人 AI 配置者 专业复核人 签字人 / 责任人
四段式的工程要点:
- 输入:数据从哪里来?质量怎么保证?是否脱敏?数据负责人是谁?
- AI 动作:AI 做哪几步?用哪些工具?跑几步?谁配置了这套流程?
- 人工复核:复核什么、复核到什么粒度、复核人是谁、复核结果是否留痕?
- 输出:交付给谁、以什么形式、签字人是谁、出错追溯到哪一步?
注意每一段下面那一行——每段都有一个责任主体。这是责任链的起点。
12.2.2 任务可行性四维矩阵
不是所有任务都适合让 AI 介入。把任务沿四个维度评估(每维 1~5 分,分数越高越不适合 AI 介入):
相关内容见表12-2。
表12-2 维度与 1 分(适合 AI)记录表
| 维度 | 1 分(适合 AI) | 5 分(不适合 AI) |
|---|---|---|
| 重复性 | 模板化、每次都一样 | 每次都不同、要现场判断 |
| 可逆性 | 错了能改、能撤回 | 错了不可逆、影响真实世界 |
| 专业门槛 | 套路明确、答案有客观标准 | 要专业资质 / 要现场经验 |
| 影响他人 | 只影响自己 | 影响客户 / 同事 / 公众 / 当事人 |
总分判断:
相关内容见表12-3。
表12-3 总分与建议记录表
| 总分 | 建议 |
|---|---|
| 4~8 | 适合 AI 介入,可考虑 L2/L3;只有完全可逆、无第三方影响、审计回路完整时才讨论 L4 |
| 9~12 | 谨慎介入,建议 L2 草稿级 |
| 13~16 | 仅辅助参考,最多 L1 建议级 |
| 17~20 | 不让 AI 进入核心判断或自动化执行;只可做外围资料整理、格式草稿或核对清单 |
把 12.1.2 节小陈的任务套进矩阵:
相关内容见表12-4。
表12-4 维度与打分记录表
| 维度 | 打分 | 理由 |
|---|---|---|
| 重复性 | 4 | 每道菜不同 |
| 可逆性 | 5 | 客人吃了无法挽回 |
| 专业门槛 | 4 | 要知道厨师实际用了什么 |
| 影响他人 | 5 | 直接关系顾客健康 |
| 总分 | 18 | 过敏原判断不应让 AI 介入;菜名 / 卖点等非健康安全部分最多作为草稿辅助 |
这个矩阵的工程价值在于:它能把“感觉这件事不太合适”的直觉,转化为可以与负责人、客户和同事讨论的结构化依据。
相关结构如图12-2所示。图12-2保留了本章的关键机制:四个维度先给出风险分数,分数再决定 AI 介入上限;其中“影响他人”一旦偏高,即使总分不算最高,也要强制降级。
12.2.3 AI 辅助层次:四个介入档位
按 AI 在工作流里做到哪一步分四个层次:
相关内容见表12-5。
表12-5 层次与 AI 做到哪里记录表
| 层次 | AI 做到哪里 | 人做什么 | 典型护栏 | 适用场景 |
|---|---|---|---|---|
| L1 建议级 | 给建议、给思路、给参考 | 完全自由决定 | 仅需提示词约束 | 头脑风暴、学习辅助、个人决策参考 |
| L2 草稿级 | 出初稿 | 必须编辑后才交付 | + 复核记录 | 邮件起草、文案撰写、内部报告 |
| L3 半自动 | 跑完整流程 | 关键节点暂停 + 人工确认 | + 工具沙盒 + 智能体八道护栏 | 内部自动化、批量处理、归档分类 |
| L4 全自动 | 独立完成并直接产出 | 上线前验证 + 事后审计 | + 完整审计回路 + 可回滚 + 异常自动停机 | 完全可逆、不影响他人、内部低风险;课程练习默认不实践 |
关键工程原则:
- 层次只能往下兼容——为 L4 设计的护栏可以用于 L3;为 L1 设计的护栏不够用于 L4。
- 可行性总分决定上限——总分 ≥ 9 的任务,禁止 L3 以上;总分 ≥ 13 的任务,禁止 L2 以上。
- 涉及他人的关键节点强制降级——哪怕主任务在 L3,涉及他人的具体动作(发消息、打分、扣款)必须单独降回 L2。
- 新上线先低后高——任何新工作流先用 L2 跑一段时间,确认稳定再考虑上 L3。
12.2.4 责任链设计
工作流上线之前,必须把责任链画清楚。最低要求是回答四个问题:
相关内容见表12-6。
表12-6 责任问题与必须明确的内容记录表
| 责任问题 | 必须明确的内容 |
|---|---|
| 数据由谁负责? | 输入数据的真实性、完整性、脱敏由谁保证 |
| AI 配置由谁负责? | 提示词、工具集、护栏规则的设计者 |
| 复核由谁做? | 必须是有相关专业能力的人;复核范围、深度、留痕方式 |
| 谁签字、谁负责对外? | 最终对外交付物的签字人——这是责任的终点 |
核心原则:AI 不出现在责任链上。所有责任最终落到具体的自然人,可以是同一个人,也可以是不同人,但不能是 AI。
一份合格的工作流责任清单举例:
任务: 客户咨询自动分类 + 待回复清单生成 (L3 半自动)
[数据] 客户咨询原始数据 → 客服部 张三 (脱敏负责)
[配置] AI 分类规则 + 提示词 → AI 助理团队 李四 (设计 + 测试)
[复核] 待回复清单审核 → 客服部主管 王五 (每日 09:00 复核)
[签字] 真正发送给客户的回复 → 当班客服本人 (一对一签发)
出错追溯路径:
- 数据问题(漏数据/泄密) → 张三
- 分类错误(类目错放) → 李四 (需要调整规则)
- 漏复核(待回复未审) → 王五 (流程纪律问题)
- 错误回复(客户收到错复) → 当班客服 (签发责任)
这份清单一旦写出来,所有人都知道自己负责什么、签的是什么、出事时如何追溯。它是 AI 真正进入岗位的工程基础。
拓展阅读:知行合一与工作流设计 王阳明说知者行之始,行者知之成。知而不行,只是未知。——知道如果不付诸行动,那不算真正的知道。 本章把前面学到的 AI 能力放入一个专业任务中,通过可行性评估、辅助层次设计、责任链说明和最小工作流验证,把知道 AI 能做什么转化为知道怎样安全地让 AI 参与任务。
【思考 2】 有人(计算机网络技术专业)想做 AI 自动审核实训日志的工具:读取提交的日志、自动打分、自动写评语、自动通知未提交者。他已经按第11章方法加了完整的步数上限、过程日志和暂停点。 请结合 12.2.2~12.2.4 节,对这个工具做一次完整的工程评估:① 任务可行性四维打分及总分;② 应该是哪个辅助层次?③ 责任链应该怎么画?④ 至少指出两处还没有解决的问题。
思考提示:① 重复性 2、可逆性 4(评分入档后难撤回)、专业门槛 5(评分是授课负责人的专业判断)、影响他人 5(直接影响学习者成绩)= 16 分,因此仅适合 L1 建议级。② 不能采用当前的 L3 半自动,必须降到 L1:AI 只产出分类汇总和评语初稿,全部判断和最终评分必须由授课负责人完成。③ 责任链:数据 → AI 配置 → 复核与最终评分(授课负责人)→ 签字(授课负责人作为评分人)。④ 至少两处问题:专业判断权问题,打分是授课负责人的职责,工具开发者无权代劳;责任链问题,即使技术上做出来,也不应该由工具开发者作为签字人;影响他人维度过高,不应让 AI 进入评分环节,只能做分类整理等不涉及评价的部分。
AI 协同实践:跑一遍你自己的专业任务
实践目标:从种子任务库挑一个,或用自己专业里的真实任务,完成一份《AI 辅助工作流设计书》并跑通最小可工作版本。
预计时间:30~40 分钟。
本节要求:所有 AI 动作在沙盒进行;不接入真实账号,不对外发布;最终交付物只用于练习展示,不真正发送给客户、使用者或负责人。
第 1 步:选任务并完成可行性评估
打开 Notebook,6 类种子任务库已就绪。每类含完整素材和示范评估:
相关内容见表12-7。
表12-7 种子任务与适合专业记录表
| 种子任务 | 适合专业 |
|---|---|
| 菜单文案核对 + 过敏原信息人工确认 | 烹饪 / 食品 / 餐饮 |
| 客户咨询自动分类 + 待回复清单 | 电商 / 客服 / 营销 |
| 来访登记自动整理 + 待处理事项 | 前台 / 文秘 / 物业 |
| 实训日志自动归档 + 缺失提醒 | 各专业实训通用 |
| 小额报销单核对 + 异常筛查 | 财务 / 会计 / 行政 |
| 活动报名信息整理 + 待联系名单 | 社团 / 校园活动 |
注意:“过敏原信息人工确认”不是让 AI 自行判断食材风险,而是让 AI 按已提供的原料表整理字段、标出待确认项,最终由现场厨师或负责人确认。
也可以自选任务,要满足三条:①专业里真实存在;②练习时只能用模拟资料在沙盒运行,不接入真实账号、真实客户和真实个人信息;③30 分钟内可见交付物。
选定任务后,先填可行性评估表:
相关内容见表12-8。
表12-8 维度与打分(1~5)记录表
| 维度 | 打分(1~5) | 理由 |
|---|---|---|
| 重复性 | ||
| 可逆性 | ||
| 专业门槛 | ||
| 影响他人 | ||
| 总分 | 推荐辅助层次:L_ |
总分达到 17 分及以上的任务,不运行核心判断或自动化执行。可以换一个任务,也可以只保留低风险外围部分,例如格式整理、错别字检查或核对清单生成——这条规则是硬性的。
第 2 步:完成《AI 辅助工作流设计书》
Notebook 提供完整模板。按 12.2.1~12.2.4 节的四个支柱,把设计书填完整:
┌─── 1. 任务声明 ───┐
任务名称:
业务目标:
不属于本任务的事项 (out of scope):
┌─── 2. 可行性评估 ───┐
四维打分(第 1 步完成):
推荐辅助层次:
┌─── 3. 四段式工作流 ───┐
[输入] 数据来源 / 格式 / 脱敏要求:
[AI 动作] 具体动作清单 / 工具清单 / 步数上限:
AI 不应该做的事 (明确禁止清单):
[人工复核] 复核项清单 / 复核深度 / 留痕方式:
[输出] 最终交付物形式 / 签字人 / 对外可解释性声明:
┌─── 4. 责任链 ───┐
数据负责:
AI 配置负责:
复核负责:
最终签字:
出错追溯路径:
┌─── 5. 失效模式与对策 ───┐
列出 3~5 个最可能的失效点和对应兜底:
失效 1: 对策:
失效 2: 对策:
失效 3: 对策:
┌─── 6. 对外可解释性 ───┐
当交付物面向他人时,如何让对方知道:
- 哪部分是 AI 做的
- AI 用了什么资料
- 人做了哪些复核
- 出错怎么反馈
填完整张设计书再继续——这一步本身就是这一章最有价值的训练。这是从第6章先想任务说明书在专业场景下的最终形态。
第 3 步:跑通 AI 动作
把设计书的 AI 动作部分输入 Notebook。Notebook 会按配置(含步数上限、工具白名单、暂停点)调用 AI 完成这些动作。
严格观察:
- AI 做的每一步,是否在你设计书的具体动作清单内?
- 是否触发了你明示的禁止清单?
- 是否有动作落在了模糊地带(既不在允许里也不在禁止里)?
- 跑了几步?是否在步数上限内?
- 是否触发了暂停点?
把跑动过程完整记入工作流执行日志。
第 4 步:执行人工复核
按设计书第 3 段人工复核清单,逐项检查 AI 输出:
相关内容见表12-9。
表12-9 复核项与 AI 输出记录表
| 复核项 | AI 输出 | 复核结果 | 是否修改 | 修改理由 |
|---|---|---|---|---|
| 复核 1 | ||||
| 复核 2 | ||||
| 复核 3 |
复核要带着它可能错的预设去找问题——不能只凭第一印象判断合格。重点核:
- 事实类:人名、数字、日期、机构名、引用——AI 最容易在这里出错。
- 完整性:有没有漏处理某些条目?AI 静默失败是常见问题。
- 范围:AI 有没有擅自增加一些看起来合理但未被授权的内容?
- 对外措辞:如果交付物面向他人,语气、用词、可能引发误解的地方。
第 5 步:在交付物上签字并写对外说明
这一步把责任链落到纸面:
在最终交付物中写明复核人和复核时间——这不是形式,而是责任链的一部分。
如果交付物对外,在显眼位置加上对外可解释性声明,例如:
本文件由 AI 辅助生成,已由 [你的名字] 于 [时间] 完成 [复核范围] 复核。 如有疑问请联系 [反馈渠道]。
签不下笔?回去看设计书——是不是某个复核没做透?是不是某个失效模式没设兜底?是不是 AI 动作超出了允许范围?
第 6 步(拓展任务):用脚本固化工作流
如果已完成第10章工具调用和第11章智能体实验,可以打开
scripts_optional/ch12/workflow_runner.py:
拓展说明:完整程序已放入配套 Notebook。你只需要关注观察目标、变量修改和复核要求,不需要手写这段代码。
代码意图:
_validate_design()—— 启动前先校验设计书自洽性。把可行性总分与辅助层次的匹配规则写成硬约束——配置不合规的工作流根本启动不了。responsibility_chain必填字段 —— 没责任链不能跑。把责任链做成代码层的硬约束。audit_log—— 自动留下完整链路记录,含签字时间、对外说明、复核结果。
这段脚本的更大价值在于:它把工作流设计从一份纸面文档,变成一段可执行程序。同样一套设计可以每天重复执行并保持一致;任何配置变更都需要修改代码并评审,不能擅自更改。这就是工程化。
验证与证据:完整的工作流设计书与执行记录
《AI 辅助工作流设计书》
按“完成《AI 辅助工作流设计书》”模板填完整一份。这是本章核心交付物。
工作流执行日志
相关内容见表12-10。
表12-10 环节与计划记录表
| 环节 | 计划 | 实际 | 偏差 |
|---|---|---|---|
| 输入采集 | |||
| AI 动作 | |||
| 人工复核 | |||
| 签字交付 |
人工复核检查表
按“人工复核检查表”模板填写,至少 5 项复核。
失效复盘
填完表后,回头看你的设计书第 5 段(失效模式):
- 你预想的 3~5 个失效点,实际跑动中遇到了哪些?
- 你没预想到、但实际发生的失效是什么?
- 你的兜底机制实际是否生效?
原理小结(200~300 字)
围绕以下三个问题写一段:
- 在你这次的工作流里,最适合 AI 的环节和最不适合 AI 的环节分别是什么?为什么?
- 你给这个任务定的辅助层次(L1/L2/L3/L4)是否合适?跑一遍下来,你会不会调整?
- 如果未来你在岗位上把这个工作流真的部署给一群人使用,你最担心哪一类失效?你会增加哪个兜底机制?
伦理、安全与边界
第一条底线:专业判断权归人
不论 AI 多么聪明,下列专业判断必须由有相应资格的人做:
相关内容见表12-11。
表12-11 专业判断与必须谁来做记录表
| 专业判断 | 必须谁来做 |
|---|---|
| 医疗诊断 / 用药剂量 | 有医师资格 |
| 法律建议 / 合同效力 | 有律师 / 法务资格 |
| 财务报表签字 | 有会计师资格 |
| 设备安全合格 | 有相关资质 |
| 食品安全 / 过敏原 | 操作厨师本人 |
| 学习者评分 / 鉴定 | 授课负责人本人 |
| 心理咨询 / 干预 | 有资质心理咨询师 |
| 重大商业决策 | 有授权的管理层 |
这条边界不是 AI 不够好,而是专业判断的责任无法让 AI 承担。即使 AI 的判断看起来准确,出现问题时面对家属、客户和监管的只能是有资格的人。
工程上的含义:这些判断对应的工作流,最高层次只能到 L1 建议级——AI 给建议,专业人士自由决定要不要采纳,并承担最终责任。
第二条底线:签字的人是你
所有用 AI 做出来的交付物,AI 不负责,签字的人负责。
- AI 写错菜单——签字的人负责。
- AI 算错报销单——签字的人负责。
- AI 自动回复客户——回复发出人负责。
- AI 给学习者打分——签字的评价负责人负责。
这条边界在职业场景下尤其重要。当负责人说“用 AI 把这件事做了”时,不能理解为“做出来交差就行”。交付人和签字人才是责任主体。课程练习阶段就要建立这种意识:AI 运行记录不是免责声明,签字和确认才决定责任归属。
第三条底线:保护工作流影响的第三方
很多 AI 应用的使用者和影响对象不是同一个人。例如,设计评分系统时,使用者是工具操作者,影响对象是被评价者;设计客服回复时,使用者是客服人员,影响对象是客户。当 AI 出错时,真正承担后果的往往是被影响对象。
涉及他人的场景,护栏要再升一级:
- 影响他人维度打分 ≥ 4 的任务,强制降级到 L1 或 L2。
- 对外可解释性声明强制——让对方知道这是 AI 辅助生成、有人复核、出错可反馈。
- 错误纠正机制强制——一旦发现错,要有明确的找回当事人 → 道歉 → 纠正流程。
- 保留申诉渠道——当事人有权对工作流的判断提出质疑。
第四条底线:跨岗位协作中的责任界限
进入岗位后,设计的 AI 辅助系统经常会被其他岗位的人使用。例如,客服自动分类由系统设计者实现,但真正按发送键的是当班客服;实训评分助手由工具开发者实现,但真正打分的是评价负责人。
在这种跨岗位场景下,责任界限要事先讲清楚:
- 系统设计者负责:系统稳定性、合规性、可解释性、护栏到位。
- 使用者负责:每次使用时的具体决策、复核质量、最终签字。
- 管理层负责:批准这套系统投入使用、定期审计。
如果使用者反过来说“是系统出错”,系统设计者也要能清楚说明:系统设计已经把决策权留给使用者,最后确认由使用者完成。这种责任边界说明能力在职业场景下不可或缺。
四条职业底线
- 不接超出可行性总分上限的核心任务——总分 ≥ 17 的任务,不让 AI 进入核心判断或自动化执行,应找上司谈降级方案。
- 不当签字人时不做最终决策——你不是签字人就不要替签字人按确认。
- 不让 AI 运行记录成为免责盾牌——签字的人承担责任。
- 不让影响他人的关键环节走到 L3 以上——影响他人维度高分任务必须降级。
【思考 3】 一位实习生在某连锁餐饮店实习,店长让她用 AI 把每天 200 多条客户评价自动分类、自动回复差评、自动给好评点赞。她按本章方法做了完整的工作流设计:AI 分类后,差评回复在草稿状态停下、由她复核后发送(L2);好评点赞在模拟环境中按 L3 运行。第一周运行顺利。第二周店长说:你回复差评太慢了,每天还要等你看完,AI 直接回复差评吧,你看过模板,应该没事。
请回答:① 店长这个要求至少违反了本章哪两条底线?② 如果你是这位实习生,你应该怎么应对?请写一段你会跟店长说的话(不超过 150 字)。
思考提示:① 违反专业判断权归人。回复差评涉及客户关系和品牌声誉,需要判断差评合理性和措辞是否得当;② 违反保护第三方原则。差评回复是对外动作,对客户造成不可逆影响,必须保留人工复核;③ 涉及他人的关键节点应强制降级。可回应:店长,我理解效率压力。但差评回复直接发出去,如果措辞不当或误判,可能让客户更不满,对门店影响更大。能否改成 AI 自动处理好评,把差评放入“需立即复核清单”,我承诺 30 分钟内复核?这样既保证速度,也留下复核记录,方便追溯。
总结与思考
本章核心判断
- 四段式工作流是底层结构:输入 → AI 动作 → 人工复核 → 输出,其中大部分环节仍由人负责。
- 任务可行性靠四维矩阵评估:重复性、可逆性、专业门槛、影响他人;总分 ≥ 17 的任务,不让 AI 进入核心判断或自动化执行,只允许拆出低风险外围辅助。
- AI 辅助分四个层次:L1 建议 / L2 草稿 / L3 半自动 / L4 全自动;层次越高,护栏越严。
- 责任链上 AI 不出现——所有责任最终落到自然人。
- 专业判断权归人 —— 不是 AI 不够好,是责任无法让 AI 承担。
- 签字的人承担责任。AI 运行记录不是免责盾牌,签字归属决定责任归属。
- 跨岗位场景下责任界限要事先讲清 —— 这是职业人自我保护的基础。
基础题(理解层面)
- 用自己的话解释 AI 辅助的四个层次(L1/L2/L3/L4),并各举一个生活或岗位场景的例子。
- 任务可行性四维矩阵的四个维度是什么?请把第11章学过的 AI 自动整理桌面文件任务套进去打分,并给出推荐层次。
- 为什么本章说 AI 不出现在责任链上?请从工程角度和法律角度各给出一个理由。
迁移题(专业场景)
- 选一个你专业里真实存在的具体任务(不能用本章种子任务),完成一份完整的《AI 辅助工作流设计书》,含全部六段。重点突出涉及他人维度的护栏设计。
- 把你的设计书交给同专业学习者进行同伴评审,请他们用本章四条底线检查。把评审指出的问题和你的修订记录下来。
风险题(伦理与边界)
- 一位实习生在医疗器械公司实习,做了一个 AI 辅助识别 X 线片骨折的工具。他严格按本章方法:AI 只做 L1 建议级、医生有最终决策权、有完整审计日志。某天医生忙,直接采纳了 AI 的建议没有亲自看片子,结果漏诊。请回答:① 这件事这位实习生有没有责任?② 他的工作流设计有没有问题?③ 如果想避免类似事件再发生,应该在工作流里增加什么机制?
- AI 辅助系统设计者和 AI 辅助系统使用者这两个角色在责任承担上应该如何切分?请用本章学过的术语描述你的判断。
补充题(自测层面)
- 为什么本章说层次只能往下兼容?请从护栏强度的角度解释。
- 一个任务的可行性总分和辅助层次应该如何匹配?请把 12.2.2 节那张匹配表的背后逻辑用自己的话讲一遍。
- 当接到一个“用 AI 把这件事自动化”的任务时,应该问的第一个问题是什么?为什么?
本章交付物
请按下面清单提交本章过程证据包: