“Human-in-the-loop”指人在 AI 流程的一个或多个环节中参与。系统不会独自从输入一路走到最终行动，而是由人设定标准、检查结果，或批准有风险的步骤。
这不应只是走过场。只有当复核者有足够信息、时间和修改或停止的权限时，检查点才有意义。
人的三个角色
AI 开始前：设定范围
用户选择目标、获准数据、工具和禁止的操作。“处理客户邮件”还不够，还需要说清哪些邮件、能读还是能发送，以及哪些情况必须交给员工。
AI 工作期间：关注进展
对于多步骤任务，可以在流程继续前查看来源、计划或变更。小任务未必需要逐步监督，但若早期错误会触发许多后续操作，这一点就很重要。
AI 输出后：核实并决定
人对照资料、查看例外，并决定是否采用结果。AI 写出草稿后，负责人应在发送前检查；AI 分析数据后，使用者应核对计算和假设。
示例：分类支持请求
一个团队收到大量待分类的消息。AI 可以根据给定标准建议类别和优先级。负责任的流程可以是：
- AI 在批准范围内读取消息。
- AI 提出标签建议并引用依据。
- 员工复核资料缺失、标签敏感或优先级较高的情况。
- 获授权的人在回复或转交前确认。
- 团队记录错误，并在分类不合适时调整标准。
在此例中，AI 帮助整理，但不决定客户权益，也不自行发出回复。如果团队想进一步自动化，应先评估影响和补救办法。
按风险设置检查点
不是每个标点都需要人工批准。后果越严重、越难撤销，复核就越应加强：
- 风险低且容易修改： 私人提纲或标题建议可以事后查看。
- 中等风险： 摘要内部资料或分类请求，应检查样本和异常情况。
- 影响大或难以撤销： 发送消息、修改记录或重要决策，应在行动前明确批准。
这是一种思考方法，不代替专业流程或组织规定。
只有“批准”按钮还不够
复核者需要知道系统用了哪些来源、修改了什么、还有哪些不确定。看不到依据，监督就会变成形式。
好的设计应允许查看草稿、来源、修改前后差异、当前权限和撤销方式。还要给复核者足够时间；任务量太大时，人可能养成习惯性批准。
用复核改进流程
修改输出时，不要只修当前案例，也记录错误类型：AI 误解了哪个词？哪个来源造成混淆？优先标准哪里不清楚？重复出现的问题可以帮助改进资料、指令或检查点。
这并不意味着所有组织都应保留用户内容。记录方式应符合权限和数据政策；有时只记匿名化的错误类别就够了。
什么时候应该停止？
预先定义停止条件，例如来源冲突、缺少必要信息、工具出错、输出超出范围或系统要求新权限。停下来询问人，是有效结果，不是需要掩盖的失败。
流程还要定义恢复方式：AI 停止后谁接手，怎样报告错误，以及行动已经发生时如何回到之前状态。如果复核者暂时不在，也要有升级路径。
选择合适的复核者，避免疲劳
不是所有人都能核查所有内容。专业内容需要懂行的人；权限审查需要了解数据范围的人；信息发送的批准者需要了解读者和组织承诺。
如果每项输出都要审查，数量太大可能让流程变得机械。可以重点检查例外情况，对低风险输出抽样；错误增加时再加强检查。抽样比例应根据影响和错误可发现性决定，没有通用数字。
同时跟踪漏过的错误和监督时间。如果同类问题不断出现，应改进标准或输入，而不是只要求复核者更小心。
要点： 参与监督的人必须能查看、修改和停止流程。只有理解来源、风险和即将执行的行动，批准才有意义。
总结
AI 可以建议、分析或准备行动；人负责划定范围、检查重点并批准关键步骤。监督强度应与错误后果相匹配。
目标不是让人在每个操作中都出现，而是在背景、责任和后果要求的地方保留人的判断。