术语图鉴/AI Agent/人机协作
←→切换Esc返回

人机协作 Human-in-the-Loop

你可能会说

我的 Agent 需要人机协作能力,帮我设计和实现。

AI 自动执行任务,但在关键节点停下来征求人的确认,而不是全自动一干到底。

AI 自动执行任务,但在关键节点停下来征求人的确认,而不是全自动一干到底。人保留最终决定权。

也常被叫作Human-in-the-Loop

生活类比

像自动驾驶的「请接管」提示——平时自己开,遇到复杂路况叫你确认。

🎮 动手试试

AI 建议: 删除 utils.ts 中未使用的函数
选择题选择一个你认为最合适的答案

关于「人机协作」,以下哪个描述最准确?

你可以这样告诉 AI

给我的自动化流程加上人工审核节点:AI 起草完邮件后先让我预览确认再发送,涉及金额超过 1000 的订单必须我点头才能提交。

容易混淆?这样区分

人机协作 Human-in-the-Loop≠
护栏 Guardrails

护栏是自动拦截规则由机器判断;人机协作是把决定权交给人来判断。两者互补——护栏兜底,人机协作处理灰色地带。

什么时候用

高风险决策场景

当 AI 的操作可能造成不可逆后果(如发送邮件、扣款、发布内容),在人机协作的关键节点暂停请求人工确认,降低风险。

和 AI 协作时

想让 AI 在关键步骤等你确认时,直接说「帮我在这个流程里加 human-in-the-loop:每次发邮件前先让我审核」。

什么时候不用

全自动低风险场景

如果操作风险低且重复量大(如批量格式转换),加入人工审批反而拖慢效率——全自动跑完更合理。

与人工审批无关的项目

如果你的项目完全不需要人在中间参与决策(如纯自动化的后台任务),不需要人机协作设计。

组成结构 · Anatomy

1
核心概念Core

AI 自动执行任务,但在关键节点停下来征求人的确认,而不是全自动一干到底。人保留最终决定权。

2
实际表现In Practice

像自动驾驶的「请接管」提示——平时自己开,遇到复杂路况叫你确认。

3
与 AI 的关联AI Context

和 AI 沟通时提到「这个操作需要我确认」,就是 human-in-the-loop 设计。

典型使用场景

关键操作需人工确认
告诉 AI「帮我在自动发文流程里加一个人工确认环节:AI 写好推文后先展示给我看,我点确认才发布,别自动发出去」
想弄懂概念时
告诉 AI「用大白话给我解释什么是人机协作,举个生活中的例子」

延伸阅读