Skip to main content
人机协作(HITL)中间件允许你为智能体工具调用添加人工监督。 当模型提出可能需要审查的操作时——例如写入文件或执行 SQL——中间件可以暂停执行并等待决策。 它通过检查每个工具调用是否符合可配置的策略来实现这一点。如果需要干预,中间件会发出一个中断来停止执行。图状态使用 LangGraph 的持久化层保存,因此执行可以安全地暂停并在稍后恢复。 然后由人工决策决定接下来的操作:可以按原样批准操作(approve)、在运行前修改(edit)、带反馈拒绝(reject),或直接回复(respond)用于”询问用户”类型的工具。

中断决策类型

中间件定义了四种内置的人工响应中断方式: 每个工具可用的决策类型取决于你在 interrupt_on 中配置的策略。 当多个工具调用同时暂停时,每个操作需要单独的决策。 决策必须按照操作在中断请求中出现的相同顺序提供。
编辑工具参数时,请保守地进行更改。对原始参数的重大修改可能导致模型重新评估其方法,并可能多次执行工具或采取意外操作。

配置中断

要使用人机协作,在创建智能体时将中间件添加到智能体的 middleware 列表中。 你需要配置一个工具操作到每个操作允许的决策类型的映射。当工具调用匹配映射中的操作时,中间件将中断执行。
你必须配置检查点器以在中断之间持久化图状态。 在生产环境中,使用持久化检查点器如 AsyncPostgresSaver。对于测试或原型开发,使用 InMemorySaver调用智能体时,传入包含 线程 IDconfig,以将执行与对话线程关联。 详情请参见 LangGraph 中断文档
dict
required
工具名称到审批配置的映射。值可以是 True(使用默认配置中断)、False(自动批准)或 InterruptOnConfig 对象。
string
default:"Tool execution requires approval"
操作请求描述的前缀
InterruptOnConfig 选项:
list[string]
允许的决策列表:'approve''edit''reject''respond'
string | callable
静态字符串或可调用函数,用于自定义描述

响应中断

当你调用智能体时,它会运行直到完成或触发中断。当工具调用匹配你在 interrupt_on 中配置的策略时,就会触发中断。使用 version="v2" 时,结果是一个带有 interrupts 属性的 GraphOutput,包含需要审查的操作。然后你可以将这些操作呈现给审查者,并在提供决策后恢复执行。

决策类型

使用 approve 按原样批准工具调用并执行,不做任何更改。

使用人机协作进行流式输出

你可以使用 stream() 代替 invoke() 来在智能体运行和处理中断时获取实时更新。使用 stream_mode=['updates', 'messages']version="v2" 以统一的 v2 格式同时流式传输智能体进度和大语言模型(LLM) Token。
有关流式传输模式的更多详情,请参见流式输出指南。

执行生命周期

中间件定义了一个 after_model 钩子,在模型生成响应之后但在执行任何工具调用之前运行:
  1. 智能体调用模型生成响应。
  2. 中间件检查响应中的工具调用。
  3. 如果任何调用需要人工输入,中间件构建一个包含 action_requestsreview_configsHITLRequest 并调用 interrupt
  4. 智能体等待人工决策。
  5. 根据 HITLResponse 决策,中间件执行已批准或已编辑的调用,为已拒绝的调用合成 ToolMessage,将人工回复直接作为 ToolMessage 返回用于 respond 决策,然后恢复执行。

自定义人机协作逻辑

对于更专门的工作流程,你可以直接使用 interrupt 原语和中间件抽象来构建自定义人机协作逻辑。 查看上面的执行生命周期以了解如何将中断集成到智能体的操作中。