Skip to main content
与 AI 智能体的对话很少是线性的。你可能想要重新措辞一个问题、重新生成一个你不喜欢的响应,或者在不丢失之前工作的情况下探索完全不同的对话路径。分支对话将版本控制语义引入你的聊天 UI。每次编辑都会创建一个新分支,你可以在分支之间自由导航。
This feature requires the LangGraph Agent Server. Run your agent locally with langgraph dev or deploy it to LangSmith to use this pattern.

什么是分支对话?

分支对话将对话视为树而不是列表。每条消息是一个节点,编辑消息或重新生成响应会从该点创建一个分叉。原始路径作为兄弟分支被保留,因此用户可以在不同的对话轨迹之间来回切换。 关键功能:
  • 编辑任意用户消息: 重写之前的提示词并从该点重新运行智能体
  • 重新生成任意 AI 响应: 请求智能体为相同的输入生成不同的回答
  • 导航分支: 使用每条消息的分支控件在不同版本的对话之间切换

设置带历史记录的 useStream

要启用分支功能,传递 fetchStateHistory: true,以便 useStream 获取分支操作所需的检查点元数据。 导入你的智能体并将 typeof myAgent 作为类型参数传递给 useStream,以获得对状态值的类型安全访问:

理解消息元数据

getMessagesMetadata(msg) 函数返回每条消息的分支信息:
当消息只有一个版本时,branchOptions 包含单个条目。编辑或重新生成后,新的分支 ID 被添加到 branchOptions 中,你可以在它们之间导航。

编辑消息

要编辑用户消息并创建新分支:
  1. 从消息的元数据获取 parent_checkpoint
  2. 使用该检查点提交编辑后的消息
  3. 智能体从该点重新运行,创建新分支
编辑后:
  • 消息的 branchOptions 增加一个新条目
  • 视图自动切换到新分支
  • 智能体使用更新的消息从分叉点重新运行
  • 原始版本被保留,可通过分支切换器访问

重新生成响应

要在不更改输入的情况下重新生成 AI 响应:
  1. 从 AI 消息的元数据获取 parent_checkpoint
  2. 使用 undefined 输入和父检查点提交
  3. 智能体生成新的响应,创建新分支
每次重新生成都会为该位置的 AI 消息创建新分支。用户然后可以使用分支切换器比较不同的响应。
重新生成对非确定性智能体很有用。由于 LLM 输出随温度变化,重新生成相同的提示词通常会产生有意义的不同响应。

构建分支切换器

当消息有多个分支时,显示一个紧凑的内联控件,包含当前版本索引和导航箭头:
当用户点击分支箭头时,调用 stream.setBranch(branchId) 将对话视图切换到该分支。这是即时的,因为所有分支数据已通过 fetchStateHistory: true 加载。
切换分支不仅影响目标消息,还影响所有后续消息。如果你切换到消息 3 的不同版本,消息 4、5、6 等也会更新以反映该版本之后的对话。

分支在底层的工作原理

LangGraph 将每次状态转换持久化为一个检查点。当你使用 checkpoint 参数提交时,后端从该点分叉而不是追加到当前对话。结果是树形结构:
每个分支是对话树中的独立路径。切换分支会更新显示的消息但不会删除任何数据。所有分支持久化在检查点存储中。

完整消息组件

这是一个完整的组件,结合了消息显示、编辑、重新生成和分支切换:

与乐观更新结合

将分支与乐观更新结合,获得无缝的编辑体验。当用户保存编辑时,在服务器响应之前乐观地显示更新后的消息:

添加键盘导航

为高级用户添加键盘快捷键来导航分支:
Alt + ← / Alt + → 是分支导航的自然映射,因为它反映了浏览器的前进/后退导航。

最佳实践

  • 始终启用 fetchStateHistory:没有它,getMessagesMetadata 无法返回分支信息。
  • 仅在有多个分支时显示分支切换器1/1 指示器增加了无价值的杂乱信息。
  • 悬停时显示分支控件:分支导航箭头和编辑按钮应在悬停时出现以保持 UI 整洁。
  • 保持分支切换器紧凑:它与消息控件内联,不应主导 UI。
  • 保持滚动位置:切换分支时,尝试将视口锚定到已更改的消息。
  • 指示活跃分支:使用微妙的视觉提示(如彩色点或分支标签)让用户知道他们正在查看哪个分支。
  • 流式处理时禁用控件:在智能体正在流式传输响应时不允许编辑或重新生成。在启用这些操作前检查 stream.isLoading
  • 取消时保留编辑文本:如果用户开始编辑然后取消,将文本区重置为原始消息内容。
  • 测试深层分支树:频繁编辑和重新生成的用户可能会创建许多分支。确保分支切换器和数据处理保持高性能。