Skip to main content

试运行

试运行界面是一个动态界面,专为与 LLM 进行实时交互而设计,允许用户聊天、访问记忆并监控输入和输出。在这里,用户可以直接对模型进行原型设计,进行调整并观察不同的结果。

只要您有输入或输出组件在工作,您就可以通过点击试运行按钮打开它。 试运行的窗口排列会根据使用的组件而变化。

在试运行界面中运行流程

当您在试运行界面中运行流程时,Blaflow 会调用 chat.py 中的/build/{flow_id}/flow端点。此调用检索流程数据,构建图并执行图。当每个组件(或节点)被执行时,build_vertex函数调用build_and_run,如果存在的话,可能会调用各个组件的def_build方法。如果组件没有def_build函数,构建仍然会返回一个组件。

build函数允许组件在运行时执行逻辑。例如,递归字符文本分割器是LCTextSplitterComponent类的子类。当需要处理文本时,会调用父类的build方法,该方法创建一个RecursiveCharacterTextSplitter对象并使用它根据定义的参数分割文本。分割后的文本然后传递给下一个组件。这一切都发生在组件构建时。

按会话 ID 查看试运行界面消息

当您从试运行界面发送消息时,交互会按session_id存储在消息日志中。 单个流程可以有多个聊天,不同的流程可以共享同一个聊天。每个聊天都会有不同的session_id

要在试运行界面中,点击单个会话目录右侧更多按钮,在下拉面板中选择消息日志查看消息。

聊天记忆中的单个消息可以编辑或删除。修改这些记忆会影响聊天机器人响应的行为。

要了解更多关于 Blaflow 中聊天记忆的信息,请参阅记忆组件

使用自定义会话 ID 进行多用户交互

session_id值用于跟踪流程中的用户交互。 默认情况下,如果session_id值为空,它会被设置为与flow_id相同的值。在这种情况下,每个聊天调用都使用相同的session_id,您实际上只有一个聊天会话。

session_id值可以在聊天输入聊天输出组件的高级设置中配置。

要在单个流程中拥有多个会话,请使用 URL 中的session_id参数将特定的会话 ID 传递给流程。流程中的所有组件将自动使用这个session_id值。

要使用 curl 向具有特定会话 ID 的流程发送消息,请输入以下命令:


_10
curl -X POST "http://127.0.0.1:7860/api/v1/run/$FLOW_ID" \
_10
-H 'Content-Type: application/json' \
_10
-d '{
_10
"session_id": "custom_session_123",
_10
"input_value": "message",
_10
"input_type": "chat",
_10
"output_type": "chat"
_10
}'

检查您的流程的试运行状态。除了为默认会话存储的消息外,还会使用您的自定义会话 ID 启动一个新会话。