Java 实现 ReAct Agent工具调用与推理循环的过程

Question: 用户的问题
  ↓
Thought: LLM 思考：需要什么信息？用什么工具？
  ↓
Action: 调用工具（get_weather）
Action Input: 工具参数（"上海"）
  ↓
Observation: 工具返回结果（"上海天气晴，25°C"）
  ↓
Thought: 基于结果，还需要其他信息吗？
  ↓
（如需要，重复 Action → Observation 循环）
  ↓
Final Answer: 最终回答

// 天气查询工具
Tool getWeather = Tool.builder()
    .name("get_weather")                            // 工具名称（LLM 调用时使用）
    .params("location: String")                     // 参数描述
    .description("获取城市天气信息，输入城市名称")    // 工具描述（LLM 理解用途）
    .func(location ->                               // 实际执行逻辑
        String.format("%s 天气晴，气温 25°C", location)
    )
    .build();
// 时间查询工具
Tool getTime = Tool.builder()
    .name("get_time")
    .params("city: String")
    .description("获取城市当前时间，输入城市名称")
    .func(city -> String.format("%s 当前时间 14:30", city))
    .build();

PromptTemplate prompt = PromptTemplate.fromTemplate(
    """
    尽你所能回答以下问题。你有以下工具可以使用：
    ${tools}           ← 工具列表自动注入
    请按以下格式回答：
    Question: 你必须回答的问题
    Thought: 思考是否已有足够信息回答
    Action: 要执行的动作，必须是 [${toolNames}] 之一
    Action Input: 动作的输入
    Observation: 动作结果
    （可重复 Thought/Action/Observation，最多3次）
    Final Answer: 最终回答
    Question: ${input}
    Thought:
    """
);
// 将工具注入 Prompt
List<Tool> tools = List.of(getWeather, getTime);
prompt.withTools(tools);

FlowInstance agentChain = chainActor.builder()
    .next(prompt)
    .loop(
        // 循环条件：还需要调用工具 && 未超过最大次数
        shouldContinue,
        // 循环体
        llm,                   // LLM 推理（生成 Thought/Action）
        chainActor.builder()
            .next(cutAtObservation)  // 截断 LLM 自己编造的 Observation
            .next(parseAction)       // 解析 Action 和 Action Input
            .next(
                Info.c(needsToolCall, executeTool),  // 需要工具调用
                Info.c(input -> ContextBus.get().getResult(llm.getNodeId())) // 已有答案，退出循环
            )
            .build()
    )
    .next(new StrOutputParser())
    .next(extractFinalAnswer)  // 提取 "Final Answer:" 后面的内容
    .build();

Function<Integer, Boolean> shouldContinue = i -> {
    Map<String, String> parsed = ContextBus.get().getResult(parseAction.getNodeId());
    return i < maxIterations                   // 未超过最大次数
        && (parsed == null                     // 还没开始
            || (parsed.containsKey("Action") && parsed.containsKey("Action Input"))); // 还需要调用工具
};

TranslateHandler<Object, Map<String, String>> executeTool = new TranslateHandler<>(map -> {
    // 找到 LLM 决定调用的工具
    Tool useTool = tools.stream()
        .filter(t -> t.getName().equalsIgnoreCase(map.get("Action")))
        .findFirst().orElse(null);
    // 执行工具，获取观察结果
    String observation = (String) useTool.getFunc().apply(map.get("Action Input"));
    System.out.println("Observation: " + observation);
    // 将观察结果追加到 Prompt，形成下一轮推理的上下文
    String agentScratchpad = thoughtPart + "\nObservation:" + observation + "\nThought:";
    promptValue.setText(promptValue.getText().trim() + agentScratchpad);
    return promptValue;
});

> 进入 AgentExecutor 链...
Thought: 我需要查询上海的天气。
Action: get_weather
Action Input: 上海
Observation: 上海 天气晴，气温 25°C
Thought: 我已经获得了上海的天气信息，可以回答问题了。
Final Answer: 上海现在天气晴朗，气温25摄氏度。
> 链执行完成。
=== 最终答案 ===
上海现在天气晴朗，气温25摄氏度。