链接上一篇文章:http://www.haijin.xyz/article/842
1、
-
Spring AI 的函数调用(Function Calling)功能允许大语言模型在生成回答时触发预定义的外部函数,从而实现动态数据获取或业务逻辑操作(如查询数据库、调用 API 等)。
-
SpringAI 帮我们规范了函数定义、注册等过程,并在发起模型请求之前自动将函数注入到 Prompt 中,而当模型决策在合适的时候去调用某个函数时,Spring AI 完成函数调用动作,最终将函数执行结果与原始问题再一并发送给模型,模型根据新的输入决策下一步动作。这其中涉及与大模型的多次交互过程,一次函数调用就是一次完成的交互过程。
-
函数调用的核心流程
-
第一步,定义函数:声明可供模型调用的函数(名称、描述、参数结构)。
-
第二步,模型交互:将函数信息与用户输入一起发送给模型,模型决定是否需要调用函数。
-
第三步,执行函数:解析模型的函数调用请求,执行对应的业务逻辑。
-
第四步,返回结果:将函数执行结果返回给模型,生成最终回答。
2、项目截图:
3、CalculatorService:
package xyz.haijin.config;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.context.annotation.Description;
import java.util.function.Function;
@Configuration
public class CalculatorService {
public record AddOperation(int a, int b) {
}
public record MulOperation(int m, int n) {
}
//注册
@Bean
@Description("加法运算")
public Function<AddOperation,Integer> addOperation() {
return request -> {
return request.a + request.b;
};
}
@Bean
@Description("乘法运算")
public Function<MulOperation,Integer> mulOperation() {
return request -> {
return request.m * request.n;
};
}
}
4、ChatClientConfig:
package xyz.haijin.config;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class ChatClientConfig {
@Bean
public ChatClient chatClient(ChatClient.Builder builder) {
// 设置默认 system prompt,作为角色设定
return builder.defaultSystem("我叫haijin,90后,是一名java程序员").build();
}
}
5、FunctionController:
package xyz.haijin.controller;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.MediaType;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
@RestController
public class FunctionController {
@Autowired
private ChatClient chatClient;
@GetMapping(value = "/function", produces = MediaType.APPLICATION_STREAM_JSON_VALUE)
public String function01(@RequestParam("userMessage") String userMessage) {
return chatClient.prompt()
.system("""
您是算术计算器的代理。
您能够支持加法运算、乘法运算等操作,其余功能将在后续版本中添加,如果用户问的问题不支持请告知详情。
在提供加法运算、乘法运算等操作之前,您必须从用户处获取如下信息:两个数字,运算类型。
请调用自定义函数执行加法运算、乘法运算。
请讲中文。
""")
.user(userMessage)
.toolNames("addOperation", "mulOperation")
.call()
.content();
}
}
6、SpringAiHelloApplication:
package xyz.haijin;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
@SpringBootApplication
public class SpringAiHelloApplication {
public static void main(String[] args) {
SpringApplication.run(SpringAiHelloApplication.class, args);
}
}
7、application.yaml:
server:
port: 8081
spring:
ai:
deepseek:
api-key: 【key】
base-url: https://api.deepseek.com
chat:
options:
model: deepseek-chat
8、测试:http://localhost:8081/function?userMessage=5656乘以45897等于多少