news 2026/6/9 17:39:23

使用SpringAI实现对话机器人

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
使用SpringAI实现对话机器人

一、spring-ai实现对话机器人

step1.引入spring-ai的依赖管理项

<dependencyManagement><dependencies><dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-bom</artifactId><version>${spring-ai.version}</version><type>pom</type><scope>import</scope></dependency></dependencies></dependencyManagement>

在项目pom.xml中添加spring-ai的版本信息:

<spring-ai.version>1.1.2</spring-ai.version>

step2.引入模型对应的依赖
如:引入spring-ai-ollama的依赖:

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-ollama-spring-boot-starter</artifactId></dependency>

SpringAI完全适配了SpringBoot的自动装配功能,而且给不同的大模型提供了不同的starter,比如:

模型/平台starter
Anthropic<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-anthropic-spring-boot-starter</artifactId> </dependency>
Azure OpenAI<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-azure-openai-spring-boot-starter</artifactId> </dependency>
DeepSeek<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> </dependency>
Hugging Face<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-huggingface-spring-boot-starter</artifactId> </dependency>
Ollama<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-ollama-spring-boot-starter</artifactId> </dependency>
OpenAI<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> </dependency>

step3.配置模型

以ollama为例,我们将application.properties修改为application.yaml,然后添加下面的内容:

spring: application: name: ai-demo ai: ollama: base-url: http://localhost:11434 # ollama服务地址, 这就是默认值 chat: model: deepseek-r1:7b # 模型名称 options: temperature: 0.8 # 模型温度,影响模型生成结果的随机性,越小越稳定

以openai为例,添加下面的内容:

spring: ai: openai: base-url: https://dashscope.aliyuncs.com/compatible-mode api-key: ${OPENAI_API_KEY} chat: options: model: qwen-max-latest #模型名称 temperature: 0.8 #模型温度,值越大,输出结果越随机

step4.配置客户端
ChatClient中封装了与AI大模型对话的各种API,同时支持同步式或响应式交互。

不过,在使用之前,首先我们需要声明一个ChatClient。
在config包下新建一个Configuration类:

importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.ai.chat.client.advisor.SimpleLoggerAdvisor;importorg.springframework.ai.ollama.OllamaChatModel;importorg.springframework.context.annotation.Bean;importorg.springframework.context.annotation.Configuration;@ConfigurationpublicclassCommonConfiguration{// 注意参数中的model就是使用的模型,这里用了Ollama,也可以选择OpenAIChatModel@BeanpublicChatClientchatClient(OllamaChatModelmodel){returnChatClient.builder(model)// 创建ChatClient工厂.build();// 构建ChatClient实例}}

step5. 同步调用

我们定义一个Controller,在其中接收用户发送的提示词,然后把提示词发送给大模型,交给大模型处理,拿到结果后返回。

importlombok.RequiredArgsConstructor;importorg.springframework.ai.chat.client.ChatClient;importorg.springframework.web.bind.annotation.RequestMapping;importorg.springframework.web.bind.annotation.RequestParam;importorg.springframework.web.bind.annotation.RestController;@RequiredArgsConstructor@RestController@RequestMapping("/ai")publicclassChatController{privatefinalChatClientchatClient;@RequestMapping("/chat")publicStringchat(@RequestParam(defaultValue="讲个笑话")Stringprompt){returnchatClient.prompt(prompt)// 传入user提示词.call()// 同步请求,会等待AI全部输出完才返回结果.content();//返回响应内容}}

注意,基于call()方法的调用属于同步调用,需要所有响应结果全部返回后才能返回给前端。

step6.流式调用

在SpringAI中使用了WebFlux技术实现流式调用。

修改ChatController中的chat方法:

// 注意看返回值,是Flux<String>,也就是流式结果,另外需要设定响应类型和编码,不然前端会乱码@RequestMapping(value="/chat",produces="text/html;charset=UTF-8")publicFlux<String>chat(@RequestParam(defaultValue="讲个笑话")Stringprompt){returnchatClient.prompt(prompt).stream()// 流式调用.content();}

step7.System设定
在SpringAI中,设置System信息非常方便,不需要在每次发送时封装到Message,而是创建ChatClient时指定即可。
我们修改Configuration中的代码,给ChatClient设定默认的System信息:

@BeanpublicChatClientchatClient(OllamaChatModelmodel){returnChatClient.builder(model)// 创建ChatClient工厂实例.defaultSystem("").defaultAdvisors(newSimpleLoggerAdvisor()).build();// 构建ChatClient实例}
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/7 6:08:39

Docker Compose服务依赖配置:确保PyTorch服务顺序启动

Docker Compose服务依赖配置&#xff1a;确保PyTorch服务顺序启动 在构建现代AI开发环境时&#xff0c;一个常见的痛点是&#xff1a;明明代码没问题&#xff0c;模型也能跑&#xff0c;但每次启动项目总要碰运气——Jupyter连不上内核、训练脚本报错CUDA初始化失败、SSH调试进…

作者头像 李华
网站建设 2026/6/9 17:21:30

SSH端口映射访问TensorBoard:远程可视化训练曲线

SSH端口映射访问TensorBoard&#xff1a;远程可视化训练曲线 在深度学习项目中&#xff0c;模型往往在远程服务器或GPU集群上进行长时间训练。而开发者更习惯于在本地舒适的环境中实时查看训练状态——损失是否下降&#xff1f;准确率有没有收敛&#xff1f;这些关键问题的答案…

作者头像 李华
网站建设 2026/6/7 6:47:03

YOLOv5更换主干网络:基于PyTorch的自定义修改教程

YOLOv5更换主干网络&#xff1a;基于PyTorch的自定义修改教程 在目标检测的实际项目中&#xff0c;我们常常遇到这样的困境&#xff1a;标准模型在通用数据集上表现尚可&#xff0c;但面对特定场景——比如航拍图像中的小目标、工业零件的细微缺陷或低光照下的行人识别——原始…

作者头像 李华
网站建设 2026/6/7 7:26:36

地下工程里浆液扩散就像血管里的微循环,搞不好就变成“血栓“堵塞。老魏那本注浆圣经里说的变质量渗流,用COMSOL整活起来特别带感——咱们直接上硬菜

comsol变质量注浆理论&#xff0c;根据魏建平《裂隙煤体注浆浆液扩散规律及变质量渗流模型研究》&#xff0c;考虑不同注浆压力&#xff0c;进行了不同压力下的注浆封堵模拟&#xff0c;沉积颗粒浓度随着注浆压力增大会变大&#xff0c;渗透率负相关。 模型案例2000X模型搭了个…

作者头像 李华
网站建设 2026/6/7 6:32:29

S7-200 PLC在物流分拣系统里算是老将了,组态王这上位机软件搭配起来玩自动化控制特别带劲。今天咱们拿个快递包裹分选场景实操,从梯形图到组态画面直接上硬菜

S7-200 PLC和组态王货物分拣快递分拣分选包裹 带解释的梯形图程序&#xff0c;接线图原理图图纸&#xff0c;io分配&#xff0c;组态画面先划重点——IO分配不能乱。比如光电传感器接I0.0检测包裹到位&#xff0c;气缸控制接Q0.1驱动分拣推杆&#xff0c;急停按钮必须用常闭触点…

作者头像 李华
网站建设 2026/6/7 11:21:22

手搓FPGA远程升级:从串口到双冗余防变砖实战

FPGA升级&#xff0c;FPGA远程更新。 使用串口更新x1 QSPI Flash上的用例使用的是串口&#xff0c;理解原理后可更换为其它接口。 带校验&#xff0c;防止变砖和双冗余设计&#xff0c;无需任何ip。Xilinx FPGA 7系列上纯逻辑FPGA实现远程更新&#xff0c;使用串口进行&#xf…

作者头像 李华