SpringAI整合DeepSeek，阿里百炼大模型

已于 2025-07-04 10:35:04 修改
阅读量300 收藏 11
点赞数 6
CC 4.0 BY-SA版权
文章标签： spring ai
于 2025-07-01 14:22:15 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42628272/article/details/149044675

SpringAI整合DeepSeek，阿里百炼大模型

1. DeepSeek账号注册，生成Api-Key

访问DeepSeek开放平台：[https://platform.deepseek.com/usage](https://platform.deepseek.com/usage)，注册DS账号，获取Api-Key。

2. 阿里账号注册，生成Api-Key

访问阿里百炼开放平台：[https://www.aliyun.com/product/tongyi](https://www.aliyun.com/product/tongyi)，注册阿里账号，获取Api-Key。

3. SpringAI对接大模型

搭建springboot项目，引入相关依赖。
注意：

需要引入springboot 3.x.x版本的依赖

JDK版本需要大于17

使用高版本Idea（低版本无法兼容JDK17）

	<parent>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-parent</artifactId>
        <version>3.4.4</version>
        <relativePath/> 
    </parent>

    <dependencies>
    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-web</artifactId>
    </dependency>
     <dependency>
         <groupId>org.projectlombok</groupId>
         <artifactId>lombok</artifactId>
     </dependency>
     <dependency>
         <groupId>org.springframework.ai</groupId>
         <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
     </dependency>
    </dependencies>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.ai</groupId>
                <artifactId>spring-ai-bom</artifactId>
                <version>1.0.0-M6</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

随后需要编写相关配置，例如：baseUrl、Api-key等（DS、阿里百炼均可使用OpenAI协议对接大模型）

spring:
  application:
    name: springai
  #阿里百炼模型配置
  ai:
    openai:
      api-key: xxxx(自己申请的api-key)
      base-url: https://dashscope.aliyuncs.com/compatible-mode
      chat:
        options:
          model: qwen-plus
  #ds模型配置        
  ai:
    openai:
      api-key: xxxx(自己申请的api-key)
      base-url: https://api.deepseek.com
      chat:
        options:
          model: deepseek-chat

基础配置配置完成之后，需要在spring容器中新建一个ChatClient的Bean，用于托管相关固定配置，例如：日志、系统提示词、会话记忆等。

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.ai.chat.client.advisor.MessageChatMemoryAdvisor;
import org.springframework.ai.chat.memory.ChatMemory;
import org.springframework.ai.chat.memory.InMemoryChatMemory;
import org.springframework.ai.openai.OpenAiChatModel;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.ai.chat.client.advisor.SimpleLoggerAdvisor;

/**
 * @Description:
 * @Param:
 * @Author:
 * @Date:
 */
@Configuration
public class Client {


    @Bean
    public ChatMemory chatMemory(){
        return new InMemoryChatMemory();
    }

    @Bean
    public ChatClient chatClient(OpenAiChatModel openAiChatModel){
        return ChatClient.builder(openAiChatModel)
                .defaultSystem("你是一个智能助手，名字叫CJ")
                .build();
    }
}

新增接口，用于实现接口访问，调用远程大模型。

import lombok.RequiredArgsConstructor;
import org.springframework.ai.chat.client.ChatClient;
import org.springframework.web.bind.annotation.*;
import reactor.core.publisher.Flux;

@RestController
@RequestMapping("/api")
@RequiredArgsConstructor
public class TestController {

    private final ChatClient client;
    
	 /**
     * 1.流式响应接口，内容不会一次性返回
     * 2.若要一次性返回，则需要将stream()方法切换为call()方法
     * 3.使用流失返回，需要注明接口返回提字符编码，否则会导致乱码！（produces = "text/html;charset=utf-8"）
     * @param prompt 用户提示词
     * @return
     */
    @GetMapping(value = "/chat", produces = "text/html;charset=utf-8")
    public Flux<String> chat(@RequestParam(value = "prompt") String prompt){
        
        return client.prompt()
                .user(prompt)
                .stream()
                .content();
    }

}

至此，大模型会话功能的调用已经初步实现了，但是为了方便开发以及问题定位，我们需要引入相关日志组件，便于排查开发、调试用遇到的问题。
SpringAI给我们提供了多种日志工具，我们使用SimpleLoggerAdvisor组件。该组件是将日志输出在控制台上。
日志配置主要分为两步：
1.在ChatClient中配置Advisor，其原理是在在调用模型前后，利用AOP的原理执行相关动作；
2.配置日志级别。

@Bean
    public ChatClient chatClient(OpenAiChatModel openAiChatModel){
        return ChatClient.builder(openAiChatModel)
                .defaultSystem("你是一个智能助手，名字叫CJ")
                .defaultAdvisors(new SimpleLoggerAdvisor())
                .build();
    }

logging:
  level:
    org.springframework.ai.chat.client.advisor: debug
    com.controller: debug

此时在控制台中可以看到相关的日志输出，但是缺乏提示词的记忆。例如：
步骤一：提示词内容为“我的名字叫xx”，发送请求大模型；
步骤二：提示词内容为“我叫什么？”，发送请求大模型；
输出结果：大模型不清楚我的名字是什么。。。
出现当前问题的原因是当前程序中并未开启相关会话记忆功能。

SpringAI给我们提供了相关会话记忆的工具（InMemoryChatMemory），同样是使用Advisor做会话记忆，将每次会话内容存储在内存中，再发送新消息是，默认发送用户之前输入、输出的历史会话内容。由此可见，与大模型对话次数越多，效率则会越差。
我们可以重写InMemoryChatMemory中的方法，来自定义会话内容的存储位置以及存储方式。目前仅介绍使用原生InMemoryChatMemory方法来做会话存储。

    @Bean
    public ChatMemory chatMemory(){
        return new InMemoryChatMemory();
    }

	    @Bean
    public ChatClient chatClient(OpenAiChatModel openAiChatModel){
        return ChatClient.builder(openAiChatModel)
                .defaultSystem("你是一个智能助手，名字叫CJ")
                .defaultAdvisors(new SimpleLoggerAdvisor(), new MessageChatMemoryAdvisor(chatMemory()))
                .build();
    }

现在，按照之前的步骤输入内容，大模型已经可以返回我们的名字是什么了。但是在一个成熟的人机会话交互产品中，仍然缺少很多东西。例如：可查询，可见的会话历史、开启新窗口而开启新的会话等；这些需要我们借助前端来实现。例如：前端在每一个用户下的会话窗口提供一个唯一ID，当前ID会传递到后端用于做会话标识存储起来（MySQL等），同时存储不同会话ID下的历史会话记录。

4.实现基于RAG索引实现本地向量知识库

  • RAG
    在我们对接好大模型之后，会发现简单的问题，大模型可以给予我们帮助。但是对待一些专业性比较强的问题，大模型也无法就我们正确的答案，并且有时可能会出现大模型随意乱造结果（幻觉），影响用户的判断。为了解决这一问题，我们引入了RAG以及向量数据库，便于无需二次训练模型即可生成正确回答，减少幻觉发生的概率。

    Retrieval-Augmented Generation，检索、增强、生成。其中检索模块负责从外部知识库中搜索与用户问题最相关的文本内容。生成模块负责将检索到的相关信息整合成自然语言的答案。

  • RAG的工作流程

    1.问题输入
    用户向RAG系统提出一个自然语言问题。

    2.检索相关文档
    RAG系统的检索模块根据用户的问题，从外部知识库中检索出最相关的文档或段落。

    3.信息整合
    检索到的文档或段落被传递给生成模块，生成模块将这些信息与用户的问题结合起来。

    4.生成答案
    生成模块利用预训练的语言模型，生成最终的自然语言答案。

    SpringAI给我们提供了一套实现方式，基于内存的向量数据库，基于Redis的向量数据库等。为了快速上手，我们先通过内存的方式。

引入依赖

<!-- 处理PDF文件 -> document文件 -->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-pdf-document-reader</artifactId>
</dependency>

新增向量模型相关配置

spring:
  application:
    name: xx
  ai:
    openai:
      api-key: xxxxx
      base-url: https://dashscope.aliyuncs.com/compatible-mode
      chat:
        options:
          model: deepseek-r1
      #向量模型配置    
      embedding:
        options:
          model: text-embedding-v3
logging:
  level:
    org.springframework.ai.chat.client.advisor: debug
    com.chinaunicom.controller: debug

到此，基本的环境已经具备，现在需要我们将本地PDF文件当做资料上传给我们的向量数据库中用作检索（SimpleVectorStore：基于内存存储的向量数据库）。

/**
     * 初始化一个基于内存存储的向量数据库
     * @param embeddingModel
     * @return
     */
    @Bean
    public VectorStore vectorStore(OpenAiEmbeddingModel embeddingModel) {
        return SimpleVectorStore.builder(embeddingModel).build();
    }

    @Bean
    public ChatClient chatClient(OpenAiChatModel openAiChatModel, ChatMemory chatMemory, VectorStore vectorStore) {
        return ChatClient
                .builder(openAiChatModel)
                .defaultSystem("你是一个智能助手，名字叫CJ")
                //日志横切面监控
                .defaultAdvisors(
                        new SimpleLoggerAdvisor(),
                        new MessageChatMemoryAdvisor(chatMemory),
                        //配置向量搜索
                        new QuestionAnswerAdvisor(vectorStore, SearchRequest.builder().similarityThreshold(0.5f).topK(2).build()))
                .build();
    }

此时，基本的向量数据库已经搭建好了，现在需要我们上传相关资料。

    /**
     * 写入向量库
     */
    @GetMapping(value = "/storePdf", produces = "text/html;charset=utf-8")
    public String storePdf(){

        Resource resource = new FileSystemResource("D:\\1.pdf");

        //创建PDF读取
        PagePdfDocumentReader reader = new PagePdfDocumentReader(
                resource, // 文件
                PdfDocumentReaderConfig.builder()
                        .withPageExtractedTextFormatter(ExtractedTextFormatter.defaults())
                        .withPagesPerDocument(1) // 每1页PDF作为一个Document
                        .build()
        );

        //转存入向量库
        List<Document> documents = reader.read();
        vectorStore.add(documents);

        return "success";
    }

/**
     * 基于向量库的问答
     * @param question
     * @return
     */
    @GetMapping(value = "/ragChat", produces = "text/html;charset=utf-8")
    public Flux<String> ragChat(@RequestParam(value = "question")String question){
        return client.prompt().user(question).stream().content();
    }
CmiKaEla911
关注
【大模型】SpringBoot 整合Spring AI 对接主流大模型平台实战详解
congge
05-20 4979
Spring AI 对接主流大模型平台实战详解
【大模型】SpringBoot整合LangChain4j实现RAG检索实战详解
congge
03-30 9423
SpringBoot整合LangChain4j实现RAG检索实战详解
快速体验Spring AI_基于Spring AI Alibaba
whisperzzza的博客
10-21 1931
一句话说明：Spring AI 提供了一个统一的接口来调用不同的AI模型，使得开发者能够方便地切换不同的AI服务提供者。输入输出举例：输入为用户查询或请求，输出可以是文本、图像、语音等不同形式。例如，通过对话模型输入问题 "明天天气如何？"，输出可能是 "明天天气晴朗，气温在15到20度之间"。Spring AI Alibaba是Spring AI针对阿里云服务的一个实现，旨在简化开发者利用阿里云AI能力（包括国产大模型如通义千问）构建应用的过程。
Spring AI Alibaba集成阿里云百炼大模型应用
Linging_24的博客
05-18 858
阿里云百炼推出的和，有效解决了大模型在处理私有领域问题、获取最新信息、遵循固定流程以及自动规划复杂项目等方面的局限，显著拓展了其应用范围。
Spring AI入门对接百炼平台大模型
qq_40853117的博客
06-09 814
Java程序员正式转AI了。Spring AI出来一年多了，但是我最近才开始学它。所以把我学习的方式，遇到的问题分享给大家，让大家少走弯路项目开源地址：gitee:其中rent-ai服务引入了Spring AI。
springAi+阿里云百炼平台+deepseek，在业务系统中接入ai智能体，实现对业务方面的问答
String_001的博客
07-05 881
本文介绍了基于Spring AI框架实现业务系统AI问答功能的方案。技术选型采用SpringBoot+Spring AI，集成阿里云百炼deepseek-r1文本模型和Elasticsearch向量数据库，实现流式输出、多轮对话、业务问答等核心功能。系统通过向量数据库增强AI知识库，支持配置化相似度阈值和上下文窗口，提供Redis缓存对话记忆和MySQL持久化存储。文章包含完整的Maven依赖、YML配置和代码实现示例，适合开发者快速构建业务场景的AI对话功能。方案优势在于与Spring生态深度集成，相比直
【大模型】Spring AI 对接百炼平台大模型使用教程 调用百炼API
什么都无法舍弃的人，什么都无法改变
05-12 528
创建两个类：ChatController和CommonConfiguration。创建一个SpringBoot工程。
Spring AI Alibaba 对接百炼平台大模型使用详解
qq_45511726的博客
04-16 915
SpringAI是一个人工智能工程的应用框架，他的目标是将spring生态系统的设计原则（如可移植性和模块化设计）应用于人工智能领域，并推广使用POJO作为人工智能领域应用程序的构建块Spring AI三、阿里百炼平台获取api_key:（我的-模型-模型广场-api_key）对应模型的api_key。
SpringCloud + Spring AI Alibaba 整合阿里云百炼大模型
qq_54421200的博客
03-02 1036
记录一次自己使用微服务整合阿里云的百炼大模型，需要用到Redis来记录最近五条信息，已能够保证上下文的连通性，Ai和用户之间的对话是使用的MongoDB来进行存储。然后我这篇文章是介绍了两种请求方式，一种是通过Http请求，一种是通过WebSocket+Netty的方式，如果你还没有Redis可以先去安装对应环境或者可以将Redis改为通过使用List来对最近的消息进行存储。话不多说，开始。
基于 SpringAI 整合 DeepSeek 模型实现 AI 聊天对话
一个热爱探索的人
04-22 1015
很多云平台都提供了一键部署大模型的功能，这里不再赘述（阿里云百炼平台、火山方舟-火山引擎等）Ollama。
【AI智能体】Spring AI Tool 从使用到实战详解
congge
05-25 4801
Spring AI Tool
Spring AI Alibaba示例项目准备工作详解
RodJohnsonDoctor的专栏
04-05 290
由深度求索（DeepSeek）公司推出的大语言模型系列，包括DeepSeek-R1、DeepSeek-V3等。这些模型在数学、代码、自然语言推理等任务上表现优异，并且有基于知识蒸馏技术得到的增强型模型如DeepSeek-R1-Distill-Qwen-7B、DeepSeek-R1-Distill-Qwen-32B等。：这是由阿里云自主研发的大规模语言模型系列，包括了不同版本和优化版本，例如 Qwen2、Qwen2.5-Turbo 等，这些模型在文本生成、对话理解等方面具有出色的表现。
SpringAi的实现一个简单的deepseek
T_Peachs的博客
06-18 404
SpringBoot快速集成AI对话功能摘要：本文介绍了使用SpringBoot快速集成AI对话功能的方法。首先创建SpringBoot工程并引入spring-ai-starter-model-openai依赖，配置DeepSeek API密钥和模型参数。通过ChatClient封装对话API，支持同步和流式两种调用方式。在Controller中接收用户提示词并返回AI响应结果。还可以通过defaultSystem方法设置AI系统角色（如"可爱的小助手木幽"），改变AI的身份设定。最后文
使用springai接入阿里各种ai模型
m0_72853498的博客
04-09 889
model: qwen-max 可以选择别的模型。api-key: 你的key。创建一个springboot工程。
【Spring AI】对接DeepSeek
TsukasaHwan的博客
04-14 1009
Spring AI 是 Spring 生态中的开源项目，专注于为 Spring Boot 应用提供 AI 能力集成支持，通过注解驱动、模板化配置等特性，简化与大模型（如 DeepSeek）的对接流程，帮助开发者快速构建具备生成式 AI 功能的微服务或应用。其核心价值在于抽象底层 API 细节，提供统一的模型调用、参数管理及链路监控能力。本文手把手带你使用SpringAI对接DeepSeek。
SpringBoot+Spring AI Alibaba接入RAG应用实战，让你的微服务应用具备智能化能力，小白也能快速上手
2401_85375186的博客
03-03 2056
就像你无法回答一个陌生领域的问题一样，大模型也无法回答预训练阶段没有准确掌握的知识。但是我们可以在大模型直接回答私有领域问题之前，给大模型一些参考，让大模型结合参考来回答问题。这一技术被称为检索增强生成（Retrieval-Augmented Generation，RAG），非常适合于在私域知识问答场景中消除大模型幻觉（编造答案）。RAG 应用有两个关键过程：建立索引：这一阶段你需要将私有领域知识的文档（如 PDF、Word 等格式）存储起来并建立索引。
SpringAI系列---【SpringAI如何接入阿里云百炼大模型？】
-少年-的博客
06-21 297
如果是要接入阿里云百炼模型，首先推荐使用Spring AI Alibaba，而不是使用SpringAI。当然了，因为百炼的通义模型都遵循了openai规范，所以，我们若非要用SpringAI接入百炼大模型，我们可以使用引入openai的依赖来接入百炼大模型。阿里云百炼的通义千问模型支持 OpenAI 兼容接口，您只需调整 API Key、BASE_URL 和模型名称，即可将原有 OpenAI 代码迁移至阿里云百炼服务使用。因为这个是游戏，不需要保存聊天记录，游戏结束就结束了，所以不持久化会话id了。
在网页中使用阿里云百炼平台调用deepseek并且实现深度思考、多轮对话和流式输出功能
最新发布
Relax_Dancixi的博客
07-07 220
【代码】在网页中使用阿里云百炼平台调用deepseek并且实现深度思考、多轮对话和流式输出功能。
springai整合deepseek
02-28
### 整合 SpringAI 和 DeepSeek 框架 为了实现 SpringAI 与 DeepSeek 的整合，开发者可以利用 Spring 提供的强大生态支持以及其便捷的配置方式来简化这一过程。Spring 官网指出，Spring 框架可以通过 OpenAI API 方式与 DeepSeek 集成[^1]。 具体来说，在项目中引入必要的依赖库之后，主要工作集中在配置文件设置上： #### 添加 Maven 或 Gradle 依赖项 对于基于 Java 的应用程序而言，通常会采用 Maven 或者 Gradle 来管理项目的构建流程。因此，第一步是在 `pom.xml` 文件（Maven）或 `build.gradle` 文件（Gradle）里加入所需的依赖包。 ```xml <!-- pom.xml --> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-core</artifactId> <version>${spring-ai.version}</version> </dependency> <dependency> <groupId>com.deepseek.api</groupId> <artifactId>deepseek-client-java</artifactId> <version>${deepseek-api-version}</version> </dependency> ``` ```groovy // build.gradle implementation 'org.springframework.ai:spring-ai-core:${springAiVersion}' implementation 'com.deepseek.api:deepseek-client-java:${deepSeekApiVersion}' ``` #### 创建应用配置类 接着创建一个新的配置类用于定义如何初始化并连接到 DeepSeek 服务端点。这一步骤涉及到读取环境变量中的认证信息和其他必要参数，并将其传递给客户端实例化方法。 ```java @Configuration public class AiConfig { @Value("${deepseek.api.key}") private String apiKey; @Bean public DeepSeekClient deepSeekClient() { return new DeepSeekClient.Builder() .setApiKey(apiKey) .build(); } } ``` #### 使用自动装配功能注入 DeepSeek Client Bean 最后，在任何需要调用 AI 功能的地方都可以直接通过 Spring 自动装配机制获取已经准备好的 `DeepSeekClient` 对象来进行交互操作。 ```java @Service public class MyAIService { private final DeepSeekClient client; @Autowired public MyAIService(DeepSeekClient client) { this.client = client; } // 实现业务逻辑... /** * 调用 DeepSeek 接口处理请求. */ public void processRequest(String inputText){ var response = client.sendQuery(inputText); System.out.println(response.getResult()); } } ``` 上述代码片段展示了基本的应用程序结构和组件之间的关系。当然实际应用场景可能会更加复杂一些，但这提供了一个良好的起点以便进一步探索更多可能性。 Spring AI 解决了 Spring 生态和 AI 的快速集成问题：它能够帮助企业轻松地将内部的数据资源和服务接口同外部的人工智能模型对接起来，从而加速智能化转型的步伐[^2]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值