spring ai Rag 怎么使用

<think>嗯，用户问的是Spring AI中的RAG怎么使用。首先，我需要确认用户对RAG和Spring AI的基础了解程度。RAG是检索增强生成，结合了检索和生成模型，而Spring AI是一个集成AI能力的框架。用户可能已经知道这些概念，但可能需要具体的实现步骤。 用户可能是在开发一个需要结合外部知识库的AI应用，比如客服系统或者智能问答系统。他们可能遇到的问题是，生成模型在回答特定领域问题时不够准确，所以希望通过RAG来提升效果。 接下来，我需要考虑Spring AI中RAG的具体实现方式。可能需要用到文档加载、向量存储、检索和生成模型集成。要分步骤讲解，从环境配置到代码示例，确保新手也能理解。 可能需要注意的点包括：依赖项的引入，如何准备文档，向量数据库的选择（比如Redis、PgVector），检索策略的设置，以及与OpenAI或本地模型的结合。还要提醒用户处理可能出现的异常，比如API连接问题或文档解析错误。 用户可能还想知道实际应用中的优化技巧，比如分块策略、元数据过滤和模型选择。这些内容可以作为进阶部分加入，帮助他们进一步提升效果。最后，给出一个完整的代码示例，让用户可以直接参考实现。</think>以下是Spring AI中RAG（检索增强生成）的完整使用指南，包含代码示例和最佳实践： ```java // 基础环境配置（pom.xml关键依赖） <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai-spring-boot-starter</artifactId> <version>0.8.1</version> </dependency> <dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-pgvector-store</artifactId> <version>0.8.1</version> </dependency> // 核心实现类示例 @RestController public class RagController { @Autowired private VectorStore vectorStore; @Autowired private ChatClient chatClient; // 文档入库处理 @PostMapping("/ingest") public void ingestDocuments(@RequestParam("path") String docPath) { DocumentReader reader = new PdfDocumentReader(docPath); TextSplitter splitter = new TokenTextSplitter(1000, 200); List<Document> documents = splitter.apply(reader.get()); vectorStore.add(documents.stream() .map(doc -> new Document( doc.getId(), doc.getContent(), Metadata.of("source", docPath)) ).collect(Collectors.toList())); } // RAG问答接口 @GetMapping("/ask") public String askQuestion(@RequestParam String question) { // 向量检索（带相似度阈值过滤） List<Document> contexts = vectorStore.similaritySearch( SearchRequest.query(question) .withTopK(5) .withSimilarityThreshold(0.7) ); // 构造增强提示词 String augmentedPrompt = String.format( "基于以下上下文：\n%s\n\n请回答：%s", contexts.stream() .map(Document::getContent) .collect(Collectors.joining("\n---\n")), question ); // 调用生成模型 return chatClient.generate( new Prompt(augmentedPrompt, OpenAiChatOptions.builder() .withTemperature(0.3) .build() )).getGeneration().getContent(); } } ``` **关键配置项（application.yml）：** ```yaml spring: ai: vectorstore: pgvector: dimensions: 1536 # 适配OpenAI嵌入维度 openai: api-key: ${OPENAI_API_KEY} embedding-model: text-embedding-3-small chat-model: gpt-3.5-turbo ``` **最佳实践：** 1. **分块策略优化** ```java // 使用语义分块替代固定长度分块 TextSplitter splitter = new SemanticTextSplitter() .withWindowSize(512) .withOverlap(128); ``` 2. **混合检索增强** ```java // 结合关键词检索和向量检索 List<Document> keywordResults = vectorStore.keywordSearch(question, 3); List<Document> vectorResults = vectorStore.similaritySearch(...); List<Document> hybridResults = mergeResults(keywordResults, vectorResults); ``` 3. **元数据过滤** ```java // 添加文档时携带元数据 Document doc = new Document() .withContent(content) .withMetadata(Metadata.of("department", "HR")); // 检索时过滤 SearchRequest request = SearchRequest.query(question) .withFilterExpression("department == 'HR'"); ``` **常见问题处理：** 1. 长上下文优化： ```java // 启用长上下文优化模式 OpenAiChatOptions.builder() .withModel("gpt-3.5-turbo-16k") .withMaxTokens(4000); ``` 2. 结果验证： ```java // 添加引用溯源 response += "\n\n参考资料：\n" + contexts.stream() .map(d -> "• " + d.getMetadata().get("source")) .collect(Collectors.joining("\n")); ``` **性能优化建议：** - 使用本地嵌入模型降低成本： ```yaml spring: ai: embedding-model: onnx://microsoft/all-MiniLM-L6-v2 ``` - 启用缓存机制： ```java @Cacheable(value = "ragCache", key = "#question.hashCode()") public String getCachedResponse(String question) { ... } ``` 完整项目建议包含： 1. 异常处理（处理API限流、文档解析错误） 2. 日志记录（记录检索上下文和生成结果） 3. 评估模块（使用RAGAS指标评估效果） 4. 异步处理（使用@Async进行批量文档处理）