AnythingLLM切换chroma向量数据库

### Chroma 向量数据库与 AnythingLLM 集成指南 #### 介绍 Chroma 是一种高效的向量数据库，专为机器学习应用设计。AnythingLLM 则是一个灵活的语言模型框架，支持多种大语言模型的部署和调用。两者结合可以实现强大的语义检索功能。 #### 安装依赖库 为了使 Chroma 和 AnythingLLM 正常工作，需安装必要的 Python 库： ```bash pip install chromadb anythingllm ``` #### 初始化 Chroma 数据库并加载数据集 创建一个新的集合来存储文档及其对应的嵌入向量表示形式[^1]: ```python import chromadb client = chromadb.Client() collection_name = "example_collection" texts = ["hello world", "goodbye cruel world"] embeddings = [[0.1, 0.2], [0.3, 0.4]] # 假设这是预计算好的嵌入向量 chroma_client.create_collection(name=collection_name) chroma_client.add_texts(collection_name, texts=texts, embeddings=embeddings) ``` #### 使用 AnythingLLM 进行查询处理 通过 AnythingLLM 对输入文本进行编码转换为向量，并利用这些向量去搜索最相似的结果: ```python from anythingllm import encode_text query_vector = encode_text("find me similar sentences") # 将查询字符串转化为向量 results = client.query( collection_name, query_embeddings=[query_vector], n_results=5 ) for result in results['ids'][0]: print(f"Document ID: {result}") ```

### 安装 Chroma 向量数据库 在 Windows 环境下，可以通过 Python 的 `chromadb` 包来安装和使用 Chroma。首先确保已经安装了 Python 和 pip。 1. **安装 Chroma：** ```bash pip install chromadb ``` 2. **启动 Chroma 服务（可选）：** Chroma 支持以本地模式运行，也可以作为服务运行。对于简单的用途，可以直接在代码中初始化客户端，无需单独启动服务。 ### Spring Boot 项目中连接 Chroma 为了在 Spring Boot 项目中通过 Spring AI 连接 Chroma，需要引入相关的依赖，并编写代码实现文档上传、解析和向量化存储的功能。 #### Maven 依赖配置： ```xml <dependencies> <!-- Spring Boot Starter --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter</artifactId> </dependency> <!-- Spring Web --> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <!-- OpenNLP for text processing (Optional) --> <dependency> <groupId>org.apache.opennlp</groupId> <artifactId>opennlp-tools</artifactId> <version>1.9.4</version> </dependency> <!-- Java PDFBox for reading PDF files --> <dependency> <groupId>org.apache.pdfbox</groupId> <artifactId>pdfbox</artifactId> <version>2.0.27</version> </dependency> <!-- Java IO for file handling --> <dependency> <groupId>java.io</groupId> <artifactId>io</artifactId> <version>1.0</version> </dependency> </dependencies> ``` #### 编写文件上传控制器： 创建一个 REST 控制器用于处理文件上传请求，并将文件内容解析为文本。 ```java import org.apache.pdfbox.pdmodel.PDDocument; import org.apache.pdfbox.text.PDFTextStripper; import org.springframework.web.bind.annotation.*; import org.springframework.web.multipart.MultipartFile; import java.io.File; import java.io.FileOutputStream; import java.io.IOException; @RestController @RequestMapping("/api/files") public class FileUploadController { @PostMapping("/upload") public String uploadFile(@RequestParam("file") MultipartFile file) throws IOException { if (file.isEmpty()) { return "File is empty!"; } // Save the uploaded file to a temporary location File tempFile = File.createTempFile("upload-", ".tmp"); try (FileOutputStream fos = new FileOutputStream(tempFile)) { fos.write(file.getBytes()); } String content = ""; if (file.getOriginalFilename().endsWith(".pdf")) { // Read PDF content try (PDDocument document = PDDocument.load(tempFile)) { PDFTextStripper pdfStripper = new PDFTextStripper(); content = pdfStripper.getText(document); } } else if (file.getOriginalFilename().endsWith(".txt")) { // Read TXT content content = new String(file.getBytes()); } // Call method to store content in Chroma VectorDatabaseService vectorDbService = new VectorDatabaseService(); vectorDbService.storeText(content); return "File processed and stored in vector database."; } } ``` #### 实现与 Chroma 的交互逻辑： 编写一个服务类用于连接 Chroma 数据库并执行向量化操作。 ```java import ai.chroma.ChromaClient; import ai.chroma.Collection; import ai.chroma.EmbeddingFunction; import ai.chroma.impl.DefaultChromaClient; import java.util.Arrays; import java.util.List; public class VectorDatabaseService { private static final String COLLECTION_NAME = "documents"; private ChromaClient client; private Collection collection; public VectorDatabaseService() { client = new DefaultChromaClient("http://localhost:8000"); // Adjust URL as needed // Initialize or get the collection collection = client.getOrCreateCollection(COLLECTION_NAME); } public void storeText(String text) { EmbeddingFunction embeddingFunction = client.getDefaultEmbeddingFunction(); // Assume default function List<Float> embedding = embeddingFunction.embed(text); // Generate embedding // Add the embedding to the collection collection.add(Arrays.asList(embedding), text, null, null); } } ``` ### 总结 以上代码展示了如何在 Windows 上使用 Python 安装 Chroma 向量数据库，并在 Spring Boot 项目中通过 Spring AI 连接 Chroma，实现了上传 PDF 和 TXT 文档后将其内容写入向量数据库的具体功能。需要注意的是，实际部署时应根据具体需求调整代码细节，例如错误处理、性能优化以及安全机制等[^1]。