不务正业的猿

向量检索利用向量空间的相似度来查找相关内容，是近年来兴起的检索技术核心。其基础是在语义嵌入（embedding）模型的支持下，将文本、图像等数据表示为高维向量，以便通过向量相似度（如余弦相似度或欧氏距离）找到内容上的邻近项。

LangChain和LlamaIndex（原GPT Index）都是流行的LLM应用开发框架，但侧重点有

将LangChain应用从开发环境部署到生产环境，需要考虑封装服务接口、资源配置和监控维护等。LangChain提供了LangServe工具简化部署，也可自行集成到Web服务。

LLM应用可能面临响应慢、成本高等性能问题。LangChain提供了一些优化方法和经验来提升性能和效率。

近期出现了一类“自治代理”（Autonomous Agent），如BabyAGI和AutoGPT，它们能在无需人类每步指令的情况下，自主规划并执行多步任务。LangChain也能实现类似概念的进阶Agent，主要通过Plan-and-Execute模式和长期记忆。

构建一个多轮对话的聊天机器人是LangChain的典型应用之一。关键点在于如何让机器人“记忆”上下文、保持一致的人格，并集成所需外部知识。

本案例讲述如何用LangChain构建一个结合多个工具的智能助手 Agent。智能助手需要理解用户复杂请求，通过调用不同工具（如搜索、计算、查数据库等）执行多步推理，再给出答案。

本案例讲述如何用LangChain构建一个结合多个工具的智能助手 Agent。智能助手需要理解用户复杂请求，通过调用不同工具（如搜索、计算、查数据库等）执行多步推理，再给出答案。

检索增强生成（Retrieval-Augmented Generation, RAG）是一种将LLM与外部知识库结合的方法，通过实时检索相关信息来辅助生成答案。这极大缓解了LLM“封闭知识”过期或不足的问题。

检索增强生成（Retrieval-Augmented Generation, RAG）是一种将LLM与外部知识库结合的方法，通过实时检索相关信息来辅助生成答案。这极大缓解了LLM“封闭知识”过期或不足的问题。

LangChain不仅支持纯文本，还具备一定多模态处理能力，并能集成外部插件（如ChatGPT插件）的功能。这意味着LangChain应用可以涉及图像、音频等数据，以及使用OpenAI Plugins或自定义扩展，让LLM超出文本范畴完成任务。

LangSmith是LangChain官方推出的用于调试、测试和监控LLM应用的开发者平台和工具。它帮助开发者从原型阶段到生产部署，了解模型的行为表现、评估质量，并持续监控应用运行情况。

LangChain表达式语言（LCEL）是一种声明式语言，用于以配置/脚本的方式定义LangChain中的链条逻辑。

FAISS是Facebook AI Research开发的开源库，用于高效相似度搜索和聚类。LangChain集成FAISS，使我们可以使用FAISS来存储和检索文本嵌入向量。

Chroma是一个开源的嵌入向量数据库，专为LLM应用设计，存储和检索文本向量非常高效方。LangChain对Chroma提供了直接的集成接口，使开发者可以轻松地将文档嵌入存入Chroma并执行相似度检索。

除了OpenAI云服务，LangChain也支持集成本地或 HuggingFace Hub 上的模型，包括文本生成模型和嵌入模型。通过HuggingFace的集成，我们可以在本地运行模型（充分利用自有GPU，保护隐私，降低成本）或调用 HuggingFace Hub 的推理API。

LangChain对接OpenAI的API，使开发者能方便地使用OpenAI的各种模型（如GPT-3.5、GPT-4等）和功能（聊天、补全、嵌入等）。集成主要通过LangChain提供的OpenAI类封装来实现。

摘要： LangChain的回调机制（Callback）通过钩子函数介入链或Agent的执行流程，支持日志记录、流式输出和监控等功能。核心是CallbackHandler接口，提供on_llm_new_token（流式输出）、on_tool_end（工具调用）等事件监听。应用场景包括：1) 实时输出：利用流式回调逐字返回LLM结果；2) 调试：通过内置StdOutCallbackHandler打印中间步骤；3) 监控：统计Token用量或记录LangSmith轨迹。使用时只需将回调实例传入callbacks

摘要： LangChain中的工具包（Toolkit）是将相关工具组合封装的功能插件，用于增强Agent在特定任务中的能力。内置工具包包括SQL数据库交互、向量检索、数学计算等功能模块，可通过load_tools函数便捷加载。开发者也可自定义工具包，只需将实现好的Tool对象组织成列表即可。工具包与单工具的核心区别在于：工具包提供成套解决方案，可能包含使用说明，使Agent能协调运用多个工具完成复杂任务。使用时通过initialize_agent将工具包赋予Agent即可扩展其能力范围。

LangChain的OutputParser模块解析 OutputParser是LangChain中处理LLM输出的关键组件，主要作用是将非结构化的文本输出转换为结构化数据。它通过以下机制实现高效解析： 格式控制 使用get_format_instructions()生成格式提示 将格式要求嵌入PromptTemplate 引导LLM按JSON等特定格式输出 核心功能 结构化解析：支持Pydantic模型转换 信息提取：正则匹配关键内容 错误处理：自动修正格式偏差 代理支持：解析动作指令 典型应用 将&qu

LangChain中的Retriever是一个通用检索接口，负责根据自然语言查询从不同数据源获取相关文档。它比VectorStore更抽象，支持多种检索方式：向量相似度搜索、数据库查询、API调用等。关键点包括：1)Retriever统一了检索接口，只需实现get_relevant_documents方法；2)VectorStore可通过as_retriever()转换为Retriever；3)支持时间加权、上下文压缩等高级检索方式；4)可与Chain/Agent集成，实现知识增强的问答系统。Retriev

本文介绍了向量数据库在LangChain中的应用。向量数据库是存储高维向量并支持快速相似度搜索的专用数据库，核心用途包括：1）存储文档embedding向量；2）实现语义检索。LangChain通过VectorStore接口与主流向量数据库（如Chroma、FAISS、Pinecone）集成，提供文档入库、向量检索等统一操作。典型流程包括：用Embedding模型转换文本、构建向量索引、执行相似度搜索。这种机制是RAG（检索增强生成）的关键，使LLM能基于最新知识生成答案。文章还解答了相关面试问题，阐释了向

文本嵌入（Embeddings）是将文字转换为向量（高维数值向量）的过程和结果。在LangChain中，Embeddings模块负责调用各种嵌入模型，将文本转化为向量表示，以便后续在向量空间执行相似度搜索、聚类等操作。

本文介绍了LangChain中构建知识库问答应用的关键预处理步骤——文档加载与文本分割。文档加载器(DocumentLoader)支持从PDF、HTML、数据库等100多种数据源读取内容并标准化为Document对象，内置解析器自动处理格式转换。文本分割器(TextSplitter)提供多种切分策略，推荐使用RecursiveCharacterTextSplitter保持语义完整，通过设置chunk_size和chunk_overlap参数控制段落长度和重叠区域。这两个模块协同工作，解决了LLM上下文限制和

在对话式应用中，我们通常希望模型能“记住”之前的对话内容或中间结果。LangChain通过Memory（内存）模块来实现这一点。

LLMChain是LangChain中最基本也最常用的链（Chain）类型之一。它将一个提示模板（PromptTemplate）和一个LLM封装在一起，形成一个单轮交互的链条：输入 -> 格式化提示 -> LLM输出.cn。

PromptTemplate（提示模板）模块是LangChain中用于构建模型提示（prompt）的重要组件。它的作用是将用户输入和上下文参数格式化成最终发送给LLM的提示字符串或消息列表。

LangChain通过统一接口封装不同语言模型，简化开发流程。核心功能包括：1)提供LLM、ChatModel和Embedding三类标准接口，屏蔽底层模型差异；2)支持OpenAI、HuggingFace等多种模型的无缝切换；3)自动处理API调用、参数配置和异常处理等细节。开发者只需关注业务逻辑，通过简单初始化即可调用不同模型，如OpenAI需设置API密钥，本地模型通过HuggingFacePipeline加载。这种设计实现了模型无关性，使应用能灵活切换不同厂商模型而无需重构代码，显著降低LLM集成门

在LangChain中，工具（Tool）是智能体（Agent）、链（Chain）或LLM可以调用的外部函数接口。可以将Tool理解为LLM可以使用的能力或插件：通过调用工具，LLM能够获取额外的信息或执行特定的动作，比如查询数据库、搜索互联网、做数学计算等comet.compinecone.io。

代理（Agent）是LangChain中的一个核心概念，指的是一种由LLM驱动的决策执行单元。与Chain的预定义顺序不同，Agent具有一定的自主性

链（Chain）是LangChain框架最基本的抽象之一，用于表示一系列连续的操作步骤。简单来说，Chain就是将多个组件调用按顺序链接起来：一个步骤的输出可作为下一个步骤的输入，形成一个管道medium.com。

LangChain是一个模块化框架，用于构建基于大语言模型（LLM）的应用程序。其核心架构采用分层设计：基础接口层（langchain-core）、通用实现层（langchain）和第三方集成层（集成包和社区包）。通过将复杂任务分解为可组合的组件（Chain/Agent/Tool等），LangChain实现了比直接调用LLM更强的可控性，支持流程编排、外部工具集成和上下文记忆等功能。这种设计使开发者能灵活构建问答系统、智能助手等复杂应用，同时保持代码可维护性和扩展性。