本地电脑大模型系列之 16 使用 LangGraph 和 Llama 3 的本地 Agentic RAG (教程含源码)

简介

LLM 代理使用规划、内存和工具来完成任务。在这里，我们展示如何使用 LangGraph、Llama 3 和 Milvus 构建能够调用工具的代理。

代理可以为 Llama 3 提供重要的新功能。特别是，我们将展示如何让 Llama 3 执行网络搜索、调用自定义用户定义函数

LangGraph 的工具调用代理使用两个节点：LLM 节点根据用户输入决定调用哪个工具。它根据输入输出工具名称和工具参数。工具名称和参数被传递给工具节点，该节点使用指定的参数调用工具并将结果返回给 LLM。

Milvus Lite 允许您在本地使用 Milvus，而无需使用 Docker 或 Kubernetes。它将存储您从我们将导航到的不同网站生成的向量。

系列文章

• 《本地电脑搭建 StreamDiffusion：用眼睛见证实时人工智能创意 利用交互式高速扩散技术彻底改变图像生成》权重1，本地类

• 《使用本地 Llama 2 模型和向量数据库建立私有检索增强生成 (RAG) 系统 LangChain》权重1，llama类、本地类