【人工智能时代】-借助知识图谱和Llama-Index实现基于大模型的RAG

上篇简单介绍了构建GraphRAG的动机与架构。GraphRAG的基础架构源自基于向量的经典RAG的转换：我们已经演示了如何把传统关系型数据库中的结构化知识转为知识图谱并用于RAG查询。本篇我们将关注非结构化数据，以一个简单的自然语言文本为例，了解如何借助LLM的开发框架来构建GraphRAG应用。生成基于Graph的知识图谱构建一个非结构化数据的GraphRAG应用，首要任务是把非结构化数据转换成以图结构表示的知识图谱，并存储到GraphDB如Neo4j，用来提供后续检索与生成的基础。

RAG = 密集向量检索（R）+上下文学习（AG）检索：为您的文档中提出的问题查找参考资料。增强：将参考资料添加到您的提示中。生成：改进对所提出的问题的回答。在RAG中，我们通过将文本文档或文档片段的集合编码称为向量嵌入的数值表示来处理它们。每个向量嵌入对应于一个单独的文档片段，并存储在一个称为向量存储的数据库中。负责将这些片段编码为嵌入的模型称为编码模型或双编码器。这些模型在广泛的数据集上进行了训练，使它们能够为文档片段创建强大的表示形式，即单个向量嵌入。

Customizing LLMs within LlamaIndex Abstractions 目的：llamaindex 是一个很好的应用框架，基于此搭建一个RAG应用是一个不错的选择，但是由于llamaindex默认设置是openai的api，国内用不了，以及一些企业想要部…从​​​​​​​​​​​​​​用llamaindex 部署本地大模型 - 知乎。

大型语言模型 （LLM） 在自然语言理解和生成方面表现出卓越的能力。然而，他们经常与复杂的推理任务作斗争，并且容易产生幻觉。最近的研究表明，在利用知识图谱 （KG） 提高 LLM 性能方面取得了可喜的结果。KG 提供实体及其关系的结构化表示，提供丰富的信息源，可以增强 LLM 的推理能力。在这项工作中，我们开发了不同的技术，将 KG 结构和语义紧密集成到 LLM 表示中。我们的结果表明，我们能够显著提高 LLM 在复杂推理场景中的性能，并使用 KG 为推理过程奠定基础。

我们已经在 SAP 中存储数据数十年了，数据量太大，因此我们使用数据仓库和类似技术。现在，借助 Transformer Models，我们有能力理解极其庞大的数据集。想象一下，我们向通用大语言模型展示 BKPF 和 BSEG 之间的关系，并回答有关它的查询。我相信基础模型有能力重塑所有行业，但现有的大型语言模型在对复杂行业用例的适用性方面存在不足。从嵌入和微调通用基础模型，我慢慢地开始将垂直和特定领域的数据合并到模型中。

该论文提出了一个将大型语言模型（LLMs）与知识图谱（KGs）相结合的路线图。这是我对论文第2部分的解读。

总结一下对llamaindex的使用心得，第一部分是构建知识库并持久化，第二部分是使用本地llm模型和本地embed模型，第三部分是对qurey engine和chat engine的使用（自定义prompt）。知识库格式:一个全是txt文档的文件夹。

重磅消息，国资委打响了国内AI第一枪！这意味着传统行业又迎来了一次大洗牌，现在国内头部人工智能公司已经开始用AI数字人助力各行各业，。除此之外，知名大厂也都在布局AI市场。懂的程序员年薪已经翻到风口之下，与其焦虑被行业淘汰，不如先人一步掌握 AI 大模型技术。为帮助大家提升竞争力，为了帮助普通程序员享受时代红利，掌控AI大模型技术，成为超级个体，给大家带来了AI大模型全套资料。

类已被弃用，建议使用新的类。本文将详细介绍的工作原理，并提供代码示例和解释。通过Llama Index的，我们可以轻松地构建和查询知识图谱。无论是手动插入三元组和节点，还是获取图结构的networkx表示，Llama Index都提供了强大的工具来处理知识图谱任务。希望这篇博客能帮助你更好地理解和应用知识图谱技术。

Rebel 和 LlamaIndex 在构建知识图表查询引擎时的整合使得从非结构化文本中高效地提取、构建和查询知识成为可能，同时利用了 Rebel 的三联体提取和 LlamaIndex 的图表管理和查询能力。

此外，由于知识图谱的融合和训练大型语言模型通常需要大量的计算资源，因此在实际操作中可能需要使用专门的硬件和分布式训练策略。例如，我们可以将知识图谱的向量表示作为额外的输入加入到语言模型中，或者我们可以在语言模型的隐藏层中加入知识图谱的信息。在这个例子中，我们首先构建了一个简单的知识图谱，然后定义了一个图卷积网络来编码知识图谱，最后将知识图谱的信息引入到语言模型的输入中。通过这种方法，我们可以将知识图谱中的结构化知识引入大语言模型，从而提高模型在回答与知识图谱相关问题时的准确性。知识图谱的选择和预处理。

LlamaIndex 是一个大型语言模型（LLM）的数据框架，它提供了数据摄取、数据构建、检索和查询接口以及与其他框架集成的工具。LlamaIndex 可以帮助用户轻松地将现有的数据源和格式（如 API、PDF、文档、SQL 等）与 LLM 结合使用。它提供了多种索引类型，如列表索引、向量索引、树索引和关键字表索引，以便更好地组织和检索相关信息。

认识知识图谱        随着W3C在2007年发起的开放互联网数据项目（Linked Open Data）的火热，互联网上的数据正从杂乱的网页文本数据转变为包含大量描述实体之间丰富关系的数据万维网。在这个背景下，Google于2012年5月率先提出了知识图谱的概念，目的是将用户搜索的结果进行知识系统化，让每一个关键字都拥有一个完整的知识体系，从而真正意义上实现基于内容的检索，提高搜索质量。如...

RAG（Retrieval Argumented Generation）这种基于特定任务/问题的文档检索范式中，我们通常先收集必要的上下文，然后利用具有认知能力的机器学习模型进行上下文学习（in-context learning），来合成任务的答案。这次，我们借助 LLM 的力量，强化下 RAG。

探索知识图谱的力量：深入理解《KnowledgeGraph》项目 项目简介 在数据爆炸的时代，有效地组织和检索信息变得至关重要。是一个开源项目，致力于构建一个强大的知识图谱系统，以结构化的方式存储、管理和查询各种类型的知识。通过该项目，开发者可以创建自己的知识库，为AI应用提供丰富的上下文信息，增强其智能决策能力。 技术分析 1. 数据模型与存储 《KnowledgeGraph》基于图数据库（如N...