RAG进阶：混合稠密检索和知识图谱来提升精度

最新推荐文章于 2025-05-10 11:37:42 发布

原创

最新推荐文章于 2025-05-10 11:37:42 发布 · 1k 阅读

30 ·

CC 4.0 BY-SA版权

文章标签：

#知识图谱 #人工智能 #大模型 #ai #开源

HuixiangDou 是群聊场景的 LLM 知识助手。群里人多口杂，机器人显然不应该答复所有消息，它的设计规则为：

无关内容不吭声——拒答
明确该答的，直接回复——检索
不能违反核心价值观——可靠

https://github.com/InternLM/HuixiangDou（觉得好用欢迎 star）

在上一篇文章中，我们用真实群聊数据测试，对比不同方法和调参，最终拒答 F1 score 达到 75.88。

本文介绍如何混用知识图谱和稠密检索，把 F1 进一步提升到 77.57。

以下是目前所有方法对比：

方法	F1 score	备注
BCE+KG混合（本文）

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

OpenMMLab

关注关注

8
点赞
踩
30

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

RAG模型的知识图谱扩展：方法和技巧

AI天才研究院

03-09

713

1. 背景介绍 1.1 什么是知识图谱 知识图谱（Knowledge Graph）是一种结构化的知识表示方法，它以图的形式表示实体（Entity）之间的关系。知识图谱的核心是实体和关系，实体是知识图谱中的节点，关系是连接实体的边。知识图谱可以用于表示复杂的知识体系，为人工智能、自然语言处理、推荐系统等

WeKnow-RAG:知识图谱赋能的智能检索增强生成系统

步子哥的博客

08-31

938

WeKnow-RAG的出现,让我们看到了AI系统在处理复杂知识方面的巨大潜力。它不仅仅是技术的进步,更是对人类知识组织和利用方式的一种全新探索。正如艾萨克·阿西莫夫所说:"科学搜集事实,就像从沙滩上搜集鹅卵石一样。但科学的真正特质不是搜集事实,而是用事实解释其他事实。"WeKnow-RAG正是朝着这个方向迈出了重要一步,它不仅能搜集信息,更能理解信息之间的联系,从而产生更深刻的洞察。在这个信息爆炸的时代,我们不缺乏数据,缺乏的是将数据转化为有用知识的能力。

参与评论您还未登录，请先登录后发表或查看评论

GraphRAG：知识图谱+RAG技术

最新发布

jennycisp的博客

05-10

1230

在介绍RAG之前，先来介绍一下Langchain-chatchat的自定义Agent功能，由于在工作中遇到的业务场景，希望将预测模型（经典时序预测模型、深度时序预测模型、时序大模型）作为Agent供大模型去调用，因此基于Qwen2大模型基座，实现了自定义Agent功能。

在大模型RAG系统中应用知识图谱

我相信......

02-25

3195

【引子】关于大模型及其应用方面的文章层出不穷，聚焦于自己面对的问题，有针对性的阅读会有很多的启发，本文源自Whyhow.ai 上的一些文字和示例。对于在大模型应用过程中如何使用知识图谱比较有参考价值，特汇总分享给大家。在基于大模型的RAG应用中，可能会出现不同类型的问题，通过知识图谱的辅助可以在不同阶段增强RAG的效果，并具体说明在每个阶段如何改进答案和查询。知识图谱更类似于结构化数据存储，而不...

为什么说知识图谱 + RAG ＞传统 RAG？

金融机器智能社区

07-23

1748

你是否曾觉得自己的大脑充斥了一团乱麻般的随机事实？知识图谱模拟了我们大脑思考事物，以及事物间关系的方式，同时又规避了大脑会遗忘和错误决策等问题。我们可以将知识图谱视为带了主语、谓语和宾语的三元组。它们将信息表示为一个由相互连接的实体组成的网络，以及实体之间的关系。本质上，知识图谱利用基于图的数据模型，其中节点代表实体（如人、地点或概念的主体和宾语），边表示这些实体之间的关系或谓语。OpenSPG 是一个语义增强的可编程知识图谱，GitHub地址如下，欢迎大家Star关注~

检索增强生成（RAG）与知识图谱：结合自然语言处理与知识表示的前沿技术

威哥说编程

12-05

1112

检索增强生成（RAG）是一种结合了生成式和检索式模型的混合型方法。其核心思想是，在生成模型进行回答或生成任务之前，先通过一个检索模块从大量的外部文档或知识库中检索相关信息，然后将这些检索到的信息输入到生成模型中，辅助生成更精确和相关的答案或内容。传统的生成式模型（如GPT）在生成时仅依赖于其训练数据中的知识，而检索增强生成则通过引入外部知识源来弥补这一限制。这种方法能够显著提高生成任务的准确性和信息的相关性，尤其是在处理动态更新的信息时。

善用知识图谱，问答助手只“解惑”，不“闲聊”

ShushengPuyu的博客

08-02

1857

作为聊天工具，机器人越来越多地被应用于群聊中。但是群聊场景中往往存在信息繁杂、消息泛滥等情况。聊天机器人如何应对？作为一款基于大语言模型的知识问答AI助手，茴香豆（HuixiangDou）可被部署在社交软件群聊中，避免无效的“闲聊”，更高效地帮助用户答疑解惑。开源以来，得益于准确检索、低成本部署等优势，茴香豆受到开发者广泛好评。

知识图谱和RAG如何结合？

百态老人的博客

08-18

1167

从原始文本中提取知识图谱：GraphRAG首先将非结构化文档转换为结构化的知识图谱，这包括节点和关系的组织。构建社区层次结构：在知识图谱的基础上，GraphRAG进一步构建社区层次结构。这些社区是基于相似主题或内容的集合，有助于更好地理解和组织信息。为社区生成摘要：针对每个社区，GraphRAG会生成相应的摘要，以提供更高效、准确的信息检索和总结能力。利用RAG任务执行时的结构：在实际应用中，GraphRAG会在执行基于检索增强生成（RAG）的任务时利用这些社区层次结构和生成的摘要，从而提升整体性能。

GraphRag实战篇：RAG+知识图谱，提升模型推理能力的大杀器，值得收藏！

2401_85378759的博客

12-25

4437

前言经典RAG应用的范式与架构已经非常流行，我们可以在很短的时间内借助成熟框架开发一个简单能用的RAG应用。但是传统的RAG系统有个非常大的局限，即不善于处理复杂关系推理、总结性问题和多跳问题。因为传统RAG需要对文本进行分块，然后进行向量化存储，这种处理模式就会天然导致RAG在全局查询或总结上的表现不会太好。比如面对这样的问题，“《跨越鸿沟》这本书整体上讲了什么？请撰写一份2000字的总结”，传统RAG大概率会表现不及格。同样的，在对文本分块之后，可能会丢失一些信息之间的关系和因果性，因此在处理多跳问题时

一文搞懂GraphRAG（RAG + 知识图谱）

m0_59235699的博客

04-25

1530

输入：近五年AI领域文献数据。

RAG | 使用知识图谱和大模型把书读透了

m0_59163425的博客

07-30

1309

今天，既不讲技术，也不讲产品，就是分享一个有意思的事情。读书、学习、做研究、学以致用做产出是每个人在知识领域的循环。作为一个重度的知识工作者，梦想有一个聪明的助手帮我们来“读书、理解”，最好能以费曼的方式和我们探讨，甚至最终和我们协作一起搞创造。最近，我们做了一个实验，应用当前关注的RAG结合提取出的知识图谱来读书，发现结果很有意思。当然，为了和人类能够交互，需要一个大模型和我们进行问答。考虑到未来可能的。

整合文本和知识图谱嵌入提升RAG的性能

deephub

05-03

4528

在(RAG)中同时使用文本嵌入和知识嵌入可以从几个方面增强模型的性能和能力:1、文本嵌入捕获单个单词或短语的语义，而知识嵌入捕获实体之间的明确关系。通过两种嵌入的集成，RAG模型实现了对输入文本和存储在知识图中的组织信息的更全面的把握。2、文本嵌入通过分析输入文本中的词共现提供有价值的上下文见解，而知识嵌入通过检查知识图中实体之间的关系提供上下文相关性。通过组合不同类型的嵌入，RAG模型能够生成与输入文本在语义上相关且在上下文中与结构化知识一致的响应。

从传统 RAG 到知识图谱 RAG

xx_nm98的博客

06-27

2259

众所周知，大型语言模型（LLM）在固定数据集上运行，其知识在上次训练更新时被冻结。ChatGPT 的普通用户可能会认识到众所周知的限制：“截至 2021 年 9 月的训练数据”。这种限制可能导致不准确或过时的响应，因为这些模型会“幻觉”信息。在不进行再培训或微调的情况下，用新信息更新它们或增强上下文理解在资源和人力方面都可能具有挑战性。

突破传统RAG局限：GraphRAG如何提升大模型问答能力？

xx_nm98的博客

10-25

823

大模型存在不可避免的幻觉问题，这正是RAG（检索增强生成）发挥作用的地方。RAG通过连接外部数据源，将事实型知识引入大模型。但是，传统基于向量的RAG仍有其局限性，传统RAG是将数据分解成文本块，并独立检索这些片段，这可能导致遗漏信息片段之间的关系，缺乏全局视角。GraphRAG是一种正在兴起的RAG技术，利用知识图谱来表示数据和元数据，同时还可以将文本或节点嵌入到图中。GraphRAG通过将知识图谱融入检索过程，提升传统RAG的性能，更好地理解语义关联。

知识图谱 + RAG：让大模型检索更精准

weixin_59191169的博客

03-22

1631

知识图谱能够有效解决这些问题，通过结构化的知识表达，使检索和生成更具逻辑性和精准性。知识图谱（Knowledge Graph, KG）是一种用于表示和存储结构化知识的数据模型。将知识图谱与 RAG 结合，可以大幅提升大模型的检索精度和生成质量。

一、技术分类与路线检索增强生成（RAG）方法论：将检索与生成结合，通过外部知识库增强模型输出质量。代表技术：RAG（Retrieval-Augmented Generation）、RAGFloW（检索流程优化框架）、FastGPT（高效检索增强的轻量GPT）。特点：依赖预训练模型的生成能力，结合实时检索技术（如BM25或稠密检索）动态补充知识1。 知识图谱增强生成（KAG）方法论：通过结构化知识图谱注入领域知识，优化生成内容准确性。代表技术：K-LoRA（知识图谱微调的LoRA策略）、KAG（知识增强生成框架）。特点：利用三元组到文本的生成任务，学习知识图谱格式与领域语言风格。多模态与自动化工作流方法论：融合多模态数据或自动化流程提升生成效率。代表技术：UtoFlow（自动化工作流工具）、CLIP（多模态对齐模型）、Deepcher（可能为DeepSeek的检索增强工具）。特点：跨模态语义对齐（如CLIP）或端到端任务编排（如UtoFlow）。二、与传统/深度学习文本向量化的区别方法类型代表技术核心区别传统统计方法 BoW、TF-IDF 基于词频统计，无语义关联，适用于浅层文本分类静态词向量 Word2Vec、GloVe 生成固定词向量，无法处理一词多义，适合词级任务（如相似度计算）动态上下文编码 BERT、ELMo 生成上下文相关向量，捕捉复杂语义，适用于句子/段落级理解（如问答、摘要）多模态向量 CLIP 对齐文本与图像语义空间，支持跨模态检索与生成检索增强生成 RAG、RAGFloW 不直接生成向量，而是通过检索外部知识动态优化生成结果知识增强生成 KAG、K-LoRA 注入结构化知识图谱，通过微调适配领域语言风格。根据以上内容，输出向量化技术路线的思维导图

03-21

<think>嗯，用户想创建一个关于向量化技术路线的思维导图，特别是要包括RAG、KAG、传统方法和多模态技术。首先，我需要理解这些技术各自的定义和特点。根据提供的引用，KAG是知识感知图，结合了知识图谱和实时更新等特性，可能涉及自然语言推理任务，比如实体链接和分类扩展[^3]。RAG（检索增强生成）我之前了解过，它结合检索和生成模型，用于生成更准确的回答。传统方法可能指TF-IDF或者Word2Vec这些早期的向量化技术。多模态技术则涉及处理文本、图像等多种数据类型的融合。接下来，用户的需求是设计思维导图的结构，需要区分这些技术的区别与联系。思维导图通常有中心主题，然后分支出各个子主题。所以中心应该是“向量化技术路线”，然后四个分支：RAG、KAG、传统方法、多模态技术。每个分支下需要进一步细分，比如技术特点、核心能力、应用场景、优缺点。例如，KAG的核心能力可能包括语义推理和动态更新，而RAG可能强调检索与生成的结合[^1]。传统方法可能注重词频统计，如TF-IDF，而多模态则处理跨模态数据对齐。还要注意引用内容里的信息，比如KAG构建了8000个概念的知识集，这点可以放在KAG的细节里。另外，用户提到的技术路线对比来自梁老师，可能需要将不同技术的优缺点对比作为一个部分。同时，多模态技术可能需要结合医学领域的应用，如引用中提到的AliCG概念图[^2]，可能涉及实时更新和个性化适应，这可能与多模态的动态处理有关联。用户可能希望思维导图能清晰展示各技术的独特之处和相互联系。例如，RAG和KAG都结合了外部知识，但RAG侧重于检索外部文档，而KAG利用结构化的知识图谱。传统方法可能在处理复杂语义时有限，而多模态技术则扩展了数据类型的处理能力。需要将这些对比点明确列出，帮助用户一目了然。此外，用户可能需要一些设计工具的建议，比如XMind或ProcessOn，这些工具支持分层结构，适合制作技术路线图。最后，生成相关问题可以帮助用户深入思考，比如技术选型依据或如何融合不同技术，这也是用户潜在的需求，可能需要进一步解答。</think># 向量化技术路线思维导图设计指南 ## 一、核心框架设计 $$ \text{中心主题} \rightarrow \text{向量化技术路线} $$ 分支结构建议分为四大模块： 1. **传统方法**（如TF-IDF、Word2Vec） 2. **检索增强生成（RAG）** 3. **知识感知图（KAG）** 4. **多模态技术** ## 二、技术对比维度 ```mermaid graph TD A[向量化技术] --> B[传统方法] A --> C[RAG] A --> D[KAG] A --> E[多模态] B --> F[基于词频统计] C --> G[检索+生成联合] D --> H[动态知识图谱] E --> I[跨模态对齐] ``` ## 三、关键技术细节 ### 1. 知识感知图（KAG） - **核心能力**：实体消歧、语义推理、动态更新 - **技术特征**： - 包含8000+细粒度概念节点[^3] - 支持实时知识注入 - 医学领域应用案例：AliCG概念图[^2] ### 2. 检索增强生成（RAG） - **实现路径**：文档检索 → 向量匹配 → 生成优化 - **技术优势**：缓解大模型幻觉问题[^1] ### 3. 多模态技术 - **典型架构**：文本编码器 + 图像编码器 → 联合空间映射 - **关键技术**：跨模态注意力机制 ## 四、关联关系标注 1. KAG与RAG的协同：知识图谱可为RAG提供结构化检索支持 2. 传统方法与深度学习的演进关系 3. 多模态技术对各模块的增强作用 ## 五、推荐工具 1. **XMind**：适合分层结构展示 2. **ProcessOn**：支持在线协作 3. **Draw.io**：可绘制技术演进路线