Prompt Engineering ,Fine-tuning , RAG ？

最新推荐文章于 2025-06-10 22:30:52 发布

原创最新推荐文章于 2025-06-10 22:30:52 发布 · 1.4k 阅读

23 ·

CC 4.0 BY-SA版权

文章标签：

#prompt

大模型专栏收录该内容

18 篇文章

订阅专栏

Prompt Engineering ,Fine-tuning , RAG

总结：
1 prompt engineering
2 RAG (Retrieval Augmented Generation)
3 微调（Fine-tuning）
4 三者共性和区别
5 RAG和微调的适应场景
- - **RAG适用场景**
  - **微调适用场景**
6 **RAG+微调**
参考：

总结：

Q1：假如我想搞一个自己的知识库助手，选择那种方式比较合适？
A1：以我目前的了解来看，假如只是在微调和RAG里面选择。我会主要看个人需求。
RAG适用于知识需要快速更新的领域，对实时性要求不是特别高的应用场景。
微调适合的领域为数据量较小但质量高的领域。对模型效果有较高要求，且可以承担相应计算资源消耗的场景。领域知识比较独特，需要模型深入学习的场景。
所以，假如你想要做一个简单的智能知识助手，不要求精准度，而且以个人使用为主，那我建议你可以使用rag技术。如果你对模型的效果有非常高的要求，而且你的计算资源非常的多。那我还是建议你使用微调。

Q2: 是否可以联合微调和RAG技术，这样就可以同时具有他们的优点了，取长补短。
A2: 可以的，这样微调和rag就可以取长补短补短，详细可以见下文。

1 prompt engineering

提示工程相对是大家比较熟悉的概念，指的是通过精心设计，并且优化针对large language model的输入，来激发large language model的潜能，引导他在不同的任务上面呈现出更加精准，更加相关的输出出来。

那么大多数情况下prompts指的主要是文本，尤其是以自然语言来作为描述的文本，我们来构建这样的文本，然后把它输入给large language model，得出我们想要的结果，这个就是提示工程。

2 RAG (Retrieval Augmented Generation)

RAG,检索强化生成技术是一种结合了检索与生成的方法。它通常依赖于两个核心组件：一个大型语言模型（如GPT-3）和一个检索系统（如向量数据库）。RAG先使用检索系统从大量数据中检索出相关信息，然后将这些信息提供给语言模型，以便生成回答或文本。这样，RAG能够利用语言模型的强大生成能力以及检索系统提供的具体信息。

RAG这种方法将检索（或搜索）的能力集成到LLM中。它结合了一个检索系统和一个大模型，前者从大型语料库中获取相关文档片段，后者使用这些片段中的信息生成答案。本质上，RAG 帮助模型“查找”外部信息以改进其响应。

RAG特点

知识维度：RAG能够快速更新知识库，仅通过更新数据库来反映最新信息，无需重新训练模型。
效果维度：RAG在稳定性和可解释性方面表现较好，因为其生成的回答基于检索到的具体事实。
成本维度：在推理时，RAG需要额外的检索步骤，这可能增加实时性的成本。

RAG优势

更新知识快：只需更新数据库，无需重新训练模型。
稳定性较好：基于事实的检索结果可以提高回答的准确性。
可解释性：检索到的信息可以作为生成回答的依据。

RAG劣势

检索依赖：检索系统的质量直接影响最终效果。
增加实时性成本：检索过程需要额外的时间和计算资源。

3 微调（Fine-tuning）

微调是另外一种利用大模型的方式，它和前两个不同的地方在于，前面两种技术，不管是提示工程还是RAG，大模型本身是没有任何的变化的，但是如果做微调，其实是要去通过一个训练的过程来修改大模型它本身的参数，微调的技术也有很多种不同的分支。

微调是在预训练好的大型模型的基础上，使用特定领域的较小数据集来进一步训练模型的过程。通过这个过程，模型能够学习特定领域的知识，提高在特定任务上的表现。

微调采用预先训练的 LLM 并在较小的特定数据集上对其进行进一步训练的过程，以使其适应特定任务或提高其性能。通过微调，我们根据数据调整模型的权重，使其更适合我们应用程序的独特需求。

微调特点

知识维度：微调通过训练使模型获得新的领域知识，需要相对足量的领域数据。
效果维度：对于简单的任务，微调可能达到更高的效果上限，因为它可以针对性地调整模型参数。
成本维度：微调需要大量的计算资源（如GPU），且训练时间较长。

微调优势

领域适应性：能够学习特定领域的深入知识。
性能潜力：对于简单任务，可能达到比RAG更高的性能。

微调劣势

资源消耗大：需要大量的计算资源和时间进行训练。
知识遗忘：容易遗忘未在训练数据中出现的知识。

4 三者共性和区别

三者共性
刚才我们说的这三个概念，它们是有共性的。不管是prompt engineering，RAG还是fine tuning，他们都是利用large language model的手段，利用这些手段共同的目的都是提升大型语言模型的性能和效果。

三者区别：
说完共性之处，我们再来形象化地看一下这三者之间的不同，我们一起来把大模型想象成公司新来的一个实习生：

所谓prompt engineering就好像是我们这个用户作为老板直接给我们的大模型实习生下达一个任务命令最多我给他一两个之前的例子，然后就吩咐他去干活，比如我跟他说，你去写一个行研报告。那最多我给你看一个之前的行研报告是怎么写的，然后你就去写，这个就是prompt engineering。
RAG就好像我们在要求这个实习生去完成某个任务之前，先给了他的参考资料，让他先去学习。比如说我先给你很多的资料，我让你成为某某行业的行业专家，然后你再去给我写这个行业报告，这个就是RAG。
微调就好像我们把这个实习生又送去了一个培训班，专门的培训TA来做某一件事情，TA首先要经过一个非常严格的学习过程，一定要改变了TA的Mindset：要么改变了它的知识结构，要么改变了它的一些认知方式，然后才能够去完成这个任务。

5 RAG和微调的适应场景

知识更新：RAG通过更新数据库来更新知识，微调则是通过重新训练来吸收新知识。
效果稳定性：RAG通常在生成回答时更稳定，而微调可能达到更高的性能上限。
资源消耗：微调在训练时消耗资源较多，RAG在推理时增加额外的检索成本。

RAG适用场景

知识需要快速更新的领域。
对实时性要求不是特别高的应用场景。
需要高度可解释性或准确性的场景。

微调适用场景

数据量较小但质量高的领域。
对模型效果有较高要求，且可以承担相应计算资源消耗的场景。
领域知识比较独特，需要模型深入学习的场景。

6 RAG+微调

RAG和微调各自有优势，在某些场景下结合使用可以发挥各自的长处，提高整体的效果和效率。以下是在哪些场景下需要结合使用RAG和微调的一些建议：

复杂且知识密集的任务：对于需要深入领域知识和广泛背景信息的问题，单独使用RAG可能无法覆盖所有细节，而微调可以帮助模型更好地理解这些细节。
数据更新频繁的场景：在数据经常变化的情况下，使用RAG可以快速更新知识库，而微调可以帮助模型适应新的数据分布。
对实时性要求高的场景：如果单独使用RAG，检索步骤可能会增加延迟。通过微调优化模型，可以减少对检索系统的依赖，提高响应速度。
资源受限的场景：在资源有限的情况下，可以先使用RAG来减少需要微调的数据量，然后对关键或难以检索的信息进行微调。

RAG和微调相有如下的集中结合方式：

分阶段训练：
- 初步使用RAG：首先使用RAG来处理任务，利用其检索能力快速获取相关信息。
- 识别不足：分析RAG在处理任务时的不足，识别模型难以处理或经常出错的情况。
- 针对性微调：对识别出的问题进行数据收集，然后使用这些数据对模型进行微调，以改进模型在这些特定情况下的表现。
联合训练：
- 同时训练检索和生成：在微调过程中，可以同时训练检索组件和语言模型，使得两者能够更好地协同工作。
- 使用伪标签：可以使用生成模型生成的伪标签来训练检索组件，反之亦然。
迭代优化：
- 循环迭代：先使用RAG生成回答，然后使用这些回答进行微调，接着用微调后的模型来优化检索组件，形成一个迭代优化的闭环。
领域适应：
- 先微调后RAG：对于领域适应性要求高的场景，可以先对模型进行微调以适应特定领域，然后使用RAG来补充微调未覆盖的知识。