先总结
1.系统推理模型：主要用于生成对话、回答问题等自然语言处理任务。
2.Embedding 模型：用于将文本转换为向量，便于检索和匹配。
3.Rerank 模型：用于改进搜索结果的相关性和准确性。
4.语音转文字模型：用于将用户的语音输入转换为文字，以便进行进一步处理。
这四类模型在不同的应用场景中发挥着重要的作用，通过合理选择和组合这些模型，可以构建出更加智能和高效的对话系统和知识检索系统。
1. 系统推理模型
- 用途：
应用创建：在创建的应用中，用的是该类型的模型。这类模型主要用于生成对话、回答问题、提供建议等。
智聊：在智能聊天场景中，生成自然的对话响应。
对话名称生成：为对话生成合适的名称或标题。
下一步问题建议：根据用户的输入，提供建议的下一步问题或对话方向。
- 支持的供应商：
OpenAI、Azure OpenAI Service、Anthropic、Hugging Face Hub、Replicate、Xinference、OpenLLM、讯飞星火、文心一言、通义千问、Minimax、ZHIPU (ChatGLM)
2. Embedding 模型
- 用途：
知识库文档处理：将分段过的文档转换为向量（Embedding），以便在知识库中进行高效的检索和匹配。
用户提问处理：将用户的提问转换为向量，以便与知识库中的文档向量进行对比，找到最相关的答案。
- 支持的供应商：OpenAI、ZHIPU (ChatGLM)、Jina AI (Jina Embeddings)
3. Rerank 模型、
- 用途：
增强检索能力：在获取到初步检索结果后，使用 Rerank 模型对这些结果进行重新排序，提高搜索结果的相关性和准确性。
- 支持的供应商：Cohere、Jina AI (Jina Reranker)
4. 语音转文字模型
- 用途：
语音转文字：在对话型应用中，将用户的语音输入转换为文字，以便进行进一步的处理和响应。
- 支持的供应商：OpenAI
核心步骤
1.用自然语言编写提示词：把任务逻辑、步骤、要求、注意事项等内容描述清楚
2.把多个数据表的的结构说明和SQL示例作为知识库，通过RAG提供给大模型作为背景信息（知识库的搭建部分：①数据库查询语句&SQL示例，②数据表结构说明）
3.把执行数据库SQL查询发布为一个工具，提供给AI大模型按需求调用
扫一扫
2465
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
