基于RAG的text2sql解决方案vanna-ai 私有化部署使用实战

最新推荐文章于 2025-05-13 15:53:10 发布
最新推荐文章于 2025-05-13 15:53:10 发布
阅读量2.1k 收藏 26
点赞数 15
CC 4.0 BY-SA版权
文章标签： 人工智能 自然语言处理 深度学习 大模型训练 大模型 私有化部署 RAG
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zhishi0000/article/details/144020744

在这里插入图片描述

1

安装python 虚拟环境

安装 Miniconda3

Step 1: 下载

$ wgethttps://repo.continuum.io/miniconda/Miniconda3-latest-Linux-x86_64.sh

Step2: 运行脚本

$ sh Miniconda3-latest-Linux-x86_64.sh

Step3: 设置环境变量

vi /etc/profile

export PATH=“/data/apps/miniconda3/bin:$PATH”

source /etc/profile

Step 4: 卸载

$ rm -rf /data/apps/miniconda3/

创建虚拟环境

//创建

conda create -n test python=3.10

退出shell 重新登录 才生效

//激活

conda activate test

//销毁

conda deactivate test

//查看

conda info --env

2Vanna 借助 OpenAI, Marqo 生成 MySql SQL语句

2.1Vanna三个主要基础设施

1Database，即需要进行查询的关系型数据库

2VectorDB，即需要存放RAG“模型”的向量库

3LLM，即需要使用的大语言模型，用来执行Text2SQL任务

在这里插入图片描述

2.2下载向量数据库marqo

docker pull docker.rainbond.cc/marqoai/marqo:latest

docker run --name marqo -it -p 8882:8882 docker.rainbond.cc/marqoai/marqo:latest

需要服务器翻墙才能从hf上下载下来

open_clip/ViT-B-32/laion2b_s34b_b79k

hf/e5-base-v2

在这里插入图片描述

安装marqo客户端

(test) root@ubuntu:/data/scripts# pip install marqo

测试marqo client

(test) root@ubuntu:/data/scripts# cat marqo_test.py 
import marqo

mq = marqo.Client(url='http://10.0.2.15:8882')

mq.delete_index("my-first-index")
mq.create_index("my-first-index", model="hf/e5-base-v2")

mq.index("my-first-index").add_documents([
    {
        "Title": "The Travels of Marco Polo",
        "Description": "A 13th-century travelogue describing Polo's travels"
    }, 
    {
        "Title": "Extravehicular Mobility Unit (EMU)",
        "Description": "The EMU is a spacesuit that provides environmental protection, "
                       "mobility, life support, and communications for astronauts",
        "_id": "article_591"
    }],
    tensor_fields=["Description"]
)

results = mq.index("my-first-index").search(
    q="What is the best outfit to wear on the moon?"
)
print(results)
(test) root@ubuntu:/data/scripts#

在这里插入图片描述

2.3mysql 数据库导入

数据库表结构和数据

mysql> show create table host;
| host  | CREATE TABLE `host` (
  `ID` int(11) NOT NULL AUTO_INCREMENT,
  `ApplicationID` varchar(128) DEFAULT NULL COMMENT '应用ID',
  `AssetID` int(11) DEFAULT NULL COMMENT '资产ID',
  `BakOperator` varchar(128) DEFAULT '' COMMENT '备份操作人',
  `Cpu` int(3) NOT NULL DEFAULT '0' COMMENT 'CPU',
  `CreateTime` datetime NOT NULL DEFAULT '1970-01-01 00:00:00' COMMENT '创建日期',
  `Description` varchar(256) DEFAULT '' COMMENT '备注',
  `Env` varchar(20) DEFAULT NULL,
  `DeviceClass` varchar(50) DEFAULT '一级',
  `HostName` varchar(32) NOT NULL DEFAULT '' COMMENT '主机名',
  `InnerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '网内地址',
  `LastTime` timestamp NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新日期',
  `Mem` int(8) NOT NULL DEFAULT '0',
  `OS_kernel` varchar(128) DEFAULT NULL,
  `Operator` varchar(128) DEFAULT '' COMMENT '管理员',
  `OS_type` varchar(128) NOT NULL DEFAULT '' COMMENT '系统类型',
  `OuterIP` varchar(128) NOT NULL DEFAULT '' COMMENT '外网地址',
  `Status` varchar(10) DEFAULT '1',
  `Extend001` varchar(255) NOT NULL DEFAULT '',
  `Extend002` varchar(255) NOT NULL DEFAULT '',
  `Extend003` varchar(255) NOT NULL DEFAULT '',
  `Extend004` varchar(255) NOT NULL DEFAULT '',
  `Extend005` varchar(255) NOT NULL DEFAULT '',
  `Disk_mount` varchar(255) DEFAULT NULL COMMENT '硬盘挂载信息',
  `Disk` int(8) DEFAULT NULL COMMENT '硬盘信息',
  `IdcName` varchar(128) DEFAULT '' COMMENT '机房名称',
  PRIMARY KEY (`ID`)
) ENGINE=InnoDB AUTO_INCREMENT=614 DEFAULT CHARSET=utf8 ROW_FORMAT=DYNAMIC COMMENT='主机基础信息表' |


mysql> show create table server;
                                                                                                                                                                                     
| server | CREATE TABLE `server` (
  `ApplicationID` int(11) DEFAULT NULL COMMENT '应用ID',
  `ID` int(64) NOT NULL AUTO_INCREMENT COMMENT '主键',
  `HardMemo` varchar(16) NOT NULL DEFAULT '' COMMENT '服务器品牌型号',
  `Cpu_model` varchar(128) DEFAULT '0' COMMENT 'CPU',
  `Cpu_number` int(4) DEFAULT NULL COMMENT '物理cpu个数',
  `HostName` varchar(32) NOT NULL DEFAULT '',
  `DeviceClass` varchar(50) DEFAULT '一级',
  `Region` varchar(8) DEFAULT '' COMMENT '区域-ucloud使用',
  `OS_type` varchar(32) DEFAULT '' COMMENT '系统类型',
  `OS_kernel` varchar(32) NOT NULL DEFAULT '' COMMENT '系统内核',
  `SN` varchar(32) NOT NULL DEFAULT '' COMMENT 'SN编号',
  `ServerRack` varchar(16) NOT NULL DEFAULT '' COMMENT '架机号',
  `CreateTime` datetime NOT NULL DEFAULT '1970-01-01 00:00:00' COMMENT '创建日期',
  `IdcName` varchar(128) DEFAULT '' COMMENT '房机名称',
  `LastTime` timestamp NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新日期',
  `Operator` varchar(128) NOT NULL DEFAULT '' COMMENT '理管员',
  `BakOperator` varchar(128) DEFAULT '' COMMENT '备份操作人',
  `Status` varchar(10) DEFAULT '1',
  `ManagerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '管理地址',
  `Raid` varchar(255) DEFAULT NULL COMMENT 'raid级别',
  `Is_virtualization` varchar(10) DEFAULT '1',
  `InnerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '网内地址',
  `OuterIP` varchar(128) DEFAULT '' COMMENT '外网地址',
  `Description` varchar(256) NOT NULL DEFAULT '' COMMENT '备注',
  `Extend001` varchar(255) DEFAULT NULL,
  `Extend003` varchar(255) DEFAULT '',
  `Extend004` varchar(255) DEFAULT '',
  `Extend005` varchar(255) DEFAULT '',
  `Extend002` varchar(255) DEFAULT '',
  `Cpu_cores` int(4) DEFAULT NULL COMMENT 'cpu核数',
  `Mem` int(18) DEFAULT '0',
  `Disk_mount` varchar(2000) DEFAULT NULL COMMENT '硬盘分区',
  `Disk_total` int(255) DEFAULT NULL COMMENT '硬盘',
  PRIMARY KEY (`ID`)
) ENGINE=InnoDB AUTO_INCREMENT=33 DEFAULT CHARSET=utf8 ROW_FORMAT=DYNAMIC COMMENT='资产基础信息表' |


mysql>

2.4OpenAI 模型准备

私有化部署自己的模型或者使用 siliconflow.cn 免费体验 获取apikey 和 base_url

2.5Vann使用本地向量数据库和OpenAI测试MySQL

安装相应的包：

%pip install 'vanna[marqo,openai,mysql]'

(base) root@ubuntu:/data/scripts# more vanna_test.py 
from vanna.openai import OpenAI_Chat
from vanna.marqo import Marqo_VectorStore
from openai import OpenAI

MARQO_URL='http://10.0.2.15:8882'
MARQO_MODEL="hf/e5-base-v2"

client = OpenAI(
    api_key="EMPTY",
    base_url="http://111.111.111.111:30880/v1/"
)

class MyVanna(Marqo_VectorStore, OpenAI_Chat):
    def __init__(self,client=None, config=None):
        Marqo_VectorStore.__init__(self, config={'marqo_url': MARQO_URL, 'marqo_model': MARQO_MODEL})
        OpenAI_Chat.__init__(self,client=client, config=config)


vn = MyVanna(client=client, config={"model": "Qwen2.5-72B-Instruct"})

vn.connect_to_mysql(host='192.168.0.13', dbname='test', user='test', password='123456', port=3306)




from vanna.flask import VannaFlaskApp
VannaFlaskApp(vn).run(host='0.0.0.0',port=5000)

VannaFlaskApp启动更多参数

在这里插入图片描述

//参数具体含义
auth：要使用的身份验证方法。
debug：控制是否显示调试控制台。
allow_llm_to_see_data：指示是否允许LLM查看数据。
logo：用户界面中显示的标志。默认为Vanna标志。
title：设置要在UI中显示的标题。
subtitle：设置要在UI中显示的副标题。
show_training_data：控制是否在UI中显示训练数据。
sql：控制是否在UI中显示SQL输入。
table：控制是否在UI中显示表格输出。
csv_download：指示是否允许将表格输出作为CSV文件下载。
chart：控制是否在UI中显示图表输出。
ask_results_correct：指示是否询问用户结果是否正确。
summarization：控制是否显示摘要。

运行vanna_test.py脚本
(test)root@ubuntu:/data/scripts# python vanna_test.py

浏览器访问地址：http://127.0.0.1:5000

在这里插入图片描述

3、训练数据

3.1 命令行训练数据

1.添加表机构DDL

2.添加任意可以向量化的ducoment

3.添加 指定的sql 语句

读取列数据让训练
# The information schema query may need some tweaking depending on your database. This is a good starting point.
df_information_schema = vn.run_sql("SELECT * FROM INFORMATION_SCHEMA.COLUMNS")

# This will break up the information schema into bite-sized chunks that can be referenced by the LLM
plan = vn.get_training_plan_generic(df_information_schema)

# If you like the plan, then uncomment this and run it to train
vn.train(plan=plan)

通过DDL告诉大模型每个字段确切的含义
# DDL statements are powerful because they specify table names, colume names, types, and potentially relationships
vn.train(ddl="""
    CREATE TABLE IF NOT EXISTS user (
        id INT PRIMARY KEY,
        name VARCHAR(100) NOT NULL COMMENT '名字',
        age INT NOT NULL COMMENT '年龄'
    )ENGINE=InnoDB COMMENT='用户信息表';
""")

有时候需要告诉大模型约定一些定制化的需求
# Sometimes you may want to add documentation about your business terminology or definitions.
vn.train(documentation="请注意，在我们公司一般将1作为否，0作为是。")
有时间还需要指定指定的问题和对应的sql，纠正大模型给出的错误sql
# You can also add SQL queries to your training data. This is useful if you have some queries already laying around. You can just copy and paste those from your editor to begin generating new SQL.
vn.train(question="查查老吴的信息",sql="SELECT * FROM user WHERE name = '老吴'")

获取训练数据-----一般图形界面操作
# At any time you can inspect what training data the package is able to reference
training_data = vn.get_training_data()
training_data

删除训练数据----一般图形界面操作
# You can remove training data if there's obsolete/incorrect information. 
vn.remove_training_data(id='1-ddl')

# Asking the AI
vn.ask(question=...)

3.2 图形界面添加训练数据

在这里插入图片描述

3.3 实验训练的表结构

需要注意的是表机构的备注要足够清晰，以便大模型能更好的理解表结构

1.服务器主机表（包括虚拟机）

CREATE TABLE `host` ( `ID` int(11) NOT NULL AUTO_INCREMENT,
`ApplicationID` varchar(128) DEFAULT NULL COMMENT '应用ID',
`AssetID` int(11) DEFAULT NULL COMMENT '资产ID',
`BakOperator` varchar(128) DEFAULT '' COMMENT '备份操作人',
`Cpu` int(3) NOT NULL DEFAULT '0' COMMENT 'CPU',
`CreateTime` datetime NOT NULL DEFAULT '1970-01-01 00:00:00' COMMENT '创建日期',
`Description` varchar(256) DEFAULT '' COMMENT '备注',
`Env` varchar(20) DEFAULT NULL,
`DeviceClass` varchar(50) DEFAULT '一级',
`HostName` varchar(32) NOT NULL DEFAULT '' COMMENT '主机名',
`InnerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '网内地址',
`LastTime` timestamp NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新日期',
`Mem` int(8) NOT NULL DEFAULT '0',
`OS_kernel` varchar(128) DEFAULT NULL,
`Operator` varchar(128) DEFAULT '' COMMENT '管理员',
`OS_type` varchar(128) NOT NULL DEFAULT '' COMMENT '系统类型',
`OuterIP` varchar(128) NOT NULL DEFAULT '' COMMENT '外网地址',
`Status` varchar(10) DEFAULT '1',
`Extend001` varchar(255) NOT NULL DEFAULT '',
`Disk_mount` varchar(255) DEFAULT NULL COMMENT '硬盘挂载信息',
`Disk` int(8) DEFAULT NULL COMMENT '硬盘信息',
`IdcName` varchar(128) DEFAULT '' COMMENT '机房名称',
PRIMARY KEY (`ID`) ) ENGINE = InnoDB DEFAULT CHARSET = utf8 ROW_FORMAT = DYNAMIC COMMENT = '主机基础信息表';

2.服务器物理机表

CREATE TABLE `server` (
`ApplicationID` int(11) DEFAULT NULL COMMENT '应用ID',
`ID` int(64) NOT NULL AUTO_INCREMENT COMMENT '主键',
`HardMemo` varchar(16) NOT NULL DEFAULT '' COMMENT '服务器品牌型号',
`Cpu_model` varchar(128) DEFAULT '0' COMMENT 'CPU',
`Cpu_number` int(4) DEFAULT NULL COMMENT '物理cpu个数',
`HostName` varchar(32) NOT NULL DEFAULT '',
`DeviceClass` varchar(50) DEFAULT '一级',
`Region` varchar(8) DEFAULT '' COMMENT '区域-ucloud使用',
`OS_type` varchar(32) DEFAULT '' COMMENT '系统类型',
`OS_kernel` varchar(32) NOT NULL DEFAULT '' COMMENT '系统内核',
`SN` varchar(32) NOT NULL DEFAULT '' COMMENT 'SN编号',
`ServerRack` varchar(16) NOT NULL DEFAULT '' COMMENT '架机号',
`CreateTime` datetime NOT NULL DEFAULT '1970-01-01 00:00:00' COMMENT '创建日期',
`IdcName` varchar(128) DEFAULT '' COMMENT '房机名称',
`LastTime` timestamp NULL DEFAULT CURRENT_TIMESTAMP ON UPDATE CURRENT_TIMESTAMP COMMENT '更新日期',
`Operator` varchar(128) NOT NULL DEFAULT '' COMMENT '理管员',
`BakOperator` varchar(128) DEFAULT '' COMMENT '备份操作人',
`Status` varchar(10) DEFAULT '1',
`ManagerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '管理地址',
`Raid` varchar(255) DEFAULT NULL COMMENT 'raid级别',
`Is_virtualization` varchar(10) DEFAULT '1',
`InnerIP` varchar(128) NOT NULL DEFAULT '' COMMENT '网内地址',
`OuterIP` varchar(128) DEFAULT '' COMMENT '外网地址',
`Description` varchar(256) NOT NULL DEFAULT '' COMMENT '备注',
`Extend001` varchar(255) DEFAULT NULL,
`Cpu_cores` int(4) DEFAULT NULL COMMENT 'cpu核数',
`Mem` int(18) DEFAULT '0',
`Disk_mount` varchar(2000) DEFAULT NULL COMMENT '硬盘分区',
`Disk_total` int(255) DEFAULT NULL COMMENT '硬盘',
PRIMARY KEY (`ID`)
) ENGINE=InnoDB AUTO_INCREMENT=33 DEFAULT CHARSET=utf8 ROW_FORMAT=DYNAMIC COMMENT='资产基础信息表';

3.训练表结构

img

4.提问问题测试

统计服务器内存总数

在这里插入图片描述

统计虚拟机操作系统类型

在这里插入图片描述

​

如何学习AI大模型？

作为一名热心肠的互联网老兵，我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

一、全套AGI大模型学习路线

AI大模型时代的学习之旅：从基础到前沿，掌握人工智能的核心技能！

img

二、640套AI大模型报告合集

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。

img

三、AI大模型经典PDF籍

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。

img

四、AI大模型商业化落地方案

img

作为普通人，入局大模型时代需要持续学习和实践，不断提高自己的技能和认知水平，同时也需要有责任感和伦理意识，为人工智能的健康发展贡献力量。

vanna-ai 私有化部署使用实战
wu_tech的博客
11-25 6719
基于RAG的text2sql 解决方案vanna私有化部署和使用实践
vanna_ai私有化部署（mysql数据库+Milvus向量库+Qwen2.5 LLM）
关于背包问题动态规划代码的理解和应用——
02-22 1612
在上一篇博客https://blog.csdn.net/m0_37659226/article/details/145797076提到vanna_ai本地部署，但是用到的还是百炼平台的大模型，如果要使用自己本地部署的大模型要怎么做呢？本博客将介绍如何使用本地部署的Milvus向量库+Qwen2.5 来部署vanna_ai。
在RAGFlow中实践Text2SQL
datageek的博客
08-29 8162
RAGFlow 0.10 正式发布，应广大社区用户要求，引入了Text2SQL特性。
用了都说好！Vanna，助力高速实现Text2SQL技术
最新发布
prtinf48_9的博客
05-13 1217
Vanna是一个开源的Python RAG框架，专注于将自然语言问题转换为SQL查询，并展示查询结果。其核心功能包括训练阶段和推理阶段。在训练阶段，用户可以通过DDL语句、文档或SQL查询来训练模型，构建数据库的向量表示。在推理阶段，Vanna将用户的问题转换为向量，检索相关上下文信息，生成SQL查询并执行，最后以表格或图表形式返回结果。Vanna的优势在于其用户友好性和学习能力，适合非技术专家使用。通过结合千问大模型，Vanna可以实现自然语言查询数据库的功能，提升数据查询的便捷性和效率。
Text2SQL零代码实战！RAGFlow 实现自然语言转 SQL 的终极指南
Python_cocola的博客
03-17 5404
在企业大模型应用方面，Text2SQL一直是应用热点。大家都希望小嘴一张，就完成一系列数据提取和分析工作。但是，使用大模型自动理解业务需求，实现 SQL 代码编写和代码执行一直都存在技术难点。传统的 Text2SQL 方案，往往依赖大模型微调，对于中小企业而言，带来非常高的应用成本。今天，介绍一个方法，使用开源 RAG 框架RAGFlow，应用知识库检索与大模型推理结合，不需要对模型做任何微调，只需要仅需配置少量结构化数据即可实现精准SQL生成，实现指定数据查询、负责查询、计算，跨表计算等多种场景。
利用 RAGFlow 的 RAG 功能构建 Text2SQL Agent
2401_84495872的博客
03-22 1822
Text2SQL 代理弥补了自然语言处理 (NLP) 和结构化查询语言 (SQL) 之间的差距。并非所有用户都具有 SQL 背景或了解查询所涉及的表的结构。使用 Text2SQL 代理，用户可以用自然语言提出问题或请求数据，而无需深入了解数据库结构或 SQL 语法。对于熟悉 SQL 的用户，Text2SQL 代理简化了流程，使用户能够快速构建复杂查询，而无需手动编写每个部分的代码。手动编写 SQL 查询很容易出错，尤其是对于复杂的查询或不熟悉数据库结构的用户。
TEXT2SQL工具vanna本地化安装和应用
wengad的博客
05-10 9867
在待连接的mysql数据库的，demodb数据库中新建表和记录，当然可以在不同数据库里面创建表，并插入不同的数据，根据实际情况可以调整SQL，并调整后续步骤的python代码中连接数据库的内容。这里的脚本chroma使用的local的模型，运行了以下脚本后，会在运行的目录下生成chroma.sqlite3文件，存放训练的数据，别删了，删了那训练数据就没了，要重新来。这里使用的是centos7 ，并有一块11G显存的GeForce GTX 1080 Ti，本文编制的时候，使用的是vanna 0.5.4版本。
深入了解Text2SQL开源项目（Chat2DB、SQL Chat 、Wren AI 、Vanna）
weixin_44733966的博客
12-12 1万+
在数据驱动决策的时代，将自然语言查询转化为结构化查询语言（SQL）的能力变得日益重要。无论是小型创业公司还是大型企业，都希望能够更轻松地从海量的数据中挖掘出有价值的见解。然而，对于那些不熟悉SQL或者数据库架构的用户来说，直接编写复杂的查询语句往往是一个巨大的挑战。正是为了解决这一问题，Text2SQL技术应运而生，它允许用户通过简单的自然语言描述来获取他们所需的数据库信息。近年来，随着人工智能和机器学习领域的迅速发展，Text2SQL技术也取得了显著的进步。
Text2SQL-Vanna研究
01-17 1842
Vanna是一个开源的Python RAG（检索增强生成）框架，主要作用是帮助用户基于大型语言模型（LLMs），为其数据库生成精确的SQL查询。它通过在用户数据上训练RAG模型，然后依据用户提问生成可在数据库上执行的SQL查询，整个过程分为训练和提问两个简单步骤。同时，Vanna支持多种LLMs、向量数据库和SQL数据库，既能保证查询的高准确性，又能确保数据库内容的安全私密，还支持用户自定义前端界面，并通过用户反馈进行自我学习以提升查询准确性。
2 Text2SQL 智能报表方案介绍
qq_28611929的博客
01-20 4331
因此Text-to-SQL也可以被简写为NL2SQL。·输入：自然语言问题，比如“查询表t_user的相关信息，结果按id降序排序，只保留前10个数据”·输出：SQL，比如“SELECT*FROMt_userORDERBYidDESCLIMIT10”
使用vanna实现Text2SQL
Baker的博客
05-28 1814
这节一起用vanna来实现自然语言转SQL，之前的大模型一直停留在问答阶段，答案基本都是大模型提供的，至多是加点本地知识库，tet，pdf等文档，丰富大模型的内容，但是想要大模型与一些管理系统对接还是无能为力，这节就一起尝试下用vanna对接数据库，将自然语言转成标准的SQL对数据库进行查询。使用vanna之前需要打开vanna的官网申请一个key，如果之前没有注册过的话，还需要先注册一个vanna的账号，注册成功后，在。安装成功后，按照官网的步骤对接vanna,这里使用的是vanna的数据库，
大模型 LLM RAG在 Text2SQL 上的应用实践
机器学习社区
01-11 4683
在上篇文章中。
vanna：基于RAG的text2sql框架
beingstrong的博客
03-16 5378
基于RAG的SQL生成(text2sql)开源python框架vanna使用简介和原理探索
text2sql框架-vanna使用总结
adrninistrat0r的博客
07-13 5167
ChromaDB_VectorStore、MyCustomLLM、MyVanna 类都通过 config 接收使用的配置参数在创建 MyVanna 类时，可通过 config 传递配置参数MODEL_URL = "模型接口的 URL，http://xxx"MODEL = "模型名称"API_KEY = "模型提供的 API KEY"CHROMADB_PATH = "保存 ChromaDB 数据库文件的目录路径"
AI大模型应用(3)开源框架Vanna: 利用RAG方法做Text2SQL任务
qq_44665283的博客
10-24 2801
AI大模型应用(3)开源框架Vanna: 利用RAG方法做Text2SQL任务
vanna + qwq32b 实现 text2SQL
陈锐的技术笔记
04-10 980
Vanna 是一个开源的 Text-2-SQL 框架，主要用于通过自然语言生成 SQL 查询，它基于 RAG（Retrieval-Augmented Generation，检索增强生成）技术。Vanna 的核心功能是通过训练一个模型（基于数据库的元数据和用户提供的上下文），然后让用户通过自然语言提问来生成对应的 SQL 查询。它支持多种数据库和前端界面。
【亲测免费】 Vanna 开源项目教程
gitblog_00303的博客
08-08 1062
Vanna 开源项目教程 项目地址:https://gitcode.com/gh_mirrors/va/vanna 1. 项目介绍 Vanna 是一个基于MIT许可的Python框架，它专注于SQL生成和相关的文本到SQL转换功能。通过采用RAG（检索增强生成）技术，Vanna能够利用大型语言模型（LLMs）如OpenAI和ChromaDB，以实现精准的文本到SQL转化。这个框架设计灵活，支持自定...
本地部署Vanna实战，快速解决NLP2SQL
热门推荐
fengjian的博客
04-15 3万+
vanna可以结合自己的数据库以及向量库进行先训练后问答，这一块儿可以参考官网https://vanna.ai/docs/app/，官网还提供了使用 Vanna 构建一个网站应用程序或者一个应用程序接口（API）https://github.com/vanna-ai/vanna-flask，欢迎大家一起探讨学习。
介绍一下vanna
03-22
<think>嗯，用户想了解Vanna是什么，需要技术介绍。首先，我应该根据用户提供的引用内容来整理信息。看看引用里提到的内容，Vanna使用RAG技术结合了LLM和向量库，用于生成SQL查询。用户给的引用1提到Vanna默认使用OpenAI的LLM和向量库，不需要设置就能用，只需要五行代码就能连接数据库并提问。引用2强调了RAG技术在数据库查询中的潜力，提升效率和准确性，让非技术人员也能用。引用4提到Vanna的基本概念和快速启动方法，还有应用案例。 需要把这些信息整合成一个清晰的技术介绍。首先定义Vanna是什么，然后说明它的核心技术RAG，接着是架构组成，比如LLM、向量库、数据库连接器。然后提到它的优势，比如降低技术门槛、自动化生成SQL、可扩展性。可能还要提到应用场景，比如数据分析、数据平权、教育培训。还要确保按照用户给的格式要求，行内公式用$...$，独立公式单独成段，不过这里可能用不上数学公式，但要注意中文回答和相关问题的生成。 用户的问题可能还涉及Vanna的工作原理、如何实现SQL生成、支持的数据库类型、是否需要编程知识等。在回答时要覆盖这些点，但根据现有引用，可能需要推测部分内容，比如RAG的具体应用方式，或者Vanna如何处理自然语言查询。注意引用标记，比如在提到无需设置时加上[^1]，在优势部分引用[^2]和[^3]。 最后生成相关问题，考虑用户可能想了解Vanna的安装配置、与传统方法的对比、支持的数据库、是否需要编码、安全性等。确保问题相关且基于现有信息。</think>### Vanna 技术介绍 #### 1. **Vanna 是什么？** Vanna 是一个基于 **RAG（检索增强生成）技术**的智能数据库查询框架，旨在通过自然语言直接生成 SQL 语句，降低非技术人员操作数据库的门槛。其核心是通过结合大型语言模型（LLM）与向量库，将用户提问转化为结构化查询，并支持与多种数据库的直接交互[^2]。 #### 2. **核心技术：RAG 的应用** Vanna 的 RAG 流程分为两步： 1. **检索（Retrieval）**：从历史 SQL 查询记录或文档中匹配与当前问题相关的上下文。 2. **生成（Generation）**：利用 LLM 结合检索到的上下文，生成准确且可执行的 SQL 语句。 这一机制显著提升了生成 SQL 的准确性和效率，尤其适用于复杂查询场景。 #### 3. **架构组成** - **大型语言模型（LLM）**：默认对接 OpenAI，负责自然语言理解与 SQL 生成。 - **向量库**：存储历史 SQL 语句及其元数据，用于快速检索相关上下文。 - **数据库连接器**：支持 SQLite、Snowflake 等数据库，实现查询执行与结果返回[^4]。 #### 4. **核心优势** - **低门槛**：非技术人员可通过自然语言直接查询数据库[^3]。 - **自动化**：从提问到生成 SQL、执行查询、返回结果全流程自动化。 - **可扩展性**：允许自定义 LLM 和向量库，适配私有化部署需求[^4]。 #### 5. **应用场景** - **数据分析**：快速生成复杂报表的 SQL 语句（如“销售额排名前 10 的专辑”）。 - **数据平权**：赋能业务人员自主查询数据，减少对开发者的依赖。 - **教育培训**：帮助新手学习 SQL 语法与实际案例的结合。 --- ###
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值