Nice!使用开源工具组建一个AI编码小助手

         “ Ollama 是一个致力于推动本地人工智能模型开发和应用的工具和平台,允许用户在本地运行、管理和调用各种 AI 模型。它的核心理念是提供一种无需依赖云计算环境的方式,让开发者和企业能够高效地使用 AI 模型,同时确保数据隐私和安全。

      本次使用Ollama运行LLM,VSCode上安装continue插件,同时配置本地运行的LLM,达成AI编码小助手的体验,当然是丐版哦!

图片

01怎么搭建?

本次以windows为例,当然使用了WSL(Ubuntu)了

安装ollama

curl -fsSL https://ollama.com/install.sh | sh
ollama常用命令
# 查看已有模型ollama list# 下载模型ollama pull qwen2:7b# 运行模型ollama run qwen2:7b ollama run codeqwenollama run nomic-embed-text

运行Codeqwen 7b+Qwen2 7B + nomic-embed-text

借助 Ollama与LanceDB向量化技术,可以去更高效的进行代码检索和聊天.

图片

VScode 安装continue + 配置模型

图片

 "models": [    {      "title": "Codeqwen 7B",      "provider": "ollama",      "model": "codeqwen",      "apiBase": "http://127.0.0.1:11434"    }  ],  "embeddingsProvider": {    "provider": "ollama",    "model": "nomic-embed-text",    "apiBase": "http://127.0.0.1:11434"  },  "tabAutocompleteModel": {    "title": "Qwen2 7B",    "provider": "ollama",    "model": "qwen2:7b",    "apiBase": "http://127.0.0.1:11434"  },

到此,配置已经完成,可以开始体验一下了!

02干活

      我想来个冒泡算法,那么只需要标注想写的地方,就会自动将冒泡算法给你在文件中标注的地方写出来

图片

      chat对话功能也是能够达到基本预期的。

图片

PS:有个比较严重的问题,因为是本地运行,所以智算能力太差,响应速率还是远远比不上当前流行的工具,只能体验体验,当然,大老板们请忽略

想知道更多的开源github工具,请关注公众号:开源github甄选

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

码农在失业

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值