本地部署大模型ollama+docker+open WebUILobe Chat

文章目录

• 大模型工具Ollama
• • 下载
  • 安装
  • 运行
  • Spring Ai 代码测试
  • • 加依赖
    • 配置
    • 写代码
• ollama的web&Desktop
• • 搭建部署Open WebUI有两种方式
  • • Docker Desktop
    • Docker部署Open WebUI
    • Docker部署Lobe Chat
    • • 可以配置OpenAI的key
      • 也可以配置ollama
• 大模型的选择

本篇基于windows环境下配置

大模型工具Ollama

https://ollama.com/

下载

https://ollama.com/download
windows环境下就安装windows版本

安装

点击下载的exe文件进行傻瓜式安装

运行

去ollama官网（models模块下）找大模型的名字，然后复制ollama的运行名字