docker搭建ollama
时间: 2025-02-18 21:27:27 浏览: 80
### 如何使用Docker部署和运行Ollama
#### 安装 Docker 和 Docker Compose
为了能够在 Ubuntu 上顺利运行 Ollama,需要先确保已经安装了 Docker 及其扩展工具 Docker Compose。这可以通过执行一系列命令来完成:
```bash
sudo apt update && sudo apt upgrade -y
sudo apt install docker.io -y
sudo apt-get install docker-compose -y
sudo usermod -aG docker $USER
newgrp docker
sudo systemctl daemon-reload
sudo systemctl restart docker
```
上述操作会更新软件包列表并升级现有程序至最新版本;接着安装 Docker 服务端以及用于编排多容器应用的辅助组件——Docker Compose;最后调整当前用户的权限以便无需输入密码即可调用 Docker 命令[^2]。
#### 获取 Ollama 的 Docker 映像
一旦完成了必要的准备工作之后,就可以拉取由开发者维护好的官方镜像文件到本地机器上了。通常情况下,只需一条简单的指令就能搞定:
```bash
docker pull ollama/ollama:latest
```
这条语句告诉 Docker 从远程仓库下载名为 `ollama` 下属标签为 `latest` 版本的映像资源[^1]。
#### 启动 Ollama 实例
获取到了合适的映像以后,便可以创建一个新的容器实例并将它启动起来。这里给出一个基础的例子供参考:
```bash
docker run -d \
--name=ollama-instance \
-p 8080:80 \
ollama/ollama:latest
```
此脚本定义了一个后台模式下工作的新进程 `-d` 参数表示分离前台显示;指定了该容器的名字叫做 `ollama-instance`; 将主机上的端口 8080 转发给容器内部监听着 HTTP 请求的标准入口即第 80 端口。
#### 访问已部署的服务
当一切设置完毕后,在浏览器地址栏里键入 http://localhost:8080 即可访问刚刚建立成功的 Ollama 应用了。当然也可以借助其他方式连接服务器比如通过 API 或者 CLI 工具等方法来进行交互测试。
阅读全文
相关推荐


















