docker上ollama
时间: 2025-02-19 16:03:24 浏览: 81
### 如何在 Docker 上运行或部署 Ollama
#### 使用 CPU 模式的命令
对于不依赖 GPU 的场景,可以使用如下命令来启动 Ollama 容器:
```bash
docker run -d -v /opt/ai/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama[^1]
```
此命令会创建一个新的名为 `ollama` 的容器实例,并将其挂载到主机上的 `/opt/ai/ollama` 文件夹用于持久化存储。端口映射 `-p 11434:11434` 将容器内部的服务暴露给外部网络访问。
#### 获取最新版本的镜像
为了确保获取的是最新的 Ollama 镜像,在首次部署前应当执行拉取操作:
```bash
docker pull ollama/ollama:latest[^2]
```
这一步骤能够保证所使用的软件是最新的稳定版,包含了官方发布的所有更新和修复。
#### 替代性的本地路径绑定方式
另一种常见的做法是指定宿主机用户的家目录作为数据卷的位置:
```bash
docker run -d -v $HOME/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama[^3]
```
这种方式更加灵活,允许不同用户各自维护独立的数据集而不互相干扰。
#### 利用 Docker Compose 提升效率
当涉及到多个服务协同工作时,比如同时部署 Ollama 和 Open-WebUI,推荐采用 Docker Compose 来简化流程[^4]。编写好相应的 YAML 文件之后,仅需一条简单的指令即可完成整个系统的初始化与启动。
#### 支持 GPU 加速(可选)
如果目标机器配备 NVIDIA 显卡,则可以通过额外配置使容器内的应用程序利用硬件加速特性。具体来说,先按照指南安装必要的驱动程序和服务组件;接着调整之前的命令加入特定参数以启用 GPU 功能[^5]。
阅读全文
相关推荐


















