ollama docker
时间: 2025-01-18 22:58:38 浏览: 93
### Ollama Docker 使用教程
#### 安装并配置Docker环境
为了能够在Ubuntu上顺利运行Ollama,需先确认已正确安装Docker。对于希望利用GPU加速功能的情况,则还需要额外设置NVIDIA容器工具包来支持CUDA计算能力[^2]。
#### 获取Ollama镜像
通过执行`docker pull ollama/ollama:latest`可以获取到由官方维护的最新版本Ollama镜像文件。这一步骤确保了后续创建的服务基于最稳定可靠的软件基础之上[^1]。
#### 启动Ollama服务实例
启动方式取决于硬件条件的选择:
- **CPU模式**
对于不具备专用图形处理器设备的工作站而言,可采用常规方法启动容器:
```bash
docker run -d \
-v /opt/ai/ollama:/root/.ollama \
-p 11434:11434 \
--name ollama \
ollama/ollama
```
- **GPU模式**
若目标主机配备兼容的NVIDIA GPU,并已完成相应驱动程序及容器化平台扩展组件的部署,则可以通过指定参数激活GPU资源分配给应用进程:
```bash
docker run --gpus=all -d \
-v ollama:/root/.ollama \
-p 11434:11434 \
--name ollama \
ollama/ollama
```
上述命令中的选项解释如下:
- `-d`: 表示以后台守护线程形式运行;
- `-v`: 将宿主机目录挂载至容器内部路径用于持久存储数据;
- `-p`: 映射外部端口与容器内监听地址以便访问Web界面或其他网络接口;
- `--name`: 自定义命名当前会话便于管理识别;
#### 验证部署成果
完成以上步骤之后,可通过浏览器输入http://localhost:11434尝试连接至新建立的应用前端页面,以此检验整个流程是否成功实现预期效果[^3]。
阅读全文
相关推荐


















