centos7系统部署Ollama
时间: 2025-01-20 10:07:24 浏览: 275
### 如何在 CentOS 7 上安装和配置 Ollama
#### 准备环境
为了确保顺利安装,需先更新系统软件包并安装必要的依赖项。
```bash
sudo yum update -y
sudo yum install epel-y
```
这些命令会更新现有软件包列表,并安装 Python 的 pip 工具用于后续操作[^2]。
#### 配置 Docker 环境
由于 Ollama 基于容器化技术运行,因此需要预先设置好 Docker 运行环境。这一步骤对于成功部署至关重要。
```bash
# 更新 systemd 并重启 Docker 服务以应用更改
sudo systemctl daemon-reload
sudo systemctl restart docker
```
上述指令可以保证 Docker 能够识别最新的配置文件变化[^4]。
#### 获取 Ollama 容器镜像
通过拉取官方提供的最新版本镜像来获取 Ollama 应用程序实例。
```bash
docker pull ollama/ollama:latest
```
接着创建一个新的名为 `ollama` 的容器实例:
```bash
docker run -d --gpus=all \
-v ollama:/home/Ollama/.ollama \
-p 11434:11434 \
--name ollama \
ollama/ollama
```
此过程将下载所需资源并将端口映射到主机上以便访问 API 接口。
#### 设置为开机自启的服务
为了让 Ollama 可以随操作系统自动启动,在 `/etc/systemd/system/` 下新建一个 service 文件定义其行为模式。
编辑新建立的服务单元文件,添加如下内容:
```ini
[Unit]
Description=Ollama Service
After=docker.service
[Service]
ExecStart=/usr/bin/docker start -a ollama
ExecStop=/usr/bin/docker stop -t 2 ollama
Restart=on-failure
Environment="OLLAMA_HOST=0.0.0.0"
[Install]
WantedBy=default.target
```
完成编写后保存退出(`ESC`, 输入`:wq`),再执行以下两条命令使修改生效:
```bash
sudo systemctl enable ollama
sudo systemctl start ollama
```
最后验证是否正常工作可以通过浏览器打开 http://localhost:11434 或者使用 curl 测试API接口返回情况[^3]。
阅读全文
相关推荐

















