linux服务器安装ollama教程
时间: 2025-02-19 10:22:01 浏览: 120
### 如何在Linux服务器上安装配置Ollama
#### 准备工作
确保Linux系统的环境已经准备好,包括但不限于更新系统软件包到最新版本以及确认Python等依赖项已正确安装。
#### 获取并解压Ollama压缩包
前往官方GitHub页面下载适用于Linux平台的Ollama压缩包[^1]。使用命令行工具wget或curl来获取该资源,并将其保存至指定目录;之后利用tar命令解开此压缩文件:
```bash
cd /opt/
sudo wget https://github.com/ollama/ollama/releases/download/v0.1.0/ollama-linux-amd64.tar.gz
sudo tar zxvf ollama-linux-amd64.tar.gz
```
#### 设置执行权限与软链接
赋予可执行权限给刚刚提取出来的二进制文件,并创建指向它的全局可用命令`ollama`的符号链接以便于后续调用:
```bash
chmod +x ./ollama
ln -s /opt/ollama /usr/local/bin/ollama
```
#### 编辑sysctl.conf增加内核参数优化
为了使服务更加稳定高效地运行,在/etc/sysctl.conf中添加必要的性能调整选项[^3]:
```bash
vm.max_map_count=262144
fs.file-max=65535
ulimit -n 65535
ulimit -u 4096
```
编辑完成后立即应用更改而不必重启机器:
```bash
sysctl -p
```
#### 创建Systemd服务单元文件
编写一个简单的systemd service unit file用于控制Ollama作为后台守护进程自动启动和停止操作[^4]。新建名为`ollama.service`的服务定义文件位于路径`/etc/systemd/system/`之下:
```ini
[Unit]
Description=Ollama Service
After=syslog.target network.target remote-fs.target nss-lookup.target
[Service]
Type=simple
User=root
ExecStart=/opt/ollama run --daemonize=true
Restart=on-abnormal
[Install]
WantedBy=multi-user.target
```
完成上述步骤后重新加载systemd配置使之生效,并尝试开启新建立的服务实例验证其能否正常运作:
```bash
systemctl daemon-reload
systemctl enable ollama.service
systemctl start ollama.service
systemctl status ollama.service
```
如果一切顺利的话,则表示现在可以在Linux服务器环境中成功部署并启用了Ollama!
阅读全文
相关推荐


















