ollama本地部署 linux
时间: 2025-02-08 16:09:19 浏览: 153
### 在 Linux 上本地部署 Ollama
#### 准备工作
为了确保顺利安装,需先确认Linux系统的版本以及CPU架构。这可以通过执行如下命令来完成:
```bash
cat /proc/version
```
用于查看当前使用的Linux内核版本信息。
对于获取CPU架构详情,则应使用:
```bash
lscpu
```
如果显示的是`x86_64`类型的处理器,则应该下载适用于AMD64架构的Ollama二进制文件;而如果是`aarch64`或`arm64`架构的话,则要选择ARM64版的安装包[^1]。
#### 安装过程
一旦选择了合适的发行版之后,就可以按照官方给出的方法来进行安装操作了。具体来说就是利用curl工具从官方网站拉取最新的安装脚本并立即执行它:
```bash
curl -fsSL https://ollama.com/install.sh | sh
```
这条命令会自动处理好所有的依赖关系并将必要的组件安放到正确的位置上去[^4]。
#### 启动服务
成功安装完毕以后,下一步就是要让这个新加入的服务能够正常运作起来。为此只需简单地调用内置命令即可实现这一点:
```bash
ollama serve
```
此时,Ollama将会监听默认端口等待客户端连接请求的到来。
#### 模型管理
想要了解目前有哪些可用的大规模预训练模型可以选择,只需要敲入以下指令就能得到完整的清单展示:
```bash
ollama list
```
当决定好了具体的模型名称后(比如这里选用名为deepseek-r1:32b的例子),便可通过下述方式将其加载至内存当中准备投入使用:
```bash
ollama run deepseek-r1:32b
```
最后,在结束交互模式之前记得输入 `/bye` 来安全退出程序回到正常的shell环境之中。
#### 维护更新
为了让系统始终保持最新状态,建议定期重启相关联的服务进程以应用任何可能存在的配置更改或是软件升级。此过程中涉及到的操作包括刷新守护进程缓存表项和服务本身的重新启动两个方面:
```bash
systemctl daemon-reload
systemctl restart ollama
```
这样做的好处是可以及时反映出最近所做的调整措施,并确保整个平台处于最佳性能水平线上运行着[^2]。
阅读全文
相关推荐


















