国内Ubuntu离线安装和配置Ollama服务

以下是在 Ubuntu 22.04 系统上,安装Ollama 的完整安装和配置步骤:

1. 准备工作

确保你具备 root 权限,并安装了必要的工具,如 tarsystemctl 等。

2. 创建 Ollama 用户和组

创建一个专门的 ollama 用户和组来运行 Ollama 服务:

 sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
 sudo usermod -a -G ollama $(whoami)

参数解释:

  • -r:创建系统用户。

  • -s /bin/false:禁止该用户登录系统。

  • -U:创建与用户同名的组。

  • -m:创建用户主目录。

  • -d /usr/share/ollama:指定用户主目录为 /usr/share/ollama

3. 下载 Ollama 安装包

从官网下载 Ollama 安装包:

 wget https://ollama.com/download/ollama-linux-amd64.tgz

若无法直接从官网下载,可通过其他途径获取安装包。

4. 解压安装包

将安装包解压到 /opt/ollama 目录:

 sudo mkdir -p /opt/oll
### Ubuntu 系统上 Ollama离线安装指南 在 Ubuntu 系统中进行 Ollama离线安装可以通过以下几个方面实现: #### 1. 准备工作 为了成功完成 Ollama离线安装,首先需要确认目标服务器的相关硬件信息以及所需的软件包版本。通过命令 `lscpu` 可以获取 CPU 型号其他相关信息[^1]。 #### 2. 下载所需文件 由于目标机器处于离线状态,在外网环境中需提前下载必要的二进制文件模型数据。具体操作如下: - 访问 Ollama 官方仓库页面并找到对应平台的 `.tgz` 文件链接[^3]。 - 使用浏览器或者工具(如 wget 或 curl)下载最新稳定版的压缩包至本地磁盘。 #### 3. 转移文件到目标主机 将上述获得的 `.tgz` 文件拷贝至无网络连接的目标设备上。推荐使用 USB 存储介质或其他物理传输方式完成此步骤。 #### 4. 解压与部署 到达目标系统后执行以下指令展开归档内容并将之放置于指定路径下: ```bash tar -xvzf ollama-linux-amd64.tgz -C /usr/local/bin/ chmod +x /usr/local/bin/ollama ``` 这里假设所使用的架构为 AMD64 类型处理器;如果不是,则应替换相应名称部分以匹配实际条件[^2]。 #### 5. 配置模型目录结构 创建专门用于存储预训练模型的数据夹,并按照既定标准布置内部布局: ```bash sudo mkdir -p /opt/ollama/models cd /path/to/downloaded_models for model in *.bin; do sudo cp "$model" "/opt/ollama/models/${model%.bin}"; done ``` #### 6. 启动服务验证功能正常与否 最后一步便是启动应用程序本身来检验整个流程是否顺利完成: ```bash ollama serve & curl http://localhost:11434/version ``` 如果返回 JSON 格式的版本号字符串即表明一切就绪可以正常使用了。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值