deepseek部署 linux
时间: 2025-01-29 20:10:47 浏览: 492
### 如何在 Linux 系统上部署 DeepSeek
#### 1. 准备基础环境
对于操作系统的要求,推荐使用 Ubuntu 22.04 LTS 或 CentOS 8+ 版本,并且这些系统需要支持 AVX512 指令集[^2]。
针对硬件配置方面:
- **GPU版本**:应配备 NVIDIA 驱动程序版本不低于520以及 CUDA 11.8+
- **CPU版本**:最低需求为拥有至少16核的处理器与64GB RAM;存储空间则依据模型的不同而变化,原始模型大约占用30GB的空间,在经过量化处理之后会减少到8至20GB之间。
#### 2. 安装必要的软件包
为了顺利运行 DeepSeek R1 Ollama,还需要预先设置好一系列的基础编译工具和其他依赖项。可以通过下面给出的命令来完成这一步骤:
```bash
sudo apt update && sudo apt upgrade -y
sudo apt install -y cmake g++ python3-dev
curl -fsSL https://ollama.com/install.sh | sh
pip install llama-cpp-python[server] --extra-index-url https://abetlen.github.io/lla ma-cpp-python/whl/cpu
```
上述脚本不仅更新并升级了现有的软件包列表,还安装了一些构建项目所必需的开发库文件,同时也获取到了 Ollama 的核心组件及其对应的 Python 接口模块。
#### 3. 执行安装命令
当完成了前期准备工作以后,就可以正式开始安装 `deepseek-r1` 模型了。具体操作如下所示:
```bash
ollama run deepseek-r1:14b
```
这条语句将会启动指定大小参数量(此处为14B)的大规模预训练语言模型实例服务进程[^1]。
阅读全文
相关推荐


















