deepSeek本地部署
时间: 2025-02-11 14:09:59 浏览: 74
### DeepSeek 本地部署指南
#### 环境准备
对于硬件需求,最低配置应具备CPU(支持AVX2指令集)、16GB内存以及30GB存储空间;而推荐配置则需配备NVIDIA GPU(如RTX 3090或更高级别)、32GB内存和至少50GB的存储容量[^1]。
关于软件依赖方面,操作系统可以选用Windows、macOS或是Linux。当计划采用Open Web UI时,则还需事先安装好Docker环境。
#### 安装Ollama
为了便于管理和运行不同的模型版本,可以通过安装Ollama工具简化操作过程。具体步骤可参照官方文档完成相应设置。
#### 模型选择与启动命令
依据实际应用场景及硬件条件挑选合适的预训练模型:
- 对于4GB以下内存的情况,建议使用`DeepSeek-R1-Distill-Qwen-1.5B`,其参数量为1.5亿,基于Qwen架构设计,特别适用于移动设备或资源有限的终端;
- 若拥有8至12GB内存,可以选择更大规模但不超过14B参数量的模型,比如`DeepSeek-R1-Distill-Qwen-7B`(7亿参数),同样建立在Qwen基础上,可用于常规文本生成任务;或者是`DeepSeek-R1-Distill-Llama-8B`(8亿参数),基于Llama框架构建,针对小型企业的日常办公需求优化过[^2]。
通过ollama指令轻松加载所需模型并启动服务:
```bash
ollama run deepseek-r1:1.5b
```
此命令会自动拉取指定版本的镜像文件,并将其置于后台持续执行,以便随时响应用户的调用请求[^3]。
阅读全文
相关推荐












