【小白教程】在本地部署deepseek模型

前言

前段时间 DeepSeek-R1 发布，性能对标 GPT4o，亲测在debug、代码生成方面都表现不俗，是一个合格的生产力工具，最重要的是完全免费、国产化。

体验

deepseek：https://chat.deepseek.com/
官网：https://www.deepseek.com/
API：https://api-docs.deepseek.com/zh-cn/

模型本地部署

准备工作

1. Ollama：Ollama是一个开源的 LLM（大型语言模型）服务工具，用于简化在本地运行大语言模型，deepseek系列的模型都可运行在Ollama上。
2. deepseek-r1：DeepSeek-R1拥有卓越的性能，在数学、代码和推理任务上可与OpenAI o1媲美。其采用的大规模强化学习技术，仅需少量标注数据即可显著提升模型性能

安装Ollama

链接：https://ollama.com/，点击后进入官网下载页面，按照箭头的操作进行下载


注意：笔者的电脑采用windows系统，所以下载的windows版本的Ollama，请读者根据电脑的操作系统选择对应的版本

下载成功后双击OllamaSetup.exe打开就可以进行安装
注意：OllamaSetup.exe不能自动配置安装位置，请在该安装包所在路径下打开控制台，运行下面这行命令手动配置

./OllamaSetup.exe /DIR="D:\ollama" #笔者将路径配置到了D盘的ollama文件夹下，可以修改为别的路径

安装成功后执行以下命令查看是否安装成功

 ollama -v

得到ollama version is X.X.X的反馈，ollama安装成功

部署deepseek模型

链接：https://ollama.com/library，点击链接后搜索对应的deepseek模型即可

点击deepseek-r1后进入版本选择界面

各个版本的配置要求如下：

• deepseek-r1:1.5b——1-2G显存
• deepseek-r1:7b——6-8G显存
• deepseek-r1:8b——8G显存
• deepseek-r1:14b——10-12G显存
• deepseek-r1:32b——24G-48显存
• deepseek-r1:70b——96G-128显存
• deepseek-r1:671b——需要496GB显存以上

选择后复制下载模型指令

打开控制台输入安装指令即可开始下载模型

出现下面的提示后deepseek安装成功，开始探索吧！

与模型对话