DeepSeek本地部署

DeepSeek本地部署

前言

deepSeek的大名想必大家都有所耳闻了吧，国内深度求索公司开发的一款开源的AI,用于对抗美国的OpenAI。搞笑的是美国的AI虽然叫openAI但是它是闭源的，还不如改名叫CloseAI呢。但是DeepSeek也不是从零开始的，也是借鉴了部分OpenAi的思路再加上自己的工程创新才实现的，调侃归调侃，致敬归致敬，其实DeepSeek也是用的TensorFlow，接下来我就来给大家讲讲Deepseek怎么进行本地化部署。

Deepseek的模型怎么选有什么区别？

DeepSeek模型现在主要是有以下几个DeepSeek-R1和DeepSeek-v3以及多模态模型

DeepSeek-v3

它是DeepSeek自研的MOE大模型，也被称为混合专家模型，是一种先进的神经网络架构，通过动态选择专门的子模型或“专家”来处理输入的不同部分，以提高模型的效率和可扩展性‌，这里DeepSeek的设计很有意思，它们会选择部分‘专家’休眠部分启用，这也是DeepSeek响应快的原因之一。

DeepSeek-R1

它是完全开源的推理模型，推理模型‌是指根据已知信息通过逻辑规则推导出未知结论的系统或架构

这里补充一个小知识，除了上诉两种模型还有一种模型就是指令模型，它是一种能够理解和执行人类自然语言指令的模型，经过专门训练，能够识别并执行多样化的任务，从简单的查询到复杂的任务执行‌。‌典型代表有（GM3、千问2.5）

DeepSeek本地部署

ollama下载

第一步 点击跳转ollama官网跳转

第二步 选择自己操作与自己操作系统匹配的安装包点击Download直接下载即可

第三步 下载完成之后点击OllamaSetUp.exe进行安装。点击Install安装即可，但是它默认的是安装到C盘，所以建议玩的话还是用虚拟机去安装。注意这里只是Ollama无法修改安装地址。下载的模型存放地址是可以修改的

第四步 win+R键输入Cmd回车，之后再输入ollama检验是否安装成功

导入模型

第一步 点击跳转ollama官网跳转 搜索DeepSeekR1

第二步 模型的选择这里我们就选择8B吧，我现在用的是1060-6G的显卡最大也就只能选8B了，模型越大那就代表它会越聪明。

注意：这里7b、和8b这些模型后的GB,这可不是指你的存储内存有多大，而是指的你显卡的缓存GPU内存有多大

第三步 模型下载，这里建议大家先设置一下模型的保存位置，不然C盘都得爆炸了，关掉ollama设置一下系统环境变量，添加一个OLLAMA_MODELS，然后后面跟你想要保存的地址即可参考：传送门
回到控制台输入：ollama run deepseek-r1:8b；程序会自动下载对应的文件

当出现以下界面就说明已经下载完毕了

安装词嵌入模型

词嵌入模型是什么，它的作用又是什么？

词嵌入是自然语言处理（NLP）中的一种技术，旨在将词汇从高维的独热编码（One-Hot Encoding）空间映射到低维的连续向量空间中，它的作用就是词嵌入模型是把文字转换为模型能认识的数字向量

词嵌入模型安装

首先我们先使用：ollama list 命令查看我们模型是否已经安装成功，根据下图我们可以看到，DeepSeekR1的8b模型是已经安装成功了

下载词嵌入模型

在管网中搜索：dmeta-embedding-zh；第一个就是

安装词嵌入模型

在控制台中输入：ollama pull shaw/dmeta-embedding-zh ；然后回车即可安装

出现以下界面就是安装成功了

运行测试

首先输入ollama list 查看我们现有的模型
之后使用ollama run+模型名称 就可以将模型运行起来了


注意上图中用<think>标签标注起来的文字，这是它是思考思路。

如何训练一个自己专属的AI

下载Cherry Studio

直接去官网下载即可：传送门
下载之后安装

出现以下界面就是安装成功了

配置Cherry Studio的模型

第一步点击设置，
第二步点击模型服务
第三步点击ollama
第四步点击管理

下图是点击管理之后的界面，可以看出它已经自动是被出了我们安装的模型了

接下来我们点击后面的加号进行模型添加

添加完成之后我们这里就可以看到模型了

这里我们点击信息图标

选择我们配置的本地部署的deepseek

配置个人知识库

首先我们点击知识库，然后选择我们安装到本地的词嵌入模型，在命个名就可以了

这里我用诈骗短信识别来给大家做个示例

这里我的.txt文件内容是

怎么识别诈骗短信
技巧一：看域名网址，几乎所有的诈骗短信上的域名（网址）都是大小写字母和数字的混合，域名（网址）结尾不完整等等。我国政府网站域名（网址）均以gov结尾（gov表示政府），除此之外的其他域名（网址）结尾肯定不是政府网站。此外，政府平台所发布的短信，几乎没有附带网址链接的内容。如果接收到附带链接的通知短信，基本上可以确认为诈骗短信。
技巧二：看单位名称，诈骗短信一般都是模糊标注“工商”、“商业”、“工管”或者“市委”、“市XX局”，主要目的是“广撒网”，“浪淘沙”，还有就是为了规避法律责任。再者，诸如“工商局”、“商业局”，随着机构改革的深入，已经变成了历史名词，取而代之的是“市场监管局”或者“工信商务局”。技巧三：看短信内容，如果防不胜防，还是不慎点击短信链接进到页面，看到需要输入银行卡或者密码的选项，也可以100%确定是诈骗。其实大多数的诈骗短信，从内容上就可以直接判断出来，比如邀你刷单、充值、投注、博彩的，无疑是诈骗。如果内容上无法直接分辨，那就只能从其他方面来判断。首先，我们会想到短信的号码，比如大量以+88、+85、+00、+60…等区号开头的号码，这些电话都属于境外电话（中国的国家区号是+86），如果你本人与国外并无往来，那境外电话基本等于诈骗电话。可怕的是，有些骗子手中的伪基站已经可以冒充任何号码发送诈骗短信了。
诈骗常见情形：
1.电信诈骗，如盗用QQ号码、微信等通许账户后冒充熟人诈骗
2.冒充内部人员诈骗，如冒充“北京福彩3D信息中心”人员可提前获知中奖信息进行诈骗
3.冒充公检法人员诈骗，如犯罪分子冒充“公、检、法”等国家机关工作人员转账至安全账户
4.冒充熟人诈骗，如使用“魔音手机”冒充不同角色人员实施诈骗案
5.冒充卫生、财政系统人员，如领取新生儿补贴实施诈骗案
6.短信内中说自己是某人要求转账的都是诈骗短信

接下来我们来看看DeepSeek的回答（没采用知识库时的回答）


这是采用知识库之后的回答，思考会快很多

总结

以上就是给大家分享的deepSeek本地部署的相关知识了，我再研究研究看有没有更多的好玩的使用方式。