没有合适的资源?快使用搜索试试~ 我知道了~
温馨提示
内容概要:本文档详细介绍了deepseek的本地部署流程,涵盖Ollama软件包在Linux、macOS和Windows系统上的安装步骤。对于Linux,包括权限配置、服务启动与验证;macOS则有一键安装及通过Homebrew管理服务的方式;Windows需前置安装WSL2。文档还讲解了如何配置Ollama服务对外提供服务的方法,以及拉取并运行DeepSeek模型的具体操作,包括不同参数量模型的选择。针对不同硬件场景,如纯CPU运行和CPU+GPU混合运行,给出了相应的配置优化建议。最后,介绍了两种接入本地大模型进行AI问答应用的方式——部署MaxKB或安装ChatBox AI,以及常见的故障排查方法和性能优化建议,还简单提及了大模型LLM的学习方向。 适合人群:对深度学习模型部署感兴趣的开发者,尤其是有一定Linux命令行操作基础,希望在本地环境中运行和测试大型语言模型的技术人员。 使用场景及目标:①掌握在不同操作系统上部署Ollama和DeepSeek模型的方法;②了解并配置适合自身硬件条件的最佳运行模式;③实现将本地大模型集成到AI问答应用中,如通过MaxKB或ChatBox AI;④学会基本的故障排查和性能优化手段。 其他说明:文档不仅提供了详细的部署指导,还强调了实践操作的重要性,鼓励读者在实际环境中尝试不同的配置选项,以获得更好的理解和应用效果。同时,提醒读者关注大模型时代的技能更新,积极利用AI工具提升工作效率。
资源推荐
资源详情
资源评论

























1
dee
ps
eek
的
本
地
部
署
教
程
本
教
程
所
⽤
到
的
ollama
软
件
包
+deepseek
使
⽤
技
巧
资
源
包
获
取
⽅
式
:
⼀
、
部
署
Ollama
(
多
平
台
选
择
安
装
)
Ollama
⽀
持
Linux/macOS/Windows
,
需
根
据
系统
选
择
安
装
⽅
式
。
1. Linux
系统
部
署
适
⽤
系统
:
Ubuntu/Debian/CentOS
等
步
骤
:
⼀
键
安
装
:
权
限
配
置
(
避
免
sudo
运
⾏
):
启
动
服
务
:
验
证
安
装
:
2. macOS
系统
部
署
步
骤
:
curl -fsSL https://ollama.com/install.sh | sh
1
Bash
sudo usermod -aG ollama $USER #
将
当
前
⽤
户
加⼊
ollama
组
newgrp ollama #
刷
新
⽤
户
组
1
2
Bash
systemctl start ollama #
启
动
服
务
systemctl enable ollama #
开
机
⾃
启
1
2
Bash
ollama --version #
输
出
版
本
号即
成
功
1
Bash

2
⼀
键
安
装
:
启
动
服
务
:
或
通过
Launchd
后台
服
务
:
3. Windows
系统
部
署
前
置
要
求
:
Windows 10/11 64
位
已安
装
WSL2
(
推
荐
Ubuntu
发
⾏
版
)
步
骤
:
下
载
安
装
包
:
Ollama Windows Installer
https://ollama.com/download
下
载
后
进
⾏
双
击
安
装
验
证
安
装
:
curl -fsSL https://ollama.com/install.sh | sh
1
Bash
ollama serve #
前
台
运
⾏
(
调试
⽤
)
1
Bash
brew services start ollama #
通过
Homebrew
管
理
1
Bash
ollama list #
查
看
已安
装
模
型
1
Bash

3
如
何
配
置
远
程
Ollama
服
务
?
默
认
情
况
下,
Ollama
服
务
仅
在
本
地
运
⾏
,不
对
外
提
供
服
务
。
要
使
Ollama
服
务
能
够
对
外
提
供
服
务
,
你
需
要设
置
以
下两个
环
境
变
量
:
如
果
Ollama
作为
systemd
服
务
运
⾏
,
应
使
⽤
systemctl
设
置
环
境
变
量
:
调
⽤
systemctl edit ollama.service
编
辑
systemd
服
务
配
置
。
这
将
打
开
⼀个
编
辑
器
。
在
[Service]
部
分
下
为
每
个
环
境
变
量
添
加
⼀
⾏
Environment
:
重
新
加
载
systemd
并
重
启
Ollama
:
⼆
、
拉
取
并
运
⾏
DeepSeek
模
型
systemctl daemon-reload
systemctl restart ollama
1
2
Bash
剩余13页未读,继续阅读
资源评论


默心

- 粉丝: 249
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助


最新资源
- 大数据时代发展背景下会展企业的精细化管理.docx
- 微型计算机系统的组成部件.ppt
- 通信工程项目的网络优化方式分析.docx
- 在通信工程监理项目中如何降低投入成本.docx
- 20100609面向对象程序设计基础-A.doc
- 数据库运维方案.docx
- 对互联网教育市场去同质化方法的探究.docx
- EMS6010型路灯管理软件设计详细技术规范.doc
- 基于JSP的学生学籍管理系统方案设计书与开发.doc
- 第三单元构建无线局域网络.doc
- 通信电源设备安装工程定额.doc
- PLC在热处理电阻炉温度控制系统设计中的应用.doc
- 新媒体环境下民办高校学生就业信息网络建设研究.docx
- 不同品牌主板电脑BIOS启动热键制作U盘安装win7系统.doc
- 移动通信信息技术应用及其发展.docx
- LCD等液晶接口设计方案.doc
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈



安全验证
文档复制为VIP权益,开通VIP直接复制
