局域网部署deepseek
时间: 2025-02-05 19:02:24 浏览: 450
### 局域网环境下的 DeepSeek 部署指南
#### 1. 准备工作
为了在局域网环境中成功部署 DeepSeek,需准备如下组件:
- 支持 Docker 的 Linux 或 Windows Server 系统作为主机。
- 安装好 Docker 和 Docker Compose 工具。
#### 2. 获取 DeepSeek 资源包
从官方渠道下载适用于目标平台版本的 DeepSeek 发行版压缩文件,并解压至指定目录下[^1]。
#### 3. 修改配置文件适应内网需求
针对特定应用场景调整 `docker-compose.yml` 文件内的服务参数设置。对于仅限内部访问的情况,应确保所有对外暴露端口都映射到私有IP段范围内的地址上;同时关闭不必要的外部网络连接选项以保障安全性[^2]。
#### 4. 设置 Ollama 模型
创建 Ollama 模型配置文件用于定制化对话体验。此过程涉及定义模板字符串来控制输入输出格式,以及设定诸如温度系数 (temperature)、截断概率阈值(top_p)等超参调节生成质量。
```yaml
FROM ./deepseek-r1-7b-chat-q4_k_m.gguf
TEMPLATE """
{{- if .System }}
<|system|>{{.System}}</s>
{{end -}}
<|user|>{{.Prompt}}</s>
<|assistant|>"""
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 4096
ADAPTER ./ollama-deepseek/tokenizer
```
#### 5. 启动容器集群
通过命令行执行启动脚本,在后台运行所需的服务实例集合。此时应注意监控日志输出确认各部分正常运作无误后再继续后续操作。
```bash
docker-compose up -d
```
#### 6. 访问应用界面
当一切就绪之后即可利用浏览器或其他 HTTP 客户端尝试请求 API 接口测试功能是否可用。如果希望进一步简化调用流程,则可以考虑借助类似 Cpolar 这样的反向代理工具建立安全稳定的长期连接通道[^3]。
阅读全文
相关推荐



