- 博客(2)
- 收藏
- 关注
原创 H20 显卡多节点 DeepSeek R1满血版部署保姆级教程
本文详细介绍了DeepSeek-R1671B大模型基于SGLang的分布式部署方案。主要内容包括:1) 硬件配置要求,推荐使用8块NVIDIA H20 HGX GPU和高速存储;2) 系统环境搭建步骤,涵盖Ubuntu 22.04系统配置、NVIDIA驱动安装、CUDA 12.5和Docker环境部署;3) 多节点NVMe磁盘挂载和模型文件分发方法;4) SGLang分布式服务部署流程,包括Docker镜像获取、容器启动和服务验证;5) 性能测试方案与优化建议。该方案严格遵循NVIDIA官方推荐配置,适用于
2025-07-04 16:02:42
1154
原创 CentOS8下安装Nginx同时打开流式
如果您希望所有的HTTP访问自动跳转到HTTPS页面,则可以在需要跳转的HTTP站点下添加以下rewrite语句。Nginx默认配置路径为/usr/local/nginx/conf 在这个位置下建立cert 安放证书。cd /usr/local/nginx/sbin #进入Nginx服务的可执行目录。cd /usr/local/nginx/sbin #进入Nginx服务的可执行目录。编译安装(默认安装在/usr/local/nginx)
2023-03-24 08:53:45
201
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人