Ubuntu 22.04搭建deepseek 8b并实现远程访问
时间: 2025-03-02 08:13:58 浏览: 69
### Ubuntu 22.04 上安装和配置 DeepSeek 8B 并设置远程访问
#### 准备工作
为了顺利安装 DeepSeek 8B,在开始之前需确保已关闭客户端防火墙[^1]。
#### 安装必要的工具
如果遇到 `-bash: curl: command not found` 或者 `-bash: sudo: command not found` 的情况,先更新软件源列表并安装缺失的基础命令:
```shell
sudo apt update && sudo apt install -y curl sudo
```
这一步骤可以解决基础命令缺失的问题,并为后续操作提供支持环境[^3]。
#### 安装 OpenVPN (适用于需要通过安全通道连接的情况)
对于希望增强网络安全性或有特定网络需求的用户来说,可以通过如下指令来安装 OpenVPN:
```shell
sudo apt install openvpn
```
此步骤有助于创建更稳定可靠的网络连接环境。
#### 下载与解压 DeepSeek 8B 模型文件
前往官方指定位置下载预训练好的 DeepSeek 8B 文件压缩包。假设已经获取到了 `.tar.gz` 格式的存档,则可按照以下方式处理:
```shell
wget http://example.com/path/to/deepseek-8b.tar.gz # 替换成实际链接
tar zxvf deepseek-8b.tar.gz
cd deepseek-8b/
```
注意替换 `http://example.com/path/to/deepseek-8b.tar.gz` 成真实的下载路径。
#### 启动服务端应用
启动前确认 Ollama 应用程序正在运行;否则可能会收到错误提示 "could not connect to ollama app"[^2]。通常情况下,Ollama 提供的服务应该已经在后台正常运作。如果不是这样,请参照其文档完成相应初始化流程后再继续下一步。
#### 设置远程访问权限
为了让外部设备能够访问到本地部署的服务,除了开放相应的端口外,还需要调整系统的网络安全策略允许来自外界的数据请求进入。考虑到这一点,建议再次核查防火墙状态以及相关规则设定是否恰当。
另外,考虑使用 SSH Tunneling 技术建立加密隧道实现更加私密化的远控体验。具体做法是在目标机器上执行类似这样的命令:
```shell
ssh -NfL *:localhost_port:host_ip:host_port user@remote_host
```
其中 `localhost_port`, `host_ip`, 和 `host_port` 分别代表监听于本机上的端口号、目的主机 IP 地址及其对外开放的服务端口;而 `user@remote_host` 则是要登录的目标服务器用户名加地址组合体。
#### 测试连通性
最后验证一切准备就绪之后,尝试从另一台计算机发起测试性的 API 调用来检验整个架构能否按预期发挥作用。比如利用 Python 发送简单的 HTTP GET 请求给刚刚搭建起来的服务接口看看返回的结果是什么样的。
```python
import requests
response = requests.get('http://your_server_address/predict')
print(response.json())
```
阅读全文
相关推荐












