【实践分享】深度学习远程连接GPU

Nvidia GPU得益于在深度学习领域强大的计算能力，使其在数据中心常年处于绝对的统治地位。尽管借助GPU虚拟化实现多任务混布，提高了GPU的利用率，缓解了长尾效应，但是GPU利用率的绝对值还是不高，长尾现象依然存在。网卡池化、存储池化、内存池化、CPU池化等一系列相近基础设施领域的技术演进，让大家对GPU池化也产生了一些想法。

记录自己在初次配置GPU时遇见的一些坑。

pytorch为我们搭建深度学习模型提供了很大的便利，尤其是在高性能的GPU服务器上运行时，训练所需时间相比本地电脑要减少很多。本文根据自己的摸索以及研究所里同学的帮助，介绍了如何在GPU服务器上搭建Anaconda+pytorch环境以及如何利用pycharm进行远程连接调用。

傻瓜式教程——使用pycharm连接远程GPU训练神经网络模型

配置远程GPU服务器（总结）

在深度学习中，似乎每个人都建议使用GPU。 它是什么，没有一个，您能做得到吗？它的确切对象是谁？> Photo by Florian Krumm on Unsplash任何试图大规模推广训练模型性能的数据科学家或机器学习爱好者都将在某个时候达到顶峰，并开始经历不同程度的处理滞后。 当数据集变得更大时，使用较小的训练集花费数分钟的任务现在可能需要花费更多的时间(在某些情况下是几周)。但是什么是...

2025年，随着NVIDIA RTX 5090的发布，深度学习硬件领域迎来了革命性的变化。这款基于Blackwell架构的旗舰GPU不仅在游戏领域表现卓越，更在AI和深度学习应用中展现出前所未有的性能实力。对于深度学习研究者和工程师而言，RTX 5090的出现重新定义了工作站配置的标准，其32GB GDDR7显存、768个第五代Tensor Core以及大幅提升的计算性能，为大规模模型训练和推理提供了全新的可能性。

纯小白文章，不是最优解；将Windows这边电脑的休眠时间设置为。最近正好腾讯云GPU有活动，购买了GN10X实例，32G的V100，选择的环境是Pytorch。不同自己再重新安装CUDA、Pytorch了很划算~记住和。本文是使用WinSCP将数据集、预训练模型上传到云服务器，然后SSH连接远程控制...

上面的命令中 -p是端口的意思。点击apply 然后点击ok。使用服务器的解释器运行成功。envs里面放的是虚拟环境。选择一个点击立即租卡。

我相信大家在进行深度学习的科研时，都会遇到这个问题：(1) 使用的是租借的或者是实验室的云端服务器 (2) 自己在本地写代码，但是需要gpu来验证，而不是瞎眼写代码。 我平时使用python编译器基本是Pycharm，如果是轻量级的项目，我一般使用vscode (只要你用vsc我们就是异父异母的亲兄弟)。而一般写大平台项目我用的都是专业版的Pycharm，注意我以下教程的功能只能professio...

注：使用远程服务器运行代码时，服务器上一定要有项目代码、数据，只在自己电脑本地有是不行的。点击加号，在右侧填写远程服务器的HOST IP地址，User name ，password，填写完毕后点击Test connection，弹出连接成功即可，表明连接到远程服务器了。使用服务器前，确保服务器是开着的，如果需要往服务器上下载东西，比如安装Python包等，需要确保服务器已经联网，否则安装环境包时会出错，无法访问地址。点击＋，选择SFTP，输入服务器名称(随意)，点击OK，就创建好了。

深度学习远程服务器配置   在深度学习的科研任务中，很多模型的运行都会用到 GPU 和显存，如果个人计算机的配置有限，我们通常会在单位提供的算力更高、性能更好的服务器上跑大型的模型代码。当然，在正式使用服务器之前，需要向服务器的管理员申请个人账号，然后在自己的工作目录下进行深度学习的环境配置。 1. 服务器安装 Anaconda   我们配置深度学习的 Python 环境时，一般会用到 Anaconda 包管理工具（里面自带 Python 和很多模块），可以在清华的镜像网站 https://repo.ana

Windows 从 10 开始，远程桌面部分兼容 GPU 图形加速。笔者是远程桌面超高强度使用者，因为经常把笔记本当台式机的屏幕用，所以启用图形加速也是一件很重要的事情。通过研究了一段时间 XRDP 的基本使用，现在已经可以实现在远程访问 UOS 的时候调用硬件图形加速(俗称显卡加速)。基本要求× 系统版本最低为 UOS/Deepin V20 1030× 远程桌面服务端 xrdp 版本不低于 0....

1. 使用快捷键command（ctrl）+shift+p，弹出搜索框，搜索Remote-SSH，选择Remote-SSH:Open SSH Configuration File...4. 再找到Remote.SSH：Show Login Terminal，打上勾。1. 点击服务器的箭头，输入服务器的密码，按回车即可登录成功。4. 配置成功后刷新一下，就会显示出配置的服务器。2. 选择带有.ssh/config的路径。1. 显示以下图片圈中的内容则安装成功。1. 找到左下角的齿轮图标，点击”设置“

远程服务器使用经验

最近同学参加比赛需要使用云GPU，经过比对多个云GPU平台，从价格和GPU可用稳定性上，最终选择了，我购买使用了一下，可以支持一场Kaggle比赛或者实验论文没有问题，大家可以按照步骤进行操作，记录下来，其他平台也差不多。

之前觉得配置远程服务器和本地的Pycharm连接非常麻烦，随着这篇博客的完成，感觉也不是很麻烦了。思路很清晰，之前踩的坑都帮大家一一说明了，如果大家还遇到了其他问题也欢迎在下方评论！