qq_43994782的博客

因为要对比不同显卡的算力，顺便测试从底库中查找一个人员的用时，做记录

莫名占用别的gpu

pytorch jit 跟踪模型保存和使用介绍

配置torch时遇到的一些问题~

安装paddle时报错 runtimeerror the third party dynamic library() that paddle depends on is not configured correctly

多分类混淆矩阵计算及具体说明

npu 推理代码（这个直接抄的朋友的代码~我试过可以运行，不过环境配置挺费劲的。。）我一般也用不到npu，这里就放在这儿，以备不时之需吧。python3 -m bmnetp --model=mnist_jit_0.98.pth --shapes="[(1,1,28,28)]" --net_name="mnist" --target=BM1684 --outdir=.import sysimport cv2import numpy as npimport sophon.sail as sail

记录一些常用的前处理，每次都重写也是很费劲。。```pythonimport cv2import numpy as np# 不失真resize 在resize时加上黑边def distortionless_resize(img_org,target_size = (112,112)): h,w,c = img_org.shape target_w,target_h = target_size if target_h==target_w: if h==w: new_

注：可直接跳至后面查看代码和解释起因：今天把一个训练好的人脸识别模型 放到 比特大陆的盒子上进行部署，因为比特大陆盒子上使用的npu，在模型转换的时候报错不支持的op renorm（转换模型的方法在前面的文章有，摘同事的代码，好像需要配置环境，回头让他帮忙写下）renorm然后就搜了下renorm的意思官网的解释如上。我的代码长这样：既然转换时不支持此op，所以就把最后的renorm代码去掉了，直接返回 self.seq（x）然后把renorm当作结果的后处理进行处理。renor

重写torchvision ops 的nms 方法

转换方法：使用pytorch自带转换函数转换import torch# 实例你的模型net = MyModel()print('load static dict')# 加载参数！ （如果忘记的话，，，就重来呗）net.load_state_dict(torch.load("net.pth", map_location=torch.device('cpu')))net.eval().cuda()print('to cuda')input1 = torch.randn(1, 3, 112

命令：/usr/src/tensorrt/bin/trtexec --onnx=input.onnx --saveEngine=out.engine --fp16 --workspace=1024参数含义：/usr/src/tensorrt/bin/trtexec： 你的tensorrt的地址–onnx: 需要转换的onnx模型路径–saveEngine: 保存的模型地址名称–fp16: 保存出的模型的精度–workspace: 运行空间大小（貌似没卵用）参考nVidia tensorr

问题这次做了一个人脸检测加识别的项目，由于开发在服务器上开发，没发现问题，但是当部署到jetson盒子上时发现内存会异常增高。以下是记录总结在使用pytorch gpu运行时，会开辟额外的空间，网上有理论说在gpu上pytorch有自己的函数等，所以会异常占用，另外在cpu上检测模型加载时内存也很高的问题，还没有比较合理的解释，不过我在 后面转换为tensorrt之后发现及时只在开头引入了pytorch序列化函数，后面内存也会多占用2个g左右。解决办法坦白说，并没有找到什么解决办法，最好的办法就

先说安装方法pip3 install pycuda目前我看到的pycuda版本有 19年 和 21 年两个版本这里有几个点要注意：1、不要用清华镜像，也不要下github上的源码编译（我没跑通。。）2、numpy 版本号会影响是否安装成功，我测试的 1.19.4 可以3、cuda的环境变量要配好（nvcc -V 可以查到）然后直接用pip安装，编译时间较长，请耐心等待另外 sudo apt install python3-pycuda 失败我这里是在jetson下安装，或许其他环境可以