Onnxruntime学习笔记

已于 2022-03-24 21:03:37 修改
阅读量871 收藏 1
点赞数
分类专栏： C++ Python 文章标签： python 人工智能 神经网络 深度学习
于 2022-03-24 14:45:00 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huang_yx005/article/details/123710470
版权

onnx模型存储规范使用profobuf协议定义，由onnx-ml.proto(3), onnx-data.proto(3), onnx-operators-ml.proto(3)等3个协议文件组成。
为了兼容protobuf2和protobuf3标准，每个协议文件都有2个版本，后缀为.proto和.proto3。

onnx-ml.proto(3)文件定义了Model.ModelProto是onnx模型文件的顶级容器。
message ModelProto {
ir_version
opset_import
GraphProto graph

…
}

message GraphProto {
repeated NodeProto node 图中的所有计算结点
repeated TesnorProto initializer 所有constant输入数据（模型参数，）
repeated ValueInfoProto input 输入变量的信息
repeated ValueInfoProto output 输出变量的信息
repeated ValueInfoProto value_info 图中其余变量的信息

}

TensorProto用于描述一个tensor的信息，如维度，数据类型，如何存储，具体的值是多少
message TensorProto {
repeated int64 dims 维度
int32 data_type 数据类型：1FLOAT， 6INT32, 7INT64, 10FLOAT16, 11DOUBLE …

根据情况数据可能存放在以下字段中
bytes raw_data
repeated double double_data
repeated float float_data
…

其它描述tensor的字段
}

『CV学习笔记』Pyinstaller打包exe后，执行时onnxruntime包报警告(Init provider bridge failed)
AI新视界
01-03 1132
Pyinstaller打包exe后，执行时onnxruntime包报警告(Init provider bridge failed)
机器学习笔记 - 基于Ubuntu + OnnxRuntime + C#进行Yolov5模型批量推理
学以致用 知行合一
10-27 487
项目需求，需要Ubuntu20.04系统 + OnnxRuntime中进行推理，前面的文章记录了驱动安装、CUDA安装等。Ubuntu20.04 更新Nvidia驱动 + 安装CUDA12.1 + cudnn8.9.7-CSDN博客。
protobuf协议传输的最大值
h799710的博客
01-24 2835
一、直接看源码： 这是序列化打包的源代码： bool MessageLite::SerializePartialToArray(void* data, int size) const { const size_t byte_size = ByteSizeLong(); if (byte_size > INT_MAX) { // 只要不大于 2GB，那么都可以序列化 GOOGLE_LOG(ERROR) << GetTypeName() <&
Error parsing message
云中寻雾的博客
12-02 3280
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。 本文链接：https://blog.csdn.net/nanchifeng3190/article/details/87642780 @使用jupyter notebook运行object_detection_tutorial.ipynb，运用的自己训练的pb出现错误。 detection_...
C++实现Onnxruntime模型推理
最新发布
m0_58583722的博客
03-05 239
【代码】C++实现Onnxruntime模型推理。
Protocol buffers 的问题和滥用
HONEY MOOSE
07-23 857
当前公司因为设计上的问题广泛使用了Protocolbuffers。在使用的过程中发现了很多Protocolbuffers的使用问题和滥用，一个好端端的工具被用成这样也是比较郁闷。下面就对使用中的问题进行一些小的总结。...
杂谈--spconv导出中onnx的扩展阅读
duanmushuangquan的博客
02-16 1282
利用文章，范范的介绍下spconv中的onnx知识。
模型部署入门教程（五）：ONNX 模型的修改与调试
qq_39967751的博客
05-26 8548
模型部署入门系列教程持续更新啦，在前两期教程中，我们学习了PyTorch 模型转 ONNX 模型的方法，了解了如何在原生算子表达能力不足时，为 PyTorch 或 ONNX 自定义算子。一直以来，我们都是通过 PyTorch 来导出 ONNX 模型的，基本没有单独探究过 ONNX 模型的构造知识。 不知道大家会不会有这样一些疑问：ONNX 模型在底层是用什么格式存储的？如何不依赖深度学习框架，只用 ONNX 的 API 来构造一个 ONNX 模型？如果没有源代码，只有一个 ONNX 模型，该如何对这个模型.
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(2)
2401_84004012的博客
04-22 1404
在 conda 环境中安装，不依赖于 本地主机 上已安装的 cuda 和 cudnn 版本，灵活方便。如果需要其他的版本， 可以根据 onnxruntime-gpu, cuda, cudnn 三者对应关系自行组合测试。想要 onnx 模型在 GPU 上加速推理，需要安装 onnxruntime-gpu。onnx 模型在 CPU 上进行推理，在conda环境中直接使用pip安装即可。下面，从创建conda环境，到实现在GPU上加速onnx模型推理进行举例。
【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)
2401_84003977的博客
04-22 1106
【代码】【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)
ONNXRuntime、TensorRT扫盲
weixin_43870390的博客
02-20 1831
ONNXRuntime TensorRT
ONNX格式解析之google protobuf解析
tugouxp的专栏
10-02 2936
ONNX模型是按照google protobuf格式保存的，模型训练的目的就是为了得到变量的权值，只不过是纯数字罢了，但是我们也不能就这样把这些数字一个一个地写入文件，因为在要保存的模型文件里，不光要保存权值，也要告诉之后用这个模型的人，模型结构是怎么样的，所以需要合理地设计保存文件的格式。不同的机器学习框架都有自己的模型保存格式，例如 Keras 的模型格式是 h5，而 Tensorflow 和 onnx 的保存格式就是 protobuf。 其实 protobuf 使用起来非常简单方便，就是自己先定义一
【onnx】——探索onnx文件
怡宝2号
01-05 1347
1. 依赖 protobuf onnx模型 2. 探索 采用protobuf的方式。其中 onnx.proto 就是定义的序列化文件 protoc --decode=onnx.ModelProto onnx.proto < yourfile.onnx 打印出来的结果： ir_version: 4 producer_name: "pytorch" producer_version: "1.1" graph { node { input: "inputx" input: "co
一种大于2GB ONNX模型onnxsim优化方法
LuchangLi 的专栏
04-24 5479
一种大于2GB模型onnxsim方法
加载模型出错
aojue1109的博客
09-27 4922
错误：google.protobuf.message.DecodeError: Error parsing message 解决：查看模型是否不完整，很多情况由于这个导致
解决onnx转换成trt模型时遇到的问题
Q_452086192的博客
12-14 2002
解决onnx转换成trt模型时遇到的问题。
ONNX Runtime: ubutnu16.04编译 (编到怀疑人生)
Felaim的博客
04-24 5073
ONNX Runtime: ubutnu16.04编译 1. 前言 ONNX Runtime是什么? ONNX Runtime是适用于Linux，Windows和Mac上ONNX格式的机器学习模型的高性能推理引擎. 为什么要用ONNX Runtime? 因为训练的模型要用啊,辛辛苦苦采集了数据,训练了模型,结果只能在benchmark中拿个名次是不是有点亏呢?如果能在实际场景中应用,是不是很棒呢,...
onnx
liguandong
01-04 1662
https://github.com/BBuf/onnx_learnhttps://github.com/BBuf/onnx_learnGitHub - onnx/tutorials: Tutorials for creating and using ONNX modelshttps://github.com/onnx/tutorials +
深度学习模型的C++部署：ONNXRUNTIME引领跨平台革命
牧子川的博客
05-31 1688
它不仅支持主流的CPU和GPU，还能在AMD、ARM等硬件上运行，为模型部署提供了极大的灵活性和兼容性。本文作为专注于计算机视觉领域的C++模型部署系列文章的开篇，揭示了C++与ONNXRUNTIME结合在计算机视觉任务中的强大潜力。它不仅提供了接近硬件层面的优化能力，而且通过精细的内存管理和多线程支持，实现了快速且高效的模型推理。：通过实际的计算机视觉项目，如实时目标检测系统，演示如何在C++中利用ONNXRUNTIME进行模型的加载和推理。：拥有庞大的库和框架支持，包括数学运算、图像处理、机器学习等。
pycharm打开文件不全
02-14
### PyCharm 打开文件显示不全的解决方案 当遇到PyCharm打开文件显示不全的情况时，可以尝试以下几种方法来解决问题。 #### 方法一：清理缓存并重启IDE 有时IDE内部缓存可能导致文件加载异常。通过清除缓存再启动程序能够有效改善此状况。具体操作路径为`File -> Invalidate Caches / Restart...`,之后按照提示完成相应动作即可[^1]。 #### 方法二：调整编辑器字体设置 如果是因为字体原因造成的内容显示问题，则可以通过修改编辑区内的文字样式来进行修复。进入`Settings/Preferences | Editor | Font`选项卡内更改合适的字号大小以及启用抗锯齿功能等参数配置[^2]。 #### 方法三：检查项目结构配置 对于某些特定场景下的源码视图缺失现象，可能是由于当前工作空间未能正确识别全部模块所引起。此时应该核查Project Structure里的Content Roots设定项是否涵盖了整个工程根目录；必要时可手动添加遗漏部分，并保存变更生效[^3]。 ```python # 示例代码用于展示如何获取当前项目的根路径，在实际应用中可根据需求调用该函数辅助排查问题 import os def get_project_root(): current_file = os.path.abspath(__file__) project_dir = os.path.dirname(current_file) while not os.path.exists(os.path.join(project_dir, '.idea')): parent_dir = os.path.dirname(project_dir) if parent_dir == project_dir: break project_dir = parent_dir return project_dir print(f"Current Project Root Directory is {get_project_root()}") ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值