c++ yolo onnx推理

### C++ 中使用 YOLO 模型进行 ONNX 推理的实现 要在 C++ 中通过 ONNX Runtime 使用 YOLO 进行推理，通常需要完成以下几个核心部分： #### 1. 安装 ONNX Runtime 库 确保已安装并配置好 ONNX Runtime 的开发环境。可以通过官方文档获取支持的操作系统和编译方法。 #### 2. 加载模型文件 加载预训练好的 `.onnx` 文件作为输入模型。以下是具体的代码示例[^1]: ```cpp #include <iostream> #include <vector> #include "onnxruntime_cxx_api.h" int main() { Ort::Env env(ORT_LOGGING_LEVEL_WARNING, "YOLO_ONNX"); Ort::SessionOptions session_options; // 设置线程数和其他选项 (可选) session_options.SetIntraOpNumThreads(4); session_options.SetGraphOptimizationLevel(GraphOptimizationLevel::ORT_ENABLE_ALL); const char* model_path = "path/to/yolov8.onnx"; Ort::Session session(env, model_path, session_options); std::vector<const char*> input_names = {"input_name"}; std::vector<const char*> output_names = {"output_name"}; // 获取输入张量形状 size_t num_input_nodes = session.GetInputCount(); Ort::AllocatorWithDefaultOptions allocator; for (size_t i = 0; i < num_input_nodes; ++i) { auto input_node_dims = session.GetInputTypeInfo(i).GetTensorTypeAndShapeInfo().GetShape(); std::cout << "Input Node Dimensions: "; for(auto dim : input_node_dims){ std::cout << dim << " "; } std::cout << "\n"; } return 0; } ``` 上述代码展示了如何初始化 `Ort::Env` 和 `Ort::Session` 对象，并读取模型的输入节点名称及其维度信息。 #### 3. 准备输入数据 为了执行推理操作，需准备符合模型预期格式的数据。例如，假设模型期望的是 `(batch_size, channels, height, width)` 形状的浮点数组，则应按此标准调整图像数据。 ```cpp // 假设输入尺寸为 640x640 RGB 图像 const int batch_size = 1; const int channels = 3; const int height = 640; const int width = 640; std::vector<float> input_tensor_values(batch_size * channels * height * width, 0.0f); // 将图像像素填充至 input_tensor_values 数组中... ``` #### 4. 执行推理过程 准备好输入后，调用 `Run()` 方法来运行推理流程: ```cpp auto memory_info = Ort::MemoryInfo::CreateCpu(OrtArenaAllocator, OrtMemTypeDefault); // 创建 Tensor 对象表示输入数据 Ort::Value input_tensor = Ort::Value::CreateTensor<float>( memory_info, input_tensor_values.data(), input_tensor_values.size(), input_node_dims.data(), input_node_dims.size() ); // 输出容器定义 std::vector<Ort::Value> output_tensors; session.Run( Ort::RunOptions{nullptr}, input_names.data(), &input_tensor, 1, output_names.data(), 1, output_tensors ); // 处理解析后的输出结果 float* floatarr = output_tensors[0].GetTensorMutableData<float>(); for(int i=0;i<10;i++) { std::cout<<floatarr[i]<<" "; } ``` 以上代码片段实现了从创建输入张量到解析输出的过程。 --- ###