YoloV8Infer

基于ONNX Runtime的YOLOv8目标检测C++实现，支持CPU和GPU推理。

功能特性

• 使用C++实现的YOLOv8目标检测
• 通过JSON文件进行配置
• 集成OpenCV进行图像处理
• 使用ONNX Runtime进行模型推理
• 支持CPU和GPU推理
• 跨平台支持（Windows、Linux、macOS）

环境要求

• CMake 3.14 或更高版本 （实际使用3.31.9）
• 支持C++17/C++20的编译器 （实际使用MSVC 19.44.35219）
• OpenCV 4.x （实际使用4.12.0）
• ONNX Runtime（CPU或GPU版本） （实际使用onnxruntime-win-x64-gpu-1.19.2）
• spdlog （实际使用1.16.0）
• nlohmann/json （实际使用3.12.0）

安装步骤

1. 克隆仓库：

   git clone https://github.com/yourusername/YoloV8Infer.git
   cd YoloV8Infer

2. 安装依赖：

   • OpenCV：从OpenCV官网下载并构建
   • ONNX Runtime：从ONNX Runtime GitHub下载
   • spdlog：从spdlog GitHub下载
   • nlohmann/json：从nlohmann/json GitHub下载

3. 在CMakeLists.txt中配置路径： 根据您的安装路径更新以下变量：

   set(OpenCV_DIR "path/to/opencv/build/install")
   set(ONNXRUNTIME_ROOT "path/to/onnxruntime")
   set(SPDLOG_INCLUDE_DIRS "path/to/spdlog/include")
   set(NLOHMANN_JSON_INCLUDE_DIRS "path/to/nlohmann/json/include")

4. 构建项目：

   mkdir build
   cd build
   cmake ..
   cmake --build .

使用方法

1. 准备YOLOv8的ONNX格式模型。

2. 在configs/config.json中配置设置：

   {
     "model": {
       "path": "path/to/your/model.onnx",
       "input_width": 640,
       "input_height": 640,
       "device_type": "CPU"  // 或 "GPU"
     },
     "detection": {
       "confidence_threshold": 0.5,
       "nms_threshold": 0.4
     },
     "input": {
       "image_path": "path/to/your/image.jpg"
     },
     "classes": [
       "类别1",
       "类别2"
     ]
   }

3. 运行应用程序：

   ./YoloV8Infer

性能对比

在测试中，首次运行由于模型加载和初始化的开销，CPU推理可能比GPU推理更快。 实际批量处理时，GPU推理通常能提供更好的性能，性能见测试结果。

测试结果

测试环境

• Windows 11
• CPU：Intel Core i7-14700F
• GPU：NVIDIA GeForce RTX 4060Ti 8GB

测试结果（单张）

• CPU推理：约81毫秒
• GPU推理：约1253毫秒（首次运行包含初始化开销）

测试结果（批量处理）

• [2025-11-07 17:37:03.579] [performance] [info] === PERFORMANCE COMPARISON ===
• [2025-11-07 17:37:03.579] [performance] [info] CPU: 74.21 ms
• [2025-11-07 17:37:03.579] [performance] [info] GPU: 7.05 ms
• [2025-11-07 17:37:03.579] [performance] [info] GPU is 10.53x faster than CPU

优化GPU性能的方法：

1. 对多张图片使用批量处理
2. 确保模型足够大以从GPU并行化中受益
3. 在代码中调整CUDA提供程序选项

项目结构

YoloV8Infer/
├── src/                 # 源代码
├── include/             # 头文件
├── configs/             # 配置文件
├── tests/               # 单元测试
├── CMakeLists.txt       # CMake构建脚本
├── README.md            # 项目文档
└── LICENSE              # 许可证文件

贡献

欢迎贡献！请随时提交Pull Request。

许可证

该项目采用MIT许可证 - 详见LICENSE文件了解详情。