Skip to content

Latest commit

 

History

History
143 lines (115 loc) · 5.85 KB

README.md

File metadata and controls

143 lines (115 loc) · 5.85 KB
Raw

简体中文

C++例程

目录

cpp目录下提供了C++例程以供参考使用，具体情况如下：

序号 C++例程 说明
1 yolov5_bmcv 使用opencv解码、BMCV前处理、BMRT推理

1. 环境准备

SE9系列刷机后在/opt/sophon/下已经预装了相应的libsophon、sophon-opencv和sophon-ffmpeg运行库包，可直接使用它作为运行环境。通常还需要一台x86主机作为开发环境，用于交叉编译C++程序。

2. 程序编译

C++程序运行前需要编译可执行文件。

通常在x86主机上交叉编译程序，您需要在x86主机上使用SOPHON SDK搭建交叉编译环境，将程序所依赖的头文件和库文件打包至soc-sdk目录中，具体请参考交叉编译环境搭建。本例程主要依赖libsophon、sophon-opencv和sophon-ffmpeg运行库包。

您还需要准备aarch64版本的qtbase依赖库，此前如果运行过下载脚本download.sh，会下载一份我们编译好的qtbase依赖库，在cpp/install目录下。

交叉编译环境搭建好后，使用交叉编译工具链编译生成可执行文件：

cd cpp/yolov5_bmcv
mkdir build && cd build
# 请根据实际情况修改-DSDK的路径，需使用绝对路径。
# 请根据实际情况修改-DQT_PATH的路径，需要用绝对路径:/your_workspace_path/sophon-demo/application/YOLOv5_fuse_multi_QT/cpp/install
cmake -DTARGET_ARCH=soc -DSDK=/path_to_sdk/soc-sdk ..  -DQT_PATH=/path_to_qtlib 
make

编译完成后，会在yolov5_bmcv目录下生成yolov5_bmcv.soc。

3. 推理测试

需将交叉编译生成的可执行文件及所需的模型、测试数据拷贝到SoC平台中测试。

3.1 参数说明

本例程通过读取json来配置参数。json格式如下：

{
  "dev_id": 0,
  "bmodel_path": "../../models/CV186X/yolov5s_v6.1_fuse_int8_4b.bmodel",
  "channels": [
    {
      "url": "../../datasets/test_car_person_1080P.mp4",
      "is_video": true,
      "skip_frame": 0
    },
    {
      "url": "../../datasets/test_car_person_1080P.mp4",
      "is_video": true,
      "skip_frame": 0
    },
    {
      "url": "../../datasets/test_car_person_1080P.mp4",
      "is_video": true,
      "skip_frame": 0
    },
    {
      "url": "../../datasets/test_car_person_1080P.mp4",
      "is_video": true,
      "skip_frame": 0
    }
  ],
  "queue_size": 10,
  "num_pre": 1,
  "num_post": 1,
  "class_names": "../../datasets/coco.names",
  "conf_thresh": 0.5,
  "nms_thresh": 0.5,
  # 显示窗口的个数，应与视频流数量匹配。
  # QT中的低延时优化说明：窗口分辨率<w_widget, h_widget>等于显示器分辨率<w_hdmi / display_cols, h_hdmi / display_rows>。
  # 窗口的分辨率越小，qt的渲染速度越快。如果窗口的分辨率和输入流的分辨率相同，还可以节省掉一个resize的时间。用户可以根据实际情况做调整。
  "display_rows": 2,
  "display_cols": 2
}
参数名 类型 说明
dev_id int 设备号
bmodel_path string bmodel路径
channels list 多路设置
url string 图片目录路径(以/结尾)、视频路径或视频流地址
is_video bool 是否是视频格式
skip_frame int 跳帧，间隔多少帧处理一次，图片设置为0
queue_size int 缓存队列长度
num_pre int 预处理线程个数
num_post int 后处理线程个数
class_name string 类别名
conf_thresh float 置信度
nms_thresh float nms阈值
display_rows int qt界面显示行数
display_cols int qt界面显示列数

3.2 运行程序

将YOLOv5_fuse_multi_QT整个文件夹放到SE9-8上；如有修改视频地址的需求，可修改 YOLOv5_fuse_multi/cpp/yolov5_bmcv/config_se9-8.json 中的 url。 在SE9-8/SE9-16上，YOLOv5_fuse_multi/cpp/目录下执行以下脚本：

./run_hdmi_show.sh

如有需求，可在该脚本中的以下内容，按需修改可执行文件 yolov5_bmcv.soc 的路径、json 配置文件的路径：

./yolov5_bmcv/yolov5_bmcv.soc --config=./yolov5_bmcv/config_se9-8.json

为了测试时延，程序中加了一些时间打印，这里是相关打印的说明：

Channel: 0, cap_init_delay: 8.61 ms;                                 # 打开videocapture的时间
Channel: 0, worker_decode: first_frame_delay: 282.37 ms;             # 初始化videocapture前---获取到第一帧的时间
Channel: 0, worker_pre: first_preprocessed_frame_delay: 283.62 ms;   # 初始化videocapture前---第一帧前处理完的时间
Channel: 0, worker_infer: first_inferenced_frame_delay: 290.85 ms;   # 初始化videocapture前---第一帧推理完的时间
Channel: 0, worker_post: first_postprocessed_frame_delay: 290.97 ms; # 初始化videocapture前---第一帧后处理完的时间
<qt><duration> before_cap_init --- first_show_img_start: 293.50      # 初始化videocapture前---第一帧送到qtgui队列的时间。
<qt><duration> before_cap_init --- first_emit: 296.55                # 初始化videocapture前---qt第一次emit绘图事件的时间。
<qt><duration> before_cap_init --- first_painted: 297.95             # 初始化videocapture前---qt第一帧绘图事件结束的时间。

3.3 程序流程图

整体流程如下： alt text

pipeline的实现请参考 YOLOv5_multi