简体中文 | English

Radxa Model-Zoo 介绍

简介

Radxa Model-Zoo 基于 Sophon demo 进行二次开发，由Radxa独立管理，Radxa Model-Zoo 提供一系列主流算法的移植例程与预编译好的TPU平台模型下载。包括基于TPU-NNTC和TPU-MLIR的模型编译与量化，基于BMRuntime的推理引擎移植，以及基于BMCV/OpenCV的前后处理算法移植。

Radxa Model--Zoo 利用 SophonSDK 接口进行开发，SophonSDK是算能科技基于其自主研发的深度学习处理器所定制的深度学习SDK，涵盖了神经网络推理阶段所需的模型优化、高效运行时支持等能力，为深度学习应用开发和部署提供易用、高效的全栈式解决方案。目前可兼容BM1684X。

目录结构与说明

目录	算法类别	编程语言	BModel	支持多batch	预处理库
LPRNet	车牌识别	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
ResNet	图像分类	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
RetinaFace	人脸检测	C++/Python	FP32	YES	BMCV/OpenCV
segformer	语义分割	C++/Python	FP32/FP16	YES	BMCV/OpenCV
yolact	实例分割	Python	FP32	YES	BMCV/OpenCV
PP-OCR	OCR	C++/Python	FP32/FP16	YES	BMCV/OpenCV
OpenPose	人体关键点检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
C3D	视频动作识别	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
DeepSORT	多目标跟踪	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
ByteTrack	多目标跟踪	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
CenterNet	目标检测、姿态识别	C++/Python	FP32/FP16/INT8	YES	BMCV
YOLOv5	目标检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
YOLOv34	目标检测	C++/Python	FP32/INT8	NO	BMCV/OpenCV
YOLOX	目标检测	C++/Python	FP32/INT8	YES	BMCV/OpenCV
SSD	目标检测	C++/Python	FP32/INT8	YES	BMCV/OpenCV
YOLOv7	目标检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
YOLOv8	目标检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
YOLOv5_opt	目标检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
ppYOLOv3	目标检测	C++/Python	FP32/FP16/INT8	YES	BMCV/OpenCV
WeNet	语音识别	C++/Python	FP32/FP16	YES	-
BERT	语言模型	C++/Python	FP32/FP16	YES	-
ChatGLM2	语言模型	C++/Python	FP16/INT8/INT4	YES	-
Llama2	语言模型	C++	FP16/INT8/INT4	YES	-

环境依赖

Radxa Model-Zoo主要依赖tpu-mlir、tpu-nntc、libsophon、sophon-ffmpeg、sophon-opencv、sophon-sail，其版本要求如下：

Radxa Model-Zoo	tpu-mlir	tpu-nntc	libsophon	sophon-ffmpeg	sophon-opencv	sophon-sail	发布日期
0.1.0	>=1.2.2	>=3.1.7	>=0.4.6	>=0.6.0	>=0.6.0	>=3.7.0	>=23.10.01