基于MPU，在Ubuntu系统部署AI模型教程

来源 | 瑞萨嵌入式小百科

在AI应用的浪潮中，视觉AI无疑是最热门的领域之一。从智能家居到安防监控，从工厂自动化到自动驾驶，视觉技术的身影无处不在。然而，对于很多开发者来说，想要在本地实现AI推理，而不依赖云端，并不是一件轻松的事。

现在，瑞萨推出了AI模型部署工具——一款帮你零门槛上手NVIDIA TAO的神器。

AI应用的难点

#人工智能技术十分强大，但落地并不简单，原因如下：

工具链复杂：命令行操作多，学习成本高
训练周期长：数据准备、模型训练、优化环节耗时
部署门槛高：模型转换与硬件适配繁琐

特别是新手，面对复杂的命令行工具和海量参数，很容易陷入迷茫。

瑞萨的部署工具

瑞萨推出的AI模型部署工具，就是为了解决这些难点。

它是一个基于GUI的封装工具，将NVIDIA TAO Toolkit打包成可视化操作界面，一站式解决从模型创建到部署的全流程。

它的优势十分明显：

全程可视化操作，无需命令行
完整流程支持：创建→数据准备→训练→剪枝→评估→推理→部署
硬件适配广：不仅能跑在NVIDIA GPU上，还能部署到瑞萨MPU、甚至MCU上

快速上手教程

下面用实际演示，带你体验它的操作流程。本演示基于Ubuntu 20.04系统，同样也支持Ubuntu 22.04。演示使用Detectnetv2模型，并将其部署在RZ/V2L MPU上。

进入项目主页

进入项目目录并打开终端，执行`./gui_start.sh`命令，进入项目主页。如图1所示。

图1 通过终端启动工程

进入主页后，点击“CREATE”按钮，新建工程。如图2所示。

图2 点击“CREATE”新建工程

新建工程

在‘Project Name’栏，将工程命名为“Detectnetv2_for_video”。在“Task”栏中选择“Object Detection”，并在“Board”栏中选择“V2L”。最后点击“CREATE”创建工程。如图3所示。

图3 新建工程相关配置

若工程被成功创建，在屏幕上方系统会提示“Successfully created the task”。如图4所示。

图4 成功创建工程

准备数据集

工程创建完成后，系统会自动进入准备数据集界面。本次演示使用KITTI Vision数据集。选择好数据集后，点击“ANALYZE DATA”按钮，系统将分析数据集的类别数量等信息。如图5所示。

图5 选择数据集并点击“ANALYZE DATA”按钮

在数据集分析等待的过程中，你可以通过点击右下角的蓝色“LOGS”按钮，查看当前的日志。如图6所示。

图6 点击右下角的蓝色“LOGS”按钮，查看日志

数据集分析完成后，界面会显示数据类别分布和边界框统计情况。

点击“SPLIT”按钮，系统会按7:2:1的比例划分成训练集、验证集和测试集。成功划分后，会提示“Successfully completed detect split”。点击“GO FOR TRAINING”进入“Training”页面。如图7所示。

图7 数据集的分析和划分

训练模型

在“Training”页面中，选择“Model”（模型）和“Pre-Trained Model Paths”（预训练权重路径）。同时，可以设置“Batch size for gpu”（批量大小）、“Epochs”（训练轮数）、“Enable Qat”（是否启用量化感知）、“Image width”（图像宽度）以及“Image height”（图像高度）等参数。

完成参数设置后，点击“TRAINING SUBMISSION”开始训练。如图8所示。