不用羡慕特斯拉FSD,你也能在无人机上复现视觉端到端|Ubuntu复现教程

3D视觉工坊 2025-08-15 07:00

来源:阿木实验室

「3D视觉从入门到精通」知识星球(点开有惊喜) !星球内新增20多门3D视觉系统课程、入门环境配置教程、多场顶会直播、顶会论文最新解读、3D视觉算法源码、求职招聘等。想要入门3D视觉、做项目、搞科研,欢迎扫码加入

资讯配图

01 环境部署

安装Conda、ROS、CUDA、系统库倚赖项

Conda下载链接:

https://www.anaconda.com/download/success

ROS快捷安装链接:

wget http://fishros.com/install -O fishros && . fishros

CUDA链接:

https://developer.nvidia.com/cuda-toolkit-archive

系统库依赖项:

sudo apt-get update && sudo apt-get install ---no-install-recommends \   build-essential \   cmake \   libzmqpp-dev \   libopencv-dev \   libpcl-dev


02 环境变量

将catkin工作区的来源添加为FLIGHTMARE_PATH环境变量

echo "export FLIGHTMARE_PATH=~/YOPO" >> ~/.bashrcsource ~/.bashrc


03 路径修改

将YOPO压缩包放在用户目录下并解压:


资讯配图

将RPG_Flightmare文件夹放在flightrender目录下,结构如下图所示:


资讯配图

04 创建Python环境

利用conda创建python环境(因已存在yopo,故用yopo_test演示)

conda create --name yopo python=3.8


资讯配图


下载好后如下图所示,并使用conda activate yopo激活:


资讯配图

激活后如下图所示:


资讯配图

05 配置Python环境

conda install pytorch==2.4.1 torchvision==0.19.1 torchaudio==2.4.1  pytorch-cuda=11.8 -c pytorch -c nvidia


资讯配图
资讯配图

正常情况如下图:


资讯配图

安装opencv-python

资讯配图
pip install opencv-python


资讯配图

安装gym和stable-baseline3

资讯配图
pip install gym stable-baselines3


资讯配图

安装其他工具

资讯配图
pip install scipy==1.10.1 scikit-build==0.18.1 ruamel-yaml==0.17.21 numpy==1.22.3 tensorboard==2.8.0 empy catkin_pkg



资讯配图

06 构建flightlib

conda activate yopocd YOPO/flightlib/buildcmake ..


资讯配图

07 编译flightlib

make -j4


资讯配图

注意事项

资讯配图

需要将arch和code修改为与自己电脑显卡和CUDA版本适配的参数。

资讯配图

编译后如下图:

资讯配图


08 安装flightgym

cd YOPO/flightlib/buildpip install -e .Pip install .



资讯配图

09 配置flightpolicy模块

echo "export PYTHONPATH=$PYTHONPATH:~/YOPO" >> ~/.bashrcsource ~/.bashrc


10 数据收集模块


cd ~/YOPO/runconda activate yopopython data_collection_simulation.py

资讯配图


安装tqdm:

pip install tqdm


资讯配图

问题解决

资讯配图

安装好后再次报错如下:

资讯配图


表示protobuf版本不兼容

解决方法:

pip install protobuf==3.20.3


资讯配图


数据收集过程如下:

资讯配图

收集完成如下所示:

资讯配图

11 模型训练


cd ~/YOPO/runconda activate yopopython run_yopo.py --train=1


资讯配图

训练完成后模型保存如下:


资讯配图

12 测试1

无需动力学模型和控制器即可测试

cd ~/YOPO/runconda activate yopopython run_yopo.py --train=0 --render=1 --trial=1 --epoch=0 --iter=0 --supervised=0

资讯配图

编译控制器

资讯配图
资讯配图

报错如下:


资讯配图


原因:empy不兼容

解决方法:

pip install empy==3.3.4

资讯配图


安装好后重新编译

资讯配图


13 测试2

使用动力学模型和控制器进行测试

每一个下划线都在一个终端中执行,需要多个终端。

使用 Unity 和 ROS 接口启动模拟环境:cd ~/YOPO/flightrender/RPG_Flightmare./flightmare.x86_64------------------------------cd ~/YOPO/flightlib/build./flightros_node------------------------------------------------------ 启动控制器cd ~/YOPO source devel/setup.bashroslaunch so3_quadrotor_simulator simulator.launch-----------------------------------------------------------------------------加载模型开始规划:cd ~/YOPO/runconda activate yopopython test_yopo_ros_new.py---------------------------------------------------启动Rviz可视化cd ~/YOPO/rviz -d yopo.rviz-------------------------------------------------------启动可视化地图cd ~/YOPO/flightlib/build./map_visual_node


问题解决

资讯配图

报错如下:

资讯配图


解决方法:

pip install rospkg


资讯配图


完成后,即可开始端到端路径规划测试。

端到端路径规划测试

资讯配图

在rviz环境下启动 YOPO 后,通过鼠标点选目标点即可触发完整闭环:目标坐标被发送至YOPO推理模块,生成对应轨迹并解算为控制指令下发至无人机;实测中无人机能够按规划路径完成自主避障与运动。

当进入目标点的设定阈值范围,终端输出“arrive”,随后停止下发控制指令,无人机在当前位置悬停;如需前往新的位置,继续在rviz点选目标即可,流程稳定可复用。

本文仅做学术分享,如有侵权,请联系删文。

3D视觉硬件,官网:www.3dcver.com

资讯配图

3D视觉学习圈子

「3D视觉从入门到精通」知识星球(点开有惊喜) !星球内新增20多门3D视觉系统课程、入门环境配置教程、多场顶会直播、顶会论文最新解读、3D视觉算法源码、求职招聘等。想要入门3D视觉、做项目、搞科研,欢迎扫码加入

资讯配图

3D视觉全栈学习课程:www.3dcver.com

资讯配图

3D视觉交流群成立啦,微信:cv3d001

资讯配图

添加微信:cv3d001,备注:方向+单位,邀你入3D视觉交流群!

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
无人机
more
载重无人机违法试飞试验造成铁路损失19万元,这家乐山企业被成都铁路局约谈!民航四川监管局分别对相关人员和公司处罚5千元和5万元
8K 全景无人机,影翎Antigravity A1 登场
【无人机】136家无人机整机企业梳理
从遥遥领先到渐渐落后--谈谈美国无人机发展史
大疆ROMO成扫地机黑马!能否靠复用无人机技术突出重围?
关于公布第四批“中国AOPA青少年无人机飞行训练基地”申报结果的通知
陕西物流集团出手,西北地区首条城市无人机医药配送航线启用
时隔多年,无人机市场终于开始好玩起来了!
【无人机】无人机行业解读:政策红利与技术革命下的「黄金赛道」
【无人机】中国空军公开一款长航无人机无侦10,也是首次曝光,强到没朋友!
Copyright © 2025 成都区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号