随手拍照片就能VR云旅游!无位姿、稀疏图像条件下实现稳定3D重建和新视角合成|港科广

量子位 2025-07-31 12:23
RegGS团队 投稿
量子位 | 公众号 QbitAI

想象一下,你随便用手机拍了几张家里的照片,没有精确的相机位置,甚至照片之间重叠都很少。

现在,一个新算法能把这些零散的2D图片,“拼”成一个厘米级精度的3D数字模型,效果好到可以直接放进VR头显里“云旅游”。

资讯配图

在许多实际场景中,图像间的重叠有限、拍摄角度跨度大,且往往缺乏准确的相机姿态信息。

传统NeRF虽能联合优化位姿和辐射场,但计算代价高、难以收敛;而NoPose类的feed-forward模型虽然高效,却只能处理极少张图片,无法泛化到大规模场景。

这就引出了一个核心矛盾:基于优化的方法不够鲁棒,前馈式的方法不够灵活。

那么能否鱼与熊掌兼得?来自香港科技大学(广州)的一项研究工作RegGS,通过对局部3D高斯表示进行注册与融合,为这一挑战提供了新的解决方案。

资讯配图

方法核心机制:高斯之间的结构配准(Registration)

港科广团队提出了一种面向稀疏无位姿图像的三维重建方法——RegGS,结合前馈式的高斯表示与结构级配准机制,探索了在实际数据约束下实现可用3D重建的一种新路径。一套新的配准框架:

资讯配图
图:RegGS整体流程图

RegGS的核心机制是对局部3D高斯混合模型进行配准(registration),并逐步构建全局3D场景:

这种设计避免了依赖 SfM 的初始化过程,也不要求图像输入数量较多,适用于更宽松、现实的数据环境。

实验与开放资源

在RE10K和ACID两个数据集上,RegGS在不同输入帧数(2×/8×/16×/32×)下,PSNR、SSIM和LPIPS等指标全面领先现有主流方法。

资讯配图
图:RegGS新视角合成结果
资讯配图
图:RegGS定量的评估结果

应用潜力:适配多种“非理想输入”重建任务

RegGS 所解决的“稀疏+无位姿”问题在多个应用中极具现实意义:

与传统基于SfM或Bundle Adjustment的重建方法相比,RegGS不需要全局可视性或特征匹配,结构性要求更低,在“非结构化输入”的应用中更具可行性。

同时,研究团队也分析了方法的局限性,当前方法的性能和效率在一定程度上受限于上游前馈模型的生成质量,以及MW_2距离计算带来的开销,这些都是未来值得继续优化的方向。

总之,RegGS 提供了一种将最优传输、可微配准与高斯表示相结合的稀疏3D重建框架,不仅拓展了3DGS方法在无位姿/稀疏数据下的应用能力,也为更多现实场景下的空间理解任务提供了新思路。

论文链接:arxiv.org/abs/2507.13285
项目主页:https://3dagentworld.github.io/RegGS/

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—  —

资讯配图


🌟 点亮星标 🌟

科技前沿进展每日见

声明:内容取材于网络,仅代表作者观点,如有内容违规问题,请联系处理。 
VR
more
AI+VR运动系统让超重青少年减重4.28kg,还能显著提升认知功能!
重磅分享!VR-Robo:real2sim2real助力真实场景下的机器人导航和运动控制
清华RAL'25开源 | VR-Robo:通过3DGS实现机器人视觉运动与导航!
全面碾压π0,国产VLA“弯道超车” | VR教1次就会,字节GR-3开启机器人「闪学」时代,泛化性爆表!
6大基准全面碾压!TW-GRPO刷新视频推理天花板,CLEVRER准确率突破50.4%!
飞行模拟器革命:VR技术如何重塑eVTOL飞行训练?
随手拍照片就能VR云旅游!无位姿、稀疏图像条件下实现稳定3D重建和新视角合成|港科广
Copyright © 2025 成都科技区角科技有限公司
蜀ICP备2025143415号-1
  
川公网安备51015602001305号