开云「中国」Kaiyun官网登录入口经常需要至极密集地收集射线-开云「中国」Kaiyun官网登录入口

发布日期:2026-01-17 05:18    点击次数:118

开云「中国」Kaiyun官网登录入口经常需要至极密集地收集射线-开云「中国」Kaiyun官网登录入口

究诘东谈主员提议首个不错渲染高动态范围(High Dynamic Range, HDR)天然光的 3DGaussian Splatting 模子 HDR-GS,以用于新视角合成(Novel View Synthesis, NVS)。

该要道不错笔据用户输入的曝光本事来改变渲染场景的光照强度,同期还不错平直渲染高动态范围场景。比现时最佳的算法 HDR-NeRF 速率上要快 1000 倍。

常见的 RGB 图像无数为低动态范围(Low Dynamic Range, LDR),亮度的取值范围在 [0,255] 之间。

但是东谈主眼对亮度的感知范围要比 RGB 图像浩荡得多,一般为 [0,+∞],导致 LDR 图像很难反应真确场景的亮度范围,使得一些较暗或者较亮的区域的细节难以被捕捉,高动态范围(High Dynamic Range,HDR)图像应时而生,具有更广的亮度范围。

新视角合成(Novel View Synthesis,NVS)任务是在给定「一个场景的几张不同视角图像,况兼相机位置已知」的情况下,合成其他新视角的场景图像。

同比于 LDR NVS,HDR NVS 能更好地拟合东谈主类视觉,拿获更多的场景细节,渲染更高质料、视觉成果更好的图片,在自动驾驶、图像裁剪、数字东谈主等方面有着至极泛泛的诳骗。

现时主流的 HDR NVS 要道主要基于神经放射场(Neural Radiance Fields, NeRF),但是,NeRF 的 ray tracing 加 volume rendering 机制皆至极耗时,经常需要至极密集地收集射线,然后在每一条射线上收集多个 3D 点,对每一个 3D 点过一遍 MLP 来计较体密度和神采,严重拖慢了测验本事和推理速率。现时最佳的 NeRF 算法 HDR-NeRF 需要耗尽 9 小时来测验一个场景,8.2 秒来渲染一张尺寸为 400x400 的图像。

为了处治上述问题,清华大学、上海交通大学、香港科技大学、约翰霍普金斯大学的究诘东谈主员提议了首个基于 3DGS 的要道 HDR-GS,用于三维 HDR 成像;绸缪了一种有着双动态范围的三维高斯点云模子,同期搭配两条平行的光栅化处理管线以用于渲染 HDR 图像和光照强度可控的 LDR 图像。

论文逢迎:https://arxiv.org/ abs / 2405.15125

代码逢迎:https://github.com/ caiyuanhao1998 / HDR-GSgithub.com/ caiyuanhao1998 / HDR-GS

Youtube 视频汲引:https://www.youtube.com/ watch?v=wtU7Kcwe7ck

究诘东谈主员还再行改换了一个 HDR 多视角图像数据集,计较获得的相机参数和起原化点云大致撑捏 3DGS 类算法的究诘。HDR-GS 算法在跳跃现时最佳要道 1.91 dB PSNR 的同期仅使用 6.3% 的测验本事并杀青了 1000 倍的渲染速率。

图 1 HDR-GS 与 HDR-NeRF 各项性能对比图图 1 HDR-GS 与 HDR-NeRF 各项性能对比图

一大波演示如下:

对比近期出现的 3D Gaussian Splatting(3DGS),天然能在保证图像质料的同期也大幅升迁了测验和渲染速率,但却很难平直诳骗到 HDR NVS 上,仍然存在三个主要问题:

1. 渲染的图片的动态范围依旧是 [0,255],仍旧属于 LDR;

2. 平直使用不同光照的图片来测验 3DGS 容易导致模子不阻抑,因为 3DGS 的球谐函数(Spherical Harmonics,SH)无法允洽光照的变化,经常会导致伪影、应答、神采畸变等问题;

3. 旧例的 3DGS 无法改变渲染场景的亮度,极大驱散了诳骗场景,尤其是在 AR / VR、电影、游戏等范围,经常需要改变光照要求来反应东谈主物的热诚与环境氛围。

图 2 旧例 3DGS 对比 HDR-GS图 2 旧例 3DGS 对比 HDR-GS

要道架构

图 3 HDR-GS 的合座算法经过图 3 HDR-GS 的合座算法经过

究诘东谈主员领先使用 Structure-from-Motion(SfM 算法来再行改换场景的相机参数并起原化高斯点云,然后将数据喂入到双动态范围(Dual Dynamic Range,DDR)的高斯点云模子来同期拟合 HDR 和 LDR 神采,使用 SH 来平直拟合 HDR 神采。

再使用三个零丁的 MLP 来别离对 RGB 三通谈作念 tone-mapping 操作,笔据用户输入的曝光本事将 HDR 神采转为 LDR 神采,然后将 3D 点的 LDR 和 HDR 神采喂入到平行光栅化(Parallel Differentiable Rasterization, PDR)处理管线来渲染出 HDR 和 LDR 图像。

实践驱散

定量驱散

表 1 合成实践对比驱散

表 2 的确确践对比驱散表 2 的确确践对比驱散

合成实践和的确确践的定量对比驱散别离如表 1 和表 2 所示,HDR-GS 在性能上显耀跳跃之前要道的同期,测验和推理也别离达到了 16 倍速和 1000 倍速。

视觉驱散

图 4 合成场景的 LDR NVS 视觉对比图 4 合成场景的 LDR NVS 视觉对比图 5 真确场景的 LDR NVS 视觉对比图 5 真确场景的 LDR NVS 视觉对比图 6 HDR NVS 视觉对比图 6 HDR NVS 视觉对比

LDR NVS 的视觉对比驱散如图 4 和图 5 所示,HDR NVS 的视觉对比驱散如图 6 所示。HDR-GS 大致渲染出更丰富更理会的图像细节,更好地拿获 HDR 场景并能活泼地改变 LDR 场景的光照强度。

参考贵府:

https://arxiv.org/abs/2405.15125

告白声明:文内含有的对外跳转逢迎(包括不限于超逢迎、二维码、口令等面容),用于传递更多信息开云「中国」Kaiyun官网登录入口,省俭甄选本事,驱散仅供参考,IT之家扫数著述均包含本声明。

  声明:新浪网独家稿件,未经授权不容转载。 -->