Workflow
3D高斯溅射(3DGS)
icon
搜索文档
7DGS 炸场:一秒点燃动态世界!真实感实时渲染首次“七维全开”
自动驾驶之心· 2025-08-23 16:03
核心技术创新 - 提出7D高斯溅射(7DGS)框架,通过联合建模空间(3D)、时间(1D)和视角方向(3D)实现动态场景的高保真实时渲染 [3][10][17] - 核心突破在于统一表征7维高斯,自然捕捉几何、动态与视角相关外观的相互依赖性,例如移动镜面高光和时间变化的各向异性反射 [3][18][24] - 引入自适应高斯细化技术,通过轻量级神经网络动态调整高斯参数,提升对非刚性形变和复杂动态行为的建模精度 [32][35][36] 性能优势 - 在7DGS-PBR数据集上,PSNR指标最高提升7.36 dB(heart1场景:35.48 vs 27.30),同时保持401 FPS的实时渲染速度 [10][40][44] - 高斯点数显著减少,例如dust场景从357,744点优化至11,253点,压缩率达96.9% [40] - 在Technicolor野外数据集上,PSNR达到33.58,优于4DGS的33.25,且训练时间从358.9分钟缩短至112.1分钟 [40][43] 方法架构 - 采用条件切片机制,将7D高斯投影为兼容现有渲染流程的3D高斯,确保实时性能与保真度平衡 [23][26][27] - 通过球谐函数建模视角相关颜色,结合时间调制因子(f_temp)和方向调制因子(f_dir)动态调整不透明度 [8][28][30] - 优化流程继承3DGS的自适应致密化框架,通过克隆与分裂操作实现跨时空角度域的全面覆盖 [37][38] 应用场景 - 支持虚拟现实、增强现实和数字孪生应用,适用于动态心跳可视化、云层日照过渡等复杂场景 [2][10][41] - 在自动驾驶领域潜在应用于动态环境建模,技术栈涵盖BEV感知、多传感器融合和世界模型 [45][46]
ArtGS:3DGS实现关节目标精准操控,仿真/实物双验证性能SOTA!
具身智能之心· 2025-07-04 09:48
研究背景与出发点 - 关节目标操作是机器人领域的关键挑战,核心难点在于复杂的运动学约束和现有方法有限的物理推理能力 [3] - 传统方法如端到端强化学习或模仿学习需要大量数据但常因缺乏物理知识导致动作违反约束 [3] - 3D视觉方法如GAMMA、RPMArt存在点云稀疏性、无序性和时间一致性不足的问题 [3] - 提出ArtGS框架通过扩展3D高斯溅射整合视觉-物理建模,优化关节骨骼参数保证物理一致性 [3] 核心框架与技术细节 - ArtGS包含三个关键模块:静态高斯重建、VLM基于骨骼推理、动态3D高斯关节建模 [4] 静态3D高斯重建 - 通过3D高斯溅射从多视图RGB-D图像重建高保真3D场景,场景表示为3D高斯球集合 [5] - 利用URDF文件和改进的Denavit-Hartenberg正运动学构建变换矩阵控制高斯点运动 [5] VLM基于骨骼推理 - 借助微调的视觉-语言模型InternVL-2.5-4B初始化关节参数估计 [6] - 通过3DGS新视图合成能力生成目标正视图辅助VLM输出视觉问答结果 [6] - 对旋转关节和移动关节分别采用PCA和边界框叉积方法估计初始关节参数 [8][9] 动态3D高斯关节建模 - 通过阻抗控制实现机械臂与环境的交互,结合微分渲染优化关节参数 [10] - 高斯点的均值和旋转因子通过线性混合蒙皮变换到关节空间 [10] - 通过最小化包含L1损失、结构相似性损失和正则化项的损失函数优化关节参数 [10] 实验验证与结果分析 关节参数估计 - ArtGS在关节轴误差和关节原点误差上显著低于ANCSH、GAMMA、Ditto等方法 [12] - 例如在洗碗机上ArtGS的AE为3.01°、OE为2.17cm,远低于ANCSH的15.32°和9.26cm [13] 关节目标操作 - 模拟环境中ArtGS操作成功率达62.4%-90.3%,显著高于TD3的3.1%-6.6%和Where2Act的8.4%-11.2% [14][15] - 真实世界实验中ArtGS对抽屉操作成功率达10/10,对柜子达9/10 [17] 关键能力验证 - ArtGS能通过3DGS可微分渲染优化参数,即使VLM初始轴估计误差超过20°仍能提升操作成功率 [19] - 具备跨机械臂适应性,能精确重建Franka、xArm7等不同机械臂 [19] 总结与展望 - ArtGS将3D高斯溅射转化为关节目标的视觉-物理模型,提升优化效率并解决遮挡问题 [20] - 未来方向将扩展至更复杂场景,提升对多关节、高动态目标的建模与操作能力 [21]