DimensionX - 港科大、清华和生数科技共同推出的单图像生成复杂3D、4D场景框架

DimensionX是什么

DimensionX是香港科技大学、清华大学和生数科技共同推出的框架，能从单张图片生成高逼真度的3D和4D场景，基于视频扩散技术实现对空间和时间维度的精确控制。框架基于ST-Director技术解耦空间和时间因素，支持独立或组合控制，生成具有动态变化的复杂场景。DimensionX包含轨迹感知机制和身份保持去噪策略，增强场景的一致性和真实感。

DimensionX的主要功能

3D场景生成：从单张图片生成新的视角渲染图，构建3D场景。
4D场景生成：从单张图片生成包含时间和空间变化的动态场景。
视频扩散控制：基于ST-Director技术，实现对视频扩散过程中空间和时间因素的解耦和精确控制。
轨迹感知机制：为3D生成设计，处理复杂的现实世界场景和相机运动。
身份保持去噪策略：为4D生成设计，增强场景的一致性，特别是在动态对象和背景之间。

DimensionX的技术原理

ST-Director（空间和时间导演）：
- 维度感知LoRAs：学习从维度变化数据中得到的低秩适应（LoRAs），实现对视频扩散中空间和时间因素的解耦。
- S-Director（空间导演）：负责生成与空间变化相关的视频帧，控制相机视角和位置。
- T-Director（时间导演）：负责生成与时间变化相关的视频帧，控制场景中对象的动态。
维度感知分解：定义空间和时间等价关系，创建S-Quotient Space和T-Quotient Space，分别捕获视频中的空间轨迹和时间运动轨迹。
无需训练的维度感知组合：基于视频扩散过程中的去噪机制，开发无需训练的方法实现混合维度控制，用在去噪过程的不同阶段切换S-Director和T-Director生成包含空间和时间变化的视频。
3D场景生成：
- 轨迹感知机制：根据不同的相机运动轨迹训练多种S-Director，覆盖广泛的相机运动模式。
- 视频插值模型：生成高质量的插值视频，平滑和一致地过渡稀疏视图。
4D场景生成：
- 参考视频latent共享：基于选择参考帧并共享其latent代码增强所有空间变体视频之间的一致性。
- 外观细化：对每个视点的动态视频进行细化，增强多视图视频之间的稳定性和一致性。