无需物理引擎欧洲杯体育,单个模子也能兑现"渲染 + 逆渲染"了!
在算计机图形和视觉领域,渲染是指将 3D 模子造成传神的 2D 图片,逆渲染则是从 2D 图片分析出 3D 模子的各式属性(如材质、光照等)。
当前,从材质观念(逆渲染)——材质剪辑——物体渲染的总共这个词经过,王人被妥洽到了一个框架中,且在性能方面达到了新 SOTA。
该经营出自港科大广州以及趣丸科技,他们首创双流扩散框架 Uni-Renderer,将渲染(生成图像)与逆渲染(观念材质、光照、几何)妥洽到单一扩散框架,兑现"生成即观念"的闭环才能。
估量遵守已被 CVPR 2025 摄取,代码与数据全面开源。
经营团队默示,这一遵守改日将重塑影视、游戏、AR/VR 等产业的视觉生成管线。
首创双流扩散框架
正如源流提到,渲染是通过色泽跟踪或旅途跟踪,生成高质料的图像;逆渲染是在 RGB 图像中索求出对象属性,比如金属度、八成度以及光照细节。
传统设施需舒适建模查验渲染器与逆渲染器,算计本钱高遵守低泛化差,两个过程也枯竭估量,精度和属性观念效果王人有限。
而 Uni-Renderer 的双流扩散架构将两个过程建模为双条目生成任务,生成时以材质、光照为条目输出图像,观念时以图像为条目反推内在属性:
其中渲染流认真生成 RGB 图像:以 VAE 编码材质、法线、光照为条目,通过扩散过程生成图像,辅助动态调整八成度 / 金属值(如"光滑棒球"秒变"金属质感")。
而逆渲染流认真处理内在属性:以图像为输入,通过噪声展望集合观念属性, 并在集合里面进行跨流交互,兑现信息传递会通优化协同。
此外,团队还选拔了各异化的 timestep 调治战术,通过不同的 timestep 使模子分裂渲染和逆渲染的映射干系,让这两者能更好协同。
终末,鉴于传统逆渲染因"材质 - 光照 - 几何"耦合性导致观念隐晦。
因此,他们将逆渲染观念取得的属性,再次输入到渲染模块进行再渲染,并借助轮回敛迹确保观念落幕可再行生成一致图像,绝对告别"观念即失真"。
实测对比,性能碾压 SOTA
1、材质剪辑
对比 Subias(过曝)、InstructPix2Pix(布景非常),Uni-Renderer 精确禁止高光与漫反射,如下图中"金属橙子"名义反射环境光照,细节传神。
2、重光照
如下图所示,输入单张图像,径直替换环境光为"夕阳 / 霓虹",模子自动调整漫反射与镜面反射,光影过渡当然,高出 NvDiffRec 的生硬效果。
3、真确场景
下图中,"水壶"逆渲染告捷说明高频环境光,金属质感与八成度谬误仅 3%。
玄虚而言,通过在生成阶段,以材质、光照为条目输出图像;观念阶段,以图像为条目反推内在属性,遵守提高了200%。
同期,Uni-Renderer 强制内在属性与图像的一致性,在公开测试集上材质臆度谬误缩小 40%,光照观念 PSNR 提高 30%。
另外,经营基于 Objaverse 构建业界最大界限多材质合成数据集,涵盖 20 万 3D 对象、121 种材质 / 光照组合,辅助高分辨率(1024 × 1024)查验。模子在未见过的真确场景中(如金属水壶、手机支架)仍能精确观念高光、八成度与复杂光照。
在渲染任务中,PSNR 达30.72(对比基线 28.09),逆渲染任务中,材质臆度 MSE 仅0.118(优化设施 0.316);重光照效果高出 GaussianShader 等决议,真确感拉满。
开源即用
当前团队对 Uni-renderer 同步进行了开源,包括:
代码库:辅助一键查验 / 推理,兼容 PyTorch 生态;
合成数据集:20 万对象 + 百万级材质 - 光照组合,涵盖数理化生多领域;
预查验模子:即插即用于游戏钞票生成、影视后期、工业诡计等场景。
这项经营的作家为陈知非 , 许添硕以及葛汶杭,他们是来自于香港科技大学(广州)ENVISION 践诺室的博士生,师从陈颖聪耕作。
(ENVISION 践诺室专注于视觉生成模子的经营,极力于探索其基容或趣,以提高模子的质料、遵守、千般性和可控性。)
小结一下,Uni-Renderer 的提倡,记号着视觉生成与说明从"分而治之"迈入"妥洽智能"时间。
其双流架构与轮回敛迹机制,为跨任务合股优化提供了全新范式。
改日,团队将进一步会通真确数据,攻克复杂动态场景,让东谈主工智能成为"万能视觉工程师"。
论文勾通:
https://arxiv.org/pdf/2412.15050
GitHub 代码:
https://yuevii.github.io/unirenderer-page/
践诺室官网:https://envision-research.hkust-gz.edu.cn/index.html#news
— 完 —
学术投稿请于使命日发邮件到:
ai@qbitai.com
标题注明【投稿】,告诉咱们:
你是谁,从哪来,投稿骨子
附上论文 / 技俩主页勾通,以及估量情势哦
咱们会(尽量)实时复兴你
一键柔顺 � � 点亮星标
科技前沿推崇逐日见
一键三连「点赞」「转发」「提神心」
接待在驳倒区留住你的思法!欧洲杯体育