Neuralangelo是NVIDIA Research 开发的一个全新AI模型,它利用神经网络进行3D重建,可将2D视频片段转换为详细的3D结构,为建筑物、雕塑以及其他真实物体生成逼真的虚拟复本。
就像米开朗基罗用大理石雕刻出令人惊叹、栩栩如生的雕塑一样,Neuralangelo能生成具有复杂细节和纹理的3D结构。随后,创意人士可以将这些3D物体导入设计软件中,对其进行进一步编辑,用于艺术、视频游戏开发、机器人和工业数字孪生。
Neuralangelo将复杂材料——包括屋顶瓦片、玻璃板和光滑的大理石——的纹理从2D视频转换为3D物料的能力大大超过了以前的方法。高保真度让开发者和创意专业人士更容易进行3D重建,使用智能手机拍摄的视频快速为项目创建可用的虚拟物体。
NVIDIA Research高级研究总监、上述论文的合著者刘洺堉表示:“Neuralangelo的3D重建能力将使创作者受益匪浅,能够帮助他们在数字世界中重建现实世界。这个工具最终将使开发人员能够将详细的对象——无论是小雕像还是大型建筑——导入到虚拟环境中,用于电子游戏或工业数字孪生。”
在一次演示中,NVIDIA研究人员展示了该模型如何重建米开朗基罗“大卫像”这样的标志性物体以及平板卡车这样的普通物体。Neuralangelo还可以重建建筑物的内部和外部——以NVIDIA湾区办公园区的详细3D模型为例进行了演示。
本次发布相关精彩视频已在NVIDIA中国西瓜视频账号发布:
数字文艺复兴:NVIDIA Neuralangelo研究重构3D场景
在3D中应用神经渲染模型
之前用于重建3D场景的AI模型很难准确捕捉重复的纹理、均匀的颜色和强烈的颜色变化。Neuralangelo采用即时神经图形基元——即NVIDIA Instant NeRF背后的技术——来帮助捕捉这些更精细的细节。
使用从不同角度拍摄的物体或场景的2D视频,该模型会选择从不同角度捕捉的镜头来确定物体或场景的深度、大小和形状,就像艺术家会从多个角度描绘一个物体一样。
一旦确定了每个镜头的相机位置,Neuralangelo的AI就会创建一个粗略的3D场景,相当于雕塑家开始雕刻主体的形状。
然后,该模型对渲染进行优化以锐化细节,就好像雕塑家辛苦雕琢石头来模仿织物或人的纹理。
最终会生成一个3D物体或大规模场景,可用于虚拟现实应用、数字孪生或机器人开发。
在6月18-22日举行的CVPR大会上探寻NVIDIA Research的研究成果
在6月18日至22日于温哥华举行的CVPR上,NVIDIA Research将展示近30个项目,其中包括Neuralangelo。这些论文的主题涵盖姿态估计、3D重建和视频生成。
其中一个名为DiffCollage的项目是一种创建大规模内容的扩散法,包括长横向、360度全景图和循环运动图像。当输入一个具有标准长宽比的图像训练数据集时,DiffCollage将这些较小的图像视为更大视觉片段的一部分——就像一张张拼贴画。这使得扩散模型能够生成看上去有凝聚力的大型内容,而无需使用相同比例的图像进行训练。
该技术还可以将文本提示转换为视频序列,技术演示中使用了预先训练的扩散模型来捕捉人体动作:
本次发布相关精彩视频已在NVIDIA中国西瓜视频账号发布:
了解有关NVIDIA Research参展CVPR的更多信息。
好文章,需要你的鼓励
施耐德电气以“新质服务+产业向‘新’行”为主题,第六次参会,展示全新升级的“新质服务体系”,围绕创新驱动、生态协同和行业赋能三大核心领域,以全新升级的“新质服务体系”,助力中国产业向高端化、智能化、绿色化迈进。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
甲骨文正在成为大规模基础设施供应商的可靠选择。该公司通过AI技术推动应用开发,构建GenAI模型并将智能代理集成到应用套件中。CEO萨弗拉·卡茨透露,公司剩余履约义务达4553亿美元,同比增长4.6倍,并预测OCI收入将从2026财年的180亿美元增长至2030财年的1440亿美元。甲骨文正积极布局AI推理市场,凭借其作为全球最大企业私有数据托管方的优势地位,有望在云计算领域实现重大突破。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。