光线追踪技术已经不算新技术了,在PC上应用多年,但要把光线追踪技术应用到移动设备,比如手机和游戏机存在挑战,特别还要具有桌面级的体验就更好。日前, Imagination Technologies 宣布推出旗舰款图形处理器(GPU)知识产权(IP)产品IMG CXT,同时其PowerVR Photon光线追踪架构也随该IP首次亮相。光线追踪技术也是其最大的一个亮点。
通过增加Photon硬件光线追踪功能,IMG CXT实现了GPU IP的又一次重大飞跃,能够为游戏和其他图形处理应用场景提供令人难以置信的性能。Photon 是业界最先进的光线追踪架构,可以为移动和嵌入式应用带来桌面级质量的视觉效果,并已在多个市场中进行了授权。
光线追踪是一项改变游戏规则的技术,可以使图形真实感达到跃升式变化。通过模拟真实世界中光线的表现,它可以创造出与现实生活几乎无异的三维(3D)场景。由于其计算的复杂性,光线追踪不久前也只是应用在台式机和游戏机上,但凭借IMG CXT革命性的Photon架构,移动开发者和游戏玩家现在也能够利用这种令人难以置信的渲染技术和全面的硬件加速功能。Photon为那些最令人兴奋的应用提供了光线追踪功能,包括移动、游戏、增强现实(AR)、桌面、数据中心、云和下一代汽车等应用。
Photon架构代表了十年来推动光线追踪在低功耗设备上应用的发展成果,并且在视觉效果可能性方面,为智能手机、平板电脑、笔记本电脑和汽车解决方案带来了重要的飞跃式进展。Photon架构的主要特点是RAC,这是一种新的低功耗专用硬件GPU组件,相比效率较低的 RTLS 2级架构,它可以加速和卸载更多来自着色器内核的光线追踪计算。
光线追踪可以在不同的性能和效率等级下执行,为了明确这一点,Imagination 建立了光线追踪等级系统(RTLS),确定了从0级(Level 0)到5级(Level 5)共6个等级的光线追踪功能的要求。IMG CXT采用的Photon架构处于RTLS的4级(Level 4),这使其成为当前可用的最先进的光线追踪技术,提升了光线追踪的性能和效率,从而可为移动游戏玩家和开发者提供桌面级质量的体验。
IMG CXT-48-1536 RT3 内核具有三个光线加速集群(RAC),可提供总体高达1.3 GRay/s的性能。这可以在移动设备的功耗预算下,以高帧率提供逼真的光线追踪阴影、反射、全局照明和环境光遮蔽效果。
IMG CXT在光栅化图形处理性能方面也向前迈出了重要一步,与Imagination的上一代GPU IP相比,其计算、纹理和几何性能都提高了50%。它的低功耗超标量(superscalar)架构可在低时钟频率下提供高性能,从而实现卓越的帧率功耗比(FPS/W)效率,同时 Imagination图像压缩(IMGIC)技术可以大幅降低带宽需求。
值得一提的是,Imagination也将Photon架构应用于个人计算机(PC)和数据中心。实际上,得益于Imagination的多核技术,Photon架构可以扩展应用于云、数据中心和PC市场。这可以实现高达 9 TFLOPS(每秒万亿次浮点运算)的FP32光栅化性能和超过7.8 GRay/s的光线追踪性能,同时能够提供比当今的 RTLS 2 级或3级光线追踪解决方案高2.5倍的功耗效率。IMG CXT也非常适合于超高品质的汽车人机界面(HMI)平台。它可以实现环绕视图中逼真的车辆图像,卫星导航中密集城市区域的展示,以及具备混合现实功能的抬头显示器(HUD)、数字车速表和其他信息显示器。它还可以在车上人员等待车辆充电时提供优质的车内游戏和娱乐体验。
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。