至顶网计算频道 07月26日 新闻消息(文/李祥敬):近日,作为全球视觉计算技术的行业领袖,NVIDIA携专业视觉解决方案Quadro RTX GPU和虚拟GPU解决方案等领先产品亮相InfoComm China 2019,集中展示了AI赋能下专业视觉领域新突破。同时,NVIDIA还携其RTX服务器、数据科学工作站亮相。RTX服务器可用于Optix RTX渲染、游戏、VR和AR、以及专业可视化应用程序;数据科学工作站专为数据分析、机器学习和深度学习而设计,提供了极强的计算能力和工具。
在我们的认知中,Quadro RTX GPU是专注于专业可视化的,但是从上述表现,我们可以看到NVIDIA在不断延展Quadro RTX GPU的应用场景,让其有更多担当。NVIDIA中国区高级市场总监刘念宁告诉记者,NVIDIA在InfoComm China上主要讲图形专业图像处理,而且也在不断加入新的理念,比如人工智能和计算机图形的结合。今年的InfoComm China上,NVIDIA则重点谈论5G技术。“从图形到计算机图形和人工智能相结合,现在更把5G加进来,这些如何整合实际上是NVIDIA很重要的产品趋势。我们希望RTX服务器、数据科学工作站以及虚拟GPU解决方案能够为所有创造者提供强大的引擎,赋能他们的创新。”
在计算机图形领域,NVIDIA最重要的技术和产品是Quadro,致力于让RTX for Everywhere。在AI部分,NVIDIA提供了CUDA-X AI加速数据科学软件,如RAPIDS、TensorFlow、PyTorch和Caffe。CUDA-X AI是一个资源库合集,让现代化计算应用能够从NVIDIA的GPU加速计算平台中受益。5G除了提供很大的带宽、低延迟之外,最重要的是让端和云的界限变小,所以在5G的驱动下Quadro从云端数据中心拓展到边缘。
NVIDIA高级解决方案架构师宋毅明表示,NVIDIA在图形处理方面一直不断创新,比如RTX技术,把AI引入了图形学。这些得益于NVIDIA Turing GPU架构,该架构首次加入了RT Core,可实现对象和环境的实时光线追踪,并做到物理上精确的阴影、反射和折射以及全局光照;搭载的Tensor Core可加速深度神经网络训练和推理,这对于赋力AI增强型产品和服务至关重要;首次支持8K编解码的芯片,直接利用硬件结合CUDA-X解决方案,可以直接在显存中处理视频,无论是做训练还是推理都非常强大。
谈及RTX服务器,宋毅明说,NVIDIA希望给客户提供一个整体化的解决方案,而不是单一的产品。对于一个数十人甚至百人的渲染团队,工作流程十分复杂,需要很多人配合才能完成工作。因此,单一化管理效率效会相对低一些,为了提升效率,NVIDIA RTX服务器应运而生。
在云端数据中心,每个NVIDIA RTX服务器在8U空间内封装了40个GPU,可通过NVIDIA GRID vGaming或容器软件实现多用户共享。主干存储和网络互联采用的是Mellanox技术,可为数千名并发用户即时提供应用和更新。
NVIDIA对RTX服务器进行了优化,供云游戏运营商使用,使其能够以GeForce RTX 2080 GPU的性能水平在任何客户端设备实现游戏的渲染和流式传输。通过在网络边缘对RTX服务器进行低延迟访问,云渲染AR和VR应用成为现实。电信运营商通过在数据中心借助NVIDIA运营的GeForce NOW软件部署优化型RTX服务器,获得了易于部署的一站式解决方案,可传输对计算要求苛刻的内容。
宋毅明表示,在图形渲染方面,原来单颗GPU或者CPU农场的渲染方式,可能一天只能设计两个镜头。而通过RTX 服务器强大的计算力,一天可以完成大概7个镜头。“我们可以把任务通过后台方式提交给后台RTX服务器渲染,并直接在服务器上看到渲染效果,继续做下一个工作。比如《汽车总动员》就是通过RTX服务器进行渲染的。”
另外,针对5G的VR应用场景,原来5G用来,现在个人终端电脑配置比较强大,随着5G解决带宽或者边缘计算的问题,结合RTX服务器更强的计算力,我们只需要一个显示设备或一个很轻量级的电脑,就能轻松体验VR应用。
"RTX技术是NVIDIA一个里程碑式的技术创新。RTX服务器在视觉效果和处理速度上有着巨大飞跃。我们都知道影视、渲染、图形应用对性能的需求和画面质量的需求是无止境的,重要的是我们现在可以提供硬件的解决平台。"宋毅明说。
而且,NVIDIA有很完整的生态,包括开发包和渲染应用厂商的合作,一旦我们用户在实际的应用场景中碰到问题,NVIDIA和合作伙伴会统一给用户提供支持。作为一个有创新技术精神的公司,NVIDIA也很愿意跟行业用户展开多元的合作。
在边缘侧,NVIDIA赋力的数据科学工作站让数据科学家能够自由地在本地开展工作,该架构由两颗高端NVIDIA Quadro RTX GPU和NVIDIA CUDA-X AI加速数据科学软件构成。
宋毅明介绍说,在硬件层面,数据科学工作站基于最新NVIDIA Turing GPU架构,借助NVIDIA NVLink互联技术,双Quadro RTX 8000和6000 GPU可实现最高可达260TeraFLOPS的计算性能和96GB的内存。Quadro RTX赋力的数据科学工作站所提供的容量和带宽能够处理最大规模的数据集和计算密集型工作负载,且其图形功能能够满足包括VR在内的大规模数据集的三维可视化需求。
软件方面,NVIDIA CUDA-X AI是一组NVIDIA GPU加速库合集,用于加速深度学习、机器学习和数据分析。CUDA-X AI包括用于加速深度学习原语的cuDNN、用于加速机器学习算法的cuML、用于优化训练模型以进行推理的TensorRT、以及其他15个以上的库。它们能够与NVIDIA Tensor Core GPU无缝协作,加速端到端工作流程,以开发和部署基于AI的应用。CUDA-X AI可被集成到TensorFlow、PyTorch和MXNet等深度学习框架中,以及AWS、Microsoft Azure和Google Cloud等领先的云平台中。
除了NVIDIA CUDA-X AI,NVIDIA数据科学工作站还包括了NVIDIA RAPIDS、Anaconda Distribution、企业级支持、可选的软件支持等服务,为数据科学家提供更多选项,在边缘计算部分让科学家做地更好。特别是RAPIDS,其利用GPU强大的算力解决数据科学家的数据准备、模型训练和最后验证的整体加速流程。
而在虚拟化方面,NVIDIA虚拟GPU解决方案通过加速工作流程、让用户能够随时随地开展工作,助力设计师和工程师将其创作转变为现实。此外,虚拟GPU解决方案还可以为数字化办公场所中的现代化应用程序和操作系统(如Windows 10)提供经济高效的性能和易管理性。其中,面向设计师等专业工作者的NVIDIA Quadro虚拟数据中心工作站(Quadro vDWS)能够在任何地点、任何设备上满足最严苛的需求,实现无与伦比的体验。
NVIDIA GPU虚拟化高级解决方案架构师马林表示,2013年,NVIDIA推出了第一款vGPU产品,主要针对CAD、CAE或渲染的高端图形应用客户。如果说之前的vGPU产品还是针对图形场景,到了最近几年AI技术迅猛发展,越来越多的用户用GPU进行AI加速计算。所以,2018年NVIDIA推出了针对于数据中心计算场景使用的vGPU版本,比如支持热迁移(Live Migration)。2019年,NVIDIA推出两款vGPU的产品,vGPU 7.0和vGPU 8.0。“我们看到GPU虚拟化产品迭代速度非常快,它也是伴随着我们物理产品不断迭代和不断更新。”
在虚拟化平台里,我们要推出相应的软件产品来支持硬件。最新版的vGPU版本第一次支持了Quadro GPU,这样就可以把一块物理GPU转化成很多小的虚拟GPU,以软件的形式交付到用户的虚拟化环境里。
马林说,vGPU从最初一年多时间一个产品迭代,到今年可能是三四个月就有一个新的版本。在这些版本之间,我们做一个横向的比对,它的差异主要来源于以下几个方面。
对于硬件架构的支持。vGPU和物理GPU产品发布保持同步,1.0支持的物理GPU架构是Tesla架构,到后面在2.0、3.0、4.0版本支持MaxWell架构的物理GPU;在5.0支持Pascal,6.0支持Volta,7.0、8.0支持最新的Turing架构GPU。这就意味着用于虚拟机里的vGPU和底层的物理GPU具有等同的特性。所以,随着产品的不断迭代,vGPU可以让用户充分体会到我们底层GPU的特性。
生态在不断地完善。vGPU最初只支持Ctrix虚拟化环境,随着GPU产品的发展,vGPU后面也不断地支持了包括VMware、Linux KVM等虚拟化平台。
vGPU的管理功能不断增强。因为虚拟化环境更多强调的是管理,这也可以更好地实现云平台或虚拟化平台的有效监控。vGPU 7.0可以说是一个划里程碑式的版本,其中包括主要的4个特性:支持multi-vGPU技术、VMware vMotion、NVIDIA GPU Cloud、Turing架构。
“vGPU可以提高生产效率、资源利用率,提高投资回报。用户可以结合虚拟化的场景,利用RTX服务器,让用户可以在任意设备,任意地点,通过网络访问RTX的工作平台。”马林如是说。
综上所述,Quadro RTX GPU不断与时俱进,借助新的技术,不断迭代满足客户的多样化应用场景需求。从RTX服务器到数据科学工作站,NVIDIA不断延展Quadro RTX GPU的用途,让其可以承担用户从云端到边缘的图形处理、数据科学、AI、虚拟化等工作负载类型。
好文章,需要你的鼓励
临近年底,苹果公布了2024年App Store热门应用和游戏榜单,Temu再次成为美国下载量最多的免费应用。
云基础设施市场现在已经非常庞大,很难再有大的变化。但是,因为人们可以轻松地关闭服务器、存储和网络——就像开启它们那样,预测全球云基础设施开支可能非常困难。