最新版本的vGPU软件现已上市,并能够将GPU虚拟化应用于广泛工作负载,例如虚拟桌面基础架构、高性能图形、数据分析和AI,这得益于该软件对全新NVIDIA A40和NVIDIA A100 80GB GPU的支持。新版本还支持NVIDIA GPU Operator,这是一款能够简化GPU部署和管理的软件框架。
面向高级用户的强大性能
NVIDIA RTX虚拟工作站(vWS)软件是vGPU产品组合的主要部分,旨在帮助用户在虚拟工作站上运行图形密集型的应用程序。NVIDIA RTX vWS由NVIDIA A40驱动,专业人士能够实现对每位用户虚拟工作站性能多达60%的提升,渲染速度与上一代RTX 6000 GPU相比提高2倍。
NVIDIA A40内置第二代RT Core核心和第三代Tensor Core核心,可帮助用户加速处理工作负载,例如针对电影内容的真实感渲染、架构设计评估以及产品设计的虚拟原型制作。 凭借48GB的GPU内存,专业人士可以轻松处理海量数据集,并以更大模型尺寸运行诸如数据科学或仿真之类的工作负载。
NVIDIA A40对最新vGPU软件的支持使复杂的图形工作负载可以在虚拟环境中运行,且性能可与裸机媲美。
Citrix产品管理副总裁Calvin Hsu表示:“Citrix Hypervisor 8.2 和Citrix Virtual Desktops 支持NVIDIA最新的vGPU 软件和NVIDIA A40,尽管客户需要处理的数据和工作负载不断增加,我们依然可以继续为其提供运行图形密集型可视化应用程序的所需性能。Citrix和NVIDIA虚拟化技术的结合使用户无论身在何处,都能够访问这些应用程序,并获得与物理工作站相媲美的优质体验。”
NVIDIA vGPU 2021年1月版本支持NVIDIA A100 80GB,能够提供更大内存带宽,为大型模型释放更多性能。基于9月发布的版本,该版本引入了计算功能,包括支持AI和高性能计算领域最先进的NVIDIA A100 Tensor Core GPU。
其他新功能包括通过NVIDIA GPU Operator在Kubernetes中简化GPU管理,现已获得NVIDIA Virtual Compute Server和NVIDIA RTX vWS软件支持。 容器以及包括NGC目录中可用的GPU优化软件,都可以在虚拟机中轻松部署和管理。
借助此新版本,客户和IT专业人员可以继续使用常用的虚拟机管理程序(例如红帽企业Linux)管理在虚拟机中运行的多租户工作流程。通过红帽认证的GPU operator,支持用户通过红帽Openshift在vGPU节点管理部署容器。
红帽产品管理总监Steve Gordon表示:“NVIDIA最新一代A40 GPU和NVIDIA vGPU软件的结合,以及红帽企业 Linux和红帽虚拟化的支持,能够为用户提供一个强大的平台。无论在石油天然气还是媒体娱乐行业,都能满足从AI/ML到可视化领域最严苛的工作负载。随着组织转型并越来越多地使用Kubernetes进行容器设计并作为其应用程序的关键构建模块,我们认为红帽可能是容器化和虚拟化工作负载的终点。”
NVIDIA vGPU软件产品包括:
好文章,需要你的鼓励
这项研究由浙江大学、复旦大学等机构联合完成,提出了ReVisual-R1模型,通过创新的三阶段训练方法显著提升了多模态大语言模型的推理能力。研究发现优化的纯文本冷启动训练、解决强化学习中的梯度停滞问题、以及分阶段训练策略是关键因素。ReVisual-R1在各类推理基准测试中超越了现有开源模型,甚至在某些任务上超过了商业模型,为多模态推理研究开辟了新途径。
这项研究提出了一种名为"批评式微调"的创新方法,证明仅使用一个问题的批评数据就能显著提升大语言模型的推理能力。研究团队对Qwen和Llama系列模型进行实验,发现这种方法在数学和逻辑推理任务上都取得了显著提升,平均提高15-16个百分点,而且只需要强化学习方法1/20的计算资源。这种简单高效的方法为释放预训练模型的潜在推理能力提供了新途径。
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。