Tensor Core GPU在每一项MLPerf基准测试结果中均实现最佳表现;用户可通过NGC使用加速堆栈。
在最新公布的业内首套人工智能基准测试中,NVIDIA创下6项人工智能性能记录。
在谷歌、英特尔、百度、NVIDIA及其他数十家科技行业领军企业的支持下,新型基准测试套件MLPerf可测定一系列深度学习工作负载。该套件涵盖了计算机视觉、语言翻译、个性化推荐以及强化学习任务等领域,旨在成为业内首个客观的人工智能基准测试套件。
NVIDIA在其提交的6个MLPerf基准测试结果中均取得了最佳表现。这些测试涵盖了多种工作负载和基础架构规模 – 从单节点上的16颗GPU到跨80节点上的多达640颗GPU。
这些测试分为6大类别,分别为图像分类、对象实例分割、目标检测、临时翻译、复发性翻译与推荐系统。NVIDIA并未提交第7类别,即强化学习的基准测试,原因是该类别尚未充分利用到GPU加速。
NVIDIA在语言翻译这一关键基准测试类别中表现尤为出色,仅需6.2分钟即完成了Transformer神经网络的训练。
NVIDIA工程师利用NVIDIA DGX系统实现了这些测试结果。该系统包括全球最强大的人工智能系统NVIDIA DGX-2,搭载了16颗完全连接的V100 Tensor Core GPU。
NVIDIA是唯一一家参与多达6项基准测试的科技公司,充分展现出V100 Tensor Core GPU在部署人工智能工作负载方面的通用性。
NVIDIA副总裁兼加速计算总经理Ian Buck表示:“全新基准MLPerf展示了NVIDIA Tensor Core GPU非凡的性能与通用性。我们的Tensor Core GPU拥有高性价比,且可通过各地的云服务提供商及电脑制造商实现供货,进而帮助世界各地的开发人员在开发过程中的每一个阶段推进人工智能的应用。”
要想在复杂多样的计算工作负载中实现优异性能,不仅仅需要出色的芯片。加速计算也不单单与加速器有关,还需要实现全堆栈创新。
NVIDIA堆栈包括NVIDIA Tensor Cores、NVLink、NVSwitch、DGX系统、CUDA、cuDNN、NCCL、经过优化的深度学习框架容器以及NVIDIA软件开发套件。
NVIDIA的人工智能平台是最便捷且高性价比的选择。Tensor Core GPU可通过各地的云服务提供商及电脑制造商实现供货。
借助售价仅为2500美元的超强桌面级GPU——NVIDIA TITAN RTX,用户在桌面上也可实现相同的Tensor Core GPU强大功能。如果按照3年使用期来计算,该GPU每小时的费用仅相当于几美分。
通过NVIDIA GPU Cloud(NGC)云容器注册,用户可持续更新这些软件的加速堆栈。
用于实现NVIDIA业界领先的MLPerf性能的软件创新与优化,现可通过我们最新的NGC深度学习容器免费获取。
此容器包含经过NVIDIA优化的完整软件堆栈及顶级人工智能框架。18.11版本NGC深度学习容器包含了用于实现我们MLPerf基准测试结果的详细软件。
开发人员可将这些软件用于任意地点以及各大开发阶段:
如果您计划开展自己的人工智能项目,或者参与MLPerf基准测试,请通过NGC容器注册下载容器。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。