Nvidia今天晚些时候详细介绍了A100 GPU的新液冷版本,可以提高数据中心的能源效率并减少碳排放。
Nvidia于本周二早些时候举行的Computex 2022大会上首次公布了这款GPU。大会期间,Nvidia还分享了一些合作伙伴开发的硬件产品相关详细信息,这些产品将采用Grace CPU Superchip、Grace Hopper Superchip和Jetson AGX Orion产品。
目前A100是Nvidia的旗舰数据中心GPU。Nvidia在2020年推出该芯片,它既可以用于训练人工智能模型,也可用于执行推理任务,或者训练完成后的神经网络任务。A100包含540亿个晶体管,性能是上一代的20倍。
A100最初针对数据中心设计的版本,是采用空气冷却的方法来为服务器散热的,这种方法已经被数据中心行业广泛采用长达几十年之久。Nvidia称,采用空气冷却方法的A100在运行AI软件时的能源效率是CPU的20倍。
Nvidia此次推出的新液冷版A100可进一步提高效率。Nvidia称,液冷版的性能与风冷版相同,但耗电量减少约30%,这一节电量数据是由Nvidia及其主要的数据中心运营商Equinix通过单独测试得出的。
液冷还有其他很多优点。空气冷却系统很多是通过蒸发大量水的过程对服务器进行散热的、而液冷系统所需水量要少得多,而且大部分或者全部的水都是可以回收的,这让数据中心运营商可以大幅减少用水量。
液冷系统的另一个好处是在数据中心占用的空间更少,其结果就是可以把更多的GPU配置到服务器中。服务器配置新的液冷版A100需要占用一个PCIe插槽,而之前的风冷版需要占用两个。
Nvidia目前正在向早期客户提供液冷版A100的样品,计划在今年夏天全面上市,至少有十几家硬件合作伙伴打算将该芯片集成到他们的产品中。
Nvidia还计划未来发布液冷版的H100,H100是Nvidia在今年早些时候首次公布的新旗舰数据中心GPU。H100运行Transformer自然语言处理模型的速度比A100快6倍。未来,Nvidia还希望推出液冷版的GPU,相比风冷版提供更高的功率效率和更高的性能。
除了液冷版A100之外,Nvidia今天还宣布,台湾的硬件合作伙伴将推出数十款基于Grace CPU Superchip和Grace Hopper Superchip的服务器。Grace CPU Superchip是一个计算模块,结合了Nvidia 内部开发的两个Grace CPU,在单个封装中使用高速互连进行连接。Grace Hopper Superchip是一个将Grace CPU与GPU相结合的计算模块。
据Nvidia称,这些合作伙伴开发的新款服务器,所采用的模块是基于四种专门的参考设计,这些参考设计侧重于不同的企业使用场景。
其中两个参考设计采用了Grace Hopper Superchip,让硬件制造商能够构建针对AI训练、推理、高性能计算工作负载进行优化的服务器;另外两个参考设计采用Grace CPU Superchip,专注于数字孪生、协作、图形处理和视频游戏流等场景。
Nvidia还推出了有关Jetson AGX Orin产品硬件生态的更新信息。Jetson AGX Orin是一个紧凑型的计算模块,旨在网络边缘运行AI模型。它将GPU与基于Arm设计的多个CPU以及其他处理组件进行结合,每秒可以运行275万亿次计算操作。
Nvidia还详细介绍称,有30多家硬件合作伙伴计划推出基于Jetson AGX Orin的产品,这些系统包括服务器、边缘计算设备、工业个人计算机和载板,以及工程师用来开发新硬件产品的电路板。
好文章,需要你的鼓励
本文评测了六款控制台平铺终端复用器工具。GNU Screen作为老牌工具功能强大但操作复杂,Tmux更现代化但学习曲线陡峭,Byobu为前两者提供友好界面,Zellij用Rust编写界面简洁易用,DVTM追求极简主义,Twin提供类似TurboVision的文本界面环境。每款工具都有各自特点和适用场景。
韩国汉阳大学联合高通AI研究院开发出InfiniPot-V框架,解决了移动设备处理长视频时的内存限制问题。该技术通过时间冗余消除和语义重要性保留两种策略,将存储需求压缩至原来的12%,同时保持高准确性,让手机和AR眼镜也能实时理解超长视频内容。
网络安全公司Snyk宣布收购瑞士人工智能安全研究公司Invariant Labs,收购金额未公开。Invariant Labs从苏黎世联邦理工学院分拆成立,专注于帮助开发者构建安全可靠的AI代理工具和框架。该公司提供Explorer运行时观察仪表板、Gateway轻量级代理、Guardrails策略引擎等产品,并在工具中毒和模型上下文协议漏洞等新兴AI威胁防护方面处于领先地位。此次收购将推进Snyk保护下一代AI原生应用的使命。
纽约大学研究团队通过INT-ACT测试套件全面评估了当前先进的视觉-语言-动作机器人模型,发现了一个普遍存在的"意图-行动差距"问题:机器人能够正确理解任务和识别物体,但在实际动作执行时频频失败。研究还揭示了端到端训练会损害原有语言理解能力,以及多模态挑战下的推理脆弱性,为未来机器人技术发展提供了重要指导。