Nvidia今天晚些时候详细介绍了A100 GPU的新液冷版本,可以提高数据中心的能源效率并减少碳排放。
Nvidia于本周二早些时候举行的Computex 2022大会上首次公布了这款GPU。大会期间,Nvidia还分享了一些合作伙伴开发的硬件产品相关详细信息,这些产品将采用Grace CPU Superchip、Grace Hopper Superchip和Jetson AGX Orion产品。
目前A100是Nvidia的旗舰数据中心GPU。Nvidia在2020年推出该芯片,它既可以用于训练人工智能模型,也可用于执行推理任务,或者训练完成后的神经网络任务。A100包含540亿个晶体管,性能是上一代的20倍。
A100最初针对数据中心设计的版本,是采用空气冷却的方法来为服务器散热的,这种方法已经被数据中心行业广泛采用长达几十年之久。Nvidia称,采用空气冷却方法的A100在运行AI软件时的能源效率是CPU的20倍。
Nvidia此次推出的新液冷版A100可进一步提高效率。Nvidia称,液冷版的性能与风冷版相同,但耗电量减少约30%,这一节电量数据是由Nvidia及其主要的数据中心运营商Equinix通过单独测试得出的。
液冷还有其他很多优点。空气冷却系统很多是通过蒸发大量水的过程对服务器进行散热的、而液冷系统所需水量要少得多,而且大部分或者全部的水都是可以回收的,这让数据中心运营商可以大幅减少用水量。
液冷系统的另一个好处是在数据中心占用的空间更少,其结果就是可以把更多的GPU配置到服务器中。服务器配置新的液冷版A100需要占用一个PCIe插槽,而之前的风冷版需要占用两个。
Nvidia目前正在向早期客户提供液冷版A100的样品,计划在今年夏天全面上市,至少有十几家硬件合作伙伴打算将该芯片集成到他们的产品中。
Nvidia还计划未来发布液冷版的H100,H100是Nvidia在今年早些时候首次公布的新旗舰数据中心GPU。H100运行Transformer自然语言处理模型的速度比A100快6倍。未来,Nvidia还希望推出液冷版的GPU,相比风冷版提供更高的功率效率和更高的性能。

除了液冷版A100之外,Nvidia今天还宣布,台湾的硬件合作伙伴将推出数十款基于Grace CPU Superchip和Grace Hopper Superchip的服务器。Grace CPU Superchip是一个计算模块,结合了Nvidia 内部开发的两个Grace CPU,在单个封装中使用高速互连进行连接。Grace Hopper Superchip是一个将Grace CPU与GPU相结合的计算模块。
据Nvidia称,这些合作伙伴开发的新款服务器,所采用的模块是基于四种专门的参考设计,这些参考设计侧重于不同的企业使用场景。
其中两个参考设计采用了Grace Hopper Superchip,让硬件制造商能够构建针对AI训练、推理、高性能计算工作负载进行优化的服务器;另外两个参考设计采用Grace CPU Superchip,专注于数字孪生、协作、图形处理和视频游戏流等场景。

Nvidia还推出了有关Jetson AGX Orin产品硬件生态的更新信息。Jetson AGX Orin是一个紧凑型的计算模块,旨在网络边缘运行AI模型。它将GPU与基于Arm设计的多个CPU以及其他处理组件进行结合,每秒可以运行275万亿次计算操作。
Nvidia还详细介绍称,有30多家硬件合作伙伴计划推出基于Jetson AGX Orin的产品,这些系统包括服务器、边缘计算设备、工业个人计算机和载板,以及工程师用来开发新硬件产品的电路板。
好文章,需要你的鼓励
火箭实验室(Rocket Lab)宣布计划以现金加股票方式,斥资80亿美元收购主要卫星运营商铱星通信(Iridium Communications),交易预计于2027年中完成。铱星目前运营着由66颗活跃低轨卫星组成的星座网络,拥有约255万活跃用户,2024年营收达8.717亿美元。收购完成后,Rocket Lab计划借助其新型重型运载火箭Neutron及Lightning卫星平台,扩大铱星星座规模,开拓未被覆盖的市场并降低发射成本。
腾讯等机构提出ViQ框架,通过两阶段渐进量化训练,让离散视觉编码在多模态理解和图像重建上同时追平连续特征编码器,训练速度最高提升70%。
音乐流媒体平台Tidal宣布,将于7月中旬启用自动化工具,对完全由AI生成的音乐添加"AI"标识,并移除具有欺诈性质的曲目。平台还将取消AI生成音乐的版税资格,仅向真人创作、演唱的原创音乐开放变现渠道。此外,Tidal明确将高频异常上传、干扰真实艺术家等行为列为欺诈活动。Deezer、Spotify等竞争对手此前已推出类似检测机制,流媒体行业正加速构建AI内容治理体系。
香港科技大学与华为联合提出LISA训练方法,通过让副网络对齐"似然分数",将ControlNet等图像生成模型的训练收敛速度提升逾2.78倍,同时改善图像质量与条件控制精度。