NVIDIA希望此举将有助于巩固目前已投入生产的新型Blackwell GPU系列,使其成为人工智能和高性能计算的标准。
在OCP全球峰会上的另一份声明中,Arm宣布与三星的Foundry、ADTechnology以及韩国船舶初创公司Rebellions合作开发针对云、高性能计算、AI/机器学习训练和推理的AI CPU芯片平台。
NVIDIA将与OCP共享的GB200 NVL72系统机电设计(如图)元素包括机架架构、计算和交换机托盘机械结构、液体冷却和热环境规格、以及NVLink电缆盒体积。NVLink是NVIDIA开发的高速互连技术,可以实现GPU之间的更快通信。
GB200 NVL72是一款液冷设备,配备了36个GB200加速器和72个Blackwell GPU。NVLink域将它们连接到一个单一的大型GPU,可以提供每秒130兆字节的低延迟通信。
专为AI打造
GB200 Grace Blackwell Super Chip将两个Blackwell Tensor Core GPU和一个NVIDIA Grace CPU连接起来。NVIDIA表示,这款机架级设备能够以比上一代H100 Tensor Core GPU快30倍的速度进行大型语言模型推理,并且能效提高25倍。
NVIDIA为OCP做出了十多年的贡献,包括在2022年提交了HGX H100基板设计,现在已经成为AI服务器的事实标准,以及在2023年捐赠了ConnectX-7适配器网络接口卡设计,现在已经成为OCP网络接口卡3.0的基础设计。
Spectrum-X是一个专为AI工作负载(尤其是在数据中心环境中)构建的以太网网络平台。它结合了NVIDIA Spectrum-4以太网交换机及其BlueField-3数据处理单元,可以实现低延迟、高吞吐量和高效的网络架构。NVIDIA表示,仍将致力于为客户提供Infiniband选项。
这一平台现在支持OCP的Switch Abstraction Interface和Software for Open Networking in the Cloud(SONiC)标准。其中,Switch Abstraction Interface对于网络操作系统与网络交换机硬件的交互方式实施了标准化。SONiC则是一个独立于硬件的网络软件层,面向云基础设施运营商、数据中心和网络管理员。
NVIDIA表示,客户可以使用Spectrum-X的自适应路由和基于遥测的拥塞控制功能来加速可扩展AI基础设施的以太网性能。OCP 3.0的ConnectX-8 SuperNIC网络接口卡将于明年上市,让企业组织能够构建更灵活的网络。
解决复杂性问题
NVIDIA数据中心GPU产品营销总监Shar Narasimhan表示:“在过去五年中,我们看到AI模型的复杂性增加了20000多倍,还使用了更丰富的、更大的数据集。”NVIDIA对此做出了回应,设计了一种系统可以将模型分片或分段到通过高速互连连接的GPU集群中,以便所有处理器都可以作为单个GPU运行。
在GB200 NVL72中,每个GPU都可以通过每秒1.8 TB的互连直接访问其他每个GPU,“这使得所有GPU都可以作为一个统一的GPU工作,”Narasimhan说。
以前,在HGX H200基板上,单个NVLink域中连接的GPU数量最多为8个,通信速度为每秒900千兆位。GB200 NVL72将容量增加到72个Blackwell GPU,通信速度为每秒1.8兆字节,比以前的高端以太网标准快36倍。
Narasimhan表示:“关键要素之一就是使用NVSwitch将所有服务器和计算GPU紧密结合在一起,以便我们可以将它们安装到单个机架中,这使我们能够使用铜缆线配置NVLink以降低成本,并且比光纤消耗更少的电量。”
NVIDIA在机架上增加了100磅的钢筋以适应密集的基础设施,并开发了快速释放管道和电缆技术。NVLink主干经过加固,可容纳多达5000根铜缆,提供120 kW的功率,是当前机架设计负载的两倍多。
“我们将为整个机架贡献我们所取得的所有创新,以加固机架本身,升级NV Links、线路冷却和管道快速断开创新,以及位于计算托盘和开关托盘顶部的歧管,为每个单独的托盘提供直接液体冷却,”Narasimhan说。
Arm牵头的这个项目将结合Rebellions的Rebel AI加速器以及ADTechnology以Neoverse CSS V3为驱动的计算芯片,该芯片采用三星代工厂的2纳米Gate-All-Around先进工艺技术实现。两家厂商表示,在运行生成AI工作负载时,该芯片的性能和能效是竞争对手架构的两到三倍。Rebellions今年早些时候筹集了1.24亿美金,用于资助其工程设计工作。
好文章,需要你的鼓励
人工智能革命正在重塑各行各业的CIO角色,为技术领导者创造前所未有的机会来提升其战略影响力。在东北杂货店,这一转变使未来准备责任得以在整个组织中重新分配。CIO不再是唯一负责预见未来技术需求的人,而是通过赋予业务伙伴AI能力,使展望未来成为共同努力。AI的"WOW"因素不仅提高了效率和生产力,还将CIO从服务提供者转变为赋能整个业务生态系统的动力创造者。
一份新报告预测,到2035年人工智能将从根本上改变人类行为、认知和关系。专家们认为,AI 将深刻影响人的思维方式、情感能力和自主性,可能导致认知能力衰退、社交技能下降和个人独立性减弱。同时也可能加剧社会极化,削弱共同价值观。尽管存在担忧,部分专家仍对 AI 增强人类能力持乐观态度。这份报告引发了对 AI 如何重塑人类本质的深入思考。
Tomer Cohen作为LinkedIn的首席产品官,负责管理产品、用户体验和客户运营团队。他从以色列移居硅谷,在斯坦福大学就读期间被LinkedIn的理念所吸引。Cohen加入公司后,推动了从桌面到移动平台的转型,并致力于开发社交信息流等产品。他认为LinkedIn的核心价值在于连接人与职业网络,为用户提供发展机会。在Cohen的领导下,LinkedIn从单一的求职网站发展成为日常工作工具,拥有超10亿用户。他表示,未来将继续借助AI等技术,为用户提供更个性化的体验。
据《纽约时报》报道,亚马逊突然加入 TikTok 收购竞争,提交了全面收购报价。然而,交易各方似乎并不重视这一出价。TikTok 面临 4 月 5 日前剥离中国所有权或在美国遭禁的最后期限。特朗普总统将于周三与官员讨论 TikTok 的命运,他表示交易将在期限前敲定。与此同时,其他潜在买家如 Andreessen Horowitz 和 Blackstone 也在积极参与竞购。