这项新服务适用于那些想要私有AI超级计算机、但又缺乏支持这些系统的数据中心基础设施和专业知识的企业。Nvidia高管Charlie Boyle表示,这项服务将帮助渠道合作伙伴“更快地赚钱,更快地完成业务,并最终为客户提供更多的价值”。
Nvidia和Equinix表示,他们构建了一个解决方案,主要针对那些想要快速设置私有超级计算机来构建生成式AI应用、但缺乏支持系统的数据中心基础设施和专业知识的企业。
本周三宣布推出的这项Equinix Private AI with Nvidia DGX服务,被两家厂商描述为“交钥匙型”解决方案,其中Equinix负责托管和管理企业通过Nvidia渠道合作伙伴购买的Nvidia DGX超级计算机。
该方案是为出于各种原因(包括安全性、数据主权和可审计性)而不想将数据存储在公有云中的企业而设计的。
Nvidia DGX系统副总裁Charlie Boyle表示,新的解决方案将帮助Nvidia Partner Network中的合作伙伴通过DGX系统“更快地赚钱、更快地完成交易,并最终为客户提供更多的价值”。
“这使他们更容易售卖和完成交易,让客户更容易使用、启动和运行人工智能,因此这对于我们所有的[Nvidia Partner Network]合作伙伴来说将带来巨大的好处,可以加速他们已经忙了数月的交易,并让新的交易进入管道中。”
通过这项全面管理的服务,芯片巨头Nvidia和数据中心巨头Equinix希望解决许多企业面临的问题:在私人数据中心规划和部署Nvidia DGX系统集群需要花费大量时间,而且缺乏适当的设施来容纳此类系统,以及缺乏管理这些系统的人员。
Boyle在一份简报中表示:“客户想要世界一流的AI功能,但他们中的大多数人都没有数据中心基础设施,也不具备构建、管理和运行这些系统的专业知识。”
Equinix高级副总裁、数据中心服务总经理Jon Lin表示,凭借Equinix在建立和管理数据中心方面的专业知识,新的Private AI服务可以将部署DGX超级计算机的交付时间“从几个月缩短到几周,甚至是几天”。
Equinix Private AI With Nvidia DGX中包含哪些内容
Equinix的Private AI服务专注于Nvidia DGX BasePod或者SuperPod集群配置,根据Nvidia的文档显示,后者的范围可以从128个DGX H100系统扩展到多达2048个系统。
这些DGX系统每个都包含8个H100 GPU,使用Nvidia超低延迟的InfiniBand网络技术连接在一起,并由Equinix全球800多名员工组成的托管服务团队进行管理。
该服务的另一个关键组件是Nvidia AI Enterprise,一个面向芯片设计师的软件平台,其中包括了训练和运行AI模型所需的所有构建模块,从用于构建大型语言模型的NeMo框架到用于优化此类模型的TensorRT-LLM库。
据Equinix称,Private AI服务的客户可以在全球近250个Equinix International Business Exchange数据中心部署他们的DGX集群,其中包括位于北美、南美、欧洲、亚洲和非洲的数据中心。
Equinix数据中心内的DGX集群通过高速专用网络与外界连接,Equinix还为云服务和企业服务提供商提供了高带宽互连。
该服务提供了“企业级”的支持和安全性,其中包括Equinix员工在构建和部署自定义AI模型方面提供的帮助,以及与Nvidia专家建立联系。
Lin表示:“全球各地的企业都倾注了巨大的精力希望做到这一点,但要以既不会从网络安全的角度或者知识产权泄露的角度暴露自己的方式。那么,私有基础设施就会成为能够实现这一目标的一条关键途径。”
Private AI服务确保快速DGX部署而非快速交付
Boyle表示,虽然Nvidia和Equinix把Private AI服务定位为企业建立私有AI基础设施的一种快速而简单的方式,但它不会对DGX系统的交付周期产生影响。
“无论部署在哪里,所有DGX SuperPOD客户从订单到系统发货的交货时间都是相同的,”他说。
去年,原始设备制造商和渠道合作伙伴普遍抱怨说,配置了Nvidia H100 GPU(包括DGX)的系统交货时间过长。这是由于对处理器的高需求造成的,处理器因其高性能而受到无数AI开发者的欢迎,包括OpenAI等大公司。
过去几个月,Nvidia一直在努力增加H100的产量以满足需求,但有合作伙伴称,交货时间仍然很长。
一位Nvidia合作伙伴公司高管表示:“你只是在出售缺货订单,一个排队的位置。”他要求匿名以便能够坦率地谈论与这家芯片设计商之间的业务情况。
另一位Nvidia合作伙伴公司高管表示,基于H100的系统的交货时间正在有所改善,但面向客户的交货时间仍然需要四到八周,“保守一点的话”。他补充说,在某些情况下,系统的交付速度能更快一些。
好文章,需要你的鼓励
Panzura在其Symphony数据管理平台中新增了访问控制列表分析和自动修复功能。该平台专门处理EB级非结构化数据集,具备扫描、分层、迁移和合规分析等功能。Panzura声称58%的企业受到权限扩散问题影响,74%的数据泄露涉及特权凭证滥用。新版本重点解决权限继承中断、过度授权访问和合规盲点等问题,提供完整的文件系统权限可视性和快速问题解决能力。
沙特TachyHealth团队开发的32亿参数医疗AI模型Gazal-R1,通过创新的双阶段训练方法在医疗推理任务上超越了12倍大的模型,在MedQA等测试中取得87.1%的优异成绩,展现了精巧训练策略胜过规模扩张的重要启示,为资源有限的医疗AI研究提供了新路径。
Arista Networks宣布收购博通旗下VeloCloud SD-WAN业务,交易金额约10亿美元。VeloCloud是SD-WAN领域先驱企业,拥有集成安全功能的云管理SD-WAN解决方案。此次收购填补了Arista在分支机构连接方面的空白,使其能够提供端到端网络解决方案。同时,前思科高管Todd Nightingale加入担任总裁兼首席运营官,将助力公司拓展更广泛的客户群体。
奥地利维也纳医科大学研究团队开发了RetFiner技术,通过让眼科AI模型同时学习OCT图像和医疗文字描述,显著提升了诊断准确率。该方法采用四种训练任务让AI模型建立图像与文字的深层联系,在三个主流眼科AI模型上实现了2-6个百分点的性能提升,为医学AI发展开辟了新方向。