Nvidia与VMware长达一年的合作终于取得了成果,今天正式推出了Nvidia AI Enterprise 平台,这是一套AI工具和框架,可以虚拟化AI工作负载并在Nvidia认证的服务器系统上运行这些负载。
Nvidia表示,Nvidia AI Enterprise将让企业能够运行新型AI工作负载,并通过单一平台对其进行管理,此外还可以让企业在靠近数据所在位置的地方部署支持AI的基础设施,无论是在云中、数据中心还是网络边缘。
Nvidia AI Enterprise的关键组件之一是Nvidia GPU Cloud,这是一个针对深度学习和高性能计算的优化软件工具目录,依赖Nvidia GPU的强大性能。Nvidia解释说,通过将这些工具与VMware vSphere集成,企业可以更轻松地在现有服务器上部署AI工作负载。
Nvidia企业计算主管Manuvir Das在新闻简报会上表示,Nvidia AI Enterprise的推出是AI新篇章的开始。他说,现在全球数以千计的企业采用了Nvidia软件,他们利用主流服务器在VMware上运行工作负载。以前,AI工作负载需要专门的基础设施,而现在这个情况完全改变了。
Das说:“Nvidia AI已经面向所有企业准备就绪了。现在,所有企业功能都被融入了AI。”
Nvidia表示,Nvidia AI Enterprise平台可以在VMware vSphere上运行AI工作负载,运行在来自戴尔、HPE、浪潮、联想、技嘉和超微销售的认证系统上。这些厂商售卖的系统采用了一系列Nvidia GPU,包括最先进的A100芯片,以及A30、A40、A10和T4处理器。
此外戴尔今天也宣布推出了Dell EMC VxRail,这是第一款被认证为Nvidia-Certified System for Nvidia AI的超融合平台。
Das表示,Nvidia已经与Domino Data Lab展开进一步合作,以验证Nvidia AI Enterprise 上运行的Domino Enterprise MLOps平台,让企业可以选择将一种更有条理化的方法集成可以直接调用到VMware中的机器学习中。
Domino数据实验室首席执行官Nick Elprin解释说:“我们正在深化我们的产品集成,让Domino Enterprise MLOps平台能够支持更广泛的Nvidia GPU,并针对Nvidia AI Enterprise对其进行验证。这款新产品将帮助数十万企业大规模加速数据科学。”
Nvidia表示,来自汽车、教育、金融、医疗、制造和高科技等行业的数十家企业此前已经在使用Nvidia Enterprise AI平台了,他们将成为围绕对话式AI、计算机视觉、推荐系统打造和部署应用的早期客户。
比萨大学(University of Pisa)正在使用该平台支持跨多个学科的高性能计算和AI训练以推进科学研究。该大学表示,Nvidia Enterprise AI平台让这些应用更易于部署和管理,从而为那些依赖数据分析和深度学习的研究人员和学生提供支持。
比萨大学首席技术官Maurizio Davini表示:“我们的测试表明,Nvidia和VMware的这些最新合作成果以接近裸机的速度,发挥了我们GPU加速虚拟化基础设施的全部潜力。”
Nvidia方面表示,Nvidia Enterprise AI平台现已在全球范围内通过渠道合作伙伴进行销售。价格为每年每个CPU插槽起价2,000美元,提供商业标准支持。永久许可价格为每年3595美元,如需额外支持则需要另外购买。
好文章,需要你的鼓励
IBM Spyre加速器将于本月晚些时候正式推出,为z17大型机、LinuxONE 5和Power11系统等企业级硬件的AI能力提供显著提升。该加速器基于定制芯片的PCIe卡,配备32个独立加速器核心,专为处理AI工作负载需求而设计。系统最多可配置48张Spyre卡,支持多模型AI处理,包括生成式AI和大语言模型,主要应用于金融交易欺诈检测等关键业务场景。
加拿大女王大学研究团队首次对开源AI生态系统进行端到端许可证合规审计,发现35.5%的AI模型在集成到应用时存在许可证违规。他们开发的LicenseRec系统能自动检测冲突并修复86.4%的违规问题,揭示了AI供应链中系统性的"许可证漂移"现象及其法律风险。
意大利初创公司Ganiga开发了AI驱动的智能垃圾分拣机器人Hoooly,能自动识别并分类垃圾和可回收物。该公司产品包括机器人垃圾桶、智能盖子和废物追踪软件,旨在解决全球塑料回收率不足10%的问题。2024年公司收入50万美元,已向谷歌和多个机场销售超120台设备,计划融资300万美元并拓展美国市场。
这项由剑桥大学、清华大学和伊利诺伊大学合作的研究首次将扩散大语言模型引入语音识别领域,开发出Whisper-LLaDA系统。该系统具备双向理解能力,能够同时考虑语音的前后文信息,在LibriSpeech数据集上实现了12.3%的错误率相对改进,同时在大多数配置下提供了更快的推理速度,为语音识别技术开辟了新的发展方向。