至顶网计算频道 09月30日 新闻消息(文/李祥敬):在数字化转型深入的今天,企业面临着复杂的混合多云环境。据IBM商业价值研究院预估,到2021年,98%的受访组织机构计划采用混合架构,但仅有38%的组织机构将拥有运行混合环境所需的程序和工具。而IDC预测是90%的组织将采用集成的混合云工具和策略,以在2024年之前支持多种应用和场景。
对应人工智能应用,企业也需要其能够适配混合云架构。云计算基础设施及通过云原生的资源交付方式,可提高计算效率、易用性,并且降低计算和运维成本,更好地承载AI工作负载。
在近日举行的VMworld 2020上,VMware和NVIDIA宣布开展大范围合作,共同推出AI端到端企业平台以及搭载NVIDIA DPU(或数据处理单元)的数据中心、云和边缘新架构,为现有以及新一代应用程序提供支持。
众所周知,VMware在虚拟化、云计算等领域有着举足轻重的地位,而NVIDIA在AI加速计算方面的实力也不容小觑。如果两者展开合作,那么对应企业而言则是受益良多。
作为NVIDIA与VMware的首次合作,NVIDIA NGC在VMware vSphere和VMware Cloud Foundation上的整合将简化针对最苛刻工作负载的AI部署和管理,借助容器和虚拟机轻松地在混合云中大规模开发和部署AI工作负载。
现在企业的工作负载大多依托虚拟化平台和云架构,同时也在借助容器技术实现更加敏捷的应用交付。VMware也在将自身的产品平台与容器进行结合,实现虚拟化技术与容器的融合交付,而NVIDIA NGC提供了优化的、易于部署的AI框架和HPC应用容器,底层技术的共通性让NVIDIA和VMware的合作具备了坚实的技术根基。
通过这一合作,NVIDIA NGC中心上的丰富AI软件集将被集成到VMware vSphere、VMware Cloud Foundation和VMware Tanzu中。这将有助于加速AI的应用,使企业能够扩展现有AI基础设施,统一管理所有应用程序并在数据中心、云和边缘部署AI基础设施。
VMware客户将能够使用现有的基础设施、资源和工具集为数据科学和AI工作负载提速,从而帮助扩大AI和机器学习技术的普及范围。数据科学家、开发人员和研究人员将可以立即访问NGC的各类云原生GPU优化容器、模型和行业特定软件开发套件。
目前,来自戴尔、惠普和联想等领先系统制造商的部分经过预测试且内置NVIDIA A100的服务器支持NGC软件。
现在企业的工作负载越来越复杂,企业需要借助类似SmartNIC和DPU这样的加速技术承载新一代的企业应用。GPU是NVIDIA加速计算的基石,但是NVIDIA并没有止步于此,而是提出了DPU计算单元来加速以数据为中心的加速计算模型。
CPU用于通用计算,GPU用于加速计算,而数据中心中传输数据的DPU则进行数据处理。DPU可以用作独立的嵌入式处理器,但通常被集成到SmartNIC(一种作为下一代服务器中关键组件的网卡)中。
在VMworld 2020大会上,VMware公布了Project Monterey技术预览,通过结合使用NVIDIA BlueField-2 DPU与VMware Cloud Foundation,客户将能够加速多种新一代和通用应用、提供可编程智能并在各类数据中心、边缘和电信云中运行分布式零信任安全模型。
在该项目中,两家公司将为基于SmartNIC技术(包括可编程的NVIDIA BlueField-2)的混合云提供架构。VMware Cloud Foundation和NVIDIA BlueField-2在结合后,将提供专为AI、机器学习、高吞吐量和数据型应用需求而构建的新一代基础设施,还将为所有企业工作负载提供扩展至AI以外的应用加速,并通过能够将关键数据中心服务从CPU转移到SmartNIC和可编程DPU的新架构增加一层安全层。这一新架构将把VMware Cloud Foundation运营模型扩展到裸机服务器。
VMware和NVIDIA为混合云提供了一种帮助企业发展IT基础设施、提高运营水平的新架构,并引入了新安全模型,从而使企业将管理程序、网络、安全和存储任务从CPU转移到DPU,大幅提升应用程序的运行效率。
在混合多云环境下,企业面临的应用工作负载更加多样化和复杂化。VMware和NVIDIA的合作一方面简化了企业引入AI应用的过程,帮助企业实现应用现代化。同时,借助DPU的创新技术,软硬件协同更好地支撑新一代企业应用,加速企业的业务转型。
好文章,需要你的鼓励
施耐德电气以“新质服务+产业向‘新’行”为主题,第六次参会,展示全新升级的“新质服务体系”,围绕创新驱动、生态协同和行业赋能三大核心领域,以全新升级的“新质服务体系”,助力中国产业向高端化、智能化、绿色化迈进。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
甲骨文正在成为大规模基础设施供应商的可靠选择。该公司通过AI技术推动应用开发,构建GenAI模型并将智能代理集成到应用套件中。CEO萨弗拉·卡茨透露,公司剩余履约义务达4553亿美元,同比增长4.6倍,并预测OCI收入将从2026财年的180亿美元增长至2030财年的1440亿美元。甲骨文正积极布局AI推理市场,凭借其作为全球最大企业私有数据托管方的优势地位,有望在云计算领域实现重大突破。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。