NVIDIA AI Enterprise和VMware vSphere with Tanzu简化企业AI开发和应用管理

NVIDIA和VMware联合开发AI-ready企业平台,将全球领先的AI堆栈和经过优化的软件带入全球数十万家企业所使用的基础设施中,树立了双方合作的又一里程碑。
VMware在10月5日的VMworld 2021上发布了最新版本的VMware Tanzu for vSphere 。这一工作负载管理软件使IT团队能够在其现有的IT基础设施上运行容器化Kubernetes工作负载。
企业现在可以运用Tanzu for vSphere和NVIDIA AI Enterprise软件套件对其AI项目进行测试。NVIDIA AI Enterprise于2021年8月上市,是一套经NVIDIA优化、认证和支持的端到端的云原生AI和数据分析软件套件,用于在现代混合云中快速部署、管理和扩展AI工作负载。
向行业MLPerf基准测试提交AI虚拟化结果
戴尔科技EMC PowerEdge R7525服务器近期在MLPerf基准测试中使用三个NVIDIA A100 Tensor Core GPU运行NVIDIA AI Enterprise和VMware vSphere,取得了94.4%至100%的等效裸机性能。
这是厂商第二次提交关于虚拟化基础设施的MLPerf结果,反映了NVIDIA AI Enterprise架构如何在现代数据中心的加速行业标准中心服务器上驱动先进的AI工作负载。
AI和IT:珠联璧合
现代AI工作负载需要专门的基础设施和软件,这一复杂性给在企业数据中心和混合云中支持这些先进应用的IT团队带来了挑战。NVIDIA AI Enterprise通过弥合IT运营、数据科学家和应用开发者之间的鸿沟,缩短AI开发周期,帮助客户项目更快投产。
通过NVIDIA AI Enterprise和VMware vSphere with Tanzu,开发者能够在VMware环境中的Kubernetes容器上运行AI工作负载,充分利用方便IT部门管理的基础设施。该软件可在领先的服务器制造商所提供的主流NVIDIA认证系统上运行,从而提供了一个完整的、专为AI优化的集成式软件堆栈和硬件堆栈。
VMware云平台业务部营销副总裁Lee Caswell表示:“VMware通过简化基础设施的复杂性为企业提供服务。我们与NVIDIA合作,使客户能够在其混合云上开发和部署先进的AI应用。凭借适用于VMware vSphere的NVIDIA AI Enterprise和VMware Tanzu,客户可以在主流数据中心服务器和云端管理AI的开发和部署,从而轻松集成驱动各行业增长的AI应用。”
面向开发者和IT的企业级AI
NVIDIA AI Enterprise提供专为开发者优化的AI软件,包括PyTorch、TensorFlow、NVIDIA TensorRT、NVIDIA Triton 推理服务器和NVIDIA RAPIDS。这些工具使AI开发者和数据科学家能够轻松获得构建对话式AI、计算机视觉和推荐系统等一系列企业AI应用所需的工具和框架。
NVIDIA AI Enterprise的云原生架构使IT部门能够集中管理其混合云基础设施中的所有集群和应用。该软件提供接近裸机水平的AI性能,包括在虚拟化环境中。因此,IT团队可以帮助开发者在构建模型时能够快速探索想法并进行迭代。
客户首选的广泛生态系统
NVIDIA AI Enterprise得到了多家提供NVIDIA认证系统的服务器制造商的支持。这些制造商包括
源讯、戴尔科技、技嘉、新华三、慧与、浪潮、联想和超微,这些厂商均采用NVIDIA A100和NVIDIA A30等NVIDIA GPU。
NVIDIA AI Enterprise通过全球NVIDIA渠道合作伙伴提供,包括Atea、Axians、Carahsoft Technology 公司、Computacenter、Insight Enterprises、NTT、Presidio、Sirius、SoftServe、SVA System Vertrieb Alexander GmbH、TD SYNNEX、Trace3和WWT。为支持需要即时访问AI基础设施的客户,NVIDIA AI Enterprise预计也将在不久后加入数字基础设施领导者Equinix提供的NVIDIA AI LaunchPad计划。
适用于 VMware vSphere 的NVIDIA AI Enterprise现已全面上市,软件的试用版许可证也将向希望试用NVIDIA AI Enterprise和VMware vSphere with Tanzu的客户开放。戴尔科技验证的AI设计是VMware vSphere上首个联合设计的NVIDIA AI Enterprise软件解决方案,该解决方案也于今天上市。
好文章,需要你的鼓励
从浙江安吉的桌椅,到广东佛山的沙发床垫、河南洛阳的钢制家具,再到福建福州的竹藤制品,中国各大高度专业化的家具产业带,都在不约而同地探索各自的数字化出海路径。
哥伦比亚大学研究团队开发了MathBode动态诊断工具,通过让数学题参数按正弦波变化来测试AI的动态推理能力。研究发现传统静态测试掩盖了AI的重要缺陷:几乎所有模型都表现出低通滤波特征和相位滞后现象,即在处理快速变化时会出现失真和延迟。该方法覆盖五个数学家族的测试,为AI模型选择和部署提供了新的评估维度。
研究人员正探索AI能否预测昏迷患者的医疗意愿,帮助医生做出生死决策。华盛顿大学研究员Ahmad正推进首个AI代理人试点项目,通过分析患者医疗数据预测其偏好。虽然准确率可达三分之二,但专家担心AI无法捕捉患者价值观的复杂性和动态变化。医生强调AI只能作为辅助工具,不应替代人类代理人,因为生死决策依赖具体情境且充满伦理挑战。
这项研究首次发现AI推理模型存在"雪球效应"问题——推理过程中的小错误会逐步放大,导致AI要么给出危险回答,要么过度拒绝正常请求。研究团队提出AdvChain方法,通过训练AI学习"错误-纠正"过程来获得自我纠错能力。实验显示该方法显著提升了AI的安全性和实用性,用1000个样本达到了传统方法15000个样本的效果,为AI安全训练开辟了新方向。