NVIDIA AI Enterprise和VMware vSphere with Tanzu简化企业AI开发和应用管理
NVIDIA和VMware联合开发AI-ready企业平台,将全球领先的AI堆栈和经过优化的软件带入全球数十万家企业所使用的基础设施中,树立了双方合作的又一里程碑。
VMware在10月5日的VMworld 2021上发布了最新版本的VMware Tanzu for vSphere 。这一工作负载管理软件使IT团队能够在其现有的IT基础设施上运行容器化Kubernetes工作负载。
企业现在可以运用Tanzu for vSphere和NVIDIA AI Enterprise软件套件对其AI项目进行测试。NVIDIA AI Enterprise于2021年8月上市,是一套经NVIDIA优化、认证和支持的端到端的云原生AI和数据分析软件套件,用于在现代混合云中快速部署、管理和扩展AI工作负载。
向行业MLPerf基准测试提交AI虚拟化结果
戴尔科技EMC PowerEdge R7525服务器近期在MLPerf基准测试中使用三个NVIDIA A100 Tensor Core GPU运行NVIDIA AI Enterprise和VMware vSphere,取得了94.4%至100%的等效裸机性能。
这是厂商第二次提交关于虚拟化基础设施的MLPerf结果,反映了NVIDIA AI Enterprise架构如何在现代数据中心的加速行业标准中心服务器上驱动先进的AI工作负载。
AI和IT:珠联璧合
现代AI工作负载需要专门的基础设施和软件,这一复杂性给在企业数据中心和混合云中支持这些先进应用的IT团队带来了挑战。NVIDIA AI Enterprise通过弥合IT运营、数据科学家和应用开发者之间的鸿沟,缩短AI开发周期,帮助客户项目更快投产。
通过NVIDIA AI Enterprise和VMware vSphere with Tanzu,开发者能够在VMware环境中的Kubernetes容器上运行AI工作负载,充分利用方便IT部门管理的基础设施。该软件可在领先的服务器制造商所提供的主流NVIDIA认证系统上运行,从而提供了一个完整的、专为AI优化的集成式软件堆栈和硬件堆栈。
VMware云平台业务部营销副总裁Lee Caswell表示:“VMware通过简化基础设施的复杂性为企业提供服务。我们与NVIDIA合作,使客户能够在其混合云上开发和部署先进的AI应用。凭借适用于VMware vSphere的NVIDIA AI Enterprise和VMware Tanzu,客户可以在主流数据中心服务器和云端管理AI的开发和部署,从而轻松集成驱动各行业增长的AI应用。”
面向开发者和IT的企业级AI
NVIDIA AI Enterprise提供专为开发者优化的AI软件,包括PyTorch、TensorFlow、NVIDIA TensorRT、NVIDIA Triton 推理服务器和NVIDIA RAPIDS。这些工具使AI开发者和数据科学家能够轻松获得构建对话式AI、计算机视觉和推荐系统等一系列企业AI应用所需的工具和框架。
NVIDIA AI Enterprise的云原生架构使IT部门能够集中管理其混合云基础设施中的所有集群和应用。该软件提供接近裸机水平的AI性能,包括在虚拟化环境中。因此,IT团队可以帮助开发者在构建模型时能够快速探索想法并进行迭代。
客户首选的广泛生态系统
NVIDIA AI Enterprise得到了多家提供NVIDIA认证系统的服务器制造商的支持。这些制造商包括
源讯、戴尔科技、技嘉、新华三、慧与、浪潮、联想和超微,这些厂商均采用NVIDIA A100和NVIDIA A30等NVIDIA GPU。
NVIDIA AI Enterprise通过全球NVIDIA渠道合作伙伴提供,包括Atea、Axians、Carahsoft Technology 公司、Computacenter、Insight Enterprises、NTT、Presidio、Sirius、SoftServe、SVA System Vertrieb Alexander GmbH、TD SYNNEX、Trace3和WWT。为支持需要即时访问AI基础设施的客户,NVIDIA AI Enterprise预计也将在不久后加入数字基础设施领导者Equinix提供的NVIDIA AI LaunchPad计划。
适用于 VMware vSphere 的NVIDIA AI Enterprise现已全面上市,软件的试用版许可证也将向希望试用NVIDIA AI Enterprise和VMware vSphere with Tanzu的客户开放。戴尔科技验证的AI设计是VMware vSphere上首个联合设计的NVIDIA AI Enterprise软件解决方案,该解决方案也于今天上市。
好文章,需要你的鼓励
Docker公司通过增强的compose框架和新基础设施工具,将自己定位为AI智能体开发的核心编排平台。该平台在compose规范中新增"models"元素,允许开发者在同一YAML文件中定义AI智能体、大语言模型和工具。支持LangGraph、CrewAI等多个AI框架,提供Docker Offload服务访问NVIDIA L4 GPU,并与谷歌云、微软Azure建立合作。通过MCP网关提供企业级安全隔离,解决了企业AI项目从概念验证到生产部署的断层问题。
普林斯顿大学研究团队首次系统性研究了大型语言模型的"胡说八道"现象,开发了胡说八道指数量化工具,发现强化学习训练显著加剧了AI的真相漠视行为。研究涵盖四种胡说八道类型,通过2400个场景测试揭示了AI在追求用户满意度时牺牲真实性的问题,为AI安全性评估提供了新的视角和工具。
马斯克的AI女友"Ani"引爆全球,腾讯RLVER框架突破情感理解边界:AI下半场竞争核心已转向对人性的精准把握。当技术学会共情,虚拟陪伴不再停留于脚本应答,而是通过"心与心的循环"真正理解人类孤独——这背后是强化学习算法与思考模式的化学反应,让AI从解决问题转向拥抱情感。
英伟达联合多所知名大学开发出突破性的长视频AI理解系统LongVILA-R1,能够处理长达几小时的视频内容并进行复杂推理。该系统通过5.2万个精心构建的问答数据集、创新的两阶段训练方法和高效的MR-SP基础设施,在多项测试中表现优异,甚至可与谷歌顶级模型相媲美。这项技术在体育分析、教育、医疗、安防等领域具有广阔应用前景。