VMware Private AI with Intel凭借出色的隐私保护、安全性、性能、规模和总体拥有成本,带来人工智能的革命性力量
中国北京,2023年11月9日—— 近日,VMware(NYSE:VMW)宣布与英特尔合作,通过拓展双方二十多年的创新成果,帮助客户加速人工智能(AI)应用,并在数据中心、公有云和边缘环境等所有地点部署Private AI。VMware和英特尔正致力于提供一个经过联合验证的AI堆栈,支持客户使用现有的通用VMware和英特尔基础架构以及开源软件简化AI模型的构建和部署。VMware Cloud Foundation通过与英特尔的AI套件、内置AI加速器的英特尔至强处理器以及英特尔Max系列GPU组合,将为数据准备、模型训练、微调和推理提供经过验证和基准测试的AI堆栈,加速科学发现并丰富企业和消费者服务。
全球已有30多万家客户部署了VMware Cloud,VMware 虚拟化软件已被部署到企业中几乎所有创建、处理或消费数据的地点。这使得 VMware Cloud 成为了一种可将AI加速计算和模型带到任何业务地点的快速手段。同样,英特尔也为成千上万的客户提供了开放、可扩展且值得信赖的解决方案。在企业中随处可见的VMware和英特尔产品将强强联手,共同提高数据科学的可访问性,支持全球企业机构采用Private AI,一种平衡AI带来的业务收益与实际隐私和合规需求的架构方法。
VMware AI Labs 副总裁 Chris Wolf 表示: “关于AI,我们已经无需在选择、隐私和控制方面争论权衡问题。Private AI能够同时为客户提供这三方面的能力,支持他们在加快AI部署的同时,构建具有前瞻性的 AI 基础架构。VMware Private AI with Intel将帮助我们的共同客户大幅提高工作者的生产力,加速主要业务功能转型,同时提升经济影响力。”
英特尔执行副总裁兼数据中心与人工智能事业部(DCAI)总经理Sandra Rivera表示:“几十年来,英特尔和VMware一直在提供从数据中心到云的新一代功能,支持客户提升行动速度、创新力和运营效率。AI可以带来更多强大的可能性,改善全人类的生活,英特尔和VMware完全有能力带领企业进入这个由芯片和软件驱动的AI新时代。”
提升AI性能,并以更低的总体拥有成本获得更安全的AI基础架构
无论是在公有云、企业数据中心还是在边缘,VMware Private AI 都能将算力和 AI 模型带到创建、处理和消费企业数据的地点,从而为传统 AI/ML 工作负载和生成式 AI 提供支持。VMware 和英特尔可在数分钟至数小时内对特定任务模型进行微调,并使用客户的私有企业数据实现比人类交流速度更快的大型语言模型推理。现在,VMware 和英特尔可以对更小、更经济的先进模型进行微调,这些模型更易于在共享虚拟系统上进行更新和维护。当批量AI工作完成后,这些模型又可以被送回 IT 资源池。现在,AI辅助代码生成、体验式客户服务中心推荐系统和经典机器统计分析等用例可以在运行应用的相同通用服务器上共存。
VMware 和英特尔正在设计一种参考架构,以便将英特尔的AI软件套件、英特尔至强处理器和数据中心GPU与VMware Cloud Foundation 相结合,支持客户在其基础架构上构建和部署Private AI模型,从而降低总体拥有成本,解决环境可持续发展问题。采用英特尔AI的VMware Private AI参考架构将包括:
VMware Cloud Foundation通过以下功能,为 VMware Private AI 带来一致的企业级基础架构,操作简便,同时增强安全性。
VMware Private AI 将由戴尔科技、惠与和联想的服务器提供支持,这些服务器运行带有英特尔高级矩阵扩展(英特尔AMX)的第四代至强 CPU 以及英特尔 Max 系列 GPU。
更多关于VMware Private AI与英特尔合作的信息,敬请访问:
https://www.vmware.com/products/vsphere/ai-ml.html
1- 基于VMware内部分析
好文章,需要你的鼓励
亚马逊旗下运营近20年的众包平台Mechanical Turk已停止接受新用户注册,并将于2026年7月30日正式关闭。该平台于2005年上线,早于AWS公有云业务,曾是全球知名的众包任务市场,涵盖验证码识别、情感标注等人工任务,后转型为AI训练数据标注工具。随着亚马逊推出SageMaker Ground Truth等替代方案,Mechanical Turk的历史使命已宣告终结。
LUMOS是一个让AI通过操作系统无障碍接口直接读取界面语义信息来操控电脑的中间层,避免依赖截图识别,降低AI电脑操作的资源消耗和出错率。
微软研究院发布Memora记忆系统,旨在解决AI智能体在长期部署中记忆碎片化、检索效率低的问题。Memora通过将存储内容与检索方式解耦,引入"主抽象"与"线索锚点"双组件架构,在LoCoMo和LongMemEval两项基准测试中表现优异,上下文token用量最高可降低98%。但专家提醒,实际企业成本还需考虑索引、存储及合规审计,且该项目目前仍处于研究阶段,尚未达到生产就绪水平。
腾讯混元联合多所高校提出PolyFlow,用流匹配模型并行生成艺术家风格3D网格,速度比自回归方法快百倍,几何精度达到新高。