Nvidia的年度GPU Technology Conference大会主题往往都是具有标志性的GPU技术,但是今年GPU不再是唯一受关注的主题。
Nvidia宣布,已经提供了名为BlueField——一种面向数据中心的新型“数据处理单元”——的样品,并计划明年全面上市。
这款芯片致力于应对的挑战是,在现代数据中心中,可用处理能力中很大一部分被用于执行基础设施管理任务,例如扫描网络流量中是否存在恶意软件以及编排存储设备,而BlueField芯片可以接管其中一部分任务,从而释放数据中心的服务器能力,去执行更高价值的任务,以提高整体性能。
这带来的潜在运营收益是巨大的。据Nvidia估计,基础设施管理任务将占数据中心CPU核心处理能力的20%至30%。
Nvidia企业计算部门负责人Manuvir Das在简报会上对记者表示:“我们相信,未来所有服务器中都将采用DPU。”
Nvidia已开始提供的BlueField-2 DPU芯片样品,是网络设备子公司Mellanox共同合作取得的成果。Mellanox在今年早些时候被Nvidia以69亿美元收购之前,就已经开始了这项技术的研究。企业可以通过网络接口控制器(NIC)的形式部署BlueField-2(如图所示),通过行业标准PCIe附加到服务器上。
DPU内部封装了8个基于Arm Cortex-A72架构的CPU核心,这些核心由一对所谓加速引擎(针对网络安全任务进行了优化的专用电路)提供支持。此外Nvidia还提供了功能更强大的第二版DPU称为BlueField-2X,增加了基于Ampere架构的GPU,该架构目前是被Nvidia旗舰GPU所采用的。
Nvidia表示,1个BlueField-2(性能相对较低的版本)可以支持通常需要多达125个CPU核心的基础设施管理任务。
Nvidia计划接下来让DPU变得更加强大,准备推出名为BlueField-3的新产品迭代,然后是BlueField-4,但不会像当前型号那样具有独立的GPU和CPU电路,而是一个集成芯片。Nvidia表示,目标是在2023年交付BlueField-4,面向人工智能工作负载的性能将实现每秒400万亿次操作。
Nvidia首席执行官黄仁勋在今天举行的在线大会上表示:“我们将为网络领域带来大量技术。短短几年内,我们的计算吞吐量将增加近1000倍。”
BlueField当前和未来的迭代都将运行DOCA软件开发套件,企业可以使用该套件来开发芯片应用,它包括了用于与电路、示例代码、文档、库和构建DPU软件所需的其他组件进行交互的编程接口。
Nvidia网络部门产品营销总监Ariel Kit在博客中写道:“DOCA为你提供了一套可靠的统一工具,以开发在DPU上运行的关键数据中心服务,处理多种类型的数据处理,包括引导网络流量;加速、虚拟化和压缩存储;加密和解密数据;扫描安全威胁;集成远程管理工具;在Arm核心上运行控制平面应用。”
Nvidia正在采取措施推广BlueField。上周,VMware宣布与Nvidia达成合作伙伴关系,在VMware Cloud Foundation中采用DPU来创建下一代架构,更好地满足AI、机器学习、高吞吐量、以数据为中心的应用的独特需求。
BlueField产品线让Nvidia从GPU扩张到数据中心芯片市场的其他领域提供了更多的深度,Nvidia在今年早些时候收购的Mellanox是另一个关键因素。最近Nvidia还提出以400亿美元收购Arm,这是迄今为止Nvidia在这方面最大的赌注。Arm的芯片设计遍布于智能手机到数据中心存储设备和网络设备的绝大多数产品中。
好文章,需要你的鼓励
AI项目从试点转向生产阶段时,企业面临意外的云成本激增问题。推理工作负载需要全天候运行以确保服务正常,成本可能一夜间飙升1000%以上。许多公司每月费用从5000美元激增至50000美元。为控制成本,企业开始采用混合架构:将推理工作负载迁移至本地或托管设施,训练任务保留在云端。这种模式可削减60-80%的基础设施支出,在保持性能的同时实现成本可预测性。
北航团队发布AnimaX技术,能够根据文字描述让静态3D模型自动生成动画。该系统支持人形角色、动物、家具等各类模型,仅需6分钟即可完成高质量动画生成,效率远超传统方法。通过多视角视频-姿态联合扩散模型,AnimaX有效结合了视频AI的运动理解能力与骨骼动画的精确控制,在16万动画序列数据集上训练后展现出卓越性能。
企业在AI模型选择上面临开放源码与封闭专有技术的抉择,这一选择对财务和定制化都有重要影响。开放模型如Meta Llama提供更大控制权和定制选项,而封闭模型如OpenAI GPT-4o提供简化使用和企业级支持。专家建议采用投资组合策略,根据准确性、延迟、成本、安全性等因素选择合适模型,而非单一选择。
这项研究解决了AI图片描述中的两大难题:描述不平衡和内容虚构。通过创新的"侦探式追问"方法,让AI能生成更详细准确的图片描述,显著提升了多个AI系统的性能表现,为无障碍技术、教育、电商等领域带来实用价值。