Nvidia的年度GPU Technology Conference大会主题往往都是具有标志性的GPU技术,但是今年GPU不再是唯一受关注的主题。
Nvidia宣布,已经提供了名为BlueField——一种面向数据中心的新型“数据处理单元”——的样品,并计划明年全面上市。
这款芯片致力于应对的挑战是,在现代数据中心中,可用处理能力中很大一部分被用于执行基础设施管理任务,例如扫描网络流量中是否存在恶意软件以及编排存储设备,而BlueField芯片可以接管其中一部分任务,从而释放数据中心的服务器能力,去执行更高价值的任务,以提高整体性能。
这带来的潜在运营收益是巨大的。据Nvidia估计,基础设施管理任务将占数据中心CPU核心处理能力的20%至30%。
Nvidia企业计算部门负责人Manuvir Das在简报会上对记者表示:“我们相信,未来所有服务器中都将采用DPU。”
Nvidia已开始提供的BlueField-2 DPU芯片样品,是网络设备子公司Mellanox共同合作取得的成果。Mellanox在今年早些时候被Nvidia以69亿美元收购之前,就已经开始了这项技术的研究。企业可以通过网络接口控制器(NIC)的形式部署BlueField-2(如图所示),通过行业标准PCIe附加到服务器上。
DPU内部封装了8个基于Arm Cortex-A72架构的CPU核心,这些核心由一对所谓加速引擎(针对网络安全任务进行了优化的专用电路)提供支持。此外Nvidia还提供了功能更强大的第二版DPU称为BlueField-2X,增加了基于Ampere架构的GPU,该架构目前是被Nvidia旗舰GPU所采用的。
Nvidia表示,1个BlueField-2(性能相对较低的版本)可以支持通常需要多达125个CPU核心的基础设施管理任务。
Nvidia计划接下来让DPU变得更加强大,准备推出名为BlueField-3的新产品迭代,然后是BlueField-4,但不会像当前型号那样具有独立的GPU和CPU电路,而是一个集成芯片。Nvidia表示,目标是在2023年交付BlueField-4,面向人工智能工作负载的性能将实现每秒400万亿次操作。
Nvidia首席执行官黄仁勋在今天举行的在线大会上表示:“我们将为网络领域带来大量技术。短短几年内,我们的计算吞吐量将增加近1000倍。”
BlueField当前和未来的迭代都将运行DOCA软件开发套件,企业可以使用该套件来开发芯片应用,它包括了用于与电路、示例代码、文档、库和构建DPU软件所需的其他组件进行交互的编程接口。
Nvidia网络部门产品营销总监Ariel Kit在博客中写道:“DOCA为你提供了一套可靠的统一工具,以开发在DPU上运行的关键数据中心服务,处理多种类型的数据处理,包括引导网络流量;加速、虚拟化和压缩存储;加密和解密数据;扫描安全威胁;集成远程管理工具;在Arm核心上运行控制平面应用。”
Nvidia正在采取措施推广BlueField。上周,VMware宣布与Nvidia达成合作伙伴关系,在VMware Cloud Foundation中采用DPU来创建下一代架构,更好地满足AI、机器学习、高吞吐量、以数据为中心的应用的独特需求。
BlueField产品线让Nvidia从GPU扩张到数据中心芯片市场的其他领域提供了更多的深度,Nvidia在今年早些时候收购的Mellanox是另一个关键因素。最近Nvidia还提出以400亿美元收购Arm,这是迄今为止Nvidia在这方面最大的赌注。Arm的芯片设计遍布于智能手机到数据中心存储设备和网络设备的绝大多数产品中。
好文章,需要你的鼓励
英超联赛与微软达成五年合作协议,将在官方应用中推出AI虚拟助手Premier League Companion。该工具基于Azure OpenAI技术,能回答球迷关于球员数据、比赛分析等问题,提供个性化内容推荐。这一举措旨在让球迷更多使用官方应用,同时为联赛获取更好的用户数据。全球体育联赛正掀起AI技术竞赛,通过智能工具增强球迷互动体验。
Skywork AI团队通过创新的人机协作数据处理方法,构建了史上最大规模的高质量偏好数据集SynPref-40M,训练出Skywork-Reward-V2系列模型。该系列在七项主要测试中全面超越现有最佳模型,证明了数据质量胜过算法复杂度的重要原理,为AI更好理解人类偏好开辟了新道路。
瑞典AI初创公司Lovable正在进行新一轮超1.5亿美元的融资,估值接近20亿美元。该公司专注于"氛围编程"领域,仅在今年2月完成1500万美元融资后数月就迎来估值大幅跃升。Lovable可通过文本提示构建完整网页应用,包括前端界面和数据库连接。公司去年11月发布产品,CEO称六个月内年经常性收入达5000万美元。近期还推出AI代理测试版,可自动执行代码编辑和调试等任务,采用基于使用量的收费模式。
Meta研究团队发明了一种革命性的"三人舞"注意力机制,突破了传统AI只能处理两元关系的局限。这种新方法让AI能够同时分析三个元素间的复杂关系,在数学推理、编程和逻辑分析等任务上表现显著提升。更重要的是,新方法改变了AI的学习规律,能够用更少的数据获得更好的效果,为数据稀缺时代的AI发展指明了新方向。