Nvidia的年度GPU Technology Conference大会主题往往都是具有标志性的GPU技术,但是今年GPU不再是唯一受关注的主题。
Nvidia宣布,已经提供了名为BlueField——一种面向数据中心的新型“数据处理单元”——的样品,并计划明年全面上市。
这款芯片致力于应对的挑战是,在现代数据中心中,可用处理能力中很大一部分被用于执行基础设施管理任务,例如扫描网络流量中是否存在恶意软件以及编排存储设备,而BlueField芯片可以接管其中一部分任务,从而释放数据中心的服务器能力,去执行更高价值的任务,以提高整体性能。
这带来的潜在运营收益是巨大的。据Nvidia估计,基础设施管理任务将占数据中心CPU核心处理能力的20%至30%。
Nvidia企业计算部门负责人Manuvir Das在简报会上对记者表示:“我们相信,未来所有服务器中都将采用DPU。”
Nvidia已开始提供的BlueField-2 DPU芯片样品,是网络设备子公司Mellanox共同合作取得的成果。Mellanox在今年早些时候被Nvidia以69亿美元收购之前,就已经开始了这项技术的研究。企业可以通过网络接口控制器(NIC)的形式部署BlueField-2(如图所示),通过行业标准PCIe附加到服务器上。
DPU内部封装了8个基于Arm Cortex-A72架构的CPU核心,这些核心由一对所谓加速引擎(针对网络安全任务进行了优化的专用电路)提供支持。此外Nvidia还提供了功能更强大的第二版DPU称为BlueField-2X,增加了基于Ampere架构的GPU,该架构目前是被Nvidia旗舰GPU所采用的。
Nvidia表示,1个BlueField-2(性能相对较低的版本)可以支持通常需要多达125个CPU核心的基础设施管理任务。
Nvidia计划接下来让DPU变得更加强大,准备推出名为BlueField-3的新产品迭代,然后是BlueField-4,但不会像当前型号那样具有独立的GPU和CPU电路,而是一个集成芯片。Nvidia表示,目标是在2023年交付BlueField-4,面向人工智能工作负载的性能将实现每秒400万亿次操作。
Nvidia首席执行官黄仁勋在今天举行的在线大会上表示:“我们将为网络领域带来大量技术。短短几年内,我们的计算吞吐量将增加近1000倍。”
BlueField当前和未来的迭代都将运行DOCA软件开发套件,企业可以使用该套件来开发芯片应用,它包括了用于与电路、示例代码、文档、库和构建DPU软件所需的其他组件进行交互的编程接口。
Nvidia网络部门产品营销总监Ariel Kit在博客中写道:“DOCA为你提供了一套可靠的统一工具,以开发在DPU上运行的关键数据中心服务,处理多种类型的数据处理,包括引导网络流量;加速、虚拟化和压缩存储;加密和解密数据;扫描安全威胁;集成远程管理工具;在Arm核心上运行控制平面应用。”
Nvidia正在采取措施推广BlueField。上周,VMware宣布与Nvidia达成合作伙伴关系,在VMware Cloud Foundation中采用DPU来创建下一代架构,更好地满足AI、机器学习、高吞吐量、以数据为中心的应用的独特需求。
BlueField产品线让Nvidia从GPU扩张到数据中心芯片市场的其他领域提供了更多的深度,Nvidia在今年早些时候收购的Mellanox是另一个关键因素。最近Nvidia还提出以400亿美元收购Arm,这是迄今为止Nvidia在这方面最大的赌注。Arm的芯片设计遍布于智能手机到数据中心存储设备和网络设备的绝大多数产品中。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。