Nvidia的年度GPU Technology Conference大会主题往往都是具有标志性的GPU技术,但是今年GPU不再是唯一受关注的主题。
Nvidia宣布,已经提供了名为BlueField——一种面向数据中心的新型“数据处理单元”——的样品,并计划明年全面上市。
这款芯片致力于应对的挑战是,在现代数据中心中,可用处理能力中很大一部分被用于执行基础设施管理任务,例如扫描网络流量中是否存在恶意软件以及编排存储设备,而BlueField芯片可以接管其中一部分任务,从而释放数据中心的服务器能力,去执行更高价值的任务,以提高整体性能。
这带来的潜在运营收益是巨大的。据Nvidia估计,基础设施管理任务将占数据中心CPU核心处理能力的20%至30%。
Nvidia企业计算部门负责人Manuvir Das在简报会上对记者表示:“我们相信,未来所有服务器中都将采用DPU。”
Nvidia已开始提供的BlueField-2 DPU芯片样品,是网络设备子公司Mellanox共同合作取得的成果。Mellanox在今年早些时候被Nvidia以69亿美元收购之前,就已经开始了这项技术的研究。企业可以通过网络接口控制器(NIC)的形式部署BlueField-2(如图所示),通过行业标准PCIe附加到服务器上。
DPU内部封装了8个基于Arm Cortex-A72架构的CPU核心,这些核心由一对所谓加速引擎(针对网络安全任务进行了优化的专用电路)提供支持。此外Nvidia还提供了功能更强大的第二版DPU称为BlueField-2X,增加了基于Ampere架构的GPU,该架构目前是被Nvidia旗舰GPU所采用的。
Nvidia表示,1个BlueField-2(性能相对较低的版本)可以支持通常需要多达125个CPU核心的基础设施管理任务。
Nvidia计划接下来让DPU变得更加强大,准备推出名为BlueField-3的新产品迭代,然后是BlueField-4,但不会像当前型号那样具有独立的GPU和CPU电路,而是一个集成芯片。Nvidia表示,目标是在2023年交付BlueField-4,面向人工智能工作负载的性能将实现每秒400万亿次操作。
Nvidia首席执行官黄仁勋在今天举行的在线大会上表示:“我们将为网络领域带来大量技术。短短几年内,我们的计算吞吐量将增加近1000倍。”
BlueField当前和未来的迭代都将运行DOCA软件开发套件,企业可以使用该套件来开发芯片应用,它包括了用于与电路、示例代码、文档、库和构建DPU软件所需的其他组件进行交互的编程接口。
Nvidia网络部门产品营销总监Ariel Kit在博客中写道:“DOCA为你提供了一套可靠的统一工具,以开发在DPU上运行的关键数据中心服务,处理多种类型的数据处理,包括引导网络流量;加速、虚拟化和压缩存储;加密和解密数据;扫描安全威胁;集成远程管理工具;在Arm核心上运行控制平面应用。”
Nvidia正在采取措施推广BlueField。上周,VMware宣布与Nvidia达成合作伙伴关系,在VMware Cloud Foundation中采用DPU来创建下一代架构,更好地满足AI、机器学习、高吞吐量、以数据为中心的应用的独特需求。
BlueField产品线让Nvidia从GPU扩张到数据中心芯片市场的其他领域提供了更多的深度,Nvidia在今年早些时候收购的Mellanox是另一个关键因素。最近Nvidia还提出以400亿美元收购Arm,这是迄今为止Nvidia在这方面最大的赌注。Arm的芯片设计遍布于智能手机到数据中心存储设备和网络设备的绝大多数产品中。
好文章,需要你的鼓励
OpenAI推出ChatGPT Images新版本GPT Image 1.5,承诺更好的指令遵循、更精确的编辑功能和高达4倍的图像生成速度。该模型面向所有ChatGPT用户和API开放。这是OpenAI在CEO奥特曼宣布"红色警报"后与谷歌Gemini竞争的最新升级。新模型提供后期制作功能,支持更精细的编辑控制,能在编辑过程中保持面部相似度、光照、构图和色调的视觉一致性,解决了传统AI图像工具迭代编辑时缺乏一致性的问题。
艾伦人工智能研究所开发的olmOCR 2通过创新的单元测试训练方法,将文档识别准确率提升至82.4%,在处理复杂数学公式、表格和多栏布局方面表现卓越。该系统采用强化学习和合成数据生成技术,实现了完全开源,为全球研究者提供了先进的OCR解决方案,推动了AI技术民主化发展。
Zoom推出AI Companion 3.0,采用联邦AI架构结合自研模型与OpenAI、Anthropic等第三方大语言模型。新版本具备智能工作流、对话式工作界面等功能,可将会议对话转化为洞察、进度跟踪和文档内容。系统支持加密传输,不使用客户内容训练模型。用户可通过ai.zoom.us访问,或以每月10美元独立购买。
苹果公司发布了包含40万张图片修改案例的AI训练数据集Pico-Banana-400K,涵盖35种修图操作类型。该数据集采用严格质量控制,包含成功失败案例对比和多轮修图场景。研究显示AI在全局修改方面表现优秀,但精细操作仍有挑战。这为AI修图技术发展奠定基础,未来将让修图软件更智能易用。