近日,NVIDIA 发布了 NVIDIA DOCA SDK,这是一种集数据中心功能于芯片的架构,可助力开发者轻松地对 BlueField DPU 进行编程。
现代数据中心是由软件定义的敏捷数据中心,专为从云到边缘的高度分布式工作负载而构建。但是,传统的软件定义的数据中心方式会带来巨大的性能负担,轻而易举就能消耗掉 30% 或更多的服务器 CPU内 核。为解决这一问题,NVIDIA BlueField 数据处理器 (DPU) 在突破性地支持网络、安全和存储高性能的同时,还可以很好地实现卸载、加速和隔离等数据中心必须的设施服务。
DOCA 利用 BlueField DPU 实现数据中心创新
通过 BlueField-2 DPU 和 DOCA,客户能够将其数据中心转变为先进的虚拟私有云,不仅可实现加速、具有完全编程性且安全可靠,还提供了公有云的可扩展性。借助 DOCA,开发者能够利用行业标准 API 在 NVIDIA DPU 上快速创建应用程序和服务,从而实现数据中心的创新。结合使用 DOCA 和 BlueField-2 DPU 可在全面、开放的开发平台上开发具有突破性和高性能的网络、安全和存储应用程序。在 DOCA 和 BlueField-2 上开发的应用程序会将数据中心基础服务与应用程序隔离开来,这会显著提升应用程序的性能、安全性和效率。DOCA的发布给开发者提供了构建更安全和硬件加速的数据中心所需的工具。
DOCA 还支持 BlueField DPU 为所有服务器的数据流量生成带有时间标记的遥测数据。这样,每台服务器可以作为网络分流器来进行流量镜像,也可以监控所选的部分或所有的数据流量。这种强大的CPU 零负载遥测技术可创建时间同步的数据中心来提高安全性,也是优化数据中心分布式架构性能的理想之选。

DOCA 支持在整个数据中心内配置、更新和监控数百甚至上千个 DPU。现在,每个服务器都可尽享基于DPU的对网络、安全、存储和基础设施服务的硬件卸载、加速和隔离的优势。
DOCA 可将数据中心基础设施服务卸载到 BlueField DPU 之中,从而释放内核,使得 CPU 能完全用于业务应用程序。DOCA 实现了这些硬件加速功能,提供相当于 30 多个 CPU 内核的性能,因此提高了效率并大幅节省了服务器成本。
此外,DPU 还在应用程序处理域之外创建了一个独立的数据中心基础设施服务域。如果主机遭受入侵,安全控制代理与被入侵主机之间的隔离层可防止攻击扩散至整个数据中心。
最后,DPU 可解耦应用程序对基础设施服务的依赖。通常,应用程序的依赖性让操作系统的内核升级非常困难, IT 管理员不得不手动执行。解耦了基础设施服务和应用程序后,云管理员将可以自动执行数据中心安全更新。
DOCA简化了编程之旅, 开发者可以利用 API、库和示例代码来创建程序框架,对 DPU 上运行的加速应用程序进行编程,从而带来了出色的效率和性能。借助 DOCA SDK,应用程序开发者能够立即开始构建 DPU 应用程序;由于其具有支持多代DPU的特性,因此开发者可以确信,当前开发的应用程序在以后所有的 BlueField 后代产品上都可以运行并具有更多硬件升级提供的性能优势。
最后,随着合作伙伴 DPU 和 DOCA 生态系统迅速增长,我们将可以从当今的行业领跑者那里获得最出色的网络、安全和存储应用程序。
DOCA 1.0 版本支持以下内容:
支持 DOCA 的 NVIDIA SDK Manager包含
DOCA 基于开放的 API,如用于网络和安全的 DPDK, 和用于存储的 UCX RDMA 和 SPDK。它完全兼容所有主要操作系统和服务器虚拟化平台。使用 DOCA 编写的应用程序可在 BlueField-2 和后续推出的 NVIDIA DPU 上无缝运行。
好文章,需要你的鼓励
谷歌发布新的AI学术搜索工具Scholar Labs,旨在回答详细研究问题。该工具使用AI识别查询中的主要话题和关系,目前仅对部分登录用户开放。与传统学术搜索不同,Scholar Labs不依赖引用次数或期刊影响因子等传统指标来筛选研究质量,而是通过分析文档全文、发表位置、作者信息及引用频次来排序。科学界对这种忽略传统质量评估方式的新方法持谨慎态度,认为研究者仍需保持对文献质量的最终判断权。
Meta公司FAIR实验室与UCLA合作开发了名为HoneyBee的超大规模视觉推理数据集,包含250万训练样本。研究揭示了构建高质量AI视觉推理训练数据的系统方法,发现数据质量比数量更重要,最佳数据源比最差数据源性能提升11.4%。关键创新包括"图片说明书"技术和文字-图片混合训练法,分别提升3.3%和7.5%准确率。HoneyBee训练的AI在多项测试中显著超越同规模模型,同时降低73%推理成本。
Meta发布第三代SAM(分割一切模型)系列AI模型,专注于视觉智能而非语言处理。该模型擅长物体检测,能够精确识别图像和视频中的特定对象。SAM 3在海量图像视频数据集上训练,可通过点击或文本描述准确标识目标物体。Meta将其应用于Instagram编辑工具和Facebook市场功能改进。在野生动物保护方面,SAM 3与保护组织合作分析超万台摄像头捕获的动物视频,成功识别百余种物种,为生态研究提供重要技术支持。
上海AI实验室团队提出ViCO训练策略,让多模态大语言模型能够根据图像语义复杂度智能分配计算资源。通过两阶段训练和视觉路由器,该方法在压缩50%视觉词汇的同时保持99.6%性能,推理速度提升近一倍,为AI效率优化提供了新思路。