近日,NVIDIA 发布了 NVIDIA DOCA SDK,这是一种集数据中心功能于芯片的架构,可助力开发者轻松地对 BlueField DPU 进行编程。
现代数据中心是由软件定义的敏捷数据中心,专为从云到边缘的高度分布式工作负载而构建。但是,传统的软件定义的数据中心方式会带来巨大的性能负担,轻而易举就能消耗掉 30% 或更多的服务器 CPU内 核。为解决这一问题,NVIDIA BlueField 数据处理器 (DPU) 在突破性地支持网络、安全和存储高性能的同时,还可以很好地实现卸载、加速和隔离等数据中心必须的设施服务。
DOCA 利用 BlueField DPU 实现数据中心创新
通过 BlueField-2 DPU 和 DOCA,客户能够将其数据中心转变为先进的虚拟私有云,不仅可实现加速、具有完全编程性且安全可靠,还提供了公有云的可扩展性。借助 DOCA,开发者能够利用行业标准 API 在 NVIDIA DPU 上快速创建应用程序和服务,从而实现数据中心的创新。结合使用 DOCA 和 BlueField-2 DPU 可在全面、开放的开发平台上开发具有突破性和高性能的网络、安全和存储应用程序。在 DOCA 和 BlueField-2 上开发的应用程序会将数据中心基础服务与应用程序隔离开来,这会显著提升应用程序的性能、安全性和效率。DOCA的发布给开发者提供了构建更安全和硬件加速的数据中心所需的工具。
DOCA 还支持 BlueField DPU 为所有服务器的数据流量生成带有时间标记的遥测数据。这样,每台服务器可以作为网络分流器来进行流量镜像,也可以监控所选的部分或所有的数据流量。这种强大的CPU 零负载遥测技术可创建时间同步的数据中心来提高安全性,也是优化数据中心分布式架构性能的理想之选。
DOCA 支持在整个数据中心内配置、更新和监控数百甚至上千个 DPU。现在,每个服务器都可尽享基于DPU的对网络、安全、存储和基础设施服务的硬件卸载、加速和隔离的优势。
DOCA 可将数据中心基础设施服务卸载到 BlueField DPU 之中,从而释放内核,使得 CPU 能完全用于业务应用程序。DOCA 实现了这些硬件加速功能,提供相当于 30 多个 CPU 内核的性能,因此提高了效率并大幅节省了服务器成本。
此外,DPU 还在应用程序处理域之外创建了一个独立的数据中心基础设施服务域。如果主机遭受入侵,安全控制代理与被入侵主机之间的隔离层可防止攻击扩散至整个数据中心。
最后,DPU 可解耦应用程序对基础设施服务的依赖。通常,应用程序的依赖性让操作系统的内核升级非常困难, IT 管理员不得不手动执行。解耦了基础设施服务和应用程序后,云管理员将可以自动执行数据中心安全更新。
DOCA简化了编程之旅, 开发者可以利用 API、库和示例代码来创建程序框架,对 DPU 上运行的加速应用程序进行编程,从而带来了出色的效率和性能。借助 DOCA SDK,应用程序开发者能够立即开始构建 DPU 应用程序;由于其具有支持多代DPU的特性,因此开发者可以确信,当前开发的应用程序在以后所有的 BlueField 后代产品上都可以运行并具有更多硬件升级提供的性能优势。
最后,随着合作伙伴 DPU 和 DOCA 生态系统迅速增长,我们将可以从当今的行业领跑者那里获得最出色的网络、安全和存储应用程序。
DOCA 1.0 版本支持以下内容:
支持 DOCA 的 NVIDIA SDK Manager包含
DOCA 基于开放的 API,如用于网络和安全的 DPDK, 和用于存储的 UCX RDMA 和 SPDK。它完全兼容所有主要操作系统和服务器虚拟化平台。使用 DOCA 编写的应用程序可在 BlueField-2 和后续推出的 NVIDIA DPU 上无缝运行。
好文章,需要你的鼓励
甲骨文云基础设施与xAI达成合作,OCI将为企业客户托管xAI的Grok模型。此次合作使Grok 3等模型可供以数据为中心的客户群进行训练和推理,支持Nvidia和AMD加速器。OCI采用独特的AI策略,专注于企业数据需求,保持模型和工具的不可知论立场,让生态系统合作伙伴专注于提供工具,而OCI确保体验的无摩擦、高性能和安全性。
华为诺亚实验室联合多家顶尖院校推出开源机器人编程框架Ark,通过Python优先设计和模块化架构,实现仿真与现实环境的无缝切换。该框架大幅降低机器人编程门槛,支持现代AI技术集成,为机器人学习研究提供统一平台,有望加速机器人技术普及。
量子计算何时能商用化仍是行业关注焦点。专家指出,除了逻辑量子比特和错误纠正技术,量子计算系统还面临诸多挑战:激光器缺乏相干性、稀释制冷机难以适应数据中心环境、系统可扩展性不足等硬件问题。此外,量子计算机需要达到99.999%的运行时间要求,编程易用性和与传统高性能计算的混合架构复杂性也有待解决。
网易有道研究团队开发了Confucius3-Math,这是一个专门针对中国K-12数学教育的14B参数AI模型。该模型在多项数学推理测试中表现出色,超越了许多规模更大的竞争对手,训练成本仅需2.6万美元,推理速度比DeepSeek-R1快15倍,能在消费级GPU上高效运行,旨在通过降低AI教育成本来促进教育公平。