华硕、戴尔科技、技嘉、云达科技和超微发布采用BlueField DPU和NVIDIA DOCA的系统,为数据中心提供领先的软件定义网络、存储和安全功能。
在今日举行的COMPUTEX 2021上,多家全球领先的服务器制造商发布了采用NVIDIA BlueField-2 DPU的新系统。同时基于NVIDIA GPU的系统也都可以选择添加BlueField-2 DPU,一些应用和客户用例中可能不需要用到GPU,但仍然可以受益于DPU。

图片说明:全球领先的数据处理器NVIDIA BlueField-2 DPU
NVIDIA BlueField-2 DPU能够满足企业对更高性能、安全性和可管理性的需求,因此华硕、戴尔科技、技嘉、云达科技和超微的新服务器将成为理想之选。
DPU能够对网络、安全与存储应用进行加速、卸载,以及基础设施负载隔离。主要运行软件定义网络(例如有状态负载均衡器或分布式防火墙)、软件定义存储或传统企业应用的服务器都将受益于此。
运行VMware vSphere、Windows或超融合基础设施解决方案的系统也将受益于DPU,无论是运行AI和机器学习应用、图形密集型应用还是传统的商业应用。

图片说明:华硕、戴尔科技、技嘉、云达科技和超微已宣布将提供采用NVIDIA BlueField-2 DPU加速的服务器。
NVIDIA BlueField DPU将基础设施任务从CPU转移至DPU,使更多的服务器CPU核可用于运行应用程序,从而提高服务器和数据中心的效率。该DPU为每个服务器配备了一台“计算机前的计算机”以提供独立、安全的基础设施服务,并与服务器应用域安全隔离,在虚拟化和裸金属服务器上实现了无代理应用隔离、安全隔离、存储虚拟化、远程管理和遥测。
客户和软件制造商可使用NVIDIA DOCA SDK轻松地对BlueField DPU进行编程。该片上数据中心体系架构可简化应用开发,并且实现前后兼容,包括兼容预计于2022年推出的NVIDIA BlueField-3 DPU,以及未来所有的BlueField DPU。
很多企业客户希望在他们大部分甚至所有的数据中心服务器中部署DPU。而业界领先的系统制造商所提供的DPU加速服务器,使客户能够简单、便利地购买到心仪的服务器并已经预安装和预配置了这款市场领先的BlueField-2 DPU。
BlueField-2 DPU加速服务器预计今年推向市场。预计在NVIDIA提供的DPU服务器认证就绪时,会有多家制造商将其产品提交至NVIDIA认证系统计划。
好文章,需要你的鼓励
企业谈AI基础设施时,注意力往往首先集中在模型、GPU和算力集群上。但当大模型应用走向规模化推理,一个瓶颈开始浮现:算力采购完成,并不意味着Token能够被稳定、低成本、可控地交付出去。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。