Nvidia今天宣布推出了一款用于服务器的加速卡新品,并公布了最新用于自己内部研究集群中的超级计算机Selene,该集群也是目前全球排名第七的最强系统。
Nvidia是在ISC Digital线上高性能计算大会期间发布这些公告的。
首先,来看看这款服务器加速器,它其实是Nvidia旗舰产品A100 GPU的一个新版本(如图所示),结构更紧凑了。Nvidia在PCIe卡上配置了一个A100芯片,让企业可以将其接入服务器,从而为人工智能应用、科学模拟以及通常使用GPU的工作负载提速。
Nvidia此前已经在今年早些时候推出了一款基于A100的加速器,带有4个或者8个板载GPU。今天发布的单GPU PCIe卡可以轻松插入企业现有服务器中,从而让Nvidia更好地瞄准了一个关键市场领域:那些希望在GPU项目中利用现有基础设施的企业和组织。
如下图所示,就GPU核心规格而言,这款PCIe卡基本上和之前是类似的,主要区别有两点。首先,该产品的散热设计功率(衡量芯片热量散发的指标)降低了38%,使其运行的时候足够冷却,连接到服务器而无需专用风扇。此外,为了提高效率,这款PCIe卡在速度上做了一些权衡,性能是同类产品的90%。
相信搭载Nvidia的A100 GPU的服务器产品将很快上市。Nvidia表示,戴尔和HPE等十几家服务器厂商计划发布超过50款配置了A100的服务器系统,预计今年夏天就会有30款问世。
企业数据中心并不是Nvidia芯片唯一瞄准的领域。目前三大主流公有云厂商都已经采用了Nvidia的GPU,不仅如此,Nvidia GPU还被广泛用于超级计算机中。在此次ISC Digital大会上,Nvidia透露了有关这方面工作的最新信息,称全球TOP500榜单中前25强超级计算机中有20个都在后台使用了Nvidia GPU。
这其中就包括了Selene——Nvidia专门为自己内部研究集群打造的超级计算机。该系统是位列全球第七,性能相当于每秒27.5次万亿次运算,而且值得注意的是,Selene也是全球最节能的系统之一。
Nvidia高级产品营销经理Dion Harris在博客中详细介绍说,“Selene是TOP100系统中唯一一个打破了每瓦20 gigaflops的系统。”
除了用于扩展Nvidia的研究范围之外,Selene系统还可以作为Nvidia DGX设备系列的销售展示。Nvidia表示,通过组装DGX A100设备,仅用了4周时间就完成了整套超级计算机的组装,每个系统提供8个A100 GPU,而通常某些情况下建造大型超级计算机可能要花费一年多的时间,显然这么快的速度对潜在客户来说是很有吸引力的。
Nvidia子公司Mellanox也参与了ISC Digital大会演示。去年,Nvidia斥资69亿美元收购了这家网络设备制造商,一部分原因是Mellanox在高性能计算市场上占有举足轻重的地位,特别是TOP500超级计算机中有305套系统都采用了Mellanox的技术。Nvidia在ISC Digital上透露,Nvidia GPU和Mellanox产品现在联合起来为全球将近2/3的TOP500系统提供动力。
Nvidia还借此机会推出了新的网络监控设备Mellanox UFM Cyber-AI,该系统会扫描数据中心或者超级计算机的流量情况,发现潜在的组件故障、性能问题、以及表明存在潜在漏洞的可疑活动。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。