今年5月NVIDIA推出Ampere GPU架构的时候,公布了一套名为Selene的新型超级计算机,总性能在全球排名第7。Selene现在成为美国最快的工业系统,也是有史以来第二高能效的系统。Selene采用风冷方式,在标准数据中心内构建完成仅仅用了三周时间,而通常安装一套超级计算机需要9-12个月。如此之快,很可能是因为采用了NVIDIA即插即用的DGX系统,该系统配置了AMD CPU、A100 GPU和Mellanox HDDR网络。不久之后,佛罗里达大学宣布他们也构建了同样是基于DGX A100平台的超级计算机。因此,NVIDIA履行了首席执行官黄仁勋(Jensen Huang)的承诺,即NVIDIA不仅有GPU业务,还将在端到端数据中心的竞争中脱颖而出。
Selene不是NVIDIA首次涉足基于DGX的超级计算机,NVIDIA最早是在2017年推出Volta GPU的时候公布了SaturnV超级计算机。NVIDIA在构建自有超级计算机的过程中积累了很多经验,从而帮助NVIDIA将这些经验运用于学术界和大型云基础设施,同时为NVIDIA工程师们提供世界一流的产品设计和软件优化计算平台。SaturnV和Selene还可作为参考架构,供潜在客户进行测试,以确定是否可以满足他们的需求,让外界对于NVIDIA作为高性能基础设施的一级厂商充满信心。不仅佛罗里达大学对于NVIDIA系统的表现印象深刻,美国阿贡国家实验室、微软和洛克希德·马丁公司也都拥有了自己的DGX SuperPOD,而且该设计在HGX版本中已经开源,任何数据中心都可以根据需要自行构建。
许多媒体文章中都详细介绍过,这套系统是在疫情期间配置和安装的,为了遵守社交隔离政策,只有两个安装团队。我们在这里想重点谈一谈该系统对NVIDIA业务及其合作伙伴业务的意义和影响。
NVIDIA在DGX和HGX参考体系结构方面拥有丰富的经验,NVIDIA和合作伙伴网络也进行了整体的升级,提供从芯片和模块到包括软件、计算基础设施、网络和存储在内的全套数据中心。现在,客户可以直接找NVIDIA合作伙伴经销商或者DGX就绪数据中心合作伙伴安装DGX、DGX POD和DGX SuperPOD,或者以云的方式获得这些资源。可以肯定的是,DGX A100并不便宜,起价为19.9万美元,但是客户能够在几周之内(而不是几个月)就让系统平稳且低风险地运转起来。
NVIDIA尚未将该系统的收入数据从其他业务中划分出来,但是我预计这个产品系列将会迅速增长,成为NVIDIA的一个重要收入和利润来源。毕竟,NVIDIA到目前为止至少有十几个DGX客户,而Selene本身配置有280个DGX A100,如果有人要购买的话,标价为5600万美元。
最重要的是,NVIDIA一直在价值链上端发展,致力于将以往归于OEM合作伙伴的收入和利润收入自己的囊中。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。