为了在人工智能和高性能计算领域保持领先水平,Nvidia在本周二晚些时候推出了一个新的计算架构,并声称将统一人工智能和高性能计算这两个快速增长的领域。
Nvidia公司首席执行官黄仁勋在台湾台北举行的GPU Technology Conference(GTC)大会上宣布推出了HGX-2云服务器平台(如图所示),针对很多结合了人工智能和高性能计算的新应用。
“我们相信未来需要一个统一的平台用于人工智能和高性能计算,”Nvidia加速计算部产品营销经理Paresh Kharya在周二的新闻发布会上这样表示。
其他人表示认同。“我认为人工智能将使高性能计算发生革命性的变化,”Moor Insights&Strategy高级分析师Karl Freund这样表示。“我估计很多超级计算中心都会部署HGX2,因为它可以为高性能计算和人工智能增加巨大的计算能力。”
更具体地说,这种新的架构可以实现包括科学计算和模拟(如天气预报)在内的各种应用,以及人工智能模型(如深度学习神经网络)的训练和运行,用于诸如图像和语音识别以及自驾汽车导航等任务。Kharya说:“这些模型正在以前所未有的速度更新,”有时甚至是每小时更新一次。
由Nvidia GPU提供动力的HGX架构是一种数据中心设备,用于微软的Project Olympus项目、Facebook的Big Basin系统、Nvidia自己的DGX-1 AI超级计算机、以及公有云计算领导者AWS的服务中。该架构的第一个版本HGX-1是在一年前推出的。
HGX-2包含16个Nvidia高端V100 GPU,为计算机制造商提供了打造系统的基本构建块。Nvidia表示,使用Nvidia NVLink芯片互连系统让这16个GPU看起来就像一个整体,提供2 petaflops的浮点运算性能。
“基本上你可以将HGX用作16个GPU组成的池,就像是一个非常大的计算资源,”Freund解释说。
Nvidia也表示,最近推出的DGX-2 AI超级计算机是第一个使用HGX-2的系统。它将在第三季度销售,售价为399,000美元。黄仁勋在主题演讲中开玩笑说,它有“很大的价值”。
Nvidia已经打造了三类服务器,这些服务器将CPU与GPU混合用于人工智能训练、人工智能推理、模型运行、以及超级计算的优化配置。
Kharya将HGX架构定位为类似于英特尔和微软开发的ATX个人电脑主板配置标准,后者导致许多公司制造兼容系统组件的爆炸式增长。
周二宣布计划推出支持HGX-2的服务器制造商包括联想、QTC、超微、Wiwynn公司。另外,所ODM厂商商鸿海精密工业公司(Foxconn)、英业达(Inventec)、广达电脑(Quanta Computer)和纬创公司(Wistron),全球一些最大的云数据中心都在使用他们的系统。他们称将在今年晚些时候推出HGX-2系统。
与此同时,英特尔正加紧扩大在人工智能计算方面的业务,上周预览了一款新型芯片,预计在2019年晚些时候发布该芯片。英特尔表示,该芯片旨在更快地构建人工智能模型。英特尔人工智能集团负责人Naveen Rao抨击了Nvidia,称关于GPU比英特尔最新至强处理器快得多的说法是一个“神话”。
好文章,需要你的鼓励
物联网连接系统提供商Soracom发布连接虚拟化管理器,旨在提升物联网部署的灵活性和蜂窝连接控制能力。该平台能够在单个物联网SIM卡上协调管理多个连接配置文件,支持动态远程管理和切换,包括第三方移动网络运营商配置文件。系统已与丰田汽车合作在车联网项目中验证,计划于2025财年末发布。
哈佛大学研究团队开发出LangSplatV2系统,实现了超高速3D语言查询功能。该系统通过创新的稀疏编码技术和高效渲染算法,将3D场景语言理解速度提升了47倍,达到每秒384帧的实时处理能力。系统采用全局语义字典和稀疏系数表示,彻底解决了传统方法中解码器速度瓶颈问题,为AR/VR、智能机器人等应用提供了强大的技术基础。
自主机器人初创公司Cartken原本专注于校园和东京街头的四轮送餐机器人,现已将重心转向工业领域。该公司CEO表示,当企业开始询问在工厂和实验室使用其机器人时,他们发现了巨大的工业需求。2023年,德国制造商ZF Lifetec成为首个大型工业客户。凭借多年送餐数据训练的AI技术,机器人可轻松适应工业环境。公司已推出载重660磅的Cartken Hauler等新产品,并与三菱深化合作,后者将采购近100台机器人用于日本工业设施。
马里兰大学研究团队提出了CoLa(Chain-of-Layers)方法,让AI模型能够根据任务难度动态调整内部层的使用策略,实现"快思考"和"慢思考"的灵活切换。通过蒙特卡洛树搜索算法,该方法在推理任务上显著提升了模型的准确性和效率,为75%的正确答案找到了更短的处理路径,并纠正了60%的错误答案,为AI模型的架构优化开辟了新方向。