虽然Arm架构在服务器领域异军突起,但x86仍然“非常重要”
在本周于Computex 2022大会上亮相的参考服务器系统当中,我们看到了英伟达Grace CPU与Hooper Superchips的身影,据悉两款芯片都将于明年年初与服务器产品一同出货。
希望这些Arm兼容型HGX设计方案能够顺利落地,为英伟达宣传称“总值达5000亿美元”的机器学习、数字孪生模拟和云游戏应用等业务提供动力。
英伟达产品管理与营销高级总监Paresh Kharya在新闻发布会上表示,“这种转变要求我们从各个层面重新构想数据中心,包括硬件、软件、芯片、基础设施乃至整体系统。”
全部四种参考系统均将由今年英伟达春季GTC大会上公布的Arm兼容型Grace CPU和Grace-Hopper Superchips提供支持。
其中Grace Superchip是将两块Grace CPU裸片通过900 GB/秒NVLink-C2C互连技术接入同一基板,由此提供144个CPU核心和1 TB/秒内存带宽,总功率为500瓦。Grace-Hopper则将其中一个CPU芯片替换成H100 GPU芯片,同样经由NVLink-C2C实现与CPU直接连通。
HGX家族的这些最新产品,无疑是英伟达为专注于计算密度的大型HPC部署需求的直接回应。其中一套参考设计,即2U HGX Grace-Hopper刀片节点,使用的就是512 GB LPDDR5x DRAM加80 GB HBM3内存、再加Grace-Hopper Superchip的强劲组合。
对于未针对GPU加速做出优化的计算工作负载,英伟达还提供1U GHX Grace刀片服务器。它是将Grace-Hopper Superchip替换成了拥有1 TB LPDDR5x内存的纯CPU模块。用户可以在单一机架内接入两个HGX Grace-Hopper或者四个HGX Grace节点。
Kharya表示,“通过这些HGX参考系统,英伟达还将为OEM制造商提供Grace-Hopper和Grace CPU Superchip模块,以及相应的PCB参考设计。”
英伟达的六家合作伙伴供应商——华硕、富士康、技嘉、QCT、Supermicro和纬颖——都有计划根据参考系统设计自家产品,首批出货预计在明年年初。
除了HGX,英伟达还分别推出了面向云游戏和数字孪生模拟的CGX和OVX两款新型参考设计。
这两种设计均使用Grace Superchip CPU配合多种基于PCIe接口的GPU,其中也包括英伟达的A16。
四套系统的网络均由英伟达BlueField-3负责提供,而且据我们得到的消息,英伟达还计划为基于Grace-Hopper的系统提供NVLink连接,借此建立起跨节点GPU内存池。
不过面对英伟达计划于明年初商业发布的这些高端Arm CPU,Kharya仍然强调并不打算在短期内彻底放弃x86。
他解释道,“x86是一类非常重要的CPU,几乎占据着当前英伟达GPU产品所处的全部市场空间。我们将继续同步支持x86和基于Arm架构的CPU,为客户乃至市场提供适合一切使用场景的加速计算选项。”
除了以HPC为重点的参考设计方案之外,英伟达还提到,有30多家合作伙伴供应商已经在边缘和嵌入式应用(包括AI推理)系统中广泛部署了其低功耗Jetson AGX Orin平台。
同样发布于今年春季GTC大会的60瓦版Jetson Orin AGX开发套件,是一款基于英伟达Ampere系列GPU、拥有12个Cortex-A67AE核心的Arm CPU单片计算机。
英伟达边缘、AI与机器人业务部门产品管理总监Amit Goel在本周的新闻发布会上提到,“我们看到,在零售、农业、制造业、智慧城市、物流和医疗保健等大规模行业当中,机器人技术与边缘AI用例的发展势头都相当强劲。出于延迟、带宽或数据主权等考量,这些应用都只能运行在边缘位置。而英伟达Jetson已经成为这些应用场景的首选平台。”
为了满足对于Jetson平台不断增长的市场需求,英伟达还公布了四次设计迭代,包括即将于今年7月和10月分别推出的8核32 GB与12核64 GB版本AGX Orin平台。英伟达还计划在9月和12月推出较为轻量化的Orin NX平台8 GB和16 GB版本。其中Orin NX平台继续沿用上代方案的SODIMM内存式边缘连接器。
英伟达宣称,目前已经有超过100万开发者、6000家公司和150家合作伙伴正基于这款低功耗AI边缘平台开发自家产品。
好文章,需要你的鼓励
随着数字化时代的到来,网络安全威胁呈指数级增长。勒索软件、AI驱动的网络攻击和物联网设备漏洞成为主要威胁。企业需要建立全面的风险管理策略,包括风险评估、安全措施实施和持续监控。新兴技术如人工智能、区块链和量子计算为网络安全带来新机遇。组织应重视员工培训、供应链安全、数据治理和事件响应能力建设。
滑铁卢大学研究团队开发出ScholarCopilot,一个革命性的AI学术写作助手。该系统突破传统"先检索后生成"模式,实现写作过程中的动态文献检索和精确引用。基于50万篇arXiv论文训练,引用准确率达40.1%,大幅超越现有方法。在人类专家评估中,引用质量获100%好评,整体表现优于ChatGPT。这项创新为AI辅助学术写作开辟新道路。
AWS Amazon Bedrock负责人Atul Deo正致力于让人工智能软件变得更便宜和更智能。他在12月re:Invent大会前只有六个月时间来证明这一目标的可行性。Deo表示AI领域发展速度前所未有,模型每几周就会改进,但客户只有在经济效益合理时才会部署。为此,AWS推出了提示缓存、智能路由、批处理模式等功能来降低推理成本,同时开发能执行多步骤任务的自主代理软件,将AI应用从聊天机器人转向实际业务流程自动化。
哥伦比亚大学研究团队发布NodeRAG技术,通过异构图结构革新智能问答系统。该方法将文档信息分解为7种节点类型,采用双重搜索机制,在多个权威测试中准确率达89.5%,检索效率提升50%以上,为智能信息检索技术带来重大突破。