由于高能效、低功耗等特点,Arm在移动设备和物联网市场得到广泛应用,拥有庞大而且成熟的生态体系,而在传统的以数据中心代表的基础设施市场则是属于英特尔的。能否把Arm的技术优势复制到基础设施领域?
在Arm看来,答案自然是肯定的。Arm正在做这件事情,而且已经做了超过10年了,Neoverse就是ARM进军数据中心市场放出的大招。Neoverse是Arm 2018年首次对外宣布的一个全新产品系列,主要面向5G网络和下一代云端到边缘基础设施,简单地理解就是服务器市场。Neoverse架构有更高级别的性能、安全性和可扩展性,其从微架构设计到芯片、软件和系统进行的全面创新以满足整个计算领域多样化且不断变化的需求。
Neoverse包括三个系列,分别是V系列、N系列、E系列,其中V系列主要面向对计算性能要求比较高的场景,E系列主要面向对能耗要求比较高的场景,N系列主要面向对可扩展性要求比较高的场景。2019年上半年,Arm首先推出了Arm Neoverse平台的两款产品,即Neoverse N1平台和E1平台。去年9月Arm更新了Neoverse产品路线图,新增了两款产品,分别是V1和N2平台。而这周Arm解密了Neoverse V1和N2平台的产品细节,也同时发布了CMN-700,作为构建基于Neoverse V1和 N2平台高性能SoC的关键部件。
Neoverse亮相2年来,在HPC、云计算以及5G等市场推广很快,不仅在AWS有Graviton 以及Graviton2这样的芯片正式投入商用,Oracle 也已经宣布计划将 Ampere Altra 用于其云基础设施,而在HPC领域,不仅有世界最快超级计算机日本富士通Fugaku这样的用户,而且印度也宣布研发基于Neoverse的超级计算机。
性能和能效可以兼得
在Arm Neoverse亮相之前,Arm在基础设施市场已经耕耘超过10年。之前很长时间Arm在这个市场的主力是Cortex-A72,它具有非常出色的能效比,单核性能表现也很好,借助Marvell、英伟达、博通和恩智浦等合作伙伴,以智能网卡、DPU 和物联网芯片等形式在网络和边缘应用场景中得到广泛应用。
“我们的用户希望Arm芯片能在基础设施市场表现得更好,性能能进一步提高,并在大规模使用时保证性能。于是就有了现在的 Neoverse N1内核和 CMN-600 Mesh 网络,它在核数增加时依然能保证线性性能扩展,也使得 Neoverse 更加适合云服务。”Arm基础设施事业部高级副总裁兼总经理 Chris Bergey在接受记者采访时表示。
据悉,Neoverse N1的单核性能现在已可以匹敌或超过传统 SMT 线程的性能,而从能效的角度看,则可以节约2/3,从而大大增加了Arm在基础设施市场的应用范围。
如果说Neoverse N1开创了Arm芯片高性能、高能效和可扩展计算的新时代,那么 Neoverse V1 和 N2则让Arm再上一天台阶。与N1相比,Neoverse V1有50%的性能提升、1.8倍的矢量工作负载优化以及4倍的机器学习工作负载优化,同时,Neoverse V1也是Arm强调性能优先的新型计算系列的第一个平台。Neoverse V1 使芯片合作伙伴能灵活地为高度依赖CPU性能和带宽的应用构建计算能力,并为其提供 SoC 设计的灵活性。
秉持性能至上的思维,Neoverse V1 的设计理念创造了Arm迄今为止设计过的最宽微架构。Neoverse V1宽而深的架构,加上SVE指令集使其在单核性能和通过SVE延长代码存活期等方面占据领先优势,并为芯片设计人员提供可实现的灵活性。
Arm在几周前发布了ArmV9 架构,以满足高性能、高安全的新一代计算需求。Neoverse N2平台就是第一个基于Armv9架构的平台,在安全性、能耗以及性能方面都有全面的提升。相比于N1,Neoverse N2在保持相同水平的功率和面积效率的基础上,单线程性能提升了40%。Neoverse N2具备良好的可扩展性,可以横跨从高吞吐量计算到功率与尺寸受限的边缘和5G应用场景,并在这些应用中带来优于N1的表现。
Neoverse N2平台提供了优异的单线程性能和业界领先且能为用户减少TCO的每瓦性能表现。Neoverse N2还是第一个具备SVE2功能的平台,该功能可为云到边缘的性能效率带来巨大的提升。在诸如机器学习、数字信号处理、多媒体和5G等广泛应用场景中,SVE2除了带来大幅性能提升外,还具备了SVE的编程简易性及可移植性等优势。
而CMN-700是CMN-600的进一步提升,CMN-700在每个矢量上进一步提升了性能——从内核的数量、缓存的大小,到附加内存及 IO 设备的数量和类型。通过Arm对CCIX和CXL持续不断的投入,更多的定制选项应运而生,进而使合作伙伴的解决方案具备总线和高核数的可扩展性特色。这将为突破传统的硅限制提供新的机遇,并为紧密耦合的异构计算提供更大的灵活性。
不断壮大的合作伙伴体系
Neoverse产品路线图在去年9月的更新,证明了Arm对Neoverse的承诺。而在市场上,Arm 的Neoverse也得到广泛认可,众多合作伙伴加入到生态系统,其中不乏AWS、Oracle这样的重量级合作伙伴。
AWS的Graviton值得一提。Graviton是基于Neoverse N1平台研发的。目前,AWS Graviton 芯片已经部署于 AWS 的多个服务区域,在 AWS 全球77个区域中的70个区域已经启用基于 Graviton 的 vCPU。对于一款正式发布不到一年的产品,这个进度应该说非常快。据悉,AWS去年新增实例中有近一半是基于 Graviton2 平台。
实际上,不止是AWS,类似的云服务商还有甲骨文。甲骨文计划在Oracle云基础设施上采用Ampere Altra CPU,为各种工作负载提供最佳的性价比。
而在网络方面,Marvell发布了基于Neoverse N2 的OCTEON系列网络解决方案,并预计于2021年底前试产。相较于前一代的OCTEON解决方案,其性能提升高达3倍。
在超算上,Arm处理器也同样收获颇丰,不但有目前位列全球超算500强第一名的日本富士通超级计算机Fugaku这样的成功案例,而且印度电子信息技术部(MeitY)已宣布将加入法国芯片公司 SiPearl 和韩国电子通信研究所( ETRI)的行列,采用Neoverse V1驱动国家级百万兆级高性能计算项目。
在中国,阿里云与腾讯云也已经参与到Arm的生态系统中,阿里云在即将上线的基于Arm架构ECS 实例上完成了测试,结果显示在 SPECjbb 的测试数据中获得了惊艳的表现,且基于Arm架构运行的 DragonWell JDK 性能提高了 50%。腾讯在硬件测试和软件支持方面持续投入,使其在云应用上能采用 Arm Neoverse 技术。
随着这些成功案例的不断推出,后面也将有更多合作伙伴和用户会加入到Arm生态,这些合作伙伴和Arm一起利用 Neoverse 平台的特色,服务于基础设施各个领域,从而在基础设施领域形成X86架构之外新的一级。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。