HPE和芯片初创公司Ayar Labs今天宣布达成合作伙伴关系,双方将利用硅光子技术提高超级计算机的效率。
在此次合作中,HPE风投部门Pathfinder对Ayar Labs进行了战略投资,投资金额未对外公开。此前这家初创公司曾在2020年底融资了3500万美元。
HPE通过子公司Cray成为超级计算机的主流厂商,而位于美国加州圣克拉拉的Ayar Labs则主要致力于开发适用于超级计算机的硅光子技术,两家公司的此次合作将旨在升级Ayar Labs的硅光子技术并将其商业化。
典型的超级计算机往往包含大量服务器,这些服务器在执行计算时需要不时地相互共享数据。很多情况下,超级计算机中每台服务器都包含了多种类型的处理器,这些处理器彼此之间也会共享数据以便进行计算。
数据通常以电的形式在超级计算机不同组件之间进行传输,而Ayar Labs开发的硅光子系统可以以光的形式传输数据。据Ayar Labs称,该技术的带宽要比传统方案高出1000倍的带宽,而功耗仅为其十分之一。
Ayar Labs是通过一款名为TeraPHY的紧凑型芯片提高该技术的。TeraPHY可以集成到CPU等处理器中,单个TeraPHY每秒可传输高达2TB的数据。芯片用于传输数据的光是由定制的激光模块产生的,可以支持16种不同的波长,该模块同样由Ayar Labs开发。
HPE计划将Ayar Labs的技术与自己的Slingshot系列互连设备进行集成,后者主要用于在超级计算机不同组件之间传输数据。Ayar Labs的TeraPHY芯片将让Slingshot设备能够在服务器之间更有效地传输信息,而提高互连速度就有可能提高超级计算机的整体性能,因为数据到达服务器的速度越快,处理就可以越早开始。
HPE高级副总裁、高性能计算和人工智能业务总经理Justin Hotard表示:“我们将继续投资和开发我们的高性能计算和人工智能技术,以进一步提高我们客户的应用性能。通过与 Ayar Labs合作,我们将推动高性能计算和人工智能市场的创新,并在未来几代HPE Slingshot中利用Ayar Labs在光学I/O方面的专业知识,以更低的功率和延迟提供前所未有的带宽和速度,以满足不断增长的规模和性能需求。”
除了将Ayar Labs技术与Slingshot产品线相结合之外,HPE还计划与Ayar Labs展开光子学方面的研究。HPE风投部门Pathfinder对Ayar Labs的投资,一部分就将用于支持该研究。
Ayar Labs首席执行官Charles Wuischpard表示:“此次合作将加速推出一种全新的系统架构,可克服传统互连现有的局限性,开启高效的、可扩展的高性能计算新时代。”
与此同时,两家公司将打造一个“解决方案提供商的联合生态系统”,以推动客户采用他们计划开发的未来产品。由于超级计算机存在诸多复杂性,因此超级计算机项目往往会涉及多家供应商,因此打造解决方案提供商生态系统以支持HPE和Ayar Labs的硅光子解决方案,此举将有助于推动HPE和Ayar Labs的商业化努力。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。