本周在IEEE国际电子元件会议上,IBM研究院(IBM Research)公布了在“计算内存架构”方面所取得的一项突破性成果,该架构可以为混合云平台中的人工智能计算工作负载实现卓越的性能水平。
研究人员开发出了号称第一个嵌入式磁阻随机存取存储器(Magnetoresistive Random-Access Memory)技术,采用14纳米架构,并称其是Spin Transfer Torque MRAM(STT-MRAM),这一新架构有助于解决数据密集型混合云和AI工作负载中的关键内存瓶颈。
IBM在博客文章中表示,随着企业将那些要求最苛刻的工作负载迁移到混合云平台,他们将面临“计算内存瓶颈”的问题,这是由于系统中处理器比现有内存系统速度快得多而导致内存短缺的问题。
IBM表示,这种新型STT-MRAM架构可以解决内存和处理器之间的瓶颈,实现更高的内存性能。
STT-MRAM利用电子自旋将数据存储在磁畴中,并将静态RAM的高速度与传统DRAM的更高密度结合在一起,从而提供了一种更可靠的内存架构。IBM表示,最后一级CPU缓存中部署STT-MRAM,将可以减少数据密集型工作负载所需的内存读写操作,从而降低系统延迟和功耗,同时增加带宽。
IBM在今日发表的白皮书中称,这项14纳米嵌入式STT-MRAM CMOS技术是有史以来最先进的MRAM系统,将为混合云中的AI工作负载提供一个“效率更高、性能更高的系统”。
IBM在另外一份白皮书详细介绍了这个新型架构所使用的高级磁性材料,这种材料让STT-MRAM系统具有更高的密度,存储量是原来的两倍,从而大大提高了数据恢复性能。
IBM还透露了有关“模拟内存计算”研究的最新信息,这种技术将计算和内存结合到单一设备中,用于处理要求更为苛刻的AI工作负载。IBM说,这种专有硬件可以用于训练越来越复杂的AI模型,能效大幅提升。
打造用于AI的专用模拟内存计算硬件,面对的挑战之一,就是“突触权重映射问题”。突触权重用于指示神经网络中两个节点之间的连接强度,需要将其精确地映射到模拟非易失性内存设备上,以实现深度学习推理,但做到这一点面临巨大挑战,IBM说.
IBM在第一份题为《相变内存设备中进行深度学习推理编程的突触权重精确度》白皮书中讨论了依赖于脉冲编码调制的、基于模拟电阻的存储设备如何用于解决这一映射难题,并描述了一种通过分析和通过阵列级实验准确映射突触权重的方法。
在另外一份题为《“无辅助的真实模拟神经网络训练芯片》的白皮书描述了IBM模拟神经网络芯片的概念,其本质上是一种“电阻处理单元”(RPU),具有出色的实时性能,堪比同类的数字系统,从而在运行AI推理时可实现承诺的“模拟优势”。
好文章,需要你的鼓励
北京大学研究团队开发出基于RRAM芯片的高精度模拟矩阵计算系统,通过将低精度模拟运算与迭代优化结合,突破了模拟计算的精度瓶颈。该系统在大规模MIMO通信测试中仅需2-3次迭代就达到数字处理器性能,吞吐量和能效分别提升10倍和3-5倍,为后摩尔时代计算架构提供了新方向。
普拉大学研究团队开发的BPMN助手系统利用大语言模型技术,通过创新的JSON中间表示方法,实现了自然语言到标准BPMN流程图的自动转换。该系统不仅在生成速度上比传统XML方法快一倍,在流程编辑成功率上也有显著提升,为降低业务流程建模的技术门槛提供了有效解决方案。
谷歌宣布已将约3万个生产软件包移植到Arm架构,计划全面转换以便在自研Axion芯片和x86处理器上运行工作负载。YouTube、Gmail和BigQuery等服务已在x86和Axion Arm CPU上运行。谷歌开发了名为CogniPort的AI工具协助迁移,成功率约30%。公司声称Axion服务器相比x86实例具有65%的性价比优势和60%的能效提升。
北京大学联合团队发布开源统一视频模型UniVid,首次实现AI同时理解和生成视频。该模型采用创新的温度模态对齐技术和金字塔反思机制,在权威测试中超越现有最佳系统,视频生成质量提升2.2%,问答准确率分别提升1.0%和3.3%。这项突破为视频AI应用开辟新前景。