本周在IEEE国际电子元件会议上,IBM研究院(IBM Research)公布了在“计算内存架构”方面所取得的一项突破性成果,该架构可以为混合云平台中的人工智能计算工作负载实现卓越的性能水平。
研究人员开发出了号称第一个嵌入式磁阻随机存取存储器(Magnetoresistive Random-Access Memory)技术,采用14纳米架构,并称其是Spin Transfer Torque MRAM(STT-MRAM),这一新架构有助于解决数据密集型混合云和AI工作负载中的关键内存瓶颈。
IBM在博客文章中表示,随着企业将那些要求最苛刻的工作负载迁移到混合云平台,他们将面临“计算内存瓶颈”的问题,这是由于系统中处理器比现有内存系统速度快得多而导致内存短缺的问题。
IBM表示,这种新型STT-MRAM架构可以解决内存和处理器之间的瓶颈,实现更高的内存性能。
STT-MRAM利用电子自旋将数据存储在磁畴中,并将静态RAM的高速度与传统DRAM的更高密度结合在一起,从而提供了一种更可靠的内存架构。IBM表示,最后一级CPU缓存中部署STT-MRAM,将可以减少数据密集型工作负载所需的内存读写操作,从而降低系统延迟和功耗,同时增加带宽。
IBM在今日发表的白皮书中称,这项14纳米嵌入式STT-MRAM CMOS技术是有史以来最先进的MRAM系统,将为混合云中的AI工作负载提供一个“效率更高、性能更高的系统”。
IBM在另外一份白皮书详细介绍了这个新型架构所使用的高级磁性材料,这种材料让STT-MRAM系统具有更高的密度,存储量是原来的两倍,从而大大提高了数据恢复性能。
IBM还透露了有关“模拟内存计算”研究的最新信息,这种技术将计算和内存结合到单一设备中,用于处理要求更为苛刻的AI工作负载。IBM说,这种专有硬件可以用于训练越来越复杂的AI模型,能效大幅提升。
打造用于AI的专用模拟内存计算硬件,面对的挑战之一,就是“突触权重映射问题”。突触权重用于指示神经网络中两个节点之间的连接强度,需要将其精确地映射到模拟非易失性内存设备上,以实现深度学习推理,但做到这一点面临巨大挑战,IBM说.
IBM在第一份题为《相变内存设备中进行深度学习推理编程的突触权重精确度》白皮书中讨论了依赖于脉冲编码调制的、基于模拟电阻的存储设备如何用于解决这一映射难题,并描述了一种通过分析和通过阵列级实验准确映射突触权重的方法。
在另外一份题为《“无辅助的真实模拟神经网络训练芯片》的白皮书描述了IBM模拟神经网络芯片的概念,其本质上是一种“电阻处理单元”(RPU),具有出色的实时性能,堪比同类的数字系统,从而在运行AI推理时可实现承诺的“模拟优势”。
好文章,需要你的鼓励
继苹果和其他厂商之后,Google正在加大力度推广其在智能手机上的人工智能功能。该公司试图通过展示AI在移动设备上的实用性和创新性来吸引消费者关注,希望说服用户相信手机AI功能的价值。Google面临的挑战是如何让消费者真正体验到AI带来的便利,并将这些技术优势转化为市场竞争力。
麻省理工学院研究团队发现大语言模型"幻觉"现象的新根源:注意力机制存在固有缺陷。研究通过理论分析和实验证明,即使在理想条件下,注意力机制在处理多步推理任务时也会出现系统性错误。这一发现挑战了仅通过扩大模型规模就能解决所有问题的观点,为未来AI架构发展指明新方向,提醒用户在复杂推理任务中谨慎使用AI工具。
Meta为Facebook和Instagram推出全新AI翻译工具,可实时将用户生成内容转换为其他语言。该功能在2024年Meta Connect大会上宣布,旨在打破语言壁垒,让视频和短视频内容触达更广泛的国际受众。目前支持英语和西班牙语互译,后续将增加更多语言。创作者还可使用AI唇形同步功能,创造无缝的口型匹配效果,并可通过创作者控制面板随时关闭该功能。
中科院自动化所等机构联合发布MM-RLHF研究,构建了史上最大的多模态AI对齐数据集,包含12万个精细人工标注样本。研究提出批评式奖励模型和动态奖励缩放算法,显著提升多模态AI的安全性和对话能力,为构建真正符合人类价值观的AI系统提供了突破性解决方案。