作者:MARIA DEUTSCHER
更新时间:美国东部时间2023年10月20日17:32
IBM今天推出了NorthPole,这是一种内部设计的人工智能芯片,据称该芯片的能效明显高于竞品处理器。
NorthPole由IBM位于加利福尼亚州阿尔马登的研究实验室的工作人员历时八年开发而成。该芯片建立在IBM早期的一个研究项目之上,那个项目开发了一款名为TrueNorth的AI优化处理器。据IBM称,NorthPole的速度大约快4000倍。
这款新推出的芯片由220亿个使用12纳米工艺制造的晶体管组成。IBM表示,这些晶体管被组织成256个内核,每个内核在每个时钟周期内可以以8位精度执行2048次计算。这意味着计算是在相对较小的数字上进行的,这些数字最多占用八位空间。
NorthPole的256个内核中的每一个都包含一个集成的内存池,用于存储计算中使用的信息。由于芯片的存储电路和内核彼此靠近,数据可以在短时间内在两者之间传输。这减少了与数据移动相关的处理延迟,从而提高了性能。
IBM大脑启发计算首席科学家Dharmendra Modha表示:“从架构上讲,NorthPole模糊了计算和内存之间的边界。”“在单个内核级别,NorthPole 表现为内存靠近计算;从芯片外部看,在输入输出级别,它表现为活动内存。”
NorthPole核心内置存储电路的另一个好处是这种做法提高了能效。在芯片的不同部分之间移动数据不仅会延迟处理,还会消耗电力。NorthPole的架构将数据在存储器电路和内核之间必须传输的距离最小化,用这种方法节省了能耗。
IBM使用了名为ResNet-50的开源图像识别模型来测量这款芯片的功耗。该模型通常被用于比较不同AI处理器的功能。据IBM表示,NorthPole运行ResNet-50的能效分别比基于12纳米和14纳米节点的显卡和中央处理器高25倍。
NorthPole的能效受到以下事实的限制:它也使用12纳米节点制造,这比芯片制造商可以使用的、最先进的3纳米工艺落后了好几代。但是,该处理器可以升级到更新的制造技术。据报道,IBM的研究人员估计,这样的升级可以使NorthPole提供比基于“当前设计”的竞品芯片高25倍的能源效率。
处理器的功耗直接影响其产生的热量。IBM表示,NorthPole的能源效率限制了其最高温度,这意味着该芯片只需要简单的外部冷却设备即可运行。因此,它或许可以部署在空间受限的系统中,例如冷却装置空间有限的自动驾驶汽车。
好文章,需要你的鼓励
苏黎世大学的实验显示,AI的说服成功率达到9-18%,而人类平均只有2.7%,AI比人类强6倍。在4个月内,13个AI账号成功说服了上百位Reddit用户改变观点,且没有人识破它们的身份
韩国科学技术院研究团队提出"分叉-合并解码"方法,无需额外训练即可改善音视频大语言模型的多模态理解能力。通过先独立处理音频和视频(分叉阶段),再融合结果(合并阶段),该方法有效缓解了模型过度依赖单一模态的问题,在AVQA、MUSIC-AVQA和AVHBench三个基准测试中均取得显著性能提升,特别是在需要平衡音视频理解的任务上表现突出。
Roig Arena 将于 2025 年 9 月在瓦伦西亚开业,借助 Extreme Networks 的 6GHz Wi-Fi 与数据分析技术,实现无缝运营与个性化观众体验,打造全天候活动中心。
这项研究利用大语言模型解决科学新颖性检测难题,南洋理工大学团队创新性地构建了闭合领域数据集并提出知识蒸馏框架,训练轻量级检索器捕捉想法层面相似性而非表面文本相似性。实验表明,该方法在市场营销和NLP领域显著优于现有技术,为加速科学创新提供了有力工具。