作者:MARIA DEUTSCHER
更新时间:美国东部时间2023年10月20日17:32
IBM今天推出了NorthPole,这是一种内部设计的人工智能芯片,据称该芯片的能效明显高于竞品处理器。

NorthPole由IBM位于加利福尼亚州阿尔马登的研究实验室的工作人员历时八年开发而成。该芯片建立在IBM早期的一个研究项目之上,那个项目开发了一款名为TrueNorth的AI优化处理器。据IBM称,NorthPole的速度大约快4000倍。
这款新推出的芯片由220亿个使用12纳米工艺制造的晶体管组成。IBM表示,这些晶体管被组织成256个内核,每个内核在每个时钟周期内可以以8位精度执行2048次计算。这意味着计算是在相对较小的数字上进行的,这些数字最多占用八位空间。
NorthPole的256个内核中的每一个都包含一个集成的内存池,用于存储计算中使用的信息。由于芯片的存储电路和内核彼此靠近,数据可以在短时间内在两者之间传输。这减少了与数据移动相关的处理延迟,从而提高了性能。
IBM大脑启发计算首席科学家Dharmendra Modha表示:“从架构上讲,NorthPole模糊了计算和内存之间的边界。”“在单个内核级别,NorthPole 表现为内存靠近计算;从芯片外部看,在输入输出级别,它表现为活动内存。”
NorthPole核心内置存储电路的另一个好处是这种做法提高了能效。在芯片的不同部分之间移动数据不仅会延迟处理,还会消耗电力。NorthPole的架构将数据在存储器电路和内核之间必须传输的距离最小化,用这种方法节省了能耗。
IBM使用了名为ResNet-50的开源图像识别模型来测量这款芯片的功耗。该模型通常被用于比较不同AI处理器的功能。据IBM表示,NorthPole运行ResNet-50的能效分别比基于12纳米和14纳米节点的显卡和中央处理器高25倍。
NorthPole的能效受到以下事实的限制:它也使用12纳米节点制造,这比芯片制造商可以使用的、最先进的3纳米工艺落后了好几代。但是,该处理器可以升级到更新的制造技术。据报道,IBM的研究人员估计,这样的升级可以使NorthPole提供比基于“当前设计”的竞品芯片高25倍的能源效率。
处理器的功耗直接影响其产生的热量。IBM表示,NorthPole的能源效率限制了其最高温度,这意味着该芯片只需要简单的外部冷却设备即可运行。因此,它或许可以部署在空间受限的系统中,例如冷却装置空间有限的自动驾驶汽车。
好文章,需要你的鼓励
Fractal AI Research实验室开发了Fathom-DeepResearch智能搜索系统,该系统由两个4B参数模型组成,能够进行20多轮深度网络搜索并生成结构化报告。研究团队创新了DUETQA数据集、RAPO训练方法和认知行为奖励机制,解决了AI搜索中的浅层化、重复性和缺乏综合能力等问题,在多项基准测试中显著超越现有开源系统,为AI助手向专业研究工具转变奠定了基础。
快手科技与清华大学合作发现当前AI语言模型训练中存在严重的权重分配不平衡问题,提出了非对称重要性采样策略优化(ASPO)方法。该方法通过翻转正面样本的重要性权重,让模型把更多注意力放在需要改进的部分而非已经表现良好的部分,显著提升了数学推理和编程任务的性能,并改善了训练稳定性。