作者:MARIA DEUTSCHER
更新时间:美国东部时间2023年10月20日17:32
IBM今天推出了NorthPole,这是一种内部设计的人工智能芯片,据称该芯片的能效明显高于竞品处理器。
NorthPole由IBM位于加利福尼亚州阿尔马登的研究实验室的工作人员历时八年开发而成。该芯片建立在IBM早期的一个研究项目之上,那个项目开发了一款名为TrueNorth的AI优化处理器。据IBM称,NorthPole的速度大约快4000倍。
这款新推出的芯片由220亿个使用12纳米工艺制造的晶体管组成。IBM表示,这些晶体管被组织成256个内核,每个内核在每个时钟周期内可以以8位精度执行2048次计算。这意味着计算是在相对较小的数字上进行的,这些数字最多占用八位空间。
NorthPole的256个内核中的每一个都包含一个集成的内存池,用于存储计算中使用的信息。由于芯片的存储电路和内核彼此靠近,数据可以在短时间内在两者之间传输。这减少了与数据移动相关的处理延迟,从而提高了性能。
IBM大脑启发计算首席科学家Dharmendra Modha表示:“从架构上讲,NorthPole模糊了计算和内存之间的边界。”“在单个内核级别,NorthPole 表现为内存靠近计算;从芯片外部看,在输入输出级别,它表现为活动内存。”
NorthPole核心内置存储电路的另一个好处是这种做法提高了能效。在芯片的不同部分之间移动数据不仅会延迟处理,还会消耗电力。NorthPole的架构将数据在存储器电路和内核之间必须传输的距离最小化,用这种方法节省了能耗。
IBM使用了名为ResNet-50的开源图像识别模型来测量这款芯片的功耗。该模型通常被用于比较不同AI处理器的功能。据IBM表示,NorthPole运行ResNet-50的能效分别比基于12纳米和14纳米节点的显卡和中央处理器高25倍。
NorthPole的能效受到以下事实的限制:它也使用12纳米节点制造,这比芯片制造商可以使用的、最先进的3纳米工艺落后了好几代。但是,该处理器可以升级到更新的制造技术。据报道,IBM的研究人员估计,这样的升级可以使NorthPole提供比基于“当前设计”的竞品芯片高25倍的能源效率。
处理器的功耗直接影响其产生的热量。IBM表示,NorthPole的能源效率限制了其最高温度,这意味着该芯片只需要简单的外部冷却设备即可运行。因此,它或许可以部署在空间受限的系统中,例如冷却装置空间有限的自动驾驶汽车。
好文章,需要你的鼓励
IBM Spyre加速器将于本月晚些时候正式推出,为z17大型机、LinuxONE 5和Power11系统等企业级硬件的AI能力提供显著提升。该加速器基于定制芯片的PCIe卡,配备32个独立加速器核心,专为处理AI工作负载需求而设计。系统最多可配置48张Spyre卡,支持多模型AI处理,包括生成式AI和大语言模型,主要应用于金融交易欺诈检测等关键业务场景。
加拿大女王大学研究团队首次对开源AI生态系统进行端到端许可证合规审计,发现35.5%的AI模型在集成到应用时存在许可证违规。他们开发的LicenseRec系统能自动检测冲突并修复86.4%的违规问题,揭示了AI供应链中系统性的"许可证漂移"现象及其法律风险。
意大利初创公司Ganiga开发了AI驱动的智能垃圾分拣机器人Hoooly,能自动识别并分类垃圾和可回收物。该公司产品包括机器人垃圾桶、智能盖子和废物追踪软件,旨在解决全球塑料回收率不足10%的问题。2024年公司收入50万美元,已向谷歌和多个机场销售超120台设备,计划融资300万美元并拓展美国市场。
这项由剑桥大学、清华大学和伊利诺伊大学合作的研究首次将扩散大语言模型引入语音识别领域,开发出Whisper-LLaDA系统。该系统具备双向理解能力,能够同时考虑语音的前后文信息,在LibriSpeech数据集上实现了12.3%的错误率相对改进,同时在大多数配置下提供了更快的推理速度,为语音识别技术开辟了新的发展方向。