作者:MARIA DEUTSCHER
更新时间:美国东部时间2023年10月20日17:32
IBM今天推出了NorthPole,这是一种内部设计的人工智能芯片,据称该芯片的能效明显高于竞品处理器。

NorthPole由IBM位于加利福尼亚州阿尔马登的研究实验室的工作人员历时八年开发而成。该芯片建立在IBM早期的一个研究项目之上,那个项目开发了一款名为TrueNorth的AI优化处理器。据IBM称,NorthPole的速度大约快4000倍。
这款新推出的芯片由220亿个使用12纳米工艺制造的晶体管组成。IBM表示,这些晶体管被组织成256个内核,每个内核在每个时钟周期内可以以8位精度执行2048次计算。这意味着计算是在相对较小的数字上进行的,这些数字最多占用八位空间。
NorthPole的256个内核中的每一个都包含一个集成的内存池,用于存储计算中使用的信息。由于芯片的存储电路和内核彼此靠近,数据可以在短时间内在两者之间传输。这减少了与数据移动相关的处理延迟,从而提高了性能。
IBM大脑启发计算首席科学家Dharmendra Modha表示:“从架构上讲,NorthPole模糊了计算和内存之间的边界。”“在单个内核级别,NorthPole 表现为内存靠近计算;从芯片外部看,在输入输出级别,它表现为活动内存。”
NorthPole核心内置存储电路的另一个好处是这种做法提高了能效。在芯片的不同部分之间移动数据不仅会延迟处理,还会消耗电力。NorthPole的架构将数据在存储器电路和内核之间必须传输的距离最小化,用这种方法节省了能耗。
IBM使用了名为ResNet-50的开源图像识别模型来测量这款芯片的功耗。该模型通常被用于比较不同AI处理器的功能。据IBM表示,NorthPole运行ResNet-50的能效分别比基于12纳米和14纳米节点的显卡和中央处理器高25倍。
NorthPole的能效受到以下事实的限制:它也使用12纳米节点制造,这比芯片制造商可以使用的、最先进的3纳米工艺落后了好几代。但是,该处理器可以升级到更新的制造技术。据报道,IBM的研究人员估计,这样的升级可以使NorthPole提供比基于“当前设计”的竞品芯片高25倍的能源效率。
处理器的功耗直接影响其产生的热量。IBM表示,NorthPole的能源效率限制了其最高温度,这意味着该芯片只需要简单的外部冷却设备即可运行。因此,它或许可以部署在空间受限的系统中,例如冷却装置空间有限的自动驾驶汽车。
好文章,需要你的鼓励
新加坡人工智能机构与阿里云发布全新大语言模型Qwen-Sea-Lion-v4,专门针对东南亚语言和文化特色进行优化。该模型结合阿里云Qwen3-32B基础模型和大量东南亚地区数据集,在东南亚语言模型评估榜单中位居开源模型首位。模型支持119种语言,能在32GB内存的消费级笔记本上运行,采用字节对编码技术更好处理非拉丁文字,并具备3.2万词元上下文长度,可执行文档级推理和摘要任务。
这项由CMU与亚马逊AGI联合完成的研究揭示了当前AI系统的重大缺陷:即使最先进的模型也不知道何时该说"我不知道"。研究团队开发的RefusalBench评估系统通过176种语言操作技巧动态生成测试案例,发现顶级AI在多文档任务中的拒绝准确率低于50%。这项研究不仅提供了标准化测试工具,更为构建诚实可靠的AI系统指明了方向。
AI智能体是下一代业务自动化工具,不仅能对话交流,还能执行复杂任务。与ChatGPT聊天机器人不同,它们可在最少人工干预下规划并完成工作。文章介绍了五个高影响力应用:自动化客户服务解决方案、销售CRM管理、合规自动化、招聘筛选与排程、市场情报报告。这些应用都具有重复性工作流程、依赖结构化数据、遵循可预测规则等特点,能够释放员工宝贵时间用于更有价值的工作。
这项由中国人民大学联合腾讯开发的LaSeR技术,发现了AI在生成答案最后一刻会无意中透露对答案质量的评估。通过观察这个"最后一词效应",研究人员开发出了一种让AI高效进行自我评估的方法,在几乎不增加计算成本的情况下,大幅提升了AI的自我验证能力,为构建更可信的AI系统开辟了新路径。