IBM的Spyre加速器将于本月底正式发布,为其企业级硬件提供AI能力提升,包括z17大型机、LinuxONE 5和Power11系统。
IBM将Spyre描述为专门构建用于处理AI处理需求的加速器,将于10月28日面向IBM z17和LinuxONE 5系统正式发布,12月初面向Power11服务器发布。
IBM Spyre加速器
该硬件在今年早些时候与z17一同发布,z17是IBM最新的大型机产品。它是基于定制芯片的PCIe卡,配备32个独立加速器核心,据了解其架构类似于嵌入在为z17提供动力的Telum II处理器中的AI加速器硬件。
其设计目的是让AI处理能够扩展以满足客户对IBM企业系统的任何需求,这些需求通常包括对金融交易的欺诈检测检查,但生成式AI和大语言模型现在也可能成为工作负载组合中的一个特色。
因此,可以在IBM Z或LinuxONE系统中配置多达48张Spyre卡的集群,或在Power系统中配置多达16张卡。
IBM基础设施首席运营官Barry Baker表示:"我们的关键优先事项之一是推进基础设施以满足新兴AI工作负载的需求。通过Spyre加速器,我们正在扩展系统功能以支持多模型AI,包括生成式和智能体AI。这一创新使客户能够以不妥协的安全性、弹性和效率扩展其AI支持的关键任务工作负载,同时释放其企业数据的价值。"
多模型(非多模态)是指使用多个模型来提高准确性并减少假阳性,当执行推理工作时。
IBM在z17发布时声称,它看到了一个新兴趋势,即结合预测性AI和大语言模型的优势来提取新特征或新见解,以获得更好或更准确的结果。
Gartner基础设施和运营组管理副总裁Mike Chuba当时告诉我们,IBM在理解和支持其大型机客户需求方面投入了更多努力。
"IBM的研发工作现在专注于新硬件如何直接解决客户面临的挑战。对AI的关注,以及他们在z16上引入的专用加速器和这一代产品中即将推出的涡轮增压版本2,直接解决了例如在交易点进行欺诈检测的挑战。"
9月底,IBM还发布了z/OS 3.2,这是其大型机操作系统的最新版本。这为z17中的AI加速器技术提供了支持,还具有使z/OS数据在混合云和AI环境中无需依赖提取-转换-加载(ETL)过程即可访问的功能。
IBM此前表示,此版本将添加对现代数据访问方法和NoSQL数据库的支持,以允许AI利用更广泛的企业数据集来应用预测性业务洞察。
其他可以从Spyre加速器中受益的系统包括最新的LinuxONE型号,它由与z17相同的Telum II处理器驱动,但仅运行Linux;以及Power11系统如Power E1180,可配置多达256个核心。
Q&A
Q1:IBM Spyre加速器是什么?有什么用途?
A:IBM Spyre加速器是专门为处理AI需求而构建的硬件加速器,基于配备32个独立加速器核心的定制芯片PCIe卡。它主要用于为IBM的企业级系统提供AI处理能力,包括欺诈检测、生成式AI和大语言模型处理等工作负载。
Q2:Spyre加速器支持哪些IBM系统?何时发布?
A:Spyre加速器支持IBM z17大型机、LinuxONE 5和Power11系统。对于z17和LinuxONE 5系统,将于10月28日正式发布;对于Power11服务器,将在12月初发布。
Q3:Spyre加速器可以配置多少张卡?
A:根据不同系统有不同配置:在IBM Z或LinuxONE系统中可以配置多达48张Spyre卡的集群,而在Power系统中可以配置多达16张卡,以满足客户对AI处理能力的扩展需求。
好文章,需要你的鼓励
谷歌发布新的AI学术搜索工具Scholar Labs,旨在回答详细研究问题。该工具使用AI识别查询中的主要话题和关系,目前仅对部分登录用户开放。与传统学术搜索不同,Scholar Labs不依赖引用次数或期刊影响因子等传统指标来筛选研究质量,而是通过分析文档全文、发表位置、作者信息及引用频次来排序。科学界对这种忽略传统质量评估方式的新方法持谨慎态度,认为研究者仍需保持对文献质量的最终判断权。
Meta公司FAIR实验室与UCLA合作开发了名为HoneyBee的超大规模视觉推理数据集,包含250万训练样本。研究揭示了构建高质量AI视觉推理训练数据的系统方法,发现数据质量比数量更重要,最佳数据源比最差数据源性能提升11.4%。关键创新包括"图片说明书"技术和文字-图片混合训练法,分别提升3.3%和7.5%准确率。HoneyBee训练的AI在多项测试中显著超越同规模模型,同时降低73%推理成本。
Meta发布第三代SAM(分割一切模型)系列AI模型,专注于视觉智能而非语言处理。该模型擅长物体检测,能够精确识别图像和视频中的特定对象。SAM 3在海量图像视频数据集上训练,可通过点击或文本描述准确标识目标物体。Meta将其应用于Instagram编辑工具和Facebook市场功能改进。在野生动物保护方面,SAM 3与保护组织合作分析超万台摄像头捕获的动物视频,成功识别百余种物种,为生态研究提供重要技术支持。
上海AI实验室团队提出ViCO训练策略,让多模态大语言模型能够根据图像语义复杂度智能分配计算资源。通过两阶段训练和视觉路由器,该方法在压缩50%视觉词汇的同时保持99.6%性能,推理速度提升近一倍,为AI效率优化提供了新思路。