近日,MLCommons公布了最新的MLPerf推理v5.0基准测试结果,其中,英特尔® 至强® 6性能核处理器在本次测试的六个关键项目中,性能表现卓越。测试结果显示,相较于上一代产品,该处理器的AI性能实现了高达1.9倍的显著提升,这也充分显示了至强6处理器作为现代AI系统理想解决方案的强大实力。
英特尔公司副总裁兼数据中心和人工智能事业部临时总经理Karin Eibschitz Segal表示,“从最新的MLPerf基准测试结果可以看到,英特尔至强6处理器凭借性能和能效的平衡,已成为适合AI应用的理想CPU。而作为AI系统中被广泛应用的领先CPU,每一代英特尔至强处理器均在多项AI基准测试中,持续展现出卓越的代际性能提升。”
现阶段,AI应用正在加速发展,而作为AI系统中的核心节点,CPU负责数据预处理、传输和系统编排等关键功能,扮演着不可或缺的角色。深耕处理器领域多年,英特尔是唯一一家持续向MLPerf提交服务器CPU测试结果的厂商,并凭借其卓越的性能和能效表现,持续引领行业标准。
在MLPerf推理v5.0中,相较于第五代英特尔® 至强® 处理器,英特尔® 至强® 6性能核处理器在包括ResNet50、RetinaNet、3D-UNet和新的GNN-RGAT的关键基准测试中,平均性能提升达1.9倍。这有力地证明了英特尔至强6作为AI系统首选CPU的优势,并彰显了至强处理器在小型语言模型中的强大实力。
自2021年首次提交基于第三代英特尔® 至强® 处理器的MLPerf测试结果以来,英特尔在ResNet50上实现了高达15倍的巨大性能提升。软件优化也让GPT-J性能提升了22%,并使3D U-Net基准测试性能提升了11%。
最新的MLPerf结果显示,英特尔至强处理器在OEM厂商和生态系统合作伙伴提供的解决方案中拥有卓越的性能表现。随着AI工作负载与企业系统的集成度越来越高,OEM厂商倾向于优先选择基于至强处理器的系统,以确保能为客户提供领先的性能。
英特尔与思科、戴尔科技、广达和超微四家重要的OEM合作伙伴携手合作,分别提交了基于英特尔至强6性能核处理器的测试结果,展示了多样化的AI工作负载和部署能力。
好文章,需要你的鼓励
Asana修复了其模型上下文协议服务器中的一个漏洞,该漏洞可能允许用户查看其他组织的数据。这项实验性功能在近两周的停机维护后重新上线。MCP是Anthropic于2024年11月推出的开源协议,允许AI代理连接外部数据源。Asana在6月4日发现漏洞后立即下线该功能进行修复。虽然没有证据表明该漏洞被恶意利用,但这提醒企业在集成前沿AI技术时需要注意新的安全风险。
Anthropic和Open Philanthropy研究人员发现,之前声称AI推理模型存在"准确率崩溃"的研究实际上混淆了推理能力和物理限制。通过重新分析发现,AI模型在遇到输出长度限制时会主动停止,而非推理失败;部分测试题目本身无解却被当作失败案例;改用程序生成方式后,模型在复杂问题上表现出色,揭示了AI评估方法的重要缺陷。
ScyllaDB发布了基于Raft共识算法的新数据库服务ScyllaDB X,采用全新的tablets架构以提高扩展性并降低成本。该服务支持近乎即时的节点启动和并行添加,能在几分钟内将性能从10万OPS扩展到200万OPS,同时保持个位数毫秒延迟。公司同时宣布许可证变更,从AGPL转向源码可用许可证。ScyllaDB声称其系统相比Apache Cassandra具有性能优势,正吸引用户迁移。
华为联合多所高校发布TeleMath数据集,这是首个专门评估大型语言模型在通信数学问题求解能力的基准测试。研究团队设计创新的合成数据生成框架,从50个专家问题扩展至500个测试样本,涵盖信号处理、网络优化等七大领域。评估结果显示,专门的推理模型明显优于通用模型,为通信AI应用指明方向。