7月11日,浪潮信息联合英特尔发布面向生成式AI领域创新开发的新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的Gaudi2加速器,具备高性能、高扩展、高能效和开放生态等优点,将为AI客户提供强大的大模型训练和推理能力。
浪潮信息NF5698G7
浪潮信息NF5698G7在6U空间支持8颗基于开放加速模组OAM高速互联的Gaudi2 AI加速器,每颗Gaudi2芯片配置96GB HBM高速内存,共提供2.1Tbps的P2P互联带宽,支持全互联拓扑,满足大模型训练张量并行的通信需求;搭载2颗第四代至强处理器,支持AMX/DSA等AI加速引擎。Gaudi2是英特尔推出的深度学习加速器,以多方位性能与能效比提升,为业界提供了高性能、高性价比的AI算力选项,在MLPerf的GPT-3、ResNet-50、Unet3D、BERT等基准测试中,均取得了优异的性能表现。
NF5698G7采用高扩展设计,支持12个PCIe5.0 X16的IO扩展,最大支持4800Gbps节点间互联带宽,满足大模型流水线并行和数据并行的通信需求,可扩展至万卡AI集群。NF5698G7通过精细化分区、智能散热调控、12V & 54V N+N双输入供电等创新设计,实现高功率负载动态匹配和低电源功率损耗,系统功耗降低8%。
NF5698G7基于全球开放计算OCP开放加速器规范 OAM/UBB进行产品设计,支持PyTorch、TensorFlow等主流AI框架和Megatron/DeepSpeed等流行开发工具,为生成式AI提供成熟、高性价比的开放生态产品方案。NF5698G7支持浪潮信息的AI算力资源平台AIStation,通过对计算资源、数据资源、深度学习软件栈资源进行统一管理,有效提升大模型算力平台的使用效率,助力客户加速AI大模型开发与部署。
浪潮信息高级副总裁、AI&HPC产品线总经理刘军表示:“NF5698G7为生成式AI应用提供了极具吸引力的AI算力平台,我们与英特尔紧密协作,优化了NF5698G7在多种生成式AI场景的性能表现,为AI客户提供强大的大模型训练和推理能力,加速AIGC创新步伐、赋力生成式AI产业创新。”
英特尔执行副总裁兼数据中心与人工智能事业部总经理Sandra Rivera表示:“英特尔致力于提供基于至强处理器和 Gaudi 深度学习加速器的业界领先的人工智能解决方案,以及开放、安全且易于编程的软件,降低AI应用门槛,让AI惠及所有人。对寻求高性能和高性价比的客户来说,浪潮信息 NF5698G7 是绝佳选择。我们将继续与浪潮信息合作,在人工智能时代不断创新。”
浪潮信息是全球领先的AI服务器厂商。据IDC数据报告显示,浪潮信息在中国AI服务器市场份额连续六年保持第一。
好文章,需要你的鼓励
Roig Arena 将于 2025 年 9 月在瓦伦西亚开业,借助 Extreme Networks 的 6GHz Wi-Fi 与数据分析技术,实现无缝运营与个性化观众体验,打造全天候活动中心。
麦吉尔大学研究团队开发的LLMSYNTHOR框架创新性地将大语言模型用于高质量数据合成,解决了传统方法在处理复杂数据时的局限性。该框架将LLM视为非参数copula模拟器,通过"LLM提案采样"机制提高效率,并在摘要统计空间中迭代对齐真实与合成数据。实验证明LLMSYNTHOR在电子商务、人口统计和城市移动性等领域生成的合成数据具有卓越的统计保真度和实用价值,为隐私敏感领域的研究和决策提供了宝贵工具。
OpenMamba 是一款意大利独立滚动更新的 Linux 发行版,基于 Fedora 工具构建,提供 KDE Plasma 与 LXQt 桌面。它采用最新组件和标准打包工具,运行稳定且易用,适合规避主流系统限制的用户。
这篇论文介绍了首个开源的验证码测试平台Open CaptchaWorld,专为评估多模态大语言模型智能体的交互式推理能力而设计。研究团队开发了包含20种验证码类型的综合测试环境,并提出了"验证码推理深度"这一新指标来量化任务复杂度。实验结果显示,即使最先进的AI模型成功率也仅达40%,远低于人类的93.3%,揭示了当前技术在处理多步交互任务时的显著局限性。