浪潮全新发布5款AI服务器,全面支持全新NVIDIA Ampere架构。全新服务器可支持8到16颗NVIDIA A100 Tensor Core GPU,能够提供高达每秒4亿亿次的AI计算性能, 以及高达600GB/S的GPU间P2P带宽。
5月14日,全球领先的AI计算基础架构厂商浪潮宣布全新发布5款AI服务器,全面支持全新的NVIDIA A100 Tensor Core GPU。
浪潮此次发布的5款AI服务器将应对多种人工智能计算场景,可支持8到16颗最新NVIDIA A100 Tensor Core GPU。A100 GPU中的第三代Tensor Core核心速度更快、灵活性更高,同时也更易于使用,使这些服务器的最高性能可达每秒4亿亿次,同时通过新一代NVIDIA NVSwitch技术实现GPU间P2P通信性能翻倍提升最高达600GB/S。更强计算性能与更高的GPU间互联带宽可带来更高的AI计算效率,支撑用户进行更大数据规模、更复杂模型的AI训练。此外,NVIDIA A100 GPU拥有40GB的HBM2内存,内存带宽提高70%,达到1.6TB/sec,可以承载更大的深度学习模型训练。
浪潮此次发布的5款AI服务器都将为多种应用场景提供硬件设计,包括:
浪潮还同时宣布,其领先的AI计算资源平台AIStation和自动机器学习平台AutoML Suite也将同步支持最新的A100 GPU,提供灵活的AI计算系统资源调度和强大的AI模型算法开发支持。
此外,浪潮还计划将全新EGX A100添加到其边缘服务器产品组合中,在边缘提供更强的安全性和前所未有的性能。EGX A100聚合加速器结合了Mellanox SmartNIC和由全新NVIDIA Ampere架构赋能的GPU,因此企业可以更安全地在边缘运行AI。
浪潮集团AI&HPC总经理刘军表示:“浪潮在第一时间全面推出基于NVIDIA Ampere架构的全线AI服务器产品,为全球AI客户提供专为应用场景极致创新优化设计的新一代AI计算平台,进一步增强浪潮在业界最丰富的AI服务器产品阵列,可以更好地应对当前海量数据爆发与复杂模型所带来的巨大的计算挑战。这也是业内最强大的AI算力机组,将有力地推动智算中心建设和产业AI化落地。”
NVIDIA加速计算产品管理总监Paresh Kharya表示,“NVIDIA A100 Tensor Core GPU能够为用户在AI、数据分析和HPC等各个领域都提供无与伦比的加速。以NVIDIA A100 GPU为动力的浪潮AI服务器将帮助全球用户消除计算瓶颈,显著降低成本、能耗和对数据中心的空间需求。”
浪潮是全球领先的AI服务器厂商,拥有丰富的AI产品阵列,并和AI客户紧密合作帮助在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。据IDC数据报告显示,浪潮AI服务器在中国AI基础架构设施领域已连续三年保持50%以上市场份额。
好文章,需要你的鼓励
Meta 正研发一项通过姓名识别人脸并追踪用户日常活动的“超级感知”技术,计划应用于新款智能眼镜和 AI 耳机,同时重新评估隐私策略,助推 AI 技术在穿戴产品中的应用。
Google 在 Gemini API 中推出自动缓存功能,通过复用重复数据为开发者节省最多 75% 的调用成本,有望缓解高额 API 费用问题。
Korl 利用 OpenAI、Gemini 及 Anthropic 等模型,从 Salesforce、Jira、Google Docs 等多个平台整合数据,自动生成定制化客户沟通材料,如幻灯片、演讲稿及季度业务回顾,同时保证数据安全性,并提升运营效率。
文章探讨了代理型 AI 的崛起,重点介绍微软 Azure AI Foundry 与 NVIDIA 技术如何通过强大语言模型和智能代理,实现企业级应用创新,提升运营效率与服务质量。