浪潮全新发布5款AI服务器,全面支持全新NVIDIA Ampere架构。全新服务器可支持8到16颗NVIDIA A100 Tensor Core GPU,能够提供高达每秒4亿亿次的AI计算性能, 以及高达600GB/S的GPU间P2P带宽。
5月14日,全球领先的AI计算基础架构厂商浪潮宣布全新发布5款AI服务器,全面支持全新的NVIDIA A100 Tensor Core GPU。
浪潮此次发布的5款AI服务器将应对多种人工智能计算场景,可支持8到16颗最新NVIDIA A100 Tensor Core GPU。A100 GPU中的第三代Tensor Core核心速度更快、灵活性更高,同时也更易于使用,使这些服务器的最高性能可达每秒4亿亿次,同时通过新一代NVIDIA NVSwitch技术实现GPU间P2P通信性能翻倍提升最高达600GB/S。更强计算性能与更高的GPU间互联带宽可带来更高的AI计算效率,支撑用户进行更大数据规模、更复杂模型的AI训练。此外,NVIDIA A100 GPU拥有40GB的HBM2内存,内存带宽提高70%,达到1.6TB/sec,可以承载更大的深度学习模型训练。
浪潮此次发布的5款AI服务器都将为多种应用场景提供硬件设计,包括:
浪潮还同时宣布,其领先的AI计算资源平台AIStation和自动机器学习平台AutoML Suite也将同步支持最新的A100 GPU,提供灵活的AI计算系统资源调度和强大的AI模型算法开发支持。
此外,浪潮还计划将全新EGX A100添加到其边缘服务器产品组合中,在边缘提供更强的安全性和前所未有的性能。EGX A100聚合加速器结合了Mellanox SmartNIC和由全新NVIDIA Ampere架构赋能的GPU,因此企业可以更安全地在边缘运行AI。
浪潮集团AI&HPC总经理刘军表示:“浪潮在第一时间全面推出基于NVIDIA Ampere架构的全线AI服务器产品,为全球AI客户提供专为应用场景极致创新优化设计的新一代AI计算平台,进一步增强浪潮在业界最丰富的AI服务器产品阵列,可以更好地应对当前海量数据爆发与复杂模型所带来的巨大的计算挑战。这也是业内最强大的AI算力机组,将有力地推动智算中心建设和产业AI化落地。”
NVIDIA加速计算产品管理总监Paresh Kharya表示,“NVIDIA A100 Tensor Core GPU能够为用户在AI、数据分析和HPC等各个领域都提供无与伦比的加速。以NVIDIA A100 GPU为动力的浪潮AI服务器将帮助全球用户消除计算瓶颈,显著降低成本、能耗和对数据中心的空间需求。”
浪潮是全球领先的AI服务器厂商,拥有丰富的AI产品阵列,并和AI客户紧密合作帮助在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。据IDC数据报告显示,浪潮AI服务器在中国AI基础架构设施领域已连续三年保持50%以上市场份额。
好文章,需要你的鼓励
Lumen Technologies对美国网络的数据中心和云连接进行重大升级,在16个高连接城市的70多个第三方数据中心提供高达400Gbps以太网和IP服务。该光纤网络支持客户按需开通服务,几分钟内完成带宽配置,最高可扩展至400Gbps且按使用量付费。升级后的网络能够轻松连接数据中心和云接入点,扩展企业应用,并应对AI和数据密集型需求波动。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
RtBrick研究警告,运营商面临AI和流媒体服务带宽需求"压倒性"风险。调查显示87%运营商预期客户将要求更高宽带速度,但81%承认现有架构无法应对下一波AI和流媒体流量。84%反映客户期望已超越网络能力。尽管91%愿意投资分解式网络,95%计划五年内部署,但仅2%正在实施。主要障碍包括领导层缺乏决策支持、运营转型复杂性和专业技能短缺。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。