浪潮全新发布5款AI服务器,全面支持全新NVIDIA Ampere架构。全新服务器可支持8到16颗NVIDIA A100 Tensor Core GPU,能够提供高达每秒4亿亿次的AI计算性能, 以及高达600GB/S的GPU间P2P带宽。
5月14日,全球领先的AI计算基础架构厂商浪潮宣布全新发布5款AI服务器,全面支持全新的NVIDIA A100 Tensor Core GPU。
浪潮此次发布的5款AI服务器将应对多种人工智能计算场景,可支持8到16颗最新NVIDIA A100 Tensor Core GPU。A100 GPU中的第三代Tensor Core核心速度更快、灵活性更高,同时也更易于使用,使这些服务器的最高性能可达每秒4亿亿次,同时通过新一代NVIDIA NVSwitch技术实现GPU间P2P通信性能翻倍提升最高达600GB/S。更强计算性能与更高的GPU间互联带宽可带来更高的AI计算效率,支撑用户进行更大数据规模、更复杂模型的AI训练。此外,NVIDIA A100 GPU拥有40GB的HBM2内存,内存带宽提高70%,达到1.6TB/sec,可以承载更大的深度学习模型训练。
浪潮此次发布的5款AI服务器都将为多种应用场景提供硬件设计,包括:
浪潮还同时宣布,其领先的AI计算资源平台AIStation和自动机器学习平台AutoML Suite也将同步支持最新的A100 GPU,提供灵活的AI计算系统资源调度和强大的AI模型算法开发支持。
此外,浪潮还计划将全新EGX A100添加到其边缘服务器产品组合中,在边缘提供更强的安全性和前所未有的性能。EGX A100聚合加速器结合了Mellanox SmartNIC和由全新NVIDIA Ampere架构赋能的GPU,因此企业可以更安全地在边缘运行AI。
浪潮集团AI&HPC总经理刘军表示:“浪潮在第一时间全面推出基于NVIDIA Ampere架构的全线AI服务器产品,为全球AI客户提供专为应用场景极致创新优化设计的新一代AI计算平台,进一步增强浪潮在业界最丰富的AI服务器产品阵列,可以更好地应对当前海量数据爆发与复杂模型所带来的巨大的计算挑战。这也是业内最强大的AI算力机组,将有力地推动智算中心建设和产业AI化落地。”
NVIDIA加速计算产品管理总监Paresh Kharya表示,“NVIDIA A100 Tensor Core GPU能够为用户在AI、数据分析和HPC等各个领域都提供无与伦比的加速。以NVIDIA A100 GPU为动力的浪潮AI服务器将帮助全球用户消除计算瓶颈,显著降低成本、能耗和对数据中心的空间需求。”
浪潮是全球领先的AI服务器厂商,拥有丰富的AI产品阵列,并和AI客户紧密合作帮助在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。据IDC数据报告显示,浪潮AI服务器在中国AI基础架构设施领域已连续三年保持50%以上市场份额。
好文章,需要你的鼓励
五家光学存储初创公司正在开发长期存储技术,旨在用超过100年寿命的光学介质替代只有5-7年寿命的磁带。这些公司包括Cerabyte、Ewigbyte、HoloMem、Optera和SPhotonix,它们的技术类似微软Project Silica项目。光学存储介质具有更强的化学、冲击、辐射、水和热抗性,同时保持低能耗和高容量特性。
卡内基梅隆大学团队提出DistCA技术,通过分离AI模型中的注意力计算解决长文本训练负载不平衡问题。该技术将计算密集的注意力任务独立调度到专门服务器,配合乒乓执行机制隐藏通信开销,在512个GPU的大规模实验中实现35%的训练加速,为高效长文本AI模型训练提供了新方案。
Nutanix发布分布式主权云产品组合更新,为多云环境提供更安全的运营和管理功能。该解决方案支持企业在分布式环境中灵活部署和治理基础设施,运行传统虚拟机、现代云原生和AI应用。新功能包括支持完全断网环境的暗站点管理、政府云集群正式发布、Kubernetes平台增强安全合规性、企业AI平台集成NVIDIA微服务,以及云平台新增跨站点灾难恢复能力,为用户提供统一管理和运营简化体验。
清华大学研究团队提出3DThinker框架,首次让AI具备类似人类的三维空间想象能力。该系统在推理过程中插入特殊的三维想象符号,不依赖外部工具或大量标注数据,就能从有限的二维图像中构建三维心理模型。在多个空间推理基准测试中,3DThinker相比传统方法性能提升达50-100%,为自动驾驶、机器人导航、虚拟现实等领域的AI应用开辟了新路径。