浪潮全新发布5款AI服务器,全面支持全新NVIDIA Ampere架构。全新服务器可支持8到16颗NVIDIA A100 Tensor Core GPU,能够提供高达每秒4亿亿次的AI计算性能, 以及高达600GB/S的GPU间P2P带宽。
5月14日,全球领先的AI计算基础架构厂商浪潮宣布全新发布5款AI服务器,全面支持全新的NVIDIA A100 Tensor Core GPU。
浪潮此次发布的5款AI服务器将应对多种人工智能计算场景,可支持8到16颗最新NVIDIA A100 Tensor Core GPU。A100 GPU中的第三代Tensor Core核心速度更快、灵活性更高,同时也更易于使用,使这些服务器的最高性能可达每秒4亿亿次,同时通过新一代NVIDIA NVSwitch技术实现GPU间P2P通信性能翻倍提升最高达600GB/S。更强计算性能与更高的GPU间互联带宽可带来更高的AI计算效率,支撑用户进行更大数据规模、更复杂模型的AI训练。此外,NVIDIA A100 GPU拥有40GB的HBM2内存,内存带宽提高70%,达到1.6TB/sec,可以承载更大的深度学习模型训练。
浪潮此次发布的5款AI服务器都将为多种应用场景提供硬件设计,包括:
浪潮还同时宣布,其领先的AI计算资源平台AIStation和自动机器学习平台AutoML Suite也将同步支持最新的A100 GPU,提供灵活的AI计算系统资源调度和强大的AI模型算法开发支持。
此外,浪潮还计划将全新EGX A100添加到其边缘服务器产品组合中,在边缘提供更强的安全性和前所未有的性能。EGX A100聚合加速器结合了Mellanox SmartNIC和由全新NVIDIA Ampere架构赋能的GPU,因此企业可以更安全地在边缘运行AI。
浪潮集团AI&HPC总经理刘军表示:“浪潮在第一时间全面推出基于NVIDIA Ampere架构的全线AI服务器产品,为全球AI客户提供专为应用场景极致创新优化设计的新一代AI计算平台,进一步增强浪潮在业界最丰富的AI服务器产品阵列,可以更好地应对当前海量数据爆发与复杂模型所带来的巨大的计算挑战。这也是业内最强大的AI算力机组,将有力地推动智算中心建设和产业AI化落地。”
NVIDIA加速计算产品管理总监Paresh Kharya表示,“NVIDIA A100 Tensor Core GPU能够为用户在AI、数据分析和HPC等各个领域都提供无与伦比的加速。以NVIDIA A100 GPU为动力的浪潮AI服务器将帮助全球用户消除计算瓶颈,显著降低成本、能耗和对数据中心的空间需求。”
浪潮是全球领先的AI服务器厂商,拥有丰富的AI产品阵列,并和AI客户紧密合作帮助在语音、语义、图像、视频、搜索等各方面取得数量级的AI应用性能提升。据IDC数据报告显示,浪潮AI服务器在中国AI基础架构设施领域已连续三年保持50%以上市场份额。
好文章,需要你的鼓励
生成式AI在电商领域发展迅速,但真正的客户信任来自可靠的购物体验。数据显示近70%的在线购物者会放弃购物车,主要因为结账缓慢、隐藏费用等问题。AI基础设施工具正在解决这些信任危机,通过实时库存监控、动态结账优化和智能物流配送,帮助商家在售前、售中、售后各环节提升可靠性,最终将一次性买家转化为忠实客户。
泰国SCBX金融集团开发的DoTA-RAG系统通过动态路由和混合检索技术,成功解决了大规模知识库检索中速度与准确性难以兼得的难题。系统将1500万文档的搜索空间缩小92%,响应时间从100秒降至35秒,正确性评分提升96%,为企业级智能问答系统提供了实用的技术方案。
存储供应商Qumulo发布多租户架构Stratus,为每个租户提供独立的虚拟环境,通过加密技术和租户专用密钥管理系统实现隔离。该统一文件和对象存储软件支持本地、边缘、数据中心及AWS、Azure等云环境部署。Stratus采用加密隔离技术确保敏感数据安全,同时提供任务关键操作所需的灵活性和效率,帮助联邦和企业客户满足合规要求。
中科院和字节跳动联合开发了VGR视觉锚定推理系统,突破了传统AI只能粗略"看图"的局限。该系统能在推理过程中主动关注图片关键区域,像人类一样仔细观察细节后再得出结论。实验显示VGR在图表理解等任务上性能大幅提升,同时计算效率更高,代表了多模态AI"可视化推理"的重要进展。