2018国际超算大会(ISC18)上,浪潮重磅发布创新设计服务器i48,该产品面向以数据为中心的应用场景进行了优化设计,既可作为新型的高密度计算模块完成整体系统的一致性、高密度和快速部署,同时也能根据应用数据容量和处理性能要求灵活配置计算节点与存储节点,能够更好的支持AI、HPC、NFV等业务所需的IT基础设施的构建。
浪潮创新设计服务器i48
i48采用了创新设计,兼具刀片服务器与机架式服务器的优势特点,其在4U标准机箱内可支持8个高密度计算节点、4个均衡计算节点和2个大容量存储节点,相比传统机架服务器集群部署方式,部署效率提高8倍,并且通过统一供电散热降低功耗达18%以上。i48所采用的微机柜式设计和部件优化,可使单节点成本相比刀片服务器方式降低8%,相比普通机架服务器方式降低15%。
i48具备整机一致性高密度部署大规模计算系统能力,这将有助于解决海量科学数据处理与AI数据训练所面对的性能挑战。i48单机柜支持80个基于Intel Xeon的高性能计算节点,每节点拥有超过3.5Tflops的高性能,单机柜整体性能超过280TFlops,4机柜即可完成近千万亿次通用浮点计算性能的HPC集群构建。而在高速互联方面,i48可以支持所有节点,基于100G高速低延时网络连接核心交换机,或者单机柜内支持2个48口100G的TOR高速交换机通过级联构成大规模系统,采用现代化数据中心的前后可维护方式,提升大规模系统运行维护效率。
i48具备出色的灵活性,可根据应用数据容量和处理性能要求灵活配置计算节点与存储节点。以第三代基因测序应用场景为例,i48单机柜可配置384TB的数据存储性能,以及200颗以上的处理器核心,可将人和类似哺乳动物的全基因组组装时间缩短到2天以内,数据处理能力是业界平均水平的4倍;同时i48的高密度刀片计算节点可支持同时配置浪潮研发的F10A FPGA加速卡,使GATK性能加速3.4倍以上。
i48丰富的数据通道也为新兴业务的扩展提供了保证。5G技术将让运营商有机会参与到商业模式的创新中,如IOT、车联网、边缘计算、人工智能等,这将为运营商带来更为广阔的发展机遇。但5G的超大数据通信和低延迟特性要求运营商网络进行虚拟化。NFV将是5G时代的新兴业务的基础架构,i48面向NFV应用深入优化,每节点支持4块PCIe和1张OCP/PHY网络扩展卡,最大提供16个万兆网络通信接口,支持NUMA Blanced优化,在不额外占用CPU利用率的前提下,可使通信性能最大提升20%。
此外, i48的每个高密计算节点可支持4个热插拔的NVMe硬盘,容量高达32TB,适合于构建高速的Burst Buffer数据缓存,配合集群文件系统,提供高速的数据分层吞吐方案,整体性能可提升10倍,实现对大规模HPC集群的高速IO缓存文件系统的支持。
浪潮集团副总裁彭震表示:"i48融合了刀片服务器与机架式服务器的优势,既有机架服务器的部署便捷和灵活扩展性、以及超大存储能力和高性价比,又具备刀片服务器的高密度、易于管理和更高的性能功耗比,提供了一种新型的数据中心模块,并支持最新的英特尔Skylake处理器和Omni-Path高速互联技术,让全球数据中心用户能够更加灵活、快速的部署高性能的IT基础设施,更好的应对AI、HPC、NFV等业务场景所面临的海量数据存储与处理的挑战。"
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
延世大学研究团队通过分析AI推理过程中的信息密度模式,发现成功的AI推理遵循特定规律:局部信息分布平稳但全局可以不均匀。这一发现颠覆了传统的均匀信息密度假说在AI领域的应用,为构建更可靠的AI推理系统提供了新思路,在数学竞赛等高难度任务中显著提升了AI的推理准确率。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
蒙特利尔大学团队发现让AI"分段思考"的革命性方法Delethink,通过模仿人类推理模式将长篇思考分解为固定长度块,仅保留关键信息摘要。1.5B小模型击败传统大模型,训练成本降至四分之一,计算复杂度从平方级降为线性级,能处理十万词汇超长推理,为高效AI推理开辟新道路。