据悉,国家电网电力科学研究院仿真中心超级计算系统项目即将落成,曙光公司提供的高性能计算系统将成为中国最大的电网仿真高性能计算平台,为仿真中心在特高压电网建设及大电网安全稳定运行等仿真研究中提供强有力的计算支撑。这也是曙光液冷服务器继中国科学院大气所“地球数值模拟装置”原型系统项目后,再次在国内大型超算项目上得到商用化应用。
从2012年开始,曙光公司一直致力于开发一款以高性能数据中心应用为目标的液冷系统,2015年曙光TC4600E-LP冷板式液冷服务器开始推向行业。目前,曙光公司并不是第一家提出使用水或者其他液体替代风冷来冷却数据中心系统的服务器厂商,但却是首家在国内大规模量产液冷服务器并投入商用的厂商。
(曙光TC4600E-LP液冷服务器)
曙光液冷服务器主要由数据中心产品事业部与服务器部门共同设计开发,曙光数据中心事业部一直从事数据中心基础设施研发,对IT设备所需物理环境有着深刻的理解,在业内率先提出了数据中心IT 设施层与基础设施层的“双层融合”概念,以更绿色、更节能、更智慧的数据中心应用技术为目标,引领国内数据中心基础设施技术的发展。
曙光公司在本次国家电网电力科学研究院仿真中心超级计算系统项目中所提供的TC4600E-LP冷板式液冷服务器,突破了传统的风冷散热模式,采用风冷和液冷混合散热——服务器内主要热源 CPU 利用液冷冷板进行冷却,其余热源仍采用风冷方式进行冷却。
(国家电网电力科学研究院主机房效果图)
冷板式液冷服务器技术利用工作流体作为中间热量传输的媒介,将热量由热区传递到远处再进行冷却。在该技术中冷却剂直接导向热源,相比空气散热,液体每单位体积的散热效率高要出1000 倍。通过这种液体制冷方式,TC4600E-LP冷板式液冷服务器可有效解决高密度服务器的散热问题,同时降低冷却系统能耗和噪声,在计算性能方面也有很大幅度的提高。
(曙光TC4600E-LP液冷服务器剖面图)
值得一提的是,在TC4600E-LP冷板式液冷服务器的设计过程中,以35°的常温去离子水作为冷却介质,避免了客户对服务器冷却板和软管产生冷凝水的疑虑,另外还采用了多层泄漏检测和溢流技术确保系统安全运行,可实现在国内大部分地区全年自然冷却。
业内专家指出,总从体TCO来看,液冷技术更适用于超算系统或者规模较大的应用环境。国家电网电力科学研究院仿真中心超级计算系统项目计算数量超过八百节点,总体计算能力近千万亿次。相比传统风冷解决方案,电科院仿真中心将实现全系统年均PUE 1.35,为电力系统仿真与分析工作提供充足的计算资源。
目前,除了超算领域,一些大型通用型数据中心也开始使用液冷技术为服务器散热,从而降低数据中心能耗。可以看到在不远的将来,液冷技术将会凭借其高效散热、绿色节能等特点,赢得更多数据中心用户的青睐,为数据中心节能降耗做出更大贡献。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。