可持续发展的理念已经深入人心,而在数字经济时代,算力基础设施的能耗问题越发突出,算力行业节能减排成为必然,而液冷技术成为数字中心低碳化的关键。
近日,2023英特尔可持续发展高峰论坛在京举办,英特尔全球CEO帕特·基辛格在会上表示,与传统使用风冷技术的数据中心相比,随着英特尔开始采用浸没式液冷技术,将冷却效率提高15%-20%。而且,这些技术现在在数据中心的部署中初具规模效应,英特尔也将持续快速推进其发展。
作为英特尔的重要生态伙伴,宁畅与英特尔并肩前行,在液冷产品升级、液冷技术发展、液冷行业标准等多方面积极开展合作,共同推进绿色算力发展。
英特尔公司首席执行官帕特·基辛格参观宁畅展台,就浸没液冷服务器展开交流
宁畅总裁秦晓宁接受记者采访时表示,以ChatGPT为代表的生成式AI对于算力的需求持续增加,相比AI投入,当节能技术引入后,其实对未来算力的提升和运维成本的降低是巨大的。
宁畅“冷静计算”提供最优解
宁畅于年初提出冷静计算战略,与可持续的发展理念相契合。即旨在基于理性、务实、包容三个关键点,依托液冷技术底座,在算力效能、成本、生态等难题中为行业提供算力最优解。
秦晓宁接受采访时表示表示,能耗问题的解决,需要在芯片层面、系统层面,甚至于整体机房的结构设计层面去综合考虑。
宁畅CEO秦晓宁接受采访
由此,宁畅目前已完成了液冷服务器产品的全产业链布局,实现液冷产品研发、测试、生产、交付全链条监控,可实时响应液冷需求,完成高质量快速交付。今年宁畅推出的G50系列服务器实现风冷、冷板液冷、浸没液冷三大散热方式。除全系列液冷产品外,宁畅可以提供从服务器、机柜、机房到数据中心的液冷方案,打造从需求梳理、架构设计、机房部署到运维服务全系统解决方案。以一个总负载为10MW的机房为例,采用宁畅的液冷方案将节省上千万电费,年均可减少CO2放量达上万多吨。
在可持续发展与“双碳”目标要求下,IT基础设施形态正由传统风冷向液冷迈进,数据显示,在液冷电子信息设备中,冷板液冷设备份额占比超过70%,因此冷板标准的制定与发布对于液冷产业的整体建设至关重要。
基于多年液冷技术研发与实践经验,宁畅全程参与了《服务器及存储用液冷部件技术规范第1部分:冷板》的制定,贡献超过200条意见讨论,提供55条液冷技术规范,助力行业标准最终落地。宁畅冷板液冷产品也将是首批支持该标准的液冷产品之一。
“除了与英特尔在芯片层面展开合作,未来我们也将在软件、整个系统的设计层面等维度进行深入探索和联合创新。英特尔的创新技术与宁畅的定制化服务相结合可以为客户提供一个整体解决方案。”秦晓宁说。
结语
随着政策要求和市场驱动,数据中心绿色转型成为必然,液冷技术为算力绿色发展带来了无限可能。放眼未来,宁畅将持续携手产业生态伙伴,推动算力行业高效能与绿色协同发展。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。