2023年数据中心物理基础设施(DCPI)行业实现了两位数的增长,克服了长期存在的、疫情引发的供应链问题,开始意识到AI热潮带来的好处。
根据Dell’Oro Group最新的数据中心物理基础设施报告,尽管数据中心物理基础设施收入增长从去年第四季度开始放缓,但收入同比增长了16%。
已履行的订单
近几个月来,AI热潮不容忽视。据Gartner称,有70%的高管表示,他们的组织正处于“利用生成式AI进行调查和探索的模式”。
然而有趣的是,尽管很多人认为数据中心物理基础设施市场的快速增长是由生成式AI的爆炸式增长推动的,但Dell'Oro研究总监Lucas Beran表示,这种增长主要是供应商履行了疫情期间由于供应链限制而延迟的“积压订单”导致的结果。
Beran指出,尽管2023年数据中心物理基础设施的增长包括与AI工作负载相关的销售带来的“边际贡献”,但真正影响还有待观察。
他表示:“这是因为建设新的数据中心设施通常需要18-24个月的时间,而支持AI工作负载的新专用设施预计将在2024年下半年开始投入实际使用。”
需求激增
今年二月,JLL数据中心市场董事总经理Andy Cvengros指出,随着北美数据中心需求的飙升,二级市场正在取得进展。
这位分析师表示,数据中心用户在寻求更多的电力和更多的土地,这迫使他们在IT战略中进一步规划考虑新的区域,“致力于加快时间安排空间和电力,以找到满足其需求的数据中心容量。”
然而,这可能会成为未来增长的最大挑战。
最近在由Data Center Knowledge主办的网络研讨会上,数据中心的电力容量问题成为Critical Facility Group负责人Christopher McLean关注的焦点。他指出,AI带来的迅猛增长意味着这个行业将需要采取上述所有策略来满足前所未有的电力需求。
正如美国佐治亚州公共服务委员会主席Jason Shaw对《华盛顿邮报》表示,这种增长已经让能源行业措手不及。“这让你摸不着头脑,想知道我们是如何陷入这种境地的。怎么和预测相差这么远?这给我们带来了前所未有的挑战。”
对数据的渴望
数据中心容量方面的挑战不仅限于电力。正如美国加州大学河滨分校的一组研究人员最近发表的一篇论文所强调的,生成式AI也是需求很大的。
根据Shaolei Ren博士的研究,估计“ChatGPT”需要“喝”一瓶500毫升的水才能进行大约20-50个问题和答案的简单对话。
针对这些问题和答案对ChatGPT进行训练,总计要消耗西得梅因水域6%的水。他的团队估计,到2022年美国数据中心的取水量将达到15亿立方米,约占美国年取水总量的0.33%,大约是丹麦国家取水量的2倍。他们预计,到2027年数据中心的耗水量将再次翻倍。
新部署
然而,很多人正在寻找方法降低对电力和水的需求,例如美国能源部的COOLERCHIPS计划、微软投资核聚变、或者谷歌调整高峰时段的用电量。
Dell’Oro Group的Beren表示:“有证据表明这些部署即将到来。数据中心热管理领域的市场份额领先者Vertiv在第一季度实现了液体冷却部署,引人关注……这只是一个开始,因为Vertiv计划在2024年将把液体冷却制造能力提高45倍。”
根据Dell’Oro Group的预测,全球数据中心物理基础设施市场将“在2024年上半年呈现温和增长,但随着与AI工作负载相关的物理基础设施部署增加,下半年将加速增长”。
此外,在Dell'Oro Group的2023年第四季度报告中,北美、亚太地区(不包括中国)、欧洲、中东和非洲(EMEA)的数据中心物理基础设施市场在2023年第四季度实现了两位数的增长,而加勒比地区和拉丁美洲(CALA)的收入增幅则要低得多。中国是唯一出现下滑的市场地区。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。