2023年数据中心物理基础设施(DCPI)行业实现了两位数的增长,克服了长期存在的、疫情引发的供应链问题,开始意识到AI热潮带来的好处。
根据Dell’Oro Group最新的数据中心物理基础设施报告,尽管数据中心物理基础设施收入增长从去年第四季度开始放缓,但收入同比增长了16%。
已履行的订单
近几个月来,AI热潮不容忽视。据Gartner称,有70%的高管表示,他们的组织正处于“利用生成式AI进行调查和探索的模式”。
然而有趣的是,尽管很多人认为数据中心物理基础设施市场的快速增长是由生成式AI的爆炸式增长推动的,但Dell'Oro研究总监Lucas Beran表示,这种增长主要是供应商履行了疫情期间由于供应链限制而延迟的“积压订单”导致的结果。
Beran指出,尽管2023年数据中心物理基础设施的增长包括与AI工作负载相关的销售带来的“边际贡献”,但真正影响还有待观察。
他表示:“这是因为建设新的数据中心设施通常需要18-24个月的时间,而支持AI工作负载的新专用设施预计将在2024年下半年开始投入实际使用。”
需求激增
今年二月,JLL数据中心市场董事总经理Andy Cvengros指出,随着北美数据中心需求的飙升,二级市场正在取得进展。
这位分析师表示,数据中心用户在寻求更多的电力和更多的土地,这迫使他们在IT战略中进一步规划考虑新的区域,“致力于加快时间安排空间和电力,以找到满足其需求的数据中心容量。”
然而,这可能会成为未来增长的最大挑战。
最近在由Data Center Knowledge主办的网络研讨会上,数据中心的电力容量问题成为Critical Facility Group负责人Christopher McLean关注的焦点。他指出,AI带来的迅猛增长意味着这个行业将需要采取上述所有策略来满足前所未有的电力需求。
正如美国佐治亚州公共服务委员会主席Jason Shaw对《华盛顿邮报》表示,这种增长已经让能源行业措手不及。“这让你摸不着头脑,想知道我们是如何陷入这种境地的。怎么和预测相差这么远?这给我们带来了前所未有的挑战。”
对数据的渴望
数据中心容量方面的挑战不仅限于电力。正如美国加州大学河滨分校的一组研究人员最近发表的一篇论文所强调的,生成式AI也是需求很大的。
根据Shaolei Ren博士的研究,估计“ChatGPT”需要“喝”一瓶500毫升的水才能进行大约20-50个问题和答案的简单对话。
针对这些问题和答案对ChatGPT进行训练,总计要消耗西得梅因水域6%的水。他的团队估计,到2022年美国数据中心的取水量将达到15亿立方米,约占美国年取水总量的0.33%,大约是丹麦国家取水量的2倍。他们预计,到2027年数据中心的耗水量将再次翻倍。
新部署
然而,很多人正在寻找方法降低对电力和水的需求,例如美国能源部的COOLERCHIPS计划、微软投资核聚变、或者谷歌调整高峰时段的用电量。
Dell’Oro Group的Beren表示:“有证据表明这些部署即将到来。数据中心热管理领域的市场份额领先者Vertiv在第一季度实现了液体冷却部署,引人关注……这只是一个开始,因为Vertiv计划在2024年将把液体冷却制造能力提高45倍。”
根据Dell’Oro Group的预测,全球数据中心物理基础设施市场将“在2024年上半年呈现温和增长,但随着与AI工作负载相关的物理基础设施部署增加,下半年将加速增长”。
此外,在Dell'Oro Group的2023年第四季度报告中,北美、亚太地区(不包括中国)、欧洲、中东和非洲(EMEA)的数据中心物理基础设施市场在2023年第四季度实现了两位数的增长,而加勒比地区和拉丁美洲(CALA)的收入增幅则要低得多。中国是唯一出现下滑的市场地区。
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。