2023年数据中心物理基础设施(DCPI)行业实现了两位数的增长,克服了长期存在的、疫情引发的供应链问题,开始意识到AI热潮带来的好处。
根据Dell’Oro Group最新的数据中心物理基础设施报告,尽管数据中心物理基础设施收入增长从去年第四季度开始放缓,但收入同比增长了16%。
已履行的订单
近几个月来,AI热潮不容忽视。据Gartner称,有70%的高管表示,他们的组织正处于“利用生成式AI进行调查和探索的模式”。
然而有趣的是,尽管很多人认为数据中心物理基础设施市场的快速增长是由生成式AI的爆炸式增长推动的,但Dell'Oro研究总监Lucas Beran表示,这种增长主要是供应商履行了疫情期间由于供应链限制而延迟的“积压订单”导致的结果。
Beran指出,尽管2023年数据中心物理基础设施的增长包括与AI工作负载相关的销售带来的“边际贡献”,但真正影响还有待观察。
他表示:“这是因为建设新的数据中心设施通常需要18-24个月的时间,而支持AI工作负载的新专用设施预计将在2024年下半年开始投入实际使用。”
需求激增
今年二月,JLL数据中心市场董事总经理Andy Cvengros指出,随着北美数据中心需求的飙升,二级市场正在取得进展。
这位分析师表示,数据中心用户在寻求更多的电力和更多的土地,这迫使他们在IT战略中进一步规划考虑新的区域,“致力于加快时间安排空间和电力,以找到满足其需求的数据中心容量。”
然而,这可能会成为未来增长的最大挑战。
最近在由Data Center Knowledge主办的网络研讨会上,数据中心的电力容量问题成为Critical Facility Group负责人Christopher McLean关注的焦点。他指出,AI带来的迅猛增长意味着这个行业将需要采取上述所有策略来满足前所未有的电力需求。
正如美国佐治亚州公共服务委员会主席Jason Shaw对《华盛顿邮报》表示,这种增长已经让能源行业措手不及。“这让你摸不着头脑,想知道我们是如何陷入这种境地的。怎么和预测相差这么远?这给我们带来了前所未有的挑战。”
对数据的渴望
数据中心容量方面的挑战不仅限于电力。正如美国加州大学河滨分校的一组研究人员最近发表的一篇论文所强调的,生成式AI也是需求很大的。
根据Shaolei Ren博士的研究,估计“ChatGPT”需要“喝”一瓶500毫升的水才能进行大约20-50个问题和答案的简单对话。
针对这些问题和答案对ChatGPT进行训练,总计要消耗西得梅因水域6%的水。他的团队估计,到2022年美国数据中心的取水量将达到15亿立方米,约占美国年取水总量的0.33%,大约是丹麦国家取水量的2倍。他们预计,到2027年数据中心的耗水量将再次翻倍。
新部署
然而,很多人正在寻找方法降低对电力和水的需求,例如美国能源部的COOLERCHIPS计划、微软投资核聚变、或者谷歌调整高峰时段的用电量。
Dell’Oro Group的Beren表示:“有证据表明这些部署即将到来。数据中心热管理领域的市场份额领先者Vertiv在第一季度实现了液体冷却部署,引人关注……这只是一个开始,因为Vertiv计划在2024年将把液体冷却制造能力提高45倍。”
根据Dell’Oro Group的预测,全球数据中心物理基础设施市场将“在2024年上半年呈现温和增长,但随着与AI工作负载相关的物理基础设施部署增加,下半年将加速增长”。
此外,在Dell'Oro Group的2023年第四季度报告中,北美、亚太地区(不包括中国)、欧洲、中东和非洲(EMEA)的数据中心物理基础设施市场在2023年第四季度实现了两位数的增长,而加勒比地区和拉丁美洲(CALA)的收入增幅则要低得多。中国是唯一出现下滑的市场地区。
好文章,需要你的鼓励
Atlassian、Intuit和AWS三大企业巨头正在为智能代理时代做准备,重新思考软件构建方式。当前企业API为人类使用而设计,未来API将成为多模型原生接口。Intuit在QuickBooks中应用自动发票生成,使企业平均提前5天收款;AWS通过AI辅助迁移服务显著提升效率;Atlassian推出内部员工入职代理和客户代理,节省大量时间成本。专家强调需要建立强大的数据架构和信任机制。
这项研究首次系统评估了AI代码智能体在科学研究扩展方面的能力。研究团队设计了包含12个真实研究任务的REXBENCH基准,测试了九个先进AI智能体的表现。结果显示,即使最优秀的智能体成功率也仅为25%,远低于实用化要求,揭示了当前AI在处理复杂科学推理任务时的显著局限性。
MIT研究发现,使用生成式AI完成任务时,大脑运作方式与单纯依靠自身思考存在显著差异。研究显示,使用ChatGPT等工具的用户记忆力更差,神经连接活动减少,对所写内容的回忆能力明显下降。虽然AI工具能提高效率,但可能导致用户缺乏对知识的深度理解和掌控感。研究强调需要更多科学数据来了解AI使用对人类认知的长期影响。
俄罗斯莫斯科国立大学研究团队开发出MEMFOF光流估计新方法,在保持顶尖精度的同时将1080p视频分析的GPU内存消耗从8GB降至2GB,实现约4倍内存节省。该方法通过三帧策略、相关性体积优化和高分辨率训练在多个国际基准测试中取得第一名成绩,为高清视频分析技术的普及奠定基础。