这家总部位于加利福尼亚州的研究公司的研究表明,与去年同期相比,2024年第二季度数据中心资本支出增长了46%。
这股消费热潮预计将会在今年剩余的时间内持续,不过速度会略微放缓。Dell'Oro 预测,到 2024 年,全球数据中心资本支出总体将强劲增长35%。
该组织表示,这一增长主要是由于对专为 AI 应用程序设计的 GPU 加速服务器的需求不断增长所致。
Dell'Oro Group 高级研究总监 Baron Fung对Data Center Knowledge表示:“加速服务器是带有 GPU 和其他定制加速器(例如 Google TPU)的服务器。”
Dell'Oro 的数据预测数据中心支出将保持两位数的增长。Gartner 预测,2024年数据中心系统的总体支出将增长24%。与Dell’Oro一样,Gartner将部分增长归因于生成式人工智能系统的需求。
在2023年底,Omdia预测全球服务器市场到2027年将达到1960亿美元,Fundamental Business Insights & Consulting在本月早些时候发布的一份报告中估计,到2032年,AI服务器市场规模将达到1830亿美元。
AI加速:增长引擎
Dell'Oro的研究人员表示,虽然加速服务器的增长并不令人惊讶,但市场的增长速度超出了预期。
Fung表示:“加速服务器收入确实超出了我们之前的预测或预期。”“加速服务器采用的势头强劲,尤其在超大规模市场。”
GPU加速服务器在收入和出货量方面都超过了数据中心普通服务器的增长。
Fung表示,从2023年到2028年的五年内,通用服务器的复合年增长率预计仅增长3%,而加速服务器的复合年增长率为31%。
Bain & Company最新的全球技术报告表示,预计到2027年,AI工作负载将以25-35%的速度增长。
Bain全球技术业务主席David Crawford表示:“生成式人工智能是当前变革浪潮的主要推手,但后全球化的转变和调整业务流程提供价值的需求让情况变得复杂。”
加速计算对数据中心资本支出的影响
分析师们认为,加速计算对数据中心资本支出的影响已经席卷全球,但是这种影响不会永远持续下去。
Omdia的分析师Alexander Harrowell对Data Center Knowledge表示:“它增加了占总市场的份额,可能也推动了总市场规模。”。
Harrowell表示:“也就是说,它的增长速度大大快于整个市场,因此在某个时候,经典的S曲线将开始发挥作用,因为潜在采用者都买了。”“这将给我们留下一个计算更加异构的世界。”
在市场动态方面,Harrowell表示,今年英伟达的数据中心业务规模可能是英特尔数据中心和人工智能业务的10倍左右。超级巨头们的定制ASIC芯片以及AMD和华为等芯片制造商的产品进一步推动了该市场的发展。
AI 服务器市场领导者和收入分配
根据Dell'Oro的分析,在数据中心服务器提供商的竞争格局中,戴尔成为2024年第二季度收入的领导者,其次是慧与和Supermicro。
值得注意的是,加速服务器估计占本季度 OEM 服务器收入的 41%,这凸显出它们对市场的重大影响。
对加速器服务的需求增加可能也会推动相关领域的支出增长,例如网络。
Fung指出,网络也受益于加速计算采用的增加。
他表示:“加速服务器需要的网络带宽通常高于通用服务器。”
“如果加速服务器在用于训练大型语言模型或生成式人工智能模型的大型集群中互连,则需要一个专用网络,这样的网络被称为后端网络。”
“这个后端网络甚至比前端网络更快,而且这个新市场背后最近有很多创新。”
好文章,需要你的鼓励
企业AI搜索公司Glean宣布年度经常性收入(ARR)达3亿美元,较15个月前的1亿美元增长三倍。尽管谷歌、微软、OpenAI等科技巨头纷纷入局企业AI搜索市场,Glean凭借"上下文图谱"技术深度理解企业业务需求,并帮助客户显著降低AI计算成本。该公司提供按用量计费和混合定价两种模式,客户涵盖Databricks、Reddit、Pinterest及三星等企业。Glean上轮融资后估值达72亿美元。
香港中文大学与MiniMax提出ClaimDiff-RL框架,将图像描述的AI训练从整体打分升级为逐条核查,有效解决了传统方式导致AI"少说保平安"的问题,同时在多项基准测试上超越Gemini-3-Pro-Preview。
杰夫·贝索斯旗下的蓝色起源公司在佛罗里达卡纳维拉尔角进行静态点火测试时,新格伦重型火箭发生爆炸。这是美国历史上最大规模的火箭爆炸之一,也是蓝色起源公司遭遇的最严重失败。所有人员安全,但该事故可能导致新格伦火箭项目长期暂停。此前该火箭已成功完成三次发射,并实现了助推器回收和重复使用。
ParaVT是一个由南洋理工等多校联合提出的并行视频工具调用框架,通过让AI同时分析多段视频并引入PARA-GRPO算法解决训练中的格式崩溃与工具跳过问题,在六项长视频理解测试中平均提升约7.9%。