尽管服务器总出货量有所减少,但平均每台服务器搭载8块H100,AI热潮仍为英伟达带来可观收益。
Omdia发布统计,认为在一定时期之内,服务器市场将继续以GPU为最主要的核心组件。这家市场研究机构估计,单英伟达H100 GPU这一款产品在今年第二季度的出货量就超过了900吨。

这个引人注目的数字来自Omdia最新一轮云与数据中心市场统计更新,报告提到数据中心的投资重心正持续发生显著转变。报告称,市场对配备八GPU的AI处理型服务器的旺盛需求推高了平均价格,同时也挤占了本应用于其他领域的投资。
有鉴于此,Omdia再次将2023年的服务器年出货总量下调100万台,较去年下降17%至1160万台。但与此同时,随着超大规模基础设施运营商花重金购置这些高规格服务器,目前服务器的平均交易价格的环比与同比增幅均已超过30%。
这份报告还指出,已经有超30万块英伟达H100 GPU进入到服务器制造商的装配线。而“900吨”这个数字是按单GPU加散热器约3公斤的重量相乘得出。
目前每块H100的价格约为2.1万美元,简直令人瞠目结舌。据此计算,Omdia预计2023年全球服务器市场的总收入将达到1140亿美元,同比增长8%,但单位出货量会出现显著下滑。
Omdia表示,这波对搭载高端GPU的AI服务器“尖货”的巨大需求,主要是由超大规模基础设施运营商和云服务商所推动。而新浪潮的受益者,自然就是那些服务器原始设计制造商(ODM),即我们俗称的白盒供应商。
Omdia方面宣称,第二季度内出货的八GPU服务器当中,有很大一部分是由ZT Systems所制造。这是一家总部位于美国的云服务器私营制造商,近段时间发展势头相当迅猛。而之所以有此判断,是因为英伟达第二季度135亿美元的收入当中有17%来自单一供应商,而英伟达CEO黄仁勋在台北电脑展期间展示过一台由ZT Systems制造的DGX服务器。
Omdia还认为,第二季度市场对八GPU服务器需求的增长,可能主要归功于Meta的批量采购。因为英伟达此前曾经表示,本季度有22%的收入由单一云服务商贡献而来。
展望未来一段时间,这股势头似乎并无放缓的趋势。这份报告预测,今年下半年及2024年上半年,用于处理AI负载的服务器还将继续广受欢迎、遍地开花。
但Omdia同时预测,随着企业需求的回升,当前第三季度和今年下一季度的常规服务器需求将出现超越正常季节性波动的强势反弹。预计第三季度收入将同比增长13%,第四季度更将加速至29%。
Omdia还给出具体预测数字,认为八GPU服务器的持续部署将拉动服务器市场在2024年上半年实现同比51%的收入增幅,届时预计将有100万块H100 GPU完成部署实装。
但这家分析机构也警告称,超大规模基础设施运营商和云服务商在AI训练领域的快速投资,并不能直接反映AI技术的快速普及。报告强调,目前AI技术的使用率仍然普遍较低,其中还援引一项调查结果,发现只有18%的美国原价使用过ChatGPT。据技术媒体The Register的最近报道,生成式AI目前在企业云计算成本中仍只占很小一部分。
此外,巨额投资撑起的这些AI训练用GPU系统往往能耗巨大,吞噬自然资源的速度远超想象。最近一位媒体行业高管就警告称,除非采取更激进的行动来贯彻可持续实践方案,否则AI最终将“吸干整个世界”。
在线广告跟踪技术商Ad Signal公司CEO兼创始人Tom Dunning在本月于阿姆斯特丹召开的国际广播大会(IBC)上发表讲话,称虽然不可能强行阻止各类组织放弃AI背后的商业利益,但显然“迫切需要最大限度降低由此带来的碳排放负担”。
Dunning宣称,目前数据中心设施的二氧化碳排放量已经占全球总体二氧化碳排放量的2.5%至3.7%。而从现在到2030年,AI技术的普及预计将以37%的复合年增长率(CAGR)长期保持递增。
好文章,需要你的鼓励
随着员工自发使用生成式AI工具,CIO面临影子AI的挑战。报告显示43%的员工在个人设备上使用AI应用处理工作,25%在工作中使用未经批准的AI工具。专家建议通过六项策略管理影子AI:建立明确规则框架、持续监控和清单跟踪、加强数据保护和访问控制、明确风险承受度、营造透明信任文化、实施持续的角色化AI培训。目标是支持负责任的创新而非完全禁止。
哈佛、MIT联合研究揭示人类语言理解的神经机制,发现大脑通过"信息出口"将语言从核心系统传递至专业脑区实现深度理解。研究提出浅层与深层理解的区别,为人工智能发展提供重要启示,表明真正智能需要多系统协作而非单一优化。该发现可能改变我们对语言认知的理解。
英国正式推出DaRe2THINK数字平台,旨在简化NHS全科医生参与临床试验的流程。该平台由伯明翰大学和MHRA临床实践研究数据链开发,能够安全传输GP诊所与NHS试验研究人员之间的健康数据,减少医生的管理负担。平台利用NHS现有健康信息,安全筛查来自450多家诊所的1300万患者记录,并使用移动消息系统保持试验对象参与度,为传统上无法参与的人群开辟了研究机会。
腾讯混元等团队开发出革命性的AI视频生成自我评判系统PAVRM和训练方法PRFL,让AI能在创作过程中实时评估和改进视频质量,无需等到完成才反馈。该技术使视频动态表现提升56%,人体结构准确性提升21.5%,训练效率提升1.4倍,为AI视频生成质量带来质的飞跃。