尽管服务器总出货量有所减少,但平均每台服务器搭载8块H100,AI热潮仍为英伟达带来可观收益。
Omdia发布统计,认为在一定时期之内,服务器市场将继续以GPU为最主要的核心组件。这家市场研究机构估计,单英伟达H100 GPU这一款产品在今年第二季度的出货量就超过了900吨。
这个引人注目的数字来自Omdia最新一轮云与数据中心市场统计更新,报告提到数据中心的投资重心正持续发生显著转变。报告称,市场对配备八GPU的AI处理型服务器的旺盛需求推高了平均价格,同时也挤占了本应用于其他领域的投资。
有鉴于此,Omdia再次将2023年的服务器年出货总量下调100万台,较去年下降17%至1160万台。但与此同时,随着超大规模基础设施运营商花重金购置这些高规格服务器,目前服务器的平均交易价格的环比与同比增幅均已超过30%。
这份报告还指出,已经有超30万块英伟达H100 GPU进入到服务器制造商的装配线。而“900吨”这个数字是按单GPU加散热器约3公斤的重量相乘得出。
目前每块H100的价格约为2.1万美元,简直令人瞠目结舌。据此计算,Omdia预计2023年全球服务器市场的总收入将达到1140亿美元,同比增长8%,但单位出货量会出现显著下滑。
Omdia表示,这波对搭载高端GPU的AI服务器“尖货”的巨大需求,主要是由超大规模基础设施运营商和云服务商所推动。而新浪潮的受益者,自然就是那些服务器原始设计制造商(ODM),即我们俗称的白盒供应商。
Omdia方面宣称,第二季度内出货的八GPU服务器当中,有很大一部分是由ZT Systems所制造。这是一家总部位于美国的云服务器私营制造商,近段时间发展势头相当迅猛。而之所以有此判断,是因为英伟达第二季度135亿美元的收入当中有17%来自单一供应商,而英伟达CEO黄仁勋在台北电脑展期间展示过一台由ZT Systems制造的DGX服务器。
Omdia还认为,第二季度市场对八GPU服务器需求的增长,可能主要归功于Meta的批量采购。因为英伟达此前曾经表示,本季度有22%的收入由单一云服务商贡献而来。
展望未来一段时间,这股势头似乎并无放缓的趋势。这份报告预测,今年下半年及2024年上半年,用于处理AI负载的服务器还将继续广受欢迎、遍地开花。
但Omdia同时预测,随着企业需求的回升,当前第三季度和今年下一季度的常规服务器需求将出现超越正常季节性波动的强势反弹。预计第三季度收入将同比增长13%,第四季度更将加速至29%。
Omdia还给出具体预测数字,认为八GPU服务器的持续部署将拉动服务器市场在2024年上半年实现同比51%的收入增幅,届时预计将有100万块H100 GPU完成部署实装。
但这家分析机构也警告称,超大规模基础设施运营商和云服务商在AI训练领域的快速投资,并不能直接反映AI技术的快速普及。报告强调,目前AI技术的使用率仍然普遍较低,其中还援引一项调查结果,发现只有18%的美国原价使用过ChatGPT。据技术媒体The Register的最近报道,生成式AI目前在企业云计算成本中仍只占很小一部分。
此外,巨额投资撑起的这些AI训练用GPU系统往往能耗巨大,吞噬自然资源的速度远超想象。最近一位媒体行业高管就警告称,除非采取更激进的行动来贯彻可持续实践方案,否则AI最终将“吸干整个世界”。
在线广告跟踪技术商Ad Signal公司CEO兼创始人Tom Dunning在本月于阿姆斯特丹召开的国际广播大会(IBC)上发表讲话,称虽然不可能强行阻止各类组织放弃AI背后的商业利益,但显然“迫切需要最大限度降低由此带来的碳排放负担”。
Dunning宣称,目前数据中心设施的二氧化碳排放量已经占全球总体二氧化碳排放量的2.5%至3.7%。而从现在到2030年,AI技术的普及预计将以37%的复合年增长率(CAGR)长期保持递增。
好文章,需要你的鼓励
OpenAI CEO描绘了AI温和变革人类生活的愿景,但现实可能更复杂。AI发展将带来真正收益,但也会造成社会错位。随着AI系统日益影响知识获取和信念形成,共同认知基础面临分裂风险。个性化算法加剧信息茧房,民主对话变得困难。我们需要学会在认知群岛化的新地形中智慧生存,建立基于共同责任而非意识形态纯洁性的社区。
杜克大学等机构研究团队通过三种互补方法分析了大语言模型推理过程,发现存在"思维锚点"现象——某些关键句子对整个推理过程具有决定性影响。研究表明,计划生成和错误检查等高层次句子比具体计算步骤更重要,推理模型还进化出专门的注意力机制来跟踪这些关键节点。该发现为AI可解释性和安全性研究提供了新工具和视角。
传统数据中心基础设施虽然对企业至关重要,但也是预算和房地产的重大负担。模块化数据中心正成为强有力的替代方案,解决企业面临的运营、财务和环境复杂性问题。这种模块化方法在印度日益流行,有助于解决环境问题、满足人工智能的电力需求、降低成本并支持新一代分布式应用。相比传统建设需要数年时间,工厂预制的模块化数据中心基础设施可在数周内部署完成。
法国索邦大学团队开发出智能医学文献管理系统Biomed-Enriched,通过AI自动从PubMed数据库中识别和提取高质量临床案例及教育内容。该系统采用两步注释策略,先用大型AI模型评估40万段落质量,再训练小型模型处理全库1.33亿段落。实验显示该方法仅用三分之一训练数据即可达到传统方法效果,为医学AI发展提供了高效可持续的解决方案。