至顶网服务器频道 12月17日 新闻消息: 近日,IDC公布了2018年上半年中国AI基础架构市场调查报告,报告显示,2018H1中国AI基础架构市场继续保持了强劲增长势头,销售额为5.43亿美元,浪潮继续保持市场份额第一,销售额份额为51.4%。
互联网是增长主体 传统行业增长加速
GPU服务器在AI基础架构领域的主流地位仍然不容撼动,销售额占比为98.9%。2018年上半年,GPU服务器出货量同比增速为129%,绝对增量为12990台,其中7711台来自互联网,占比为59.4%,5279台来自政府、电信、教育等其他行业,占比为40.6%。可以看出,互联网公司是市场采购的主体,也是拉动市场增长的主体。
2018年AI领域的竞争更为激烈,客观上推动了互联网公司在AI基础设施领域的投资增长,Tier1互联网公司继续大力开发超大规模AI技术,并应用这些技术来不断优化搜索、语音与图片识别、终端行为分析等各项业务,另外,CSP"AIaaS"业务普遍发展较快,都刺激了互联网行业的采购增长。
包括金融、电信等12个领域在内的传统行业市场的潜力开始显现,销售额和销量分别同比增长293%和219%,高于互联网行业,也远高于市场平均水平。其中,电信行业的出货量和销售额同比增长率分别为3882%和4893%,成为上半年增长最快的行业市场。
主流配置:2/4/8GPU,价格与扩展性的平衡
从配置看,2/4/8GPU服务器出货量最大,在整体市场销售额的占比分别是19.8%、34.5%和26.1%。配置4GPU和8GPU的服务器增长更快,出货量增速分别为138%和171%,成为市场增长的主要来源。2 GPU服务器出货量同比增长76%,主要源于政府、教育等传统行业用户的采购需求。
在AI实际应用中,单节点扩展的 GPU越多,训练过程中的GPU间通信瓶颈问题就会越小,因而,配置越高的GPU服务器增长越快。尤其值得注意的是,去年开始,16GPU服务器开发爆发,在2017年上半年、下半年以及2018年上半年的出货量分别为120万美元、1970万美元和8120万美元,增速远超过其他配置类型。
厂商的挑战:如何布局行业
中国社会经济的整体转型升级为AI产业提供了广阔的发展空间,"AI+"正在成为继"互联网+"之后的重要发展趋势。伴随着传统行业需求的爆发,厂商在做好互联网行业的同时,需要考虑如何打开传统行业客户的潜在需求。目前,制约AI在传统行业应用的主要问题是用户技术能力的缺乏,尤其是AI整体方案的部署维护等,解决这一问题有赖于产业生态的发展。发展行业生态将是各个厂商的主要挑战。
浪潮已经构建了全栈式AI计算系统,包括计算平台、管理套件、框架优化、应用加速四个层次,拥有密度最高的AI服务器AGX-2、单机计算性能高达两千万亿次的AI超级服务器AGX-5等一系列领先产品。浪潮集团副总裁彭震表示,浪潮正在构建深入行业具体场景的产业生态,和伙伴一起为用户提供端到端的AI整体方案。年初浪潮发布了独立的AI业务子品牌--TensorServer,并且启动了代号为"T"的AI生态发展计划,目前进展十分顺利。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。