近日,权威调研机构Gartner发布《Hype Cycle for Cloud Computing》(《云计算技术成熟度曲线报告》)。云计算作为当前主流的计算模型,是将IT作为服务交付的基础,报告分析了目前行业主要应用的云技术,及为满足未来需求而出现的创新技术方向,以帮助用户了解不同技术的成熟度周期,为云计算产业发展提供更多借鉴。报告中Gartner指出,在硬件方面,面向大规模云数据中心的云优化硬件创新正不断发展,将在未来2-5年进入大规模成熟应用。浪潮信息、AWS等4家厂商成为Gartner推荐的Cloud-Optimized Hardware(云优化硬件)标杆厂商。
在疫情推动下数字技术和业务需求的爆发,云计算得益于其敏捷、弹性优势,将超大规模的云服务推向了极限。Gartner报告指出,在基础设施领域,超大规模云服务提供商需要更加敏捷的创新产品及服务,以降低数据中心的能耗和运营成本,并针对特定的工作负载进行更多优化。目前,超大规模云服务提供商正在与设备厂商合作,采用云优化硬件设备,越来越多的企业IT也开始在其大规模数据中心中使用云优化硬件。
这些云优化硬件主要包括服务器、网络、存储和定制芯片。Gartner指出,服务器方面,面向云优化的机架和服务器设计,能够根据负载降低功耗,并简化物理安装,提升交付速度。如浪潮信息、Meta等参与的开放计算项目(OCP),持续定义数据中心整机柜服务器标准,据显示,浪潮信息某大规模数据中心客户在使用云优化的开放计算整机柜后,实现电力节约30%,系统故障率降低90%,投资收益提高33%,并且运维效率提升3倍以上,交付速度可达每天1万台。目前,代表数据中心最高发展水平的互联网公司如Meta、微软等均已大规模应用开放计算技术,全球的通信、金融、能源等关键行业的头部企业也纷纷加入开放计算组织,并在数据中心建设中加以实践。
浪潮信息作为全球唯一一家三大开放计算组织(OCP、ODCC、Open19)成员,从贡献产品SPEC、参与标准到牵头项目,旨在通过开放计算这一全球化协作的创新模式,联合产业上下游探索大规模数据中心基础设施的可持续发展的创新方案,如服务器液冷、高速网络通信、智能运维等。
得益于在开放计算组织的重要贡献,浪潮信息已连续两年成为Gartner云优化硬件标杆厂商,市场份额也在持续增长。日前,Gartner发布了2021年第三季度全球服务器市场数据。浪潮信息以市占率11.3%蝉联全球第二,全球业务快速增长,在多个行业的市场占有率持续提升。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。