生成式AI对各行各业正在产生深远影响,比如电信行业。随着生成式AI日益进入商业和消费者的生活方式中,以合适的成本构建合适的基础设施是网络运营商面临的最大挑战之一。
为了更好地拥抱生成式AI,运营商需要构建基础设施,而面对生成式AI,运营商需要改变已有数据中心,成为面向AI和5G的数据中心。
对加速计算和生成式AI的需求正在推动数据中心架构的根本性变革。软银正在创建一个互连的数据中心网络,用于共享资源并托管一系列生成式AI应用。相比以往的数据中心,这些新数据中心需要能够同时处理AI和5G工作负载。
通过与NVIDIA合作,软银使用全新NVIDIA MGX参考架构和基于Arm Neoverse的GH200超级芯片托管生成式AI和无线应用的数据中心,在生成式AI和5G应用之间动态分配GPU资源,以降低成本和更节能。
其中NVIDIA MGX以一个为加速计算优化的服务器机箱作为基础系统架构入手,GPU、DPU和CPU可以自由组合。AI训练和5G等多种任务可以在一台机器上处理,而且可以轻松地升级到未来多代硬件。MGX还可以轻松集成到云和企业数据中心。
这些特质显然对运营商具有巨大的吸引力,一方面他们可以拥抱AI,同时又可以优化已有基础设施,实现降本增效。
NVIDIA技术正在塑造未来5G、 6G无线和视频通信。
当前运营商正在拥抱RAN,特别是开放式vRAN,而NVIDIA也在强化对vRAN的支持,让运营商在开放与性能表现取得兼顾。
NVIDIA Grace Hopper和NVIDIA BlueField-3 DPU将加速软件定义的5G vRAN以及生成式AI应用,而无需定制硬件加速器或专用5G CPU。
此外,配备BlueField-3的NVIDIA Spectrum以太网交换机将为5G提供高精度时间同步协议。
该解决方案在NVIDIA加速的1U MGX服务器设计上实现了突破性的5G速度,根据公开的5G加速器数据,它实现了业内吞吐量最高的36Gbps下行链路容量。
NVIDIA Aerial是一个应用程序框架,实现了5G无线局域网(RAN)的GPU加速信号和数据处理。通过将NVIDIA Aerial软件引入到高性能的软件定义的云原生5G网络中,这些5G基站将允许运营商动态地分配计算资源,并实现比竞品高2.5倍的能效。
结语
对于处于转型中的运营商而言,他们希望能够抓住5G和生成式AI带来的市场机遇,而NVIDIA推动以加速计算和AI为标志的计算革新,帮助运营商构建一个强有力的基础设施,驱动自身的业务创新。
好文章,需要你的鼓励
临近年底,苹果公布了2024年App Store热门应用和游戏榜单,Temu再次成为美国下载量最多的免费应用。
云基础设施市场现在已经非常庞大,很难再有大的变化。但是,因为人们可以轻松地关闭服务器、存储和网络——就像开启它们那样,预测全球云基础设施开支可能非常困难。