生成式AI对各行各业正在产生深远影响,比如电信行业。随着生成式AI日益进入商业和消费者的生活方式中,以合适的成本构建合适的基础设施是网络运营商面临的最大挑战之一。

为了更好地拥抱生成式AI,运营商需要构建基础设施,而面对生成式AI,运营商需要改变已有数据中心,成为面向AI和5G的数据中心。
对加速计算和生成式AI的需求正在推动数据中心架构的根本性变革。软银正在创建一个互连的数据中心网络,用于共享资源并托管一系列生成式AI应用。相比以往的数据中心,这些新数据中心需要能够同时处理AI和5G工作负载。

通过与NVIDIA合作,软银使用全新NVIDIA MGX参考架构和基于Arm Neoverse的GH200超级芯片托管生成式AI和无线应用的数据中心,在生成式AI和5G应用之间动态分配GPU资源,以降低成本和更节能。
其中NVIDIA MGX以一个为加速计算优化的服务器机箱作为基础系统架构入手,GPU、DPU和CPU可以自由组合。AI训练和5G等多种任务可以在一台机器上处理,而且可以轻松地升级到未来多代硬件。MGX还可以轻松集成到云和企业数据中心。
这些特质显然对运营商具有巨大的吸引力,一方面他们可以拥抱AI,同时又可以优化已有基础设施,实现降本增效。
NVIDIA技术正在塑造未来5G、 6G无线和视频通信。
当前运营商正在拥抱RAN,特别是开放式vRAN,而NVIDIA也在强化对vRAN的支持,让运营商在开放与性能表现取得兼顾。

NVIDIA Grace Hopper和NVIDIA BlueField-3 DPU将加速软件定义的5G vRAN以及生成式AI应用,而无需定制硬件加速器或专用5G CPU。

此外,配备BlueField-3的NVIDIA Spectrum以太网交换机将为5G提供高精度时间同步协议。

该解决方案在NVIDIA加速的1U MGX服务器设计上实现了突破性的5G速度,根据公开的5G加速器数据,它实现了业内吞吐量最高的36Gbps下行链路容量。

NVIDIA Aerial是一个应用程序框架,实现了5G无线局域网(RAN)的GPU加速信号和数据处理。通过将NVIDIA Aerial软件引入到高性能的软件定义的云原生5G网络中,这些5G基站将允许运营商动态地分配计算资源,并实现比竞品高2.5倍的能效。
结语
对于处于转型中的运营商而言,他们希望能够抓住5G和生成式AI带来的市场机遇,而NVIDIA推动以加速计算和AI为标志的计算革新,帮助运营商构建一个强有力的基础设施,驱动自身的业务创新。
好文章,需要你的鼓励
PDF协会在欧洲会议上宣布,将在PDF规范中添加对JPEG XL图像格式的支持。尽管Chromium团队此前将该格式标记为过时,但此次纳入可能为JXL带来主流应用机会。PDF协会CTO表示,选择JPEG XL作为支持HDR内容的首选解决方案。该格式具备广色域、超高分辨率和多通道支持等优势,但目前仍缺乏广泛的浏览器支持。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
Ironclad OS项目正在开发一个新的类Unix操作系统内核,面向小型嵌入式系统,计划支持实时功能。该项目的独特之处在于采用Ada编程语言及其可形式化验证的SPARK子集进行开发,而非常见的C、C++或Rust语言。项目还包含运行在Ironclad内核上的完整操作系统Gloire,使用GNU工具构建以提供传统Unix兼容性。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。