中国移动采用NVIDIA GPU服务器,通过5G,在边缘提供AI。
中国苏州——GTC China——2019年12月19日——当自然灾害袭来时,救援人员需要与时间赛跑,以便部署关键性资源,挽救生命。
今年4月初,在强风的助势下,一场森林大火在四川省凉山州木里县肆虐。数架搭载了专业摄像和红外探测设备的无人机被应用于火险救援,通过5G网络,无人机将其在该山岭地区拍摄到的山火视频快速传输到应急调度指挥部。
借助于5G网络,救援人员无需等待无人机返回后才开始处理数据,他们可以使用运行于NVIDIA GPU之上的AI图形算法分析视频片段,帮助其更好地了解现场危情,集中救援力量。
此富有开创性的项目是中国移动(成都)产业研究院——全球最大的移动网络运营商中国移动的一个研究部门——利用先进的5G技术、AI及中移凌云无人机云平台的作业成果。
中国移动拥有近10亿用户,其正在使用NVIDIA GPU,结合新一代5G移动网络,加速灾害响应,完善紧急医疗服务并提供全新教育工具,NVIDIA创始人兼首席执行官黄仁勋在本周于苏州举行的GTC China主题演讲上介绍了这一消息。
例如,今年6月,四川省宜宾市长宁县突发6.0级地震,成研院与四川省人民医院组成的联合救援团队搭乘5G急救车第一时间抵达灾区。基于5G低时延的特性,实现了远程实时视频会诊。急救车中的护士可以为患者进行心电图监测或超声检查等身体检查,并随即通过5G网络将相关数据发送至医院。
医院中的医生可以使用GPU加速医学成像AI进行实时诊断,并为救护车工作人员提供临时治疗指导,为后续转院进行手术治疗做准备。
此外,高带宽5G塔可通过虚拟现实技术将多个教室连接起来,以帮助消除城市与农村之间的教育不平等现象。中国移动使用VR头显设备和NVIDIA GPU,通过Cloud XR平台与远程同步课堂应用场景的结合,将一所四川凉山州的农村小学的教室与成都的学生连接了起来。其中,集成的NVIDIA CloudXR软件开发工具包可以通过5G网络提供低延迟AR和VR流媒体。
该项目可以帮助数千所偏远地区学校享受到与教育资源丰富的学校相同的实时、交互式学习体验。
在未来的部署中,这些试点项目的计算处理将被从数据中心转移到边缘的GPU——这里所指的GPU可以是被嵌入在无人机和救护车当中的,还可以是被配置在整套边缘服务器机架当中。
5G的延迟是现有网络的1/10,而带宽则是后者的1000倍,这使得4K视频和VR等数据密集型移动计算应用能够首次在边缘得以实现。它还支持在边缘部署复杂的AI模型以进行推理。
作为5G部署的领军者,中国移动迄今为止已在50个城市布设了5万个5G基站。预计到2025年,中国将有6亿5G用户。
中国移动是开放数据中心委员会的成员之一,该委员会是一个由中国领先的技术提供商和电信巨头所组成的非营利性联盟组织。委员会的一项倡议是开放电信基础设施(OTII)项目,致力于5G移动边缘计算服务器解决方案的标准化工作。
由数据中心解决方案提供商浪潮集团(Inspur)和边缘计算制造商凌华科技(ADLINK)所开发的NVIDIA EGX服务器将成为首批被纳入OTII标准的GPU硬件。
此系列服务器分别由NVIDIA T4和NVIDIA Quadro RTX GPU提供驱动力,人们可以使用5G网络,在边缘使用这些服务器来加速关键的AI应用。同时,为了促进GPU的应用,还开发了一个与中国的移动边缘计算技术要求相匹配的端到端软件开发工具包(SDK)。
NVIDIA EGX边缘计算平台由一个云原生软件堆栈和一系列边缘服务器所组成,这些边缘服务器经过优化,可以运行该堆栈。EGX系统可以从NVIDIA Jetson支持的边缘设备扩展至经过NGC-Ready for Edge验证的服务器。使用NVIDIA EGX,系统管理员可以轻松且安全地远程设置一组边缘服务器,以实现更快、更轻松的部署。
如今,浪潮、新华三和联想等全球数十家厂商已开始供应EGX系统。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。