中国移动采用NVIDIA GPU服务器,通过5G,在边缘提供AI。
中国苏州——GTC China——2019年12月19日——当自然灾害袭来时,救援人员需要与时间赛跑,以便部署关键性资源,挽救生命。
今年4月初,在强风的助势下,一场森林大火在四川省凉山州木里县肆虐。数架搭载了专业摄像和红外探测设备的无人机被应用于火险救援,通过5G网络,无人机将其在该山岭地区拍摄到的山火视频快速传输到应急调度指挥部。
借助于5G网络,救援人员无需等待无人机返回后才开始处理数据,他们可以使用运行于NVIDIA GPU之上的AI图形算法分析视频片段,帮助其更好地了解现场危情,集中救援力量。
此富有开创性的项目是中国移动(成都)产业研究院——全球最大的移动网络运营商中国移动的一个研究部门——利用先进的5G技术、AI及中移凌云无人机云平台的作业成果。
中国移动拥有近10亿用户,其正在使用NVIDIA GPU,结合新一代5G移动网络,加速灾害响应,完善紧急医疗服务并提供全新教育工具,NVIDIA创始人兼首席执行官黄仁勋在本周于苏州举行的GTC China主题演讲上介绍了这一消息。
例如,今年6月,四川省宜宾市长宁县突发6.0级地震,成研院与四川省人民医院组成的联合救援团队搭乘5G急救车第一时间抵达灾区。基于5G低时延的特性,实现了远程实时视频会诊。急救车中的护士可以为患者进行心电图监测或超声检查等身体检查,并随即通过5G网络将相关数据发送至医院。
医院中的医生可以使用GPU加速医学成像AI进行实时诊断,并为救护车工作人员提供临时治疗指导,为后续转院进行手术治疗做准备。
此外,高带宽5G塔可通过虚拟现实技术将多个教室连接起来,以帮助消除城市与农村之间的教育不平等现象。中国移动使用VR头显设备和NVIDIA GPU,通过Cloud XR平台与远程同步课堂应用场景的结合,将一所四川凉山州的农村小学的教室与成都的学生连接了起来。其中,集成的NVIDIA CloudXR软件开发工具包可以通过5G网络提供低延迟AR和VR流媒体。
该项目可以帮助数千所偏远地区学校享受到与教育资源丰富的学校相同的实时、交互式学习体验。
在未来的部署中,这些试点项目的计算处理将被从数据中心转移到边缘的GPU——这里所指的GPU可以是被嵌入在无人机和救护车当中的,还可以是被配置在整套边缘服务器机架当中。
5G的延迟是现有网络的1/10,而带宽则是后者的1000倍,这使得4K视频和VR等数据密集型移动计算应用能够首次在边缘得以实现。它还支持在边缘部署复杂的AI模型以进行推理。
作为5G部署的领军者,中国移动迄今为止已在50个城市布设了5万个5G基站。预计到2025年,中国将有6亿5G用户。
中国移动是开放数据中心委员会的成员之一,该委员会是一个由中国领先的技术提供商和电信巨头所组成的非营利性联盟组织。委员会的一项倡议是开放电信基础设施(OTII)项目,致力于5G移动边缘计算服务器解决方案的标准化工作。
由数据中心解决方案提供商浪潮集团(Inspur)和边缘计算制造商凌华科技(ADLINK)所开发的NVIDIA EGX服务器将成为首批被纳入OTII标准的GPU硬件。
此系列服务器分别由NVIDIA T4和NVIDIA Quadro RTX GPU提供驱动力,人们可以使用5G网络,在边缘使用这些服务器来加速关键的AI应用。同时,为了促进GPU的应用,还开发了一个与中国的移动边缘计算技术要求相匹配的端到端软件开发工具包(SDK)。
NVIDIA EGX边缘计算平台由一个云原生软件堆栈和一系列边缘服务器所组成,这些边缘服务器经过优化,可以运行该堆栈。EGX系统可以从NVIDIA Jetson支持的边缘设备扩展至经过NGC-Ready for Edge验证的服务器。使用NVIDIA EGX,系统管理员可以轻松且安全地远程设置一组边缘服务器,以实现更快、更轻松的部署。
如今,浪潮、新华三和联想等全球数十家厂商已开始供应EGX系统。
好文章,需要你的鼓励
杜克大学研究团队建立了首个专门针对Web智能体攻击检测的综合评估标准WAInjectBench。研究发现,现有攻击手段极其多样化,从图片像素篡改到隐藏弹窗无所不包。虽然检测方法对明显恶意指令有中等效果,但对隐蔽攻击几乎无能为力。研究构建了包含近千个恶意样本的测试数据库,评估了十二种检测方法,揭示了文本和图像检测的互补性。这项研究为Web智能体安全防护指明了方向,提醒我们在享受AI便利时必须保持安全意识。
生成式AI的兴起让谷歌和Meta两大科技巨头受益匪浅。谷歌母公司Alphabet第三季度广告收入同比增长12%达742亿美元,云服务收入增长33%至151.5亿美元,季度总收入首次突破千亿美元大关。Meta第三季度收入512.5亿美元,同比增长26%。两家公司都将大幅增加AI基础设施投资,Meta预计2025年资本支出提升至700亿美元,Alphabet预计达910-930亿美元。
加州大学圣地亚哥分校研究团队系统研究了AI智能体多回合强化学习训练方法,通过环境、策略、奖励三大支柱的协同设计,提出了完整的训练方案。研究在文本游戏、虚拟家庭和软件工程等多个场景验证了方法有效性,发现简单环境训练能迁移到复杂任务,监督学习初始化能显著减少样本需求,密集奖励能改善学习效果。这为训练能处理复杂多步骤任务的AI智能体提供了实用指南。