随着5G部署的增长,运营商5G建设进入发展期,不过运营商将如何利用5G塑造其商业模式仍然是个问题。
目前,5G驱动边缘AI在行业中广泛落地,电信运营商正在开启新的发展机遇,进而实现业务创新转型。
5G下边缘AI的新时代
5G 和物联网(IoT)的融合为电信运营商开启了新的篇章。
5G网络实现了全新的连接架构,能够支持AR/VR等要求严苛的新服务以及连接设备的爆炸式发展,并通过网络切片等功能提供安全的行业B2B服务,为制造业、医疗健康、金融、零售和媒体等行业带来新的服务机会。
同时,低延迟、高速的5G网络将使计算能力能够非常靠近网络边缘的设备,这些设备包括自动驾驶汽车中的传感器、用于制造的物联网(IoT)设备、医疗健康设备、智慧城市视频网络,以及消费领域的沉浸式游戏耳机[YW(FO1] 。
AI正在从根本上改变各个行业,无论是客户体验还是物流和产品质量,方方面面都在不断改善。企业可利用大量传感器和AI适用[YW(FO2] 数据,从传统解决方案过渡到突破性[YW(FO3] 解决方案,从而增加收益,提高客户满意度。
而支持边缘计算的能力是5G最大的优势之一,尤其是在B2B市场方面。通过将强大的AI算力延申到具有低延迟和高速网络的边缘,企业不仅可以创建由实时AI驱动的自动化IoT,还可以降低数据在生成、获取和使用之间的传输成本。
边缘AI带来的新动能
边缘计算与AI的结合逐渐成为新的智能转型手段,可以加速传统行业智能化升级的落地,在各行各业具有广泛的应用前景。
例如在智慧城市,支持5G的摄像头结合边缘AI技术,可利用建筑物和路灯上的传感器的数据流为城市管理者提供服务,比如停车管理、提高交通安全性以及缓解堵塞。
在智能零售场景,零售店正在通过AI转型,旨在提供自助购物、自助结账和VIP特殊待遇等无缝体验。此外,零售商还希望利用边缘AI帮助预防货品损失,库存分析以及自动补货。
在制造业和工业环境中,AI现已用于非接触式自动视觉检测。此外,为改善生产和加强质量控制,机器人正在学习如何检查工业制造环境并作出相关改善建议。
目前,电信运营商拥有接近边缘节点的高速5G网络,在提供边缘AI新服务和体验的过程中发挥着关键作用。
电信行业领军者已在利用边缘AI功能推动下一阶段的数字化,例如Verizon利用终端对云端视频平台NVIDIA Metropolis构建AI助力的更为智能快捷的应用,致力于收集、分析多视频数据流,实现改善交通流量、提高行人交通安全,以及优化停车等目标。
爱立信专用网络解决方案可通过其无线电通信网和高性能分布式云原生5G核心网,实现云XR终端设备与NVIDIA RTX GPU之间的5G无线电连接。
抓住边缘AI新机遇
5G、AI和边缘已成为商业创新的新平台,电信运营商需要拥有高级基础架构、软件
生态系统以及技术专家,才能充分利用潜在创新机会。
NVIDIA拥有完善的产品技术和软件合作伙伴网络,助力电信合作伙伴从AI、5G和边缘节点中获益。
NVIDIA EGX平台通过易于部署的云原生软件堆栈、一系列由GPU提供支持且针对软件优化的服务器和设备,以及在其产品和服务中提供EGX平台的广大合作伙伴生态系统,为边缘节点提供经过加速的强大AI计算性能。
例如,Microsoft Azure的IoT Edge设备,将为部署EGX硬件的客户提供NVIDIA EGX边缘平台支持。各大OEM和ODM厂商均可提供NVIDIA EGX服务器。
VMware以安全方式提供在VMware vSphere上运行的AR和VR应用,并使用 NVIDIA CloudXR将其串流传输到VMware Project VXR客户端应用,然后在独立头显设备上运行。AR/VR应用可在数据中心或边缘节点的VMware vSphere上运行,然后串流传输给用户,便于其访问。
NVIDIA还可以提供不同应用框架,助力开发者打造AI生态系统新产品,包括用于实现智慧城市的NVIDIA Metropolis、面向医疗保健行业的NVIDIA Clara、面向电信行业的NVIDIA Aerial、用于对话式AI的NVIDIA Riva,以及用于机器人的NVIDIA Isaac。这些框架既可组合使用,也可单独使用;与NVIDIA EGX搭配使用时,可为各类边缘用例开启新的可能。此外,迁移学习还可让各团队根据特定需求微调这些预训练模型。
NVIDIA NGC软件中心为边缘节点提供了经NVIDIA调优、测试和优化的各类软件,包括AI和数据科学软件。用户还可通过NGC访问预训练的第三方模型和支持Kubernetes的Helm Chart,从而轻松部署功能强大的软件或构建定制解决方案。
总之,NVIDIA依托全面的产品组合和丰富的生态系统,持续赋能电信运营商在边缘AI方面的业务创新。
在“依托5G服务实现边缘发展”白皮书中,我们探讨了移动运营商如何开发生态系统和部署基础设施,以便使他们从提供新的边缘计算服务中受益。
“使用边缘AI重新打造电信服务”白皮书则介绍了电信运营商如何利用边缘AI功能推动下一阶段的数字化转型工作。
扫描下方二维码,查看两个白皮书的完整内容。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。