10月26日,以“万象智算”为主题的2022全球分布式云大会在上海站成功举办。大会集结了分布式云计算及细分领域的领袖企业和专家大咖,共同助推云计算向智能计算升级,促进数网协同、数云协同、云边协同、绿色智能的多层次算力设施体系建设。
九州云高级技术总监黄舒泉受邀出席论坛发表题为《5G MEC边缘计算发展的现状、挑战和未来》的精彩演讲,并在圆桌环节与多位技术大咖、嘉宾一起围绕边缘侧应用部署的全新探索和未来展望展开讨论和交流。
黄舒泉从三大边缘交付模式分析出发,深度剖析边缘网关、5G MEC边缘云和CDN云边缘的优势和挑战,并通过对比三种模式的能力和场景,提出了三种模式各自的问题和解决方案,每一种边缘计算的模式都适用于不同的场景,因此在选择边缘计算时,要将应用场景、计算的位置以及侧重点结合进行选择。同时分析了5G MEC边缘云和CDN云边缘国内外发展趋势和两者之间相互渗透发展的博弈,指出CDN云边缘和5G MEC边缘云厂商之间的攻守格局,有相互延伸、交错竞争的趋势。发展的核心在于运营商“5G带边(MEC)”抓手的拒守和自身拓展,和互联网厂商 “5G入边(CDN)”的渴求。
黄舒泉认为,对于边缘云的应用,国外厂商提供的体验与国内如阿里云或运营商等不太相同:国外只提供一些实例,没有提供非常丰富的界面,因为国外IT动手能力较强,可以提供丰富的SDK进行访问;而国内提供的更多是图形化操作,而在操作和功能上会更加受限,若要更丰富的操作,仍需要所有生态一同努力,开放更多接口来满足国内日益丰富的应用开发。此外,像国外的公有云厂商已开始通过开发自己的应用切入5G MEC的边缘,如亚马逊宣布以预览版的形式推出“AWS Private 5G”,国内虽也有相关研究,但相比之下,国外公有云进行得更为激进。
最后,黄舒泉阐述了5G MEC边缘云产业链合围和行业融合,并以OpenV2X开源项目为例分享了九州云在车路协同领域的探索和创新。黄舒泉介绍道,在5G终端模组不断成熟、不断降价的情况下,无人驾驶已逐步走向落地。九州云同运营商一起积极探索5G MEC在无人驾驶行业的融合,并发起OpenV2X开源项目,希望通过OpenV2X开源项目为车路协同技术的发展带来更多可能,加速推进车路协同的落地。
目前OpenV2X开源项目更多关注路侧数据的整合,项目范围涵盖路侧数据的数据融合,路侧数据的识别和预警算法,RSU发送的结构化数据处理,路侧摄像头、雷达设备的原始信息处理,5G MEC模式下的云边协同等,实现路侧边缘云的车路协同应用。
随着边缘云能力得到普遍认可,越来越多的应用开始在边缘部署,从基本加速、安全,到算网融合、视频云、边缘云未来也将在深度数字化进程中发挥更加重要的作用。作为中国最早一批从事“开放云边基础架构技术开发和服务”的专业公司,九州云早在2017年就开始在边缘计算领域展开相关布局,建立了完整的“云+边”生态体系和解决方案。未来,九州云将依托自身开放的技术体系、深厚的技术实力以及成熟的解决方案,一如既往地与生态合作伙伴紧密合作,积极推动边缘技术的发展,加速5G MEC在行业的落地,为行业算力水平持续、显著提升贡献力量。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。