近日,龙蜥社区成立Serverless SIG(服务器无感知计算 SIG)并举行了首届Meetup,活动由浪潮信息龙蜥联合实验室主办,来自浪潮信息、阿里云、Intel、高校、运营商的多位资深专家分享了不同场景下的Serverless案例实践,共同探讨了Serverless SIG的发展规划及共建方案。
在云计算领域,Serverless凭借更高的可扩展性、可用性以及成本优势,成为企业推行云计算的主要方向之一。为探索Serverless技术发展与开源软件方案的实现,持续优化Serverless系统的执行延迟、吞吐量与资源开销等,浪潮信息龙蜥联合实验室在龙蜥社区发起成立Serverless SIG,期望通过社区合作,打造标准的Serverless开源解决方案。
在首届Meetup上,浪潮信息副总裁、龙蜥社区理事张东在开场致辞中表示,Serverless是云计算基础设施的一个重要方向,龙蜥社区面向未来云及云原生的场景,对Serverless提供支持是十分有必要的。浪潮信息在操作系统方面进行了大量研发工作,希望能够在龙蜥的技术发展框架内,与伙伴共同把Serverless项目做好,从而促进操作系统产业发展。
Serverless 将引领云计算重大变革
如果把以“虚拟机租赁”为代表的IaaS看作云计算的第一次重大变革,那么 Serverless 便是云计算发展的第二次重大变革。
2022中国Serverless用户调查显示,八成用户已使用函数即服务,四成团队已投入生产,用于核心业务的比例达17.83%,业界领导厂商正在以前所未有的广度和深度推进Serverless。
在公有云厂商中,阿里云已经拥有超过20款Serverless产品,目前日平均调用量超过200亿次,未来核心产品将全部Serverless化。阿里云高级技术专家、龙蜥云原生SIG Owner王强介绍,阿里云在Serverless云产品底层方面开发了RunD、Nydus、LifseaOS等技术,并将这块技术和解决方案贡献到龙蜥社区,希望通过开源吸引更多的人加入到Serverless技术体系的构建中来,让Serverless可以成为普惠的技术为更多的企业和个人服务。
在Serverless的落地实践中,运营商也在进行积极探索。Serverless SIG Member温怀湘介绍,运营商依托函数计算平台,提供云原生基于事件触发、全托管的云计算能力,托管函数执行时按需自动分配计算资源,使业务可靠地运行。
Serverless计算范式以细粒度、无状态的函数作为资源调度与运行的基本单位,可以实现极致弹性和成本大幅降低,但对云计算的资源吞吐效率、框架扩展性以及云应用性能都提出了更高的需求。
Serverless SIG Owner赵来平指出,未来的云计算应用将依托于Serverless函数接口,实现原生的组装式开发能力。大规模高复杂的云计算基础设施将不仅能做到“对大众用户透明”,更将能做到“对应用开发者透明”。
安全与低时延问题待完善
与其他新的架构模式一样, Serverless还在不断完善过程中,其中很重要的两点是降低时延和安全与隐私。
当冷启动发生时,Serverless平台需要执行实例调度、镜像分发、实例创建、资源配置、运行环境初始化以及代码加载等一系列操作,这一过程引发的时延通常可达请求实际执行时间的数倍。
针对这些痛点,来自Intel的Serverless SIG Contributor郭迎春,分享了如何使用内存快照来提高冷启动性能的应用案例以及性能数据,同时介绍使用WebAssembly和硬件可信执行环境(TEE)来增强无服务器应用的安全性和隐私性,以及如何通过HTTPA协议来透明的实现安全鉴证。
此外,在越来越多应用上云的今天,支持RDMA(Remote Direct Memory Access)已经成为对云平台提出的一个高级和紧要的需求。RDMA是一种高性能、低延迟的网络技术,它可以实现数据在不同服务器之间的高速传输,最大程度上减少CPU调度和操作系统处理,并已广泛应用在高性能计算、大数据、机器学习、存储等领域。
RDMA技术的应用依赖于特定的网卡等硬件设备、特定的API等软件接口,要求云平台具备成熟可靠的软硬协同能力,在保障云上应用基本通信功能的基础上,提供高可用、功能完善的RDMA专用网络。
浪潮信息云计算架构师、Serverless SIG Contributor王玉东分享了K8S对RDMA应用场景的开发实践。K8S主流的RDMA支持方案包括Macvlan和SR-IOV两种,其中,Macvlan仅适用于RoCE Macvlan和基于TCP建链的IB等模式,且只能在Mellanox网卡上使用,具有一定的局限性。因此,通过采用SR-IOV方案,在InCloud OS平台容器服务中提供RDMA功能。
对于龙蜥社区 Serverless SIG未来的发展,浪潮信息云计算研发部总经理、龙蜥社区 Serverless SIG Owner亓开元表示,云计算的发展方向是软件定义、软硬协同、应用感知、智能赋能,随着Serverless技术的演进,要让更多的应用开发者了解到Serverless是以应用为导向、以系统设计为核心,通过应用感知实现服务器无感知,对业务应用开发有很大的帮助。龙蜥社区Serverless SIG 将促进Serverless系统软件栈的不断创新和应用,推动Serverless计算理论基础更加坚实、软硬协同和内生安全机制更加成熟、应用场景范式更加清晰、产业生态更加标准规范。
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。