多年来,X86通用处理器的发展一直是推动数据中心领域发展的主要驱动力量,然而随着基于大数据、人工智能应用的广泛普及,使各行各业对计算力的需求呈现爆炸性增长的趋势,再加上摩尔定律的放缓与登纳德缩放比例定律的失效,意味着X86通用处理器性能的增量增长更难实现,成本也变得更高。
由此看来,由CPU来处理所有工作的传统架构,已经无法满足高算力、低功耗、低延时的处理需求;新的数据集和编程模型需要使用高度并行的专用工作负载加速器,作为X86通用处理器的补充与协同工作。
此外,国际权威分析机构Gartner在《Forecast Analysis: Data Center Workload Accelerators, Worldwide》分析中也指出:日益复杂的数据集需求加速了数据中心服务器中需要配备专用工作负载加速器芯片以补充通用服务器处理器的进展,预计到2023年该市场规模将超过43.8亿美元,复合年增长率超过33%。
基于此浪潮云海在不久前落幕的IPF2021上重磅推出了SmartFlow新一代云数据中心网络软硬一体化产品解决方案。
将专用算力的负载,例如将网络、存储等I/O密集负载卸载到智能加速卡处理,为虚拟机、容器、裸金属等计算资源加速;通过将分布式SDN系统构建在智能加速卡之上,为用户提供灵活可编程、高性能且成本更有优势的网络解决方案。
为云而生 全分布式加速内核直击痛点问题
总体来说SmartFlow智能云加速引擎实现了硬件加速的分布式SDN系统,解决了传统SDN方案架构僵硬、可编程能力弱、厂商锁定和成本高昂等一系列问题。
「优质的全分布式网络转发能力」具体来说主要采用SmartFlow构建分布式网络、分布式路由器、分布式网关等功能,其中网络资源可以被直接分配到本地,网络流量也可直接在本地完成转发,大大减小网络时延且不存在集中瓶颈点,同时结合强大的流量重定向功能极大提高了虚拟机、容器、裸金属等设备二、三层网络流量转发的灵活性。此外,SmartFlow还能对虚拟网络设备进行实时BFD检测,从而对网络资源智能感知、实时调度及分配,极大提升整个网络可靠性。
「面向用户价值的网络资源抽象能力」SmartFlow将智能加速卡抽象成分布式的网络资源,供虚拟机、容器、裸金属使用,实现了用户业务与物理设备解耦;并结合功能丰富的SmartFlow控制器将繁杂的网络设备配置转化为逻辑网络的构建,提升虚拟网络的灵活性和易用性。
「为极致安全而生的多粒度管控能力」SmartFlow构建的分布式防火墙、安全组等功能,为虚拟机、容器、裸金属等提供从端口到整个分布式网络多种颗粒度的安全管控能力。谈及原理,主要得益于分布式架构及异构算力加持,在不同的网络场景中能够根据控制粒度大小,智能选择管控策略并对性能几乎无影响,堪称强大。
兼容异构 智能加速引擎带来更多性能升级
浪潮云海技术团队表示,SmartFlow采用了全分布式架构可以做到让异构算力存在于智算中心的每个物理节点中,配合智能调度内核让云网络与云存储可以获得充沛的本地异构算力支持,达成资源本地申请即可本地获取,无需过多跨节点调度,极大优化了智算中心资源使用以及调度流程。
其过程主要通过SmartFlow加速卡和SmartFlow智能内核引入异构算力打破“CPU调度瓶颈”,同时为虚拟机、容器与裸金属提供统一的网络加速解决方案,灵活多变的加速模式以及开放的网络接入能力让云网络、云存储不再单纯依赖CPU算力。
此外该引擎还通过SmartFlow加速卡将网络流量从Open vSwitch卸载到SmartFlow加速网卡,推进对CPU算力极大需求的数据包进行封装、解封装、校验、加解密等操作并下沉到SmartFlow加速网卡。
在加速卡上直接完成上述操作后,再通过SmartFlow智能内核完成数据路径重构、数据包重组等,实现了数据报文端到端直接传送。另外在数据传输方面,使用了RDMA技术降低数据传输延时并提高存储性能,使智算中心云网络性能获得了8倍提升,云存储性能也提升了3倍以上。
灵活可控 网元编排融合充分释放算力价值
SmartFlow智能云加速引擎除了为智算中心提供丰富的SDN特性同时,还可以做到在二层网络和三层网络下实现高性能云主机流量引流,转发路径灵活、可控且支持的实时更新。
“通过此功能,云主机可以轻松实现与业界丰富的NFV网元应用的对接、部署及资源调度。与此同时凭借SmartFlow细粒度流控制能力,还能实现多个NFV网元设备灵活堆叠,将流量分散到多个网元进行处理,从而打破性能瓶颈,消除单点故障提升系统可用性。”研发团队表示。所以SmartFlow的上述特性决定了其天然具备极强的扩展性,通过智能引流与各大厂商的NFV网元对接,提供了更多全面、强大、灵活的网络功能。
具体来说在流量调度方面,可借助快速调整路由和转发规则的能力实现多个安全设备按需防护的服务链,进行流量的收集分析以及针对异常流量的清洗。
在安全策略方面,可以对接网元丰富的安全运营能力,如IPS、防火墙、WAF、VPN等,通过SDN和NFV深度融合,极大程度丰富了智算中心的网络高级功能,为生态繁荣奠定强大基础保障。
在存储方面,将存储资源池化给裸金属使用,实现裸金属兼具物理机高性能和虚拟机灵活性,解决传统裸金属部署流程冗长,故障恢复时间慢,存储资源缺乏弹性的问题。目前SmartFlow已经落地深圳某大学,为用户成功构建了25G/100G高带宽、低延时的分布式网络。
有报告显示到2023年,部署在数据中心的服务器中超过15%将配备工作负载加速器,远高于2018年的1%,浪潮云海紧密结合前沿技术发展趋势与市场需求,坚持创新引领,不断迭代产品。
最新出炉的SmartFlow能够以具有竞争性的成本优势为客户提供性能与SDN硬件交换机媲美、虚拟化资源端到端加速、灵活可编程的云数据中心SDN解决方案。
未来SmartFlow将致力于打造数据中心软硬一体化云网络解决方案,为虚拟机、容器和裸金属提供开放的智能加速网络服务,使用智能加速卡处理专用负载进一步释放算力供用户真正业务应用使用,为用户带来更大化的经济价值。
好文章,需要你的鼓励
Carma Technology 针对 Uber 提起专利侵权诉讼,称其侵犯了涉及拼车系统的五项专利。案情回溯至十年前,凸显专利保护对创新者的重要性,可能对 Uber 及其他公司带来巨大影响。
东京大学研究团队开发的WebChoreArena是一个全新的网页代理评估基准,它包含532个精心设计的任务,专注于测试AI代理处理繁琐、复杂网页任务的能力。研究结果显示,即使是最先进的语言模型(如Gemini 2.5 Pro)在这些挑战性任务上的表现也比常规任务降低了约14个百分点,证明了这一基准有效区分了不同模型的能力。WebChoreArena通过设计海量记忆、计算、长期记忆等类型的任务,为评估AI代理在实际应用场景中的表现提供了更严格的标准。
经过暂停战略调整,Automattic 宣布重返 WordPress 开发,包括核心、Gutenberg、Playground 等模块,计划今年推出 6.9 版本,并涉及与 WP Engine 的法律争端。
这项研究提出了一种名为LIFT的新型微调方法,通过在低秩近似后识别大语言模型中的主要权重进行稀疏微调。研究表明,仅更新5%的主要权重就能在推理任务上超越全参数微调,同时保持与LoRA相当的内存效率。LIFT在常识推理、算术推理等多项任务上表现优异,还能更好地平衡学习新知识与保留原有能力。这一方法揭示了大语言模型中关键参数的重要性,为资源高效的模型定制提供了新思路。