Scaleway 是法国的一家拥有高性能基础设施的云服务提供商,创立于 1999 年,拥有 80+ 云产品及服务,为全球 25,000+ 客户提供云服务,客户包括 Mistral AI、Aternos、Hugging Face、Golem.ai 等。 Scaleway 提供一站式的云服务,以开发创新解决方案并帮助用户从零开始构建和扩展 AI 项目,目前 Scaleway 正在构建区域 AI 云,提供 GPU 基础设施,用于大规模的 AI 模型训练、推理及部署。
客户挑战
云 AI 工作负载需求正以前所未有的速度增长,同时生成式 AI 应用也在激增。为满足客户部署生成式 AI 应用程序、训练基础 AI 大模型的需求,云服务提供商面临巨大挑战,需要构建 AI 云,使用加速计算技术和高性能网络来支持 AI 业务。Scaleway 的核心需求包括:
对于分布式 AI 训练任务,单个任务的训练时间由最慢的计算节点的运行时间决定,这使得尾部延迟至关重要。AI 云需要一个高吞吐、低延迟、低抖动、易扩展的高性能网络,来确保 GPU 间快速、高效的通信,尤其是在大规模部署的场景下。
在多个 AI 任务同时运行的多租户环境中,性能隔离对于保护一个租户的 AI 任务免受其他租户业务的影响是必不可少的。由此提出了对多租户多任务场景下性能隔离的需求。
对于复杂的 AI 云环境,需要专门适用于 AI 网络的监控管理工具,提供细粒度的网络可视化功能、同时具备网络监控和故障定位能力。
为实现 AI 云数据中心的高效、快速部署,需要强大的网络仿真及自动化平台。
随着云上用户、数据、应用的快速增长,网络安全威胁不容忽视,需要提供私有的、安全的零信任基础设施,保障用户的业务安全。
解决方案
Scaleway 采用了 NVIDIA 的Hopper GPU 和Spectrum-X 网络平台应对以上挑战。
Scaleway 将 HGX Hopper GPU 服务器加入其 GPU 集群阵容中,以覆盖广泛的计算需求,利用 GPU 的速度和效率加速 AI 分布式工作负载。
对于 Scale-Out AI 网络,Scaleway 采用了基于 BlueField-3 SuperNIC 和 Spectrum SN5600 交换机构建的 Spectrum-X 网络平台。 NVIDIA 的 Spectrum-X 网络平台是全球首个专为 AI 构建的以太网端到端解决方案,与传统以太网相比,其生成式 AI 训练的网络通信效率提高了 1.6 倍。同时 Spectrum-X 部署将利用以下网络软件堆栈:
NVIDIA Air 用于 AI 网络仿真,NVIDIA Air 是一个云托管的数据中心网络仿真平台,其行为类似于真实世界的生产环境。使用 NVIDIA Air 创建数据中心的数字孪生,可以验证网络配置、网络功能以及自动化部署代码,提升数据中心的部署效率。
NetQ 用于 AI 网络监控,通过高频遥测技术监控 AI 工作负载,NetQ 提供有关数据中心运行状况的数据和统计信息,关联配置和运行状态,并跟踪状态变化。基于遥测信息,NetQ 提供动态路由监控,RoCE 流量计数器,交换机队列直方图等功能,以识别和应对网络微突发、拥塞场景,方便网络故障定位。
Cumulus Linux 用于软件驱动的数据中心网络自动化,Cumulus Linux 是创新的开放网络操作系统,支持 BGP/OSPF 路由协议,以太网虚拟专用网络 EVPN,虚拟路由和转发。
DOCA SDK 和库用于增强 BlueField-3 SuperNIC 性能,DOCA SDK 提供行业标准的开放 API 和软件框架,包括针对 RDMA、网络、安全、存储、数据路径加速的 SDK,帮助开发者快速创建软件定义、SuperNIC 加速的服务。
使用的NVIDIA产品
硬件:
o NVIDIA HGX Hopper 服务器
o NVIDIA Spectrum-4 SN5600 以太网交换机
o NVIDIA BlueField-3 B3140H SuperNICs
软件:
o Cumulus Linux 网络操作系统
o NetQ 监控管理平台
o NVIDIA Air 仿真平台
o DOCA SDK
实际效果
采用 NVIDIA 的整体解决方案后,极大地提升了 AI 计算能力,缩短了 AI 训练时间,同时加速了 AI 解决方案的开发、部署和上市时间,有效提高了投资回报率。
Scaleway 客户可以从几个 GPU 扩展到几千个 GPU,以适应任何 AI 用例
Spectrum-X 提供多租户、多任务的 AI 环境所需的高性能和安全性, 借助动态路由、拥塞控制、全局共享缓冲区等多种机制,实现了多任务的性能隔离。
NetQ 提供对 AI 网络健康状况的深度可视性,具有 RoCE 流量计数器、事件和WJH(What Just Happened)警报等丰富的仪表板,实现 AI 网络可视化、故障排除和验证功能。
NVIDIA Air 和 Cumulus Linux 支持 API 原生网络环境,该环境可集成到 DevOps 工具链中,实现了第 0 天、第 1 天 和第 2 天操作的无缝衔接。
NVIDIA 网络高级副总裁 Gilad Shainer 表示:“生成式 AI 等开创性技术的飞速发展,使每家企业都必须把网络创新放在第一位,从而获得竞争优势。NVIDIA Spectrum-X 是对以太网络的一次革命,让企业能够充分利用其 AI 基础设施的强大力量来改变其运营方式,甚至颠覆他们的行业。”
Scaleway 首席执行官 Damien Lucas 表示:“NVIDIA Spectrum-X 网络技术为我们的 ‘ GPU 集群按需服务’ 提供了更快的网络连接和更高效的 GPU 通信,使我们的客户能够加速开发和部署他们的 AI 解决方案。”
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。