康普北亚区技术总监吴健
随着带宽、容量和较低延迟的需求不断增长,推动了向更快网络速度的迁移。因此每一年,对于大规模云数据中心的适应和生存能力都是一场考验。当前,100G光学器件正大量涌入市场,预计明年也会迎来400G。尽管如此,数据流量仍在持续增加,数据中心面临的压力将有增无减。
数据中心的能力由服务器、交换机和连接因素决定,三者相互制约与平衡,同时也推动着彼此向着更快、更低成本的方向发展。多年来,交换技术一直是主要的驱动力。随着博通StrataXGS Tomahawk 3的推出,数据中心管理人员现在可以将交换和路由速度提高到12.8Tbps,并将每端口成本降低75%。那现在的限制因素是CPU吗?其实不然。今年年初,NVIDIA推出了用于服务器的全新Ampere架构芯片。事实证明,游戏领域使用的处理器非常适合处理人工智能(AI)和机器学习(ML)所需的训练和推理。那么限制因素是什么呢?
随着交换机和服务器向着支持400G和800G的方向不断发展,保持网络平衡的压力就转移到了物理层。2017年批准的IEEE 802.3bs标准为200G和400G以太网铺平了道路。有关800G及以上的带宽评估工作,IEEE最近才刚完成。考虑到开发和采用新标准所需的时间,进度可能已有所滞后。随着行业致力于向着400G到800G,再到1.2 Tb乃至更高带宽跃进,布线和光学OEM也一直在奋力前行。以下,是我们看到的一些发展趋势。
首先,服务器的配置和布线架构正在不断升级。聚合交换机从机架的顶部(TOR)正向中间行(MOR)转移,并通过综合布线配线架连接到交换机端口。如今,若数据中心需要迁移到更高的速度,只需简单地替换服务器跳线,而无需替换原本更长的交换机到交换机的主干链路。采用这种结构化的布线设计,也就无需在交换机和服务器之间安装并管理192条有源光缆(Active Optical Cable)。
可插拔光模块的全新设计为网络设计师提供了更多可选的工具,其中包括支持400G的QSFP-DD和OSFP。两种外形上均具有8倍通道,光学器件可提供8个50G PAM4。在32端口配置中部署时,QSFP-DD和OSFP模块可在1RU设备中实现12.8 Tbps。OSFP和QSFP-DD尺寸支持当前的400G光模块和下一代800G光模块。使用800G光纤,交换机将达到每1U 25.6Tbps。
还有更多的连接器选项可支持400G短距离MMF(多模光纤)模块。400GBASE-SR8标准下,可使用24芯MPO连接器(适用于传统应用)或单行16芯MPO连接器。单行MPO16是早期云规模服务器连接的首选。另一种选择是400GBASE-SR4.2,它使用具有双向信令的单行MPO12,非常适用于交换机到交换机的连接。IEEE802.3 400GbaseSR4.2是首个在MMF上利用双向信令的IEEE标准,它引入了OM5多模光纤。OM5光纤扩展了对BiDi等应用的多波长支持,使网络设计人员能够实现比OM4多50%的传输距离。
业界预测,未来两年内将需要用到800G光学器件。800G可插拔MSA已于2019年9月面世,可助力开发新应用,包括适用于60至100米跨度的低成本8x100G SR多模模块。其目标是提供一种早期低成本800G SR8解决方案,使数据中心能够支持低成本服务器应用。可插拔式800G将支持更高的交换机基数,以及更低的单机架服务器数量。
同时,IEEE 802.3db工作组正在研究针对100G/波长的低成本VCSEL解决方案,并证明了在OM4 MMF上达到100米的可行性。如果成功,这项工作就能将服务器连接从机架内DAC转换为MOR/EOR高密度交换机。它将提供低成本的光学连接,并能够为传统MMF提供更长期的应用支持。
市场瞬息万变,未来发展的速度还会更快。好消息是,从标准机构到行业,已经取得了前景可期的重大进展,有望助力数据中心升级到400G和800G。但是,消除技术障碍也只是克服了一半的挑战,另一半的挑战在于把握时机。每两到三年就是一个更新周期,新技术也在加速面世,运营商很难准确判断合适的过渡时间,一旦发生误判,成本就会更高。
业界在不断发展。像康普这样的技术合作伙伴能够帮助您应对不断变化的形势,并为您提供最符合您长期利益的决策建议。
好文章,需要你的鼓励
这项研究由浙江大学、复旦大学等机构联合完成,提出了ReVisual-R1模型,通过创新的三阶段训练方法显著提升了多模态大语言模型的推理能力。研究发现优化的纯文本冷启动训练、解决强化学习中的梯度停滞问题、以及分阶段训练策略是关键因素。ReVisual-R1在各类推理基准测试中超越了现有开源模型,甚至在某些任务上超过了商业模型,为多模态推理研究开辟了新途径。
这项研究提出了一种名为"批评式微调"的创新方法,证明仅使用一个问题的批评数据就能显著提升大语言模型的推理能力。研究团队对Qwen和Llama系列模型进行实验,发现这种方法在数学和逻辑推理任务上都取得了显著提升,平均提高15-16个百分点,而且只需要强化学习方法1/20的计算资源。这种简单高效的方法为释放预训练模型的潜在推理能力提供了新途径。
新加坡国立大学研究团队开发了名为IEAP的图像编辑框架,它通过将复杂编辑指令分解为简单原子操作序列解决了当前AI图像编辑的核心难题。研究发现当前模型在处理不改变图像布局的简单编辑时表现出色,但在需要改变图像结构时效果差。IEAP框架定义了五种基本操作,并利用思维链推理技术智能分解用户指令,实验证明其性能显著超越现有方法,尤其在处理复杂多步骤编辑时。
Character AI的研究者开发出TalkingMachines系统,通过自回归扩散模型实现实时音频驱动视频生成。研究将预训练视频模型转变为能进行FaceTime风格对话的虚拟形象系统。核心创新包括:将18B参数的图像到视频DiT模型改造为音频驱动系统、通过蒸馏实现无错误累积的无限长视频生成、优化工程设计降低延迟。系统可让多种风格的虚拟角色与人进行自然对话,嘴型与语音同步,为实时数字人交互技术开辟了新可能。