AI+的发展,正在重塑我们对未来的想象。算力联接作为AI+应用的基础设施,所面临的传输任务日益复杂,这对云中心及边缘联接能力也提出了更高要求。在浪潮网络2024新品发布暨合作伙伴大会上,浪潮网络重磅发布了从产品、到方案、到服务的全线升级成果,旨在以不断强化的云中心网络、边缘网络、及融合方案能力,推动AI技术与网络联接的融合创新,为AI+应用打造高效智能的动力引擎。
同时,深度聚焦大模型训练与推理场景需求,浪潮网络发布了“元脉™全栈AI网络方案”。该方案由智算网络自动化平台、AI计算网、存储网、管理网四部分组成,而32/64/128口400G高性能云中心交换机CN9408H 、CN9500-64D、CN9500-128D、以及自动化管控分析平台ICE等新品也在发布之列。其中,自动化管控分析平台ICE,能够降低AI集群部署时间近50%,同时基于无损以太网技术可节约网络成本25%。
此外,浪潮网络还发布了新一代正交CLOS架构交换机——CN12800系列,采用可编程芯片方案,满足AI+应用场景下的多元化需求。并集成绿色节能技术,可降低板卡功耗50%,进一步丰富了浪潮网络云中心产品技术能力。
好文章,需要你的鼓励
这篇研究论文介绍了"Speechless",一种创新方法,可以在不使用实际语音数据的情况下训练语音指令模型,特别适用于越南语等低资源语言。研究团队通过将文本指令转换为语义表示,绕过了对高质量文本转语音(TTS)系统的依赖。该方法分三个阶段:首先训练量化器将语音转为语义标记;然后训练Speechless模型将文本转为这些标记;最后用生成的合成数据微调大型语言模型。实验表明,该方法在越南语ASR任务中表现出色,为低资源语言的语音助手开发提供了经济高效的解决方案。
《Transformer Copilot》论文提出了一种革命性的大语言模型微调框架,通过系统记录和利用模型训练过程中的"错误日志"来提升推理性能。研究团队受人类学习者记录和反思错误的启发,设计了一个"副驾驶"模型来辅助原始"驾驶员"模型,通过学习错误模式并在推理时校正输出。这一方法在12个基准测试上使模型性能提升高达34.5%,同时保持计算开销最小,展现了强大的可扩展性和可迁移性,为大语言模型的优化提供了全新思路。
德克萨斯大学Austin分校的研究团队提出了RIPT-VLA,一种创新的视觉-语言-动作模型后训练范式。该方法通过让AI模型与环境互动并仅接收简单的成功/失败反馈来学习,无需复杂的奖励函数或价值模型。实验证明,RIPT-VLA能显著提升现有模型性能,在轻量级QueST模型上平均提升21.2%,将大型OpenVLA-OFT模型推至97.5%的前所未有成功率。最令人惊叹的是,仅用一个示范样本,它就能将几乎不可用的模型在15次迭代内从4%提升至97%的成功率,展现出卓越的数据效率和适应能力。
北京大学与华为诺亚方舟实验室研究团队共同开发了TIME基准,这是首个专为评估大语言模型在真实世界场景中的时间推理能力而设计的多层级基准。该研究提出了三个层级的时间推理框架,包含11个细粒度任务,并构建了涵盖38,522个问答对的数据集,针对知识密集型信息、快速变化的事件动态和社交互动中的复杂时间依赖性三大现实挑战。实验结果表明,即使是先进模型在构建时间线和理解复杂时间关系方面仍面临显著挑战,而测试时扩展技术可明显提升时间逻辑推理能力。