2024 年 6 月 2 日—NVIDIA 于宣布 NVIDIA Spectrum™-X 以太网网络平台已被业界广泛使用,并且将进一步加快新品发布计划。
率先采用 NVIDIA Spectrum-X 的 AI 云服务提供商有 CoreWeave、GMO Internet Group、Lambda、Scaleway、STPX Global 和 Yotta 等,他们的 AI 基础设施因此而获得了超强网络性能。另外,继戴尔科技、慧与、联想和超微等将 Spectrum-X 平台整合到他们的产品中后,又有多家 NVIDIA 合作伙伴也发布了基于 Spectrum 的产品,包括永擎电子(ASRock Rack)、华硕(ASUS)、技嘉科技(GIGABYTE)、鸿佰科技(Ingrasys)、英业达(Inventec)、和硕(Pegatron)、云达科技(QCT)、纬创(Wistron)和纬颖科技(Wiwynn)等。
NVIDIA 网络高级副总裁 Gilad Shainer 表示:“生成式 AI 等开创性技术的飞速发展,使每家企业都必须把网络创新放在第一位,从而获得竞争优势。NVIDIA Spectrum-X 是对以太网络的一次革命,让企业能够充分利用其 AI 基础设施的强大力量来改变其运营方式,甚至颠覆他们的行业。”
每年发布新产品
Spectrum-X 是全球首款专为 AI 打造的以太网网络平台,可将生成式 AI 网络性能较传统以太网网络平台提升 1.6 倍。为了满足业界对 Spectrum 性能的巨大需求,NVIDIA 创始人兼首席执行官黄仁勋在今天的 COMPUTEX 主题演讲中宣布,NVIDIA 计划每年都推出新的 Spectrum-X 产品,为客户提供更高的带宽、更多的端口、更加强大的软件功能集与可编程能力,不断提高领先的 AI 以太网网络性能。
Spectrum-X 配备 NVIDIA Spectrum SN5600 以太网交换机和 NVIDIA BlueField® -3 SuperNIC,是一个兼顾了生成式 AI 云所需高性能和各种云功能的端到端平台。该平台通过动态路由技术和拥塞控制技术实现了带宽的最大化和噪声隔离,为 AI 业务提供了最强性能的 AI 以太网网络,在同时运行数千个不同规模的 AI 作业时,能确保每个业务达到预期的性能。
与 NVIDIA BlueField-3 DPU 的结合,该平台可实现先进的多租户云、GPU 弹性计算和零信任安全。有了它,云服务提供商可以加快 AI 解决方案的开发和部署,获得更高的投资回报。
好文章,需要你的鼓励
斯坦福大学研究发现,主要用英语训练的大型语言模型竟能自发学会处理其他语言任务,无需明确教学。这种跨语言迁移能力随模型规模增大而显著提升,通过形成"通用语义空间"实现不同语言间的知识迁移。研究为降低多语言AI开发成本、支持资源稀缺语言提供了新途径,但仍面临性能不均衡、文化适应性等挑战。
随着谷歌搜索和亚马逊主页在电商领域影响力下降,AI助手如ChatGPT、Claude等成为消费者新的购物入口。品牌必须掌握生成式引擎优化(GEO)技术才能保持可见性。传统SEO策略已失效,AI系统更青睐结构化、问答式的高质量内容。研究显示,来自AI助手的流量转化率比其他渠道高9倍。品牌需要基于真实客户问题创建内容,采用结构化问答格式,并建立信任度,才能在这个新的电商秩序中脱颖而出。
阿姆斯特丹大学与Salesforce合作开发的奖励引导推测解码(RSD)技术,通过让小模型处理简单任务、大模型解决复杂问题的智能分工,在保持推理准确率的同时大幅提升计算效率。该技术在数学推理等任务中表现出色,计算量最多可减少75%,为AI应用的普及和成本降低提供了重要技术支撑。