Nvidia近日与Ayar Labs签署了一项技术合作协议。Ayar Labs是一家开发光学芯片的初创公司,其芯片有望提高数据中心基础设施的速度和效率。
就该消息公布的几周之前,Nvidia刚刚为这家初创公司提供了1.3亿美元的融资资金,其他几家科技巨头也加入了这轮融资,包括英特尔的投资部门Intel Capital。自创立以来,Ayar Labs累计融资了1.947亿美元。
Nvidia将与Ayar Labs合作,开发基于Ayar Labs光学芯片技术的人工智能基础设施新产品,特别是,两家公司希望打造“由高带宽、低延迟和超低功耗光学互连接入技术实现的横向扩展架构”。
对很多企业AI使用场景来说,将芯片连接在一起是必不可少的。在互连技术的帮助下,企业客户可以将多个图形卡相互连接,并使用它们来运行AI软件,速度比使用单个处理器更快。
互连速度直接影响驱动AI硬件的性能。在AI环境中,数据在芯片之间传输的速度越快,执行的处理速度也就越快。
Ayar Labs开发了一种新的互连技术,速度要比现有产品快得多。通常,互连技术是以电的形式在互相连接的芯片之间传输数据,而Ayar Labs的技术是以光的形式传输数据,从而提高性能。
Ayar Labs在一款名为TeraPHY的模块中提供了这种互连技术,这种模块可以内置到图形卡等处理器中。据Ayar Labs称,单个TeraPHY模块每秒能够传输2 TB的数据,而且这种技术提供的带宽要比传统互连技术高出1000倍,功耗仅为传统互连的十分之一。
Nvidia公司数据中心产品首席平台架构师Rob Ober表示:“在过去十年中,Nvidia加速计算在AI领域实现了百万倍的加速。下一个百万级的飞跃将需要借助新的先进技术,如光学I/O,以满足未来人工智能和机器学习工作负载和系统架构对带宽、功率和规模的要求。”
两家厂商不仅计划在产品开发方面展开合作,还计划加速光学芯片技术的普及。人工智能基础设施市场只是Nvidia应用光学互连技术的几个潜在领域之一。Ayar Labs表示,TeraPHY模块有助于提高云数据中心和超级计算环境的性能,两者都是Nvidia关注的主要领域。
好文章,需要你的鼓励
AMD Radeon(TM) RX 9000 系列依托AI 加速为玩家带来极致游戏体验。
Inception Labs 于周四发布了 Mercury Coder,这是一种新的 AI 语言模型,利用扩散技术比传统模型更快地生成文本。与逐字生成文本的传统模型(如 ChatGPT)不同,基于扩散的模型(如 Mercury)能够同时生成完整的响应,并将其从最初的遮蔽状态逐步精炼为连贯的文本。
微软终于将其 AI 助手 Copilot 作为独立应用程序推出 macOS 版本。这款免费应用现已在 Mac App Store 上线,支持多种功能如文本翻译、问题解答、文档生成等。Copilot 采用 OpenAI 的 GPT-4 和 DALL-E 3 等模型,标志着微软在 AI 领域的重要布局。该应用要求 M1 或更新的 Mac 设备,以及 macOS 14 或更高版本。