Nvidia 公司正在通过即将推出的 Project DIGITS 让其最强大的图形处理单元变得人人可及。这款"个人 AI 超级计算机"由即将面世的 Nvidia GB10 Grace Blackwell 超级芯片驱动。
这款 AI 超级计算机于今天晚些时候在拉斯维加斯举行的 CES 消费电子展上发布。Project DIGITS 计划于 5 月推出,将为用户提供 1 petaflop 的人工智能计算性能,使研究人员、数据科学家和学生能够在自己的办公桌上获得通常只有大型企业才能使用的性能。它将支持先进大语言模型的原型设计、训练和微调,以及推理,使任何人都能够开发出可以媲美 ChatGPT 等应用程序功能的人工智能系统。
Nvidia 即将推出的 GB10 超级芯片是一款系统级芯片,由其最先进的 GPU——Nvidia Grace Blackwell 驱动。它具备运行大规模 AI 项目所需的所有支持组件,包括数十个 CUDA 核心和第五代 Tensor 核心,这些核心通过公司的芯片间互连技术 NVLink 与同样高性能的 Nvidia Grace 中央处理器相连。
据 Nvidia 称,GB10 超级芯片使 Project DIGITS 超级计算机能够通过标准笔记本电脑或 PC 为任何人提供巨大的 AI 计算资源。每台机器将提供 128 GB 的统一、一致内存和高达 4 TB 的 NVMe 存储。这足以运行一个拥有 2000 亿参数的大语言模型,这意味着用户将能够构建和试验超越 OpenAI 的 GPT-3 模型(拥有 1750 亿参数)能力的大语言模型。
对于需要更强大性能的用户,可以使用 Nvidia 的 ConnectX 网络技术将两台 Project DIGITS AI 超级计算机连接在一起,以支持多达 4050 亿参数的模型。
Nvidia 联合创始人兼首席执行官黄仁勋 (如图,手持 GB10 超级芯片和 AI 超级计算机) 在 CES 主题演讲中表示,Project DIGITS 的目标是让先进 AI 开发工具更容易获得,使每个人都能参与构建未来。他解释说,目标是为数百万开发者提供负担得起的 Grace Blackwell 超级芯片。
不过,可能仍有数百万开发者被排除在外,因为 Project DIGITS 机器的起价为 3,000 美元,并不能真正称得上"便宜"。但黄仁勋似乎认为会有许多 AI 开发者愿意支付这样的价格。
黄仁勋说:"在每个数据科学家、AI 研究人员和学生的办公桌上放置一台 AI 超级计算机,将使他们能够参与并塑造 AI 时代。"
开发者们将能够在 Project DIGITS 上创建、微调和测试他们的模型,然后将它们部署到 Nvidia DGX Cloud 平台、加速云实例或自己的本地数据中心基础设施上。
为了帮助使用 Project DIGITS 的开发者,公司还为他们提供了一个广泛的 AI 开发工具库,包括软件开发套件、框架和预构建的 AI 模型,这些都可以在 Nvidia 开发者门户的 Nvidia NGC 目录中找到。
此外,公司还提供了一些"AI 蓝图",以及免费访问其 NIM 微服务的权限,这些都可以在同一开发者门户中找到。
图片:Nvidia/直播
好文章,需要你的鼓励
Mirantis 推出开源平台 k0rdent,旨在简化企业 Kubernetes 集群管理。该平台提供统一界面,支持创建内部开发者平台,可管理云端、本地和边缘的 Kubernetes 集群。k0rdent 由集群管理器、状态管理器和可观察性工具三大组件构成,具有可扩展性,支持多种基础设施。
DevAI Solutions Inc. 获得 600 万美元种子轮融资,由 Emergence Capital 领投。该公司由前思科高管创立,开发了一个名为网络智能引擎的软件平台,利用 AI 代理自动化 IT 管理任务,声称可将某些 IT 工单解决时间缩短 40% 至 70%。DevAI 计划利用这笔资金支持产品开发并扩大用户群。
医疗专业人士对人工智能在制药行业的潜力持乐观态度。他们认为AI有望重塑研究、治疗和临床护理,提高诊断准确性,加速药物开发。但同时也强调了确保AI技术符合伦理、有效实施并为患者带来实际价值的重要性。医疗专业人士的观点对于AI技术在医疗领域的成功应用至关重要。
AWS 第四季度收入同比增长 19%,达到 288 亿美元,全年收入增长 19% 至 1076 亿美元。公司将增长归因于企业扩大公共云使用和 AI 需求激增。AWS 预计将在未来 12 个月投资约 1000 亿美元用于基础设施建设,以支持不断增长的云计算和 AI 工作负载需求。