Nvidia 公司正在通过即将推出的 Project DIGITS 让其最强大的图形处理单元变得人人可及。这款"个人 AI 超级计算机"由即将面世的 Nvidia GB10 Grace Blackwell 超级芯片驱动。
这款 AI 超级计算机于今天晚些时候在拉斯维加斯举行的 CES 消费电子展上发布。Project DIGITS 计划于 5 月推出,将为用户提供 1 petaflop 的人工智能计算性能,使研究人员、数据科学家和学生能够在自己的办公桌上获得通常只有大型企业才能使用的性能。它将支持先进大语言模型的原型设计、训练和微调,以及推理,使任何人都能够开发出可以媲美 ChatGPT 等应用程序功能的人工智能系统。
Nvidia 即将推出的 GB10 超级芯片是一款系统级芯片,由其最先进的 GPU——Nvidia Grace Blackwell 驱动。它具备运行大规模 AI 项目所需的所有支持组件,包括数十个 CUDA 核心和第五代 Tensor 核心,这些核心通过公司的芯片间互连技术 NVLink 与同样高性能的 Nvidia Grace 中央处理器相连。
据 Nvidia 称,GB10 超级芯片使 Project DIGITS 超级计算机能够通过标准笔记本电脑或 PC 为任何人提供巨大的 AI 计算资源。每台机器将提供 128 GB 的统一、一致内存和高达 4 TB 的 NVMe 存储。这足以运行一个拥有 2000 亿参数的大语言模型,这意味着用户将能够构建和试验超越 OpenAI 的 GPT-3 模型(拥有 1750 亿参数)能力的大语言模型。
对于需要更强大性能的用户,可以使用 Nvidia 的 ConnectX 网络技术将两台 Project DIGITS AI 超级计算机连接在一起,以支持多达 4050 亿参数的模型。
Nvidia 联合创始人兼首席执行官黄仁勋 (如图,手持 GB10 超级芯片和 AI 超级计算机) 在 CES 主题演讲中表示,Project DIGITS 的目标是让先进 AI 开发工具更容易获得,使每个人都能参与构建未来。他解释说,目标是为数百万开发者提供负担得起的 Grace Blackwell 超级芯片。
不过,可能仍有数百万开发者被排除在外,因为 Project DIGITS 机器的起价为 3,000 美元,并不能真正称得上"便宜"。但黄仁勋似乎认为会有许多 AI 开发者愿意支付这样的价格。
黄仁勋说:"在每个数据科学家、AI 研究人员和学生的办公桌上放置一台 AI 超级计算机,将使他们能够参与并塑造 AI 时代。"
开发者们将能够在 Project DIGITS 上创建、微调和测试他们的模型,然后将它们部署到 Nvidia DGX Cloud 平台、加速云实例或自己的本地数据中心基础设施上。
为了帮助使用 Project DIGITS 的开发者,公司还为他们提供了一个广泛的 AI 开发工具库,包括软件开发套件、框架和预构建的 AI 模型,这些都可以在 Nvidia 开发者门户的 Nvidia NGC 目录中找到。
此外,公司还提供了一些"AI 蓝图",以及免费访问其 NIM 微服务的权限,这些都可以在同一开发者门户中找到。
图片:Nvidia/直播
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。