至顶网服务器频道 12月06日 新闻消息:这家以GPU为核心业务的芯片制造商今天更新了其GPU云,旨在支持日常桌面应用。现在,运行该公司消费级泰坦图形加速器的设备已经能够享受到此前专供企业平台的深度学习功能。
NVIDIA副总裁兼企业系统总经理Jim McHugh在一份声明中指出,“这实际上只是实现该软件的开放访问。我们的目标是将其真正带入普罗大众。”
GPU云提供一整套AI开发套件,且专门针对NVIDIA芯片进行了优化。其具体阵容包括预先打包的高人气开源深度学习引擎,例如谷歌公司的TensorFlow框架、Facebook公司打造的Caffe 2平台等等。每款工具都与NVIDIA提供的各类软件组件捆绑在一起,以帮助开发人员充分芯片资源支撑AI项目。
这些套件当中还包含负责执行数据可视化的解决方案。以图形形式探索信息内容的能力对于工程及科学用例而言非常重要,而这也正是推动GPU销售情况的一大助力。
NVIDIA方面表示,其软件包组合的预配置设计将能够显著降低AI开发环境配置工作当中所涉及的大量手动操作环节。捆绑软件以软件容器形式交付,这意味着企业客户能够在多种不同类型的基础设施之上对其进行部署。
NVIDIA同时指出,这套方案还具备额外的可移植性优势。具体来讲,当需要更多计算资源时,开发人员能够立足自有桌面系统对AI模型进行原型设计,并轻松将代码推送至企业的后端环境当中。这样的能力有效解决了将深度学习模型由一种基础设施移植至另一种基础设施时,经常带来的种种技术挑战。
事实上,NVIDIA的GPU云现在已经能够与采用泰坦显卡的普通台式机协同工作,这将使得更多开发者能够利用其强大功能。该芯片制造商也有意促进人工智能模型的构建,特别是考虑到当前运行的人工智能模型中有很大一部分依靠其图形芯片进行驱动。
McHugh解释称,“大多数开发人员的工作都以自己的台式机作为起点。如今,研究人员、学术人员甚至是业余爱好者都能够获得同样的能力。”
新的桌面兼容性机制还引入了对两套新型深度学习框架的支持能力。首先是中国搜索巨头百度公司去年发布的PaddlePaddle引擎,其允许开发人员利用远低于其它同类方案的代码量实现模型构建。另一套则为MXNet的1.0版本——即由Amazon.com旗下云事业部所支持的AI框架。
好文章,需要你的鼓励
购买笔记本电脑时,用户现在需要了解Copilot+ PC、NPU和本地AI处理等新概念。搭载专用神经处理单元(NPU)的Copilot+ PC能提供至少40 TOPS的AI算力,支持实时字幕翻译、视频通话优化、AI图像编辑等功能,同时提升续航表现。戴尔最新产品线涵盖多种选择:Dell 14 Plus适合学生和通勤族,Dell 16 Plus适合多任务办公用户,XPS 14面向轻度创作者,XPS 16则以31小时超长续航和3.6磅轻薄机身成为内容创作者的旗舰之选。
上交大与爱丁堡大学提出InfoKV,将信息熵与注意力权重结合用于KV缓存压缩,让大模型在仅保留12.5%缓存的条件下实现接近甚至超越完整缓存的长推理性能。
圣安德鲁斯大学博士Henry Legg在《自然》杂志发表同行评审论文,对微软拓扑间隙协议(TGP)框架提出质疑,认为该框架在推断Majorana粒子量子态存在方面存在缺陷,且实验数据分析结论可能有误。微软此前宣称将于2029年实现可扩展量子计算机,并推出Majorana 2芯片。对此,微软坚持立场,表示已发表正式反驳并获《自然》收录,对研发路线图充满信心。
强化学习训练AI时悄悄留下的"进展优势"信号,可作为免费的步骤级评分器,无需额外训练,在多个智能体任务上超越专用奖励模型。