至顶网服务器频道 12月06日 新闻消息:这家以GPU为核心业务的芯片制造商今天更新了其GPU云,旨在支持日常桌面应用。现在,运行该公司消费级泰坦图形加速器的设备已经能够享受到此前专供企业平台的深度学习功能。
NVIDIA副总裁兼企业系统总经理Jim McHugh在一份声明中指出,“这实际上只是实现该软件的开放访问。我们的目标是将其真正带入普罗大众。”
GPU云提供一整套AI开发套件,且专门针对NVIDIA芯片进行了优化。其具体阵容包括预先打包的高人气开源深度学习引擎,例如谷歌公司的TensorFlow框架、Facebook公司打造的Caffe 2平台等等。每款工具都与NVIDIA提供的各类软件组件捆绑在一起,以帮助开发人员充分芯片资源支撑AI项目。
这些套件当中还包含负责执行数据可视化的解决方案。以图形形式探索信息内容的能力对于工程及科学用例而言非常重要,而这也正是推动GPU销售情况的一大助力。
NVIDIA方面表示,其软件包组合的预配置设计将能够显著降低AI开发环境配置工作当中所涉及的大量手动操作环节。捆绑软件以软件容器形式交付,这意味着企业客户能够在多种不同类型的基础设施之上对其进行部署。
NVIDIA同时指出,这套方案还具备额外的可移植性优势。具体来讲,当需要更多计算资源时,开发人员能够立足自有桌面系统对AI模型进行原型设计,并轻松将代码推送至企业的后端环境当中。这样的能力有效解决了将深度学习模型由一种基础设施移植至另一种基础设施时,经常带来的种种技术挑战。
事实上,NVIDIA的GPU云现在已经能够与采用泰坦显卡的普通台式机协同工作,这将使得更多开发者能够利用其强大功能。该芯片制造商也有意促进人工智能模型的构建,特别是考虑到当前运行的人工智能模型中有很大一部分依靠其图形芯片进行驱动。
McHugh解释称,“大多数开发人员的工作都以自己的台式机作为起点。如今,研究人员、学术人员甚至是业余爱好者都能够获得同样的能力。”
新的桌面兼容性机制还引入了对两套新型深度学习框架的支持能力。首先是中国搜索巨头百度公司去年发布的PaddlePaddle引擎,其允许开发人员利用远低于其它同类方案的代码量实现模型构建。另一套则为MXNet的1.0版本——即由Amazon.com旗下云事业部所支持的AI框架。
好文章,需要你的鼓励
企业谈AI基础设施时,注意力往往首先集中在模型、GPU和算力集群上。但当大模型应用走向规模化推理,一个瓶颈开始浮现:算力采购完成,并不意味着Token能够被稳定、低成本、可控地交付出去。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。