Nvidia已将9款新的支持GPU的超级计算容器添加到它的云服务中了。
Nvidia扩充了Nvidia GPU Cloud(NGC),现在包括35个容器,这一数量在去年发布时基础上翻了三番。
他们瞄准的是负责运行巨大的工作负载、使用机器学习处理数学运算以训练模型或运行模拟的核心工程师。开发人员可以在他们选择的框架中编写程序,然后将模型部署到共享集群上,这样他们的模型就可以运行得更快。
NCG还配备了适用于各种应用的不同软件包。“NGC上提供用于PGI编译器的容器将帮助开发人员构建面向多核CPU和Nvidia Tesla GPU的HPC应用。PGI编译器和工具支持使用OpenACC、OpenMP和CUDA Fortran并行编程来开发性能可移植的HPC应用,”Nvidia在一篇博客文章中这样解释道。
有些像CHROMA一样是用于优化数学和物理模型的,AMBER用于分子模拟,CANDLE用于癌症研究。显然有超过27000个用户注册到NGC的容器注册表。
“自11月的超级计算大会以来,NGC已经增加了9个新的HPC和可视化容器,包括CHROMA、CANDLE、PGI和VMD。除此之外,还有8个容器,包括NAMD、GROMACS以及去年超算大会上推出的ParaView。”
容器让开发人员不需要安装所有必需的不同库和后端程序来部署他们的模型。对于测试模型也很不错,因为研究人员可以在不同的系统上运行各种实验,并检查他们的模拟结果是否相同。
他们还使用不同的以GPU为驱动的工作站进行测试,例如Nvidia的DGX,以及其他云平台如AWS、Google Cloud和Oracle Cloud Infrastructure。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
延世大学研究团队通过分析AI推理过程中的信息密度模式,发现成功的AI推理遵循特定规律:局部信息分布平稳但全局可以不均匀。这一发现颠覆了传统的均匀信息密度假说在AI领域的应用,为构建更可靠的AI推理系统提供了新思路,在数学竞赛等高难度任务中显著提升了AI的推理准确率。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
蒙特利尔大学团队发现让AI"分段思考"的革命性方法Delethink,通过模仿人类推理模式将长篇思考分解为固定长度块,仅保留关键信息摘要。1.5B小模型击败传统大模型,训练成本降至四分之一,计算复杂度从平方级降为线性级,能处理十万词汇超长推理,为高效AI推理开辟新道路。