近日,NVIDIA宣布NVIDIA GPU Cloud(NGC)AI容器注册已正式上线,可为全球AI开发人员提供服务。
只需短短几步,NGC即可帮助开发人员免费访问完备易用、经全面优化的深度学习软件堆栈,从而开始深度学习开发。
Amazon Elastic Compute Cloud(Amazon EC2)P3实例刚刚宣布全面部署NVIDIA V100 GPU,该实例的用户现在可即刻获取此基于云计算的服务。NVIDIA计划不久将向其他云平台提供该支持服务。
完成NGC帐户的注册之后,开发人员便可下载并优化各类深度学习框架的集成化软件堆栈、NVIDIA资料库和CUDA运行时版本——这些软件堆栈均可持续更新,并能流畅运行于云端或NVIDIA DGX系统。
NVIDIA副总裁兼企业系统部总经理Jim McHugh表示:“NVIDIA GPU Cloud正在为迅速壮大的全球用户普及AI技术。NGC将开发人员从复杂的集成流程中解放出来,使其能够迅速打造具备AI变革性力量的高级神经网络。”
想要使用NGC容器注册以开始深度学习研究的开发人员可遵循以下三个步骤:
在 www.nvidia.com/ngcsignup 注册免费的NGC帐户。
在云服务提供商平台运行经优化的NVIDIA图像。
从NGC中提取容器并启用。
NGC注册的几大优势包括:
即时访问应用范围最广的GPU加速框架:这些容器化软件包括NVCaffe、Caffe2、Microsoft Cognitive Toolkit(CNTK)、DIGITS、MXNet、PyTorch、TensorFlow、Theano和Torch,以及用于应用程序开发的CUDA。
卓越的性能:NGC注册经NVIDIA调优、测试、认证,可提供卓越性能,运行于云端时,能使开发人员获得出色的NVIDIA GPU性能。
预集成:易用的容器便于用户立即开展深度学习,降低时耗,并避免需手动进行的高难度软件集成。
持续更新:NGC容器注册提供的容器得益于NVIDIA的不断研发,可确保每个深度学习框架经过调优后,均能在最新NVIDIA GPU上实现最快的训练速度。NVIDIA工程师会持续优化资料库、驱动程序和容器,确保每月更新一次。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
KAIST AI团队通过深入分析视频生成AI的内部机制,发现了负责交互理解的关键层,并开发出MATRIX框架来专门优化这些层。该技术通过语义定位对齐和语义传播对齐两个组件,显著提升了AI对"谁对谁做了什么"的理解能力,在交互准确性上提升约30%,为AI视频生成的实用化应用奠定了重要基础。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
乔治亚理工学院和微软研究团队提出了NorMuon优化器,通过结合Muon的正交化技术与神经元级自适应学习率,在1.1B参数模型上实现了21.74%的训练效率提升。该方法同时保持了Muon的内存优势,相比Adam节省约50%内存使用量,并开发了高效的FSDP2分布式实现,为大规模AI模型训练提供了实用的优化方案。