近日,NVIDIA宣布NVIDIA GPU Cloud(NGC)AI容器注册已正式上线,可为全球AI开发人员提供服务。
只需短短几步,NGC即可帮助开发人员免费访问完备易用、经全面优化的深度学习软件堆栈,从而开始深度学习开发。
Amazon Elastic Compute Cloud(Amazon EC2)P3实例刚刚宣布全面部署NVIDIA V100 GPU,该实例的用户现在可即刻获取此基于云计算的服务。NVIDIA计划不久将向其他云平台提供该支持服务。
完成NGC帐户的注册之后,开发人员便可下载并优化各类深度学习框架的集成化软件堆栈、NVIDIA资料库和CUDA运行时版本——这些软件堆栈均可持续更新,并能流畅运行于云端或NVIDIA DGX系统。
NVIDIA副总裁兼企业系统部总经理Jim McHugh表示:“NVIDIA GPU Cloud正在为迅速壮大的全球用户普及AI技术。NGC将开发人员从复杂的集成流程中解放出来,使其能够迅速打造具备AI变革性力量的高级神经网络。”
想要使用NGC容器注册以开始深度学习研究的开发人员可遵循以下三个步骤:
在 www.nvidia.com/ngcsignup 注册免费的NGC帐户。
在云服务提供商平台运行经优化的NVIDIA图像。
从NGC中提取容器并启用。
NGC注册的几大优势包括:
即时访问应用范围最广的GPU加速框架:这些容器化软件包括NVCaffe、Caffe2、Microsoft Cognitive Toolkit(CNTK)、DIGITS、MXNet、PyTorch、TensorFlow、Theano和Torch,以及用于应用程序开发的CUDA。
卓越的性能:NGC注册经NVIDIA调优、测试、认证,可提供卓越性能,运行于云端时,能使开发人员获得出色的NVIDIA GPU性能。
预集成:易用的容器便于用户立即开展深度学习,降低时耗,并避免需手动进行的高难度软件集成。
持续更新:NGC容器注册提供的容器得益于NVIDIA的不断研发,可确保每个深度学习框架经过调优后,均能在最新NVIDIA GPU上实现最快的训练速度。NVIDIA工程师会持续优化资料库、驱动程序和容器,确保每月更新一次。
好文章,需要你的鼓励
zip2zip是一项创新技术,通过引入动态自适应词汇表,让大语言模型在推理时能够自动组合常用词组,显著提高处理效率。由EPFL等机构研究团队开发的这一方法,基于LZW压缩算法,允许模型即时创建和使用"超级tokens",将输入和输出序列长度减少20-60%,大幅提升推理速度。实验表明,现有模型只需10个GPU小时的微调即可适配此框架,在保持基本性能的同时显著降低计算成本和响应时间,特别适用于专业领域和多语言场景。
时尚零售巨头维多利亚的秘密因安全事件导致网站和线上订单服务中断,已立即启动应急响应、邀请第三方专家协助恢复运营,实体店仍正常营业。
这项研究创新性地利用大语言模型(LLM)代替人类标注者,创建了PARADEHATE数据集,用于仇恨言论的无毒化转换。研究团队首先验证LLM在无毒化任务中表现可与人类媲美,随后构建了包含8000多对仇恨/非仇恨文本的平行数据集。评估显示,在PARADEHATE上微调的模型如BART在风格准确性、内容保留和流畅性方面表现优异,证明LLM生成的数据可作为人工标注的高效替代方案,为创建更安全、更具包容性的在线环境提供了新途径。