随着人工智能研究与应用热潮持续高涨,在全球AI巨头及学术界的推动下,各类深度学习框架不断涌现。目前流行的框架包括TensorFlow, PyTorch, Keras, Caffe, MxNet等。其中Facebook推出的PyTorch自2017年初开源以来,很快受到AI研究人员的青睐,已成为GitHub上增长速度第二快的开源项目,在过去的一年里,贡献者增加了2.8倍。根据UC伯克利RISELab团队对知名电子出版服务arXiv.org上所发布论文的统计,PyTorch被提及的数量在过去一年中增速高达194%,超越Keras和Caffe,直逼第一名TensorFlow。8月28日,在北京举行的2019人工智能计算大会AICC上,来自Facebook的专家陆瀛海博士将分享Facebook深度学习发展与PyTorch创新报告。
PyTorch是Torch的Python版本。Torch诞生于2002年,因支持动态定义计算图,使用起来比Tensorflow更为灵活方便,但Torch的开发语言很小众,限制了它的使用。PyTorch继承了Torch的灵活特性,又使用流行的Python作为开发语言,所以一经推出就广受欢迎。
除了上述优势,PyTorch的设计非常简洁、直观,其源码只有TensorFlow的十分之一左右,易于阅读与理解。并且PyTorch的灵活性不以速度为代价,界面用户友好,让用户尽可能地专注于实现自己的想法,不需要对框架本身考虑太多。这些特征使得PyTorch成为深度学习入门、快速实验的理想选择。
此外,Facebook为PyTorch社区提供了有力的支持,使PyTorch获得了持续开发更新。PyTorch 1.0稳定版在去年NeurIPS大会发布,增加了一系列强大的新功能,大有赶超TensorFlow之势。深度学习三巨头之一、Facebook首席AI科学家Yann Lecun曾表示,Facebook为PyTorch投入了巨大的工程力量来训练产品系统,绝非仅仅是一项爱好。PyTorch是一个开源项目,并非Facebook独享的项目。
PyTorch有哪些新动态?Facebook是如何使用PyTorch的,在深度学习方面又有哪些新进展?这些都是PyTorch用户关心的问题。8月28日2019人工智能计算大会(AICC 2019)主论坛上,Facebook AI基础架构专家陆瀛海博士将带来“Facebook深度学习发展与PyTorch创新”主题演讲。陆瀛海博士是Facebook人工智能架构团队的资深工程师,主要负责运用软件和硬件加速方法对AI工作负载进行性能优化,对PyTorch有深入研究与理解。在演讲中,陆瀛海博士将基于Facebook的研究与业务实践,讲解Facebook面向机器学习工作负载的方法,包括典型案例、挑战,以及所采用的AI框架和工具。
除了陆瀛海博士,AICC 2019主论坛还邀请到了来自中国工程院、英国皇家工程院、百度、中国新一代人工智能发展战略研究院、浪潮、Uber等机构的AI产学研顶尖专家学者解读AI产业趋势,分享前沿AI计算技术。大会还将发布《2019-2020中国AI计算力发展报告》,刷新AI计算力进展,为业界带来全新洞见。大会还将设置自动驾驶、产业AI创新、AI计算与基准测试、AI+视觉计算、AI+创投等主题论坛。大会同期举行的AI技术训练营,将邀请百度、平安科技、浪潮的资深AI工程师讲解最新AI计算技术与应用,帮助学员从零入门AI。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。