随着人工智能研究与应用热潮持续高涨,在全球AI巨头及学术界的推动下,各类深度学习框架不断涌现。目前流行的框架包括TensorFlow, PyTorch, Keras, Caffe, MxNet等。其中Facebook推出的PyTorch自2017年初开源以来,很快受到AI研究人员的青睐,已成为GitHub上增长速度第二快的开源项目,在过去的一年里,贡献者增加了2.8倍。根据UC伯克利RISELab团队对知名电子出版服务arXiv.org上所发布论文的统计,PyTorch被提及的数量在过去一年中增速高达194%,超越Keras和Caffe,直逼第一名TensorFlow。8月28日,在北京举行的2019人工智能计算大会AICC上,来自Facebook的专家陆瀛海博士将分享Facebook深度学习发展与PyTorch创新报告。
PyTorch是Torch的Python版本。Torch诞生于2002年,因支持动态定义计算图,使用起来比Tensorflow更为灵活方便,但Torch的开发语言很小众,限制了它的使用。PyTorch继承了Torch的灵活特性,又使用流行的Python作为开发语言,所以一经推出就广受欢迎。
除了上述优势,PyTorch的设计非常简洁、直观,其源码只有TensorFlow的十分之一左右,易于阅读与理解。并且PyTorch的灵活性不以速度为代价,界面用户友好,让用户尽可能地专注于实现自己的想法,不需要对框架本身考虑太多。这些特征使得PyTorch成为深度学习入门、快速实验的理想选择。
此外,Facebook为PyTorch社区提供了有力的支持,使PyTorch获得了持续开发更新。PyTorch 1.0稳定版在去年NeurIPS大会发布,增加了一系列强大的新功能,大有赶超TensorFlow之势。深度学习三巨头之一、Facebook首席AI科学家Yann Lecun曾表示,Facebook为PyTorch投入了巨大的工程力量来训练产品系统,绝非仅仅是一项爱好。PyTorch是一个开源项目,并非Facebook独享的项目。
PyTorch有哪些新动态?Facebook是如何使用PyTorch的,在深度学习方面又有哪些新进展?这些都是PyTorch用户关心的问题。8月28日2019人工智能计算大会(AICC 2019)主论坛上,Facebook AI基础架构专家陆瀛海博士将带来“Facebook深度学习发展与PyTorch创新”主题演讲。陆瀛海博士是Facebook人工智能架构团队的资深工程师,主要负责运用软件和硬件加速方法对AI工作负载进行性能优化,对PyTorch有深入研究与理解。在演讲中,陆瀛海博士将基于Facebook的研究与业务实践,讲解Facebook面向机器学习工作负载的方法,包括典型案例、挑战,以及所采用的AI框架和工具。
除了陆瀛海博士,AICC 2019主论坛还邀请到了来自中国工程院、英国皇家工程院、百度、中国新一代人工智能发展战略研究院、浪潮、Uber等机构的AI产学研顶尖专家学者解读AI产业趋势,分享前沿AI计算技术。大会还将发布《2019-2020中国AI计算力发展报告》,刷新AI计算力进展,为业界带来全新洞见。大会还将设置自动驾驶、产业AI创新、AI计算与基准测试、AI+视觉计算、AI+创投等主题论坛。大会同期举行的AI技术训练营,将邀请百度、平安科技、浪潮的资深AI工程师讲解最新AI计算技术与应用,帮助学员从零入门AI。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。