一提起高通,相信很多朋友首先想到就是他们专为智能手机移动平台打造的行业领先片上系统,外加端到端5G连接解决方案。但是,无论是在图像识别、语音输入、自然语言翻译还是推荐引擎等应用场景下,现代智能手机平台往往离不开强大的人工智能(AI)处理能力。因此,结合自身多年来为移动AI应用开发芯片及软件平台解决方案的经验,高通公司自然不会错失这个将AI加速器技术引入其他智能边缘设备乃至云端的好机会。如今,承载高通公司野心的Cloud AI 100推理加速器产品组合正式亮相。而作为全球最大的电子元件外包制造商与ODM制造商之一,富士康公司将在项目中成为高通的强劲助力。

高通Cloud AI 100加速器
富士康的工业互联网部门推出一套名为Gloria的全新AI机器视觉平台。该系统由高通公司的Cloud AI 100解决方案提供支持,可支持多达24个高清摄像头,适用于交通分析、安全监控与智能零售等视频分析场景。此外,越南AI安全巨头BKAV也宣布,他们将在自家AI View智能安全摄像头系统产品中引入富士康Gloria,这标志着BKAV将成为高通Cloud AI 100加速器的首家商业客户。
自去年年底以来,高通就与BKAV开展合作,帮助该公司充实智能摄像头系统功能。
可以想见,由此支持的图像识别与视频分析,将成为从智慧城市到安全保障、再到零售及医疗保健等场景下的重要支柱。

高通Cloud AI 100 M.2 模块与PCI Express附加卡
AI 100借鉴了高通公司原有骁龙移动平台Hexagon及Tensor Accelerator架构中的同类芯片引擎技术,自身包含多达16个AI内核(AIC),并可适应从15瓦至75瓦的功率区间。高通公司还指出,AI 100加速器上的AIC小芯片采用专有的调整互连进行连接。在物理设计上,该产品提供用于AI边缘应有的M.2口香糖式附加卡,以及面向云数据中心服务器的PCI Express Gen3/4加速卡。AI 100还拥有高达144 MB的高速片上SRAM,具体容量由内核数量决定;并可接入最高32 GB的卡上或系统内LPDDR4 DRAM。

在20瓦功率范围内标称的高通Cloud AI 100性能指标
在性能方面,高通对市面上其他竞争性解决方案的图像识别(ResNet-50模型性能)等应用性能提出大胆挑战。如上图所示,AI 100在20瓦配置下实现的推理吞吐量,明显优于70瓦配置下的英伟达T4 GPU。
富士康的Gloria AI Edge Box是一款完全定制的交钥匙商业设备,由高通Cloud AI 100提供支持。除了BKAV的AI View摄像头系统之外,这款平台还有着其他广泛且多样的适用范围。BKAV公司董事长兼CEO Nguyen Tu Quang指出,这套同时支持Sub-6与毫米波5G连接制式的“富士康工业互联网打造的Gloria本地AI Edge设备,使我们能够以极具竞争力的价格实现令人难以置信的低功耗、高性能。Gloria将支持我们加快AI技术在企业及政府中的应用,并彻底改变我们在智慧城市、智能建筑及农业等垂直领域内的拓展速度。”

高通Cloud AI 100软件工具与应用支持
当然,从富士康Gloria等边缘设备再到数据中心内的云AI处理需求,一切都将由高通的PCI Express加速卡支持,而这必然离不开强大且深入的软件工具与库作为基础。不用说,回顾多年以来在移动应用中支持AI开发、部署及支持的丰富经历,这自然也是高通的强项所在。在对TensorFlow、PyTorch及Caffe等原生AI框架进行有力支持之外,AI开发者能够专注于在自己选定的平台上进行编码,再结合高通Cloud AI 100的特性做出优化。

高通Cloud AI 100开发套件
AI已经成为当下风头一时无两的热门领域,而富士康Gloria这样的低功耗、高性能优化解决方案非常适合不断扩展的边缘设备生态系统。把握这一机会,将给两家企业带来可观的发展空间。富士康Gloria Ai Edge Box的工程样机将于今年晚些时候推出,预计于2022年第二季度投入商业应用。高通公司的AI 100开发套件(见上图)同样采用骁龙865平台主机处理器,配备支持5G连接的高通骁龙X55调制解调器-射频系统,目前已经开始客户交付以供开发调试。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。