一提起高通,相信很多朋友首先想到就是他们专为智能手机移动平台打造的行业领先片上系统,外加端到端5G连接解决方案。但是,无论是在图像识别、语音输入、自然语言翻译还是推荐引擎等应用场景下,现代智能手机平台往往离不开强大的人工智能(AI)处理能力。因此,结合自身多年来为移动AI应用开发芯片及软件平台解决方案的经验,高通公司自然不会错失这个将AI加速器技术引入其他智能边缘设备乃至云端的好机会。如今,承载高通公司野心的Cloud AI 100推理加速器产品组合正式亮相。而作为全球最大的电子元件外包制造商与ODM制造商之一,富士康公司将在项目中成为高通的强劲助力。

高通Cloud AI 100加速器
富士康的工业互联网部门推出一套名为Gloria的全新AI机器视觉平台。该系统由高通公司的Cloud AI 100解决方案提供支持,可支持多达24个高清摄像头,适用于交通分析、安全监控与智能零售等视频分析场景。此外,越南AI安全巨头BKAV也宣布,他们将在自家AI View智能安全摄像头系统产品中引入富士康Gloria,这标志着BKAV将成为高通Cloud AI 100加速器的首家商业客户。
自去年年底以来,高通就与BKAV开展合作,帮助该公司充实智能摄像头系统功能。
可以想见,由此支持的图像识别与视频分析,将成为从智慧城市到安全保障、再到零售及医疗保健等场景下的重要支柱。

高通Cloud AI 100 M.2 模块与PCI Express附加卡
AI 100借鉴了高通公司原有骁龙移动平台Hexagon及Tensor Accelerator架构中的同类芯片引擎技术,自身包含多达16个AI内核(AIC),并可适应从15瓦至75瓦的功率区间。高通公司还指出,AI 100加速器上的AIC小芯片采用专有的调整互连进行连接。在物理设计上,该产品提供用于AI边缘应有的M.2口香糖式附加卡,以及面向云数据中心服务器的PCI Express Gen3/4加速卡。AI 100还拥有高达144 MB的高速片上SRAM,具体容量由内核数量决定;并可接入最高32 GB的卡上或系统内LPDDR4 DRAM。

在20瓦功率范围内标称的高通Cloud AI 100性能指标
在性能方面,高通对市面上其他竞争性解决方案的图像识别(ResNet-50模型性能)等应用性能提出大胆挑战。如上图所示,AI 100在20瓦配置下实现的推理吞吐量,明显优于70瓦配置下的英伟达T4 GPU。
富士康的Gloria AI Edge Box是一款完全定制的交钥匙商业设备,由高通Cloud AI 100提供支持。除了BKAV的AI View摄像头系统之外,这款平台还有着其他广泛且多样的适用范围。BKAV公司董事长兼CEO Nguyen Tu Quang指出,这套同时支持Sub-6与毫米波5G连接制式的“富士康工业互联网打造的Gloria本地AI Edge设备,使我们能够以极具竞争力的价格实现令人难以置信的低功耗、高性能。Gloria将支持我们加快AI技术在企业及政府中的应用,并彻底改变我们在智慧城市、智能建筑及农业等垂直领域内的拓展速度。”

高通Cloud AI 100软件工具与应用支持
当然,从富士康Gloria等边缘设备再到数据中心内的云AI处理需求,一切都将由高通的PCI Express加速卡支持,而这必然离不开强大且深入的软件工具与库作为基础。不用说,回顾多年以来在移动应用中支持AI开发、部署及支持的丰富经历,这自然也是高通的强项所在。在对TensorFlow、PyTorch及Caffe等原生AI框架进行有力支持之外,AI开发者能够专注于在自己选定的平台上进行编码,再结合高通Cloud AI 100的特性做出优化。

高通Cloud AI 100开发套件
AI已经成为当下风头一时无两的热门领域,而富士康Gloria这样的低功耗、高性能优化解决方案非常适合不断扩展的边缘设备生态系统。把握这一机会,将给两家企业带来可观的发展空间。富士康Gloria Ai Edge Box的工程样机将于今年晚些时候推出,预计于2022年第二季度投入商业应用。高通公司的AI 100开发套件(见上图)同样采用骁龙865平台主机处理器,配备支持5G连接的高通骁龙X55调制解调器-射频系统,目前已经开始客户交付以供开发调试。
好文章,需要你的鼓励
随着员工自发使用生成式AI工具,CIO面临影子AI的挑战。报告显示43%的员工在个人设备上使用AI应用处理工作,25%在工作中使用未经批准的AI工具。专家建议通过六项策略管理影子AI:建立明确规则框架、持续监控和清单跟踪、加强数据保护和访问控制、明确风险承受度、营造透明信任文化、实施持续的角色化AI培训。目标是支持负责任的创新而非完全禁止。
NVIDIA研究团队开发的OmniVinci是一个突破性的多模态AI模型,能够同时理解视觉、听觉和文本信息。该模型仅使用0.2万亿训练样本就超越了使用1.2万亿样本的现有模型,在多模态理解测试中领先19.05分。OmniVinci采用三项核心技术实现感官信息协同,并在机器人导航、医疗诊断、体育分析等多个实际应用场景中展现出专业级能力,代表着AI向真正智能化发展的重要进步。
英国正式推出DaRe2THINK数字平台,旨在简化NHS全科医生参与临床试验的流程。该平台由伯明翰大学和MHRA临床实践研究数据链开发,能够安全传输GP诊所与NHS试验研究人员之间的健康数据,减少医生的管理负担。平台利用NHS现有健康信息,安全筛查来自450多家诊所的1300万患者记录,并使用移动消息系统保持试验对象参与度,为传统上无法参与的人群开辟了研究机会。
Salesforce研究团队发布BLIP3o-NEXT,这是一个创新的图像生成模型,采用自回归+扩散的双重架构设计。该模型首次成功将强化学习应用于图像生成,在多物体组合和文字渲染方面表现优异。尽管只有30亿参数,但在GenEval测试中获得0.91高分,超越多个大型竞争对手。研究团队承诺完全开源所有技术细节。