目前,网络边缘的计算正在快速兴起。新的应用在边缘端发展出新的应用和使用场景。ABI的研究调查表明,预计到2024年设备端的AI推理功能将覆盖近60%的设备。
在此背景下,莱迪思半导体公司宣布Lattice sensAI 4.1版本正式发布。借助Lattice sensAI解决方案,OEM厂商可以开发智能、实时在线、具有低功耗和硬件加速AI功能的设备,这些设备还能现场进行升级,支持未来更多的AI算法。
莱迪思半导体亚太区资深市场开拓经理林国松告诉记者,Lattice sensAI 4.1针对客户端计算设备上的低功耗AI/机器学习(ML)应用路线图进行更新,具体包括实现感知和瞬时启动、电池寿命创新方案、增强隐私保护及专注的视频会议体验等。
提升客户端计算AI体验
客户端计算设备越来越需要快速响应和情景感知式的用户体验、高质量视频会议和协作式应用。莱迪思Nexus FPGA和sensAI解决方案集合是开发计算机视觉和传感器融合应用的理想平台,可以提升用户的参与和协作,保护用户隐私。
为什么选择FPGA实现网络边缘的AI?这是由于边缘端对功耗的敏感度和尺寸的大小都有比较严格的要求,而小封装和低功耗恰好是Lattice FPGA的特点。除此以外,Lattice FPGA还具有灵活的计算资源、安全性以及加速AI算法等特性。
林国松说,AI技术的快速创新对可编程逻辑器件——FPGA来说是有利的,FPGA可以配合AI技术从硬件和算法进行优化,随时为用户提供最佳体验。
Lattice sensAI 4.1的客户端计算AI体验参考设计包括如下内容:
林国松表示,下一代PC的趋势主要在智能和感知,强大的协作能力和轻薄的外形三个方面。Lattice sensAI的智能和感知AI解决方案提供了用户检测、注意力追踪、旁观者检测及面部取景功能。通过注意力追踪可以延长28%的电池寿命;旁观者检测可以保护用户隐私数据,而面部取景也是很多协作式会议所需的场景。
现在上面上多数的电脑都是以鼠标是否移动来判定用户是否在使用电脑的,如果鼠标长期未移动,电脑就会息屏。但Lattice sensAI的方案是通过更高端的用户检测来进行判定的,电脑可以感知是否有用户在电脑跟前,并支持瞬时启动功能。
除此以外,sensAI符合道德和合理的AI设计考量。电脑是能够看见人的脸的,但是电脑看见人的脸,就是后台APP能够使用。通过使用Lattice sensAI就可以不把图像传给电脑,直接在硬件上处理。也就是通过Lattice sensAI只会传出一个结果,而不会传输图像,这样的话用户的肖像权就不会受到侵害。
与使用CPU来驱动AI应用的设备相比,采用sensAI开发,并在莱迪思FPGA上运行的AI计算设备的电池使用时间延长了28%。sensAI还支持现场软件更新,从而保持AI算法的演进,还能让OEM厂商灵活选择不同的传感器和SoC技术来适配他们的设备。
“PC产业链非常复杂,需要不断完善和增强技术支持。为了能够让Lattice产品在PC上得到落实,我们需要和OEM终端生产厂商的合作,包括和其他芯片和传感器等厂商的合作,同时也需要其他操作系统和软件的支持,以保证客户在使用Lattice方案的时候能够快速实现方案。”林国松说,“莱迪思正与领先的AI生态系统伙伴合作,制定莱迪思客户端计算AI体验的发展路线图。Lattice在这方面也会不断地投入更多人员,以达到更快地提供方案的目标。”
整体AI解决方案
除了在客户端AI方面的应用,Lattice sensAI 4.1在性能和准确度方面的提升有助于拓展其目标应用,包括自动化工业系统中使用的高精度目标检测和瑕疵检测等应用。该解决方案集合拥有全新硬件平台,包括板载图像传感器、两个I2S麦克风和用于添加更多传感器的扩展连接器,助力基于语音和视觉的机器学习应用的开发。
sensAI还更新了神经网络编译器,Lattice提供定制化设计服务,通过标准的Caffe、TensorFlow、TensorFlowLite、Keras等常用AI网络培训完之后,再通过Lattice提供的神经网络编译器,编译成相对应的可执行指令,这些指令最终会由Lattice的芯片所调取使用。
sensAI支持Lattice sensAI Studio,这是一款基于GUI的工具,拥有AI模型库,经过配置和训练可适用于各类主流应用场景。sensAI Studio现支持AutoML功能,能根据应用和数据集目标来创建机器学习模块。
林国松表示,Lattice收到了很多关于配置机器学习培训环境的反馈,用户在这里是会遇到一些问题,主要是由于这些培训环境的应用场景中应用软件更新非常快,软件和软件之间的兼容性就很难解决。为了解决这样的问题,Lattice特别推出了Lattice sensAI Studio。
此外,Lattice专门提供了PROPEL软件,开发者可以对于整个内部结果的控制能够进行类似于C代码的控制,而不是使用比较难以上手的FPGA的开发代码。
林国松表示,Lattice sensAI Studio所做的事情更多是偏向于人工智能培训所需要的内容。而Propel更多做的是偏向于C代码的开发,在使用上会更加亲切。“Lattice作为低功耗FPGA的领先供应商,我们提供的都是开发软件的语言开发环境,所以Propel开发可以简化这样的语言开发环境的复杂度,加快客户使用的熟悉程度。”
一些基于Mobilenet机器学习推理训练平台的模型专为最新的Nexus系列产品——Lattice CertusPro-NX进行了优化。sensAI还兼容其他广泛使用的机器学习平台,包括最新版本的Caffe、Keras、TensorFlow和TensorFlow Lite。
“Lattice sensAI在Lattice整个解决方案系列里面是重要的一环,除了这个之外,Lattice本身还有其他的解决方案,例如Sentry是安全保护的方案,AutoMate是工业控制的方案,Lattice还在不断推出新方案。明年上半年会推出针对5G的新方案。”林国松最后说。
好文章,需要你的鼓励
传统数据工程面临数据质量差、治理不善等挑战,成为AI项目的最大障碍。多智能体AI系统通过协作方式正在彻底改变数据准备、治理和应用模式。Google Cloud基于Gemini大语言模型构建协作生态系统,让不同智能体专门负责数据工程、科学、治理和分析等任务。系统通过分层架构理解组织环境,自主学习历史工作流程,能够预防问题并自动处理重复性任务,大幅提升效率。
中科大团队开发出LongAnimation系统,解决了长动画自动上色中的色彩一致性难题。该系统采用动态全局-局部记忆机制,能够为平均500帧的动画进行稳定上色,性能比现有方法提升35-58%。核心创新包括SketchDiT特征提取器、智能记忆模块和色彩优化机制,可大幅提升动画制作效率。
微软推出Copilot调优功能,让企业通过低代码工具利用自动化微调技术训练企业数据。与基于公开数据的通用AI模型不同,企业需要理解内部数据和流程的专业化模型。Gartner预测专业化GenAI模型市场将在2026年翻倍至25亿美元。这些模型通常基于开源模型构建,部署为小语言模型,提供更好的成本控制和数据安全性,同时更易符合欧盟AI法案要求。
南开大学团队开发出DepthAnything-AC模型,解决了现有AI距离估算系统在恶劣天气和复杂光照条件下性能下降的问题。通过创新的扰动一致性训练框架和空间距离约束机制,该模型仅用54万张图片就实现了在雨雪、雾霾、夜晚等复杂环境下的稳定距离判断,同时保持正常条件下的优秀性能,为自动驾驶和机器人导航等应用提供了重要技术支撑。