万物互联时代,物联网的真正价值在于万物被越来越多地链接起来。海量数据的大爆发,需要利用大量机器学习和人工智能进行分析。

边缘计算的快速发展使得计算能力加速向边缘迁移,AI也逐步从中心节点向更贴近数据源和业务现场的边缘侧拓展。
当边缘智能与边缘计算和人工智能相结合,能有效地执行实时、小数据的处理,开展AI模型的推理,并将结果回传至云端,这种“云—边—端”协同的边缘智能架构,解决了目前AI应用中存在的海量数据处理、实时响应以及数据安全等问题,为AI在更多行业的应用奠定了基础。
根据德勤的分析,现在的AI计算已经在制造业、政府、零售、电信、医疗等不同应用场景下获得应用。很显然,边缘智能在拓展AI边界过程中发挥了重要作用,它能显著提升AI针对现场多样化业务场景的适应性,从而更好地支撑业务运营、为客户创造更多的价值。
软件赋能加速AI应用开发
如果在没有嵌入式处理器供应商提供的合适工具和软件的支持下,既想设计高能效的边缘人工智能(AI)系统,同时又要加快产品上市时间,这项工作难免会冗长乏味。
同时,企业也会面临的一系列挑战包括选择恰当的深度学习模型、针对性能和精度目标对模型进行训练和优化,以及学习使用在嵌入式边缘处理器上部署模型的专用工具。
在硬件层面,NVIDIA提出了Jetson产品家族,打造领先的边缘AI平台。同时,在软件层面,NVIDIA也推出了NVIDIA TAO工具包和Metropolis SDK,帮助企业加速创建、部署和扩展从边缘到云端的AI和IoT应用程序。
其中,TAO工具包是NVIDIA的人工智能模型适应平台,可简化和加速人工智能的创建。TAO平台汇集了加速模型适应过程所需的各种NVIDIA技术,包括迁移学习工具包或TLT。使用TAO工具套件训练的模型可以部署在包括Jetson在内的任何NVIDIA平台。
基于英伟达TAO的软件栈,中科创达提供了一个名为Model Farm的AI全流程应用平台,包括数据采集、数据清洗与标注、训练集的组织、训练实施、推理模型的部署与推理结果的二次验证,通过AIOPS的思路,实现数据闭环与业务场景的闭环,帮助客户快速打造场景化的AI行业解决方案。

2022年4月29日,中科创达高级产品与解决方案总监许春亮将分享“基于TAO的AI全流程应用系统”的主题分享,详细介绍如何基于Model Farm实现AI应用的快速开发。
NVIDIA Metropolis SDK提供一套端到端的应用开发工具和框架,从数据中心到边缘端,实现应用的高效开发和加速部署。结合NVIDIA推出的EGX企业平台,更好的实现云边协同及企业级稳定可靠的运行保障。

2022年4月27日,NVIDIA开发者发展经理崔晓楠将进行主题为《利用Metropolis SDK,快速开发和部署AI应用》的在线直播培训,届时您可以了解更多Metropolis SDK的开发技巧。
场景优先加速边缘AI落地
在智慧城市建设中,AI应用已经渗透到城市管理、交通、民生等诸多方面,随着智慧城市向精细化和社区化下沉,边缘智能在智慧交通、应急响应、城市安全等场景下的应用日渐增多。IDC的预测是,在未来几年,边缘智能支出在城市运维管理场景这一市场将保持25%的增速。
比如在智慧交通方面,亚利桑那州马里科帕县交通部(MCDOT)管理着全美第14大交通繁忙地区,交通拥堵问题严重。NVIDIA Metropolis合作伙伴NoTraffic通过基于人工智能的交通管理平台为他们提供了所需的答案,该平台优化流程基于实时性利用率和需求进行优化。
AI传感器单元安装在每个交叉口,通过机器视觉和雷达的融合提供道路用户检测和分类。这些传感器们利用NVIDIA Jetson边缘AI设备和NVIDIA Metropolis AI框架进行交叉路口的视频处理。NoTraffic的路边单元可以检测和分类道路使用者,包括轿车、公交车、卡车、自行车、行人,甚至在任何光线或天气条件下的应急车辆。
使用边缘计算对处理后的数据进行优化可以改善交通信号灯 , 节省带宽并降低延迟。城市工程师可以使用定制仪表盘进行数据查看与实时分析,从而实现如碰撞预测和定义特定道路用户优先级等功能。
与常见的边缘计算产品相比,NVIDIA Jetson嵌入式GPU产品线具有大算力、低功耗、低延时等优点,配合其云边一体的软件栈和工具链,使在云端训练的模型可以轻松地部署到边缘端,并实现动态的在线维护和更新。
作为NVIDIA Jetson Elite Partner,天准科技基于Jetson面向智慧交通车路协同场景研发了一套完整的端到端的解决方案,包括边缘计算MEC、智能感知相机、多传感器时空同步和融合感知解决方案等,广泛应用于全息路口、智慧高速、自主泊车等场景,在达到业内领先的精度和准确度水平的同时,实现业内最低的系统延时。

2022年4月28日,天准科技机器人事业部总经理刘军传将为您介绍基于Jetson和Deepstream实现端到端的智慧交通车路协同解决方案,内容精彩不容错过。
结语
随着网络架构和工具对嵌入式系统的不断适应和兼容,越来越多的人工智能应用也可以直接运行在边缘设备上,因此“边缘AI”成为业界的热点。
展望未来,边缘AI高速增长,AI与边缘计算融合加速落地,将推动我们步入“万物互联”的AI新时代。
好文章,需要你的鼓励
B&H近期对多款M5 Pro MacBook Pro机型推出300美元优惠。14英寸M5 Pro版本(48GB内存+1TB固态硬盘)现售价2299美元,较原价2599美元节省300美元,且该配置在亚马逊无法购买,折扣机会更为难得。此外,16英寸M5 Pro版本(64GB内存+1TB固态硬盘)同样享有300美元折扣。B&H在多款高配MacBook机型上的定价已低于亚马逊,是近期可找到的最优价格。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
Insta360推出GO 3S复古套装,将现代4K运动相机与胶片时代美学结合。套装核心仍是仅重39克的GO 3S,新增复古取景器、胶片风格滤镜、NFC定制外壳及可延长录制时长至76分钟的电池组。复古取景器模仿老式腰平相机设计,鼓励用户放慢节奏、专注构图。相机内置11种色彩预设及负片、正片等滤镜,同时保留FlowState防抖、4K拍摄及10米防水能力,面向热衷复古影像风格的年轻创作者。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。