万物互联时代,物联网的真正价值在于万物被越来越多地链接起来。海量数据的大爆发,需要利用大量机器学习和人工智能进行分析。

边缘计算的快速发展使得计算能力加速向边缘迁移,AI也逐步从中心节点向更贴近数据源和业务现场的边缘侧拓展。
当边缘智能与边缘计算和人工智能相结合,能有效地执行实时、小数据的处理,开展AI模型的推理,并将结果回传至云端,这种“云—边—端”协同的边缘智能架构,解决了目前AI应用中存在的海量数据处理、实时响应以及数据安全等问题,为AI在更多行业的应用奠定了基础。
根据德勤的分析,现在的AI计算已经在制造业、政府、零售、电信、医疗等不同应用场景下获得应用。很显然,边缘智能在拓展AI边界过程中发挥了重要作用,它能显著提升AI针对现场多样化业务场景的适应性,从而更好地支撑业务运营、为客户创造更多的价值。
软件赋能加速AI应用开发
如果在没有嵌入式处理器供应商提供的合适工具和软件的支持下,既想设计高能效的边缘人工智能(AI)系统,同时又要加快产品上市时间,这项工作难免会冗长乏味。
同时,企业也会面临的一系列挑战包括选择恰当的深度学习模型、针对性能和精度目标对模型进行训练和优化,以及学习使用在嵌入式边缘处理器上部署模型的专用工具。
在硬件层面,NVIDIA提出了Jetson产品家族,打造领先的边缘AI平台。同时,在软件层面,NVIDIA也推出了NVIDIA TAO工具包和Metropolis SDK,帮助企业加速创建、部署和扩展从边缘到云端的AI和IoT应用程序。
其中,TAO工具包是NVIDIA的人工智能模型适应平台,可简化和加速人工智能的创建。TAO平台汇集了加速模型适应过程所需的各种NVIDIA技术,包括迁移学习工具包或TLT。使用TAO工具套件训练的模型可以部署在包括Jetson在内的任何NVIDIA平台。
基于英伟达TAO的软件栈,中科创达提供了一个名为Model Farm的AI全流程应用平台,包括数据采集、数据清洗与标注、训练集的组织、训练实施、推理模型的部署与推理结果的二次验证,通过AIOPS的思路,实现数据闭环与业务场景的闭环,帮助客户快速打造场景化的AI行业解决方案。

2022年4月29日,中科创达高级产品与解决方案总监许春亮将分享“基于TAO的AI全流程应用系统”的主题分享,详细介绍如何基于Model Farm实现AI应用的快速开发。
NVIDIA Metropolis SDK提供一套端到端的应用开发工具和框架,从数据中心到边缘端,实现应用的高效开发和加速部署。结合NVIDIA推出的EGX企业平台,更好的实现云边协同及企业级稳定可靠的运行保障。

2022年4月27日,NVIDIA开发者发展经理崔晓楠将进行主题为《利用Metropolis SDK,快速开发和部署AI应用》的在线直播培训,届时您可以了解更多Metropolis SDK的开发技巧。
场景优先加速边缘AI落地
在智慧城市建设中,AI应用已经渗透到城市管理、交通、民生等诸多方面,随着智慧城市向精细化和社区化下沉,边缘智能在智慧交通、应急响应、城市安全等场景下的应用日渐增多。IDC的预测是,在未来几年,边缘智能支出在城市运维管理场景这一市场将保持25%的增速。
比如在智慧交通方面,亚利桑那州马里科帕县交通部(MCDOT)管理着全美第14大交通繁忙地区,交通拥堵问题严重。NVIDIA Metropolis合作伙伴NoTraffic通过基于人工智能的交通管理平台为他们提供了所需的答案,该平台优化流程基于实时性利用率和需求进行优化。
AI传感器单元安装在每个交叉口,通过机器视觉和雷达的融合提供道路用户检测和分类。这些传感器们利用NVIDIA Jetson边缘AI设备和NVIDIA Metropolis AI框架进行交叉路口的视频处理。NoTraffic的路边单元可以检测和分类道路使用者,包括轿车、公交车、卡车、自行车、行人,甚至在任何光线或天气条件下的应急车辆。
使用边缘计算对处理后的数据进行优化可以改善交通信号灯 , 节省带宽并降低延迟。城市工程师可以使用定制仪表盘进行数据查看与实时分析,从而实现如碰撞预测和定义特定道路用户优先级等功能。
与常见的边缘计算产品相比,NVIDIA Jetson嵌入式GPU产品线具有大算力、低功耗、低延时等优点,配合其云边一体的软件栈和工具链,使在云端训练的模型可以轻松地部署到边缘端,并实现动态的在线维护和更新。
作为NVIDIA Jetson Elite Partner,天准科技基于Jetson面向智慧交通车路协同场景研发了一套完整的端到端的解决方案,包括边缘计算MEC、智能感知相机、多传感器时空同步和融合感知解决方案等,广泛应用于全息路口、智慧高速、自主泊车等场景,在达到业内领先的精度和准确度水平的同时,实现业内最低的系统延时。

2022年4月28日,天准科技机器人事业部总经理刘军传将为您介绍基于Jetson和Deepstream实现端到端的智慧交通车路协同解决方案,内容精彩不容错过。
结语
随着网络架构和工具对嵌入式系统的不断适应和兼容,越来越多的人工智能应用也可以直接运行在边缘设备上,因此“边缘AI”成为业界的热点。
展望未来,边缘AI高速增长,AI与边缘计算融合加速落地,将推动我们步入“万物互联”的AI新时代。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。