TensorFlow与Keras加持,基于NVIDIA Jetson Nano的新应用助力智慧城市应用下网络和云资源的最佳整理利用。
今天的智慧城市应用主要依赖于对大量摄像头视频数据的分析。由此,对视频中最相关的事件的识别与推理能力对于构建高效、可扩展的应用至关重要。
在最近结束的边缘AI挑战赛中,SmellslikeML团队提出了一个基于NVIDIA Jetson Nano的应用,并以此斩获智能视频分析和智慧城市类别二等奖。
该应用的核心是在Jetson Nano上使用TensorFlow和Keras进行模型学习和运行的自动编码器模型。模型通过学习每个即将出现的视频帧的场景上下文实现标记异常事件的能力开发。该小组建议使用DeepStream SDK处理这些异常事件,从而做出进一步推理,例如识别和追踪场景中的对象。
在有连续活动的场景中(例如繁忙的道路),这种追踪并标记异常图像的方法优于简单的运动检测算法。在下面的视频中,该应用正确标记了异常事件,此过程中的图像馈送也减少了100倍。
模型正确识别可以进一步分析的异常事件
根据该团队的建议,这一模型可以应用于视频分析管道中,从而实现智慧城市应用中对网络和云资源的最佳整理利用。
新一代自主机器嵌入式系统NVIDIA Jetson将现代AI的力量带入数百万边缘设备,开启嵌入式物联网应用程序新领域。专区有最新活动、产品、资源和学习内容,带您感知AI新维度。访问地址:http://www.zhiding.cn/special/jetson
好文章,需要你的鼓励
这项研究提出了ORV(占用中心机器人视频生成)框架,利用4D语义占用作为中间表示来生成高质量的机器人操作视频。与传统方法相比,ORV能提供更精确的语义和几何指导,实现更高的时间一致性和控制精度。该框架还支持多视角视频生成(ORV-MV)和模拟到真实的转换(ORV-S2R),有效弥合了虚拟与现实之间的差距。实验结果表明,ORV在多个数据集上的表现始终优于现有方法,为机器人学习和模拟提供了强大工具。
这项研究由Writer公司团队开发的"反思、重试、奖励"机制,通过强化学习教导大型语言模型生成更有效的自我反思内容。当模型回答错误时,它会生成反思并二次尝试,若成功则奖励反思过程。实验表明,该方法在函数调用和数学方程解题上带来显著提升,最高分别改善18.1%和34.7%。令人惊讶的是,经训练的小模型甚至超越了同家族10倍大的模型,且几乎不存在灾难性遗忘问题。这种自我改进技术为资源受限环境下的AI应用开辟了新方向。
FuseLIP是一项突破性研究,提出了通过早期融合离散标记实现多模态嵌入的新方法。与传统CLIP模型使用独立编码器不同,FuseLIP采用单一编码器同时处理图像和文本标记,实现了更自然的模态交互。研究证明,这种早期融合方法在多种多模态任务上表现优异,特别是在需要理解图像结构而非仅语义内容的任务上。研究还开发了创新的数据集和评估任务,为多模态嵌入研究提供了宝贵资源。
ByteDance与浙江大学合作开发的MERIT是首个专为多语言多条件语义检索设计的基准数据集,包含320,000条跨5种语言的查询和135,000个产品。研究发现现有模型在处理多条件查询时过度关注全局语义而忽略特定条件元素,为此提出CORAL框架,通过嵌入重建和对比学习相结合的方式,使检索性能提升45.9%。这项研究不仅识别了现有方法的关键局限性,还为多条件交错语义检索领域的未来研究奠定了基础。