在AI技术进步的推动下,机器人市场正在呈指数级增长。传感器技术和经济的进步创造了联网设备的繁荣,也被称为物联网。据预测,到2025年将达到1500亿台设备,到2030年将超过1万亿台设备,这为处于边缘的AI提供了巨大的机会。机器人技术和嵌入式计算正在改变制造业、医疗 、零售业、交通、智慧城市和其他重要的经济部门。
在此背景下,NVIDIA创建了不同技术规格的Jetson嵌入式计算平台,该平台为创建软件定义的自主机器而设计,根据算力、产品设计、外接传感器等需求,为各行业提供了低功耗高性能的AI解决方案。近日,NVIDIA发布NVIDIA Jetson AGX Orin,该产品是NVIDIA Jetson的最新一代产品。据悉,NVIDIA Jetson AGX Orin模块和开发者工具包将于2022年第一季度上市。
软硬件创新
2020年NVIDIA发布了Ampere架构,Jetson AGX Orin建立在NVIDIA Ampere架构之上,处理能力提升了6倍并保持了与前代机型Jetson AGX Xavier相同的外形尺寸和引脚兼容性。它每秒可进行200万亿次运算(TOPS),可与内置GPU的服务器相媲美,但尺寸却只有人的手掌那么大。
Jetson AGX Orin采用NVIDIA Ampere架构GPU和Arm Cortex-A78AE CPU以及新一代深度学习和视觉加速器。高速接口、更快的存储带宽和对多模态传感器的支持,为多个并行AI应用流水线输送数据。
除了硬件创新,全新Jetson计算机可以加速整个NVIDIA AI软件栈,使开发者能够部署最大、最复杂的模型以解决自然语言理解、3D感知、多传感器融合等领域的边缘AI和机器人技术挑战。
使用Jetson AGX Orin的客户可以运用NVIDIA CUDA-X加速计算栈、NVIDIA JetPack SDK和最新NVIDIA工具进行应用开发和优化,包括云原生开发工作流程。来自NVIDIA NGC目录的预训练模型已经过优化并且可以使用NVIDIA TAO工具套件和客户数据集进行微调。这减少了生产级AI的部署时间和成本,而云原生技术实现了产品整个生命周期内的无缝更新。
Jetson 嵌入式计算合作伙伴生态系统包含广泛的服务和产品,包括摄像头和其他多模传感器、载体板、硬件设计服务、AI和系统软件、开发工具和定制软件开发。
针对特定用例的软件框架包括用于机器人技术的NVIDIA Isaac Sim on Omniverse,NVIDIA DRIVE用于自动驾驶,NVIDIA Metropolis用于智慧城市。 最新的Isaac版本包括对机器人操作系统(ROS)开发人员社区的重要支持。 NVIDIA 还发布了用于合成数据生成和Isaac GEM的全新Omniverse Replicator,这些硬件加速软件包使ROS开发者更容易在Jetson平台上构建高性能AI机器人。
通过软硬件协同,Jetson AGX Orin使85万名Jetson开发者和6000多家在其基础上构建商业产品的公司能够创建和部署以前不可能实现的自主机器和边缘AI应用。
加速行业落地
全新Jetson平台带来了NVIDIA Ampere架构的性能和多功能性,使应用于从农业和制造业到医疗和智慧城市等诸多领域的自主移动机器人取得了更大的进步。
同时,Jetson平台配备了一套详尽的软件,可以方便快捷地开发智能城市、工厂、物联网、医疗保健、农业等领域的人工智能应用程序。
得益于广泛的生态系统合作伙伴,基于Jetson平台的人工智能解决方案在各种各样的用例和行业中的巨大成功和部署。
Jetson AGX Orin为NVIDIA Clara Holoscan提供动力,这是医疗行业的一个新计算平台,允许开发者构建软件定义的医疗设备,在边缘运行低延迟流媒体应用程序。CT扫描仪和重症监护病房摄像头等设备需要这样的处理能力,才能将数据从传感器传输到数据管道,从而实现AI决策支持。这允许开发人员创建AI微服务,在设备上运行低延迟流式应用程序,同时将更复杂的任务传递给数据中心。
DRIVE AGX Orin同样由Jetson AGX Orin等NVIDIA Ampere架构提供支持,是运输行业的首选平台。 它是新发布的NVIDIA DRIVE Concierge和DRIVE Chauffeur背后的先进处理器,这两个AI平台致力于通过AI助手重新定义车内乘客体验,并分别为安全的自动驾驶提供动力。 数十家全球汽车和卡车制造商、新能源汽车初创公司和机器人出租车公司正在将其高性能AI计算用于其下一代智能、软件定义的移动解决方案。
结语
作为Jetson AGX Xavier的接替者,Jetson AGX Orin在硬件架构层面进行了更新,同时得益于丰富的软件生态,Jetson平台能够在行业中加速落地,打开了边缘AI和自主机器的想象空间。
好文章,需要你的鼓励
Xbox 部门推出了名为 Muse 的生成式 AI 模型,旨在为游戏创造视觉效果和玩法。这一举措反映了微软全面拥抱 AI 技术的战略,尽管游戏开发者对 AI 持谨慎态度。Muse 不仅可能提高游戏开发效率,还有望实现老游戏的现代化改造,但其实际效果和对行业的影响仍有待观察。
Sonar收购AutoCodeRover,旨在通过自主AI代理增强其代码质量工具。这项收购将使Sonar客户能够自动化调试和问题修复等任务,让开发者将更多时间用于改进应用程序而非修复bug。AutoCodeRover的AI代理能够自主修复有问题的代码,将与Sonar的工具集成,提高开发效率并降低成本。
人工智能正在推动数据中心的变革。为满足 AI workload 的需求,数据中心面临前所未有的电力消耗增长、散热压力和设备重量挑战。应对这些挑战需要创新的解决方案,包括 AI 专用硬件、可再生能源、液冷技术等。同时,数据中心还需平衡监管压力和社区关切。未来数据中心的发展将决定 AI 技术能否实现其变革性潜力。