在AI技术进步的推动下,机器人市场正在呈指数级增长。传感器技术和经济的进步创造了联网设备的繁荣,也被称为物联网。据预测,到2025年将达到1500亿台设备,到2030年将超过1万亿台设备,这为处于边缘的AI提供了巨大的机会。机器人技术和嵌入式计算正在改变制造业、医疗 、零售业、交通、智慧城市和其他重要的经济部门。
在此背景下,NVIDIA创建了不同技术规格的Jetson嵌入式计算平台,该平台为创建软件定义的自主机器而设计,根据算力、产品设计、外接传感器等需求,为各行业提供了低功耗高性能的AI解决方案。近日,NVIDIA发布NVIDIA Jetson AGX Orin,该产品是NVIDIA Jetson的最新一代产品。据悉,NVIDIA Jetson AGX Orin模块和开发者工具包将于2022年第一季度上市。

软硬件创新
2020年NVIDIA发布了Ampere架构,Jetson AGX Orin建立在NVIDIA Ampere架构之上,处理能力提升了6倍并保持了与前代机型Jetson AGX Xavier相同的外形尺寸和引脚兼容性。它每秒可进行200万亿次运算(TOPS),可与内置GPU的服务器相媲美,但尺寸却只有人的手掌那么大。
Jetson AGX Orin采用NVIDIA Ampere架构GPU和Arm Cortex-A78AE CPU以及新一代深度学习和视觉加速器。高速接口、更快的存储带宽和对多模态传感器的支持,为多个并行AI应用流水线输送数据。

除了硬件创新,全新Jetson计算机可以加速整个NVIDIA AI软件栈,使开发者能够部署最大、最复杂的模型以解决自然语言理解、3D感知、多传感器融合等领域的边缘AI和机器人技术挑战。
使用Jetson AGX Orin的客户可以运用NVIDIA CUDA-X加速计算栈、NVIDIA JetPack SDK和最新NVIDIA工具进行应用开发和优化,包括云原生开发工作流程。来自NVIDIA NGC目录的预训练模型已经过优化并且可以使用NVIDIA TAO工具套件和客户数据集进行微调。这减少了生产级AI的部署时间和成本,而云原生技术实现了产品整个生命周期内的无缝更新。
Jetson 嵌入式计算合作伙伴生态系统包含广泛的服务和产品,包括摄像头和其他多模传感器、载体板、硬件设计服务、AI和系统软件、开发工具和定制软件开发。
针对特定用例的软件框架包括用于机器人技术的NVIDIA Isaac Sim on Omniverse,NVIDIA DRIVE用于自动驾驶,NVIDIA Metropolis用于智慧城市。 最新的Isaac版本包括对机器人操作系统(ROS)开发人员社区的重要支持。 NVIDIA 还发布了用于合成数据生成和Isaac GEM的全新Omniverse Replicator,这些硬件加速软件包使ROS开发者更容易在Jetson平台上构建高性能AI机器人。
通过软硬件协同,Jetson AGX Orin使85万名Jetson开发者和6000多家在其基础上构建商业产品的公司能够创建和部署以前不可能实现的自主机器和边缘AI应用。
加速行业落地
全新Jetson平台带来了NVIDIA Ampere架构的性能和多功能性,使应用于从农业和制造业到医疗和智慧城市等诸多领域的自主移动机器人取得了更大的进步。
同时,Jetson平台配备了一套详尽的软件,可以方便快捷地开发智能城市、工厂、物联网、医疗保健、农业等领域的人工智能应用程序。
得益于广泛的生态系统合作伙伴,基于Jetson平台的人工智能解决方案在各种各样的用例和行业中的巨大成功和部署。
Jetson AGX Orin为NVIDIA Clara Holoscan提供动力,这是医疗行业的一个新计算平台,允许开发者构建软件定义的医疗设备,在边缘运行低延迟流媒体应用程序。CT扫描仪和重症监护病房摄像头等设备需要这样的处理能力,才能将数据从传感器传输到数据管道,从而实现AI决策支持。这允许开发人员创建AI微服务,在设备上运行低延迟流式应用程序,同时将更复杂的任务传递给数据中心。
DRIVE AGX Orin同样由Jetson AGX Orin等NVIDIA Ampere架构提供支持,是运输行业的首选平台。 它是新发布的NVIDIA DRIVE Concierge和DRIVE Chauffeur背后的先进处理器,这两个AI平台致力于通过AI助手重新定义车内乘客体验,并分别为安全的自动驾驶提供动力。 数十家全球汽车和卡车制造商、新能源汽车初创公司和机器人出租车公司正在将其高性能AI计算用于其下一代智能、软件定义的移动解决方案。
结语
作为Jetson AGX Xavier的接替者,Jetson AGX Orin在硬件架构层面进行了更新,同时得益于丰富的软件生态,Jetson平台能够在行业中加速落地,打开了边缘AI和自主机器的想象空间。
好文章,需要你的鼓励
谷歌近期悄然调整账户存储政策:新注册用户若未绑定手机号,免费存储空间将从原来的15GB缩减至5GB。用户需验证手机号后,方可获得完整的15GB空间,用于Gmail、Drive和Photos的共享使用。谷歌表示,此举旨在确保存储空间"每人仅限一份",有效防止滥用。有分析认为,存储硬件成本上升也是推动此次政策调整的重要原因之一。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
AT&T、Verizon和T-Mobile宣布计划组建合资企业,利用卫星技术消除美国境内的网络覆盖盲区,重点服务农村及网络欠发达地区。该合资企业将整合知识产权与地面频谱资源,推动下一代直连设备(D2D)通信发展。目前三方尚未签署正式协议,现有运营商与卫星服务协议不受影响。此前,T-Mobile已与SpaceX合作推出星链卫星服务,美国联邦通信委员会也刚批准了价值400亿美元的EchoStar频谱出售案。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。