边缘人工智能已成为一个重要的增长市场,从自主移动机器人、零售、智慧城市、农业、物流、制造到医疗保健,各个行业都在为边缘技术注入大量人工智能。
机器人自动化一直以来都是制造业的革命性技术,将AI集成到机器人中显然将在未来数年中使机器人技术产生巨大变化。边缘人工智能处理的进步为今天的人工智能机器人铺平了道路,并将为未来的机器人开辟新的可能性。
在GTC 2022大会上,NVIDIA宣布推出NVIDIA Jetson AGX Orin开发者套件。这款性能强大、尺寸紧凑、且节能的 AI 超级计算机适用于先进的机器人、自主机器以及新一代嵌入式和边缘计算。
Jetson AGX Orin每秒可进行275万亿次运算,处理能力比上一代产品Jetson AGX Xavier高出8倍以上,同时仍保持了手掌大小的尺寸以及引脚兼容性,而且价格相近。这款套件包含NVIDIA Ampere架构GPU、 Arm Cortex-A78AE CPU、新一代深度学习和视觉加速器、高速接口、更快的内存带宽以及多模态传感器支持,可以为多个并发AI应用程序提供支持。
NVIDIA嵌入式和边缘计算副总裁Deepu Talla表示:“AI正在彻底改变制造、医疗健康、零售、运输、智慧城市等重要的经济结构,使得数据处理需求持续激增。目前已有100万名开发者和6000多家公司使用Jetson。Jetson AGX Orin的出现将大大加快整个行业打造新一代机器人和边缘 AI 产品的速度。”
客户可以通过Jetson AGX Orin使用完整的NVIDIA CUDA-X加速计算堆栈、NVIDIA JetPack SDK、NVIDIA NGC产品目录中的预训练模型以及用于应用开发和优化的最新框架和工具(例如NVIDIA Metropolis、Omniverse NVIDIA Isaac和NVIDIA TAO工具套件)。这减少了生产级AI部署的时间和成本,允许开发者们访问最大、最复杂的模型,以解决3D感知、自然语言理解、多传感器融合等方面的机器人和边缘AI挑战。
广泛的客户和生态系统支持
Jetson AGX Orin已获得了机器人和嵌入式计算行业生态系统的一致认可,包括Microsoft Azure、约翰迪尔、美敦力、AWS、现代机器人、京东、小松、美团等。
Jetson嵌入式计算合作伙伴生态系统涵盖了各类服务和产品,包括摄像头和其他多模态传感器、载板、硬件设计服务、 AI和系统软件、开发者工具以及自定义软件开发。
例如微软将Azure的高级功能与性能和软件开发工具(如NVIDIA Jetson AGX Orin)相结合,有助于为开发者提供无缝体验,从而轻松构建、部署和运行生产就绪型AI应用。
约翰迪尔今年为农场提供全自动拖拉机,这款拖拉机配备两个NVIDIA Jetson GPU,可以在边缘进行快速、准确的图像分类,帮助农业从业人员克服各种挑战并为全球不断增加的人口提供粮食。
作为公认的医疗技术领导者,美敦力不断创造和推进能够提高外科病人照护质量的解决方案,并且认识到AI定量分析和实时临床决策支持系统在数字化手术中的关键作用。最新的NVIDIA Jetson平台将手术室内的计算性能提升到一个新的级别,使美敦力能够通过以数据为依据的解决方案推动术中系统的发展,为外科医生提供更大的支持。
边缘AI和机器人技术的进步正在克服劳动力和材料成本的上升与限制,进而重塑整个行业。TIRIAS Research首席分析师Jim McGregor表示:“未来每个行业都将受益于AI和机器人技术,而2022年已被证明是一个关键的转折点。凭借NVIDIA预训练AI模型、 TAO工具套件和Omniverse Isaac等框架以及Jetson开发者社区与其合作伙伴生态系统的支持,Jetson AGX Orin所提供的可扩展AI平台拥有无与伦比的资源,能够轻松适应几乎所有应用。”
结语
随着3D感知、自然语言理解、多传感器融合等领域的发展,开发者面临着边缘AI和机器人等更复杂的挑战。NVIDIA Jetson AGX Orin开发者套件的推出能够帮助企业创建和部署以前不可能实现的自主机器和边缘AI应用,必将加速机器人技术和边缘AI的发展。
好文章,需要你的鼓励
NVIDIA团队开发的SANA-Sprint技术实现了AI图像生成的重大突破,将传统需要20步的生成过程压缩至1步,在H100上仅需0.1秒即可生成1024×1024高清图像,速度比现有最快模型提升10倍以上。该技术通过创新的混合蒸馏策略,在大幅提升速度的同时保持了图像质量,并支持实时交互应用,为AI绘画从专业工具向大众应用的转变奠定了基础。
初创公司Positron获得5160万美元A轮融资,推出专门针对AI推理的Atlas芯片。该公司声称其芯片在性能功耗比和成本效益方面比英伟达H100高出2-5倍,并已获得Cloudflare等企业客户采用。Positron专注于内存优化设计,无需液体冷却,可直接部署在现有数据中心。公司计划2026年推出支持16万亿参数模型的下一代Titan平台。
北京人工智能研究院团队开发的DiagNote模型通过模仿人类做笔记的习惯,解决了AI在多轮视觉对话中容易"失忆"的问题。该研究构建了专门的MMDiag数据集,设计了双模块协作的AI架构,让机器学会像人类一样通过标记重点区域来保持专注力,为更自然的人机视觉交流奠定了基础。