边缘人工智能已成为一个重要的增长市场,从自主移动机器人、零售、智慧城市、农业、物流、制造到医疗保健,各个行业都在为边缘技术注入大量人工智能。
机器人自动化一直以来都是制造业的革命性技术,将AI集成到机器人中显然将在未来数年中使机器人技术产生巨大变化。边缘人工智能处理的进步为今天的人工智能机器人铺平了道路,并将为未来的机器人开辟新的可能性。
在GTC 2022大会上,NVIDIA宣布推出NVIDIA Jetson AGX Orin开发者套件。这款性能强大、尺寸紧凑、且节能的 AI 超级计算机适用于先进的机器人、自主机器以及新一代嵌入式和边缘计算。
Jetson AGX Orin每秒可进行275万亿次运算,处理能力比上一代产品Jetson AGX Xavier高出8倍以上,同时仍保持了手掌大小的尺寸以及引脚兼容性,而且价格相近。这款套件包含NVIDIA Ampere架构GPU、 Arm Cortex-A78AE CPU、新一代深度学习和视觉加速器、高速接口、更快的内存带宽以及多模态传感器支持,可以为多个并发AI应用程序提供支持。
NVIDIA嵌入式和边缘计算副总裁Deepu Talla表示:“AI正在彻底改变制造、医疗健康、零售、运输、智慧城市等重要的经济结构,使得数据处理需求持续激增。目前已有100万名开发者和6000多家公司使用Jetson。Jetson AGX Orin的出现将大大加快整个行业打造新一代机器人和边缘 AI 产品的速度。”
客户可以通过Jetson AGX Orin使用完整的NVIDIA CUDA-X加速计算堆栈、NVIDIA JetPack SDK、NVIDIA NGC产品目录中的预训练模型以及用于应用开发和优化的最新框架和工具(例如NVIDIA Metropolis、Omniverse NVIDIA Isaac和NVIDIA TAO工具套件)。这减少了生产级AI部署的时间和成本,允许开发者们访问最大、最复杂的模型,以解决3D感知、自然语言理解、多传感器融合等方面的机器人和边缘AI挑战。
广泛的客户和生态系统支持
Jetson AGX Orin已获得了机器人和嵌入式计算行业生态系统的一致认可,包括Microsoft Azure、约翰迪尔、美敦力、AWS、现代机器人、京东、小松、美团等。
Jetson嵌入式计算合作伙伴生态系统涵盖了各类服务和产品,包括摄像头和其他多模态传感器、载板、硬件设计服务、 AI和系统软件、开发者工具以及自定义软件开发。
例如微软将Azure的高级功能与性能和软件开发工具(如NVIDIA Jetson AGX Orin)相结合,有助于为开发者提供无缝体验,从而轻松构建、部署和运行生产就绪型AI应用。
约翰迪尔今年为农场提供全自动拖拉机,这款拖拉机配备两个NVIDIA Jetson GPU,可以在边缘进行快速、准确的图像分类,帮助农业从业人员克服各种挑战并为全球不断增加的人口提供粮食。
作为公认的医疗技术领导者,美敦力不断创造和推进能够提高外科病人照护质量的解决方案,并且认识到AI定量分析和实时临床决策支持系统在数字化手术中的关键作用。最新的NVIDIA Jetson平台将手术室内的计算性能提升到一个新的级别,使美敦力能够通过以数据为依据的解决方案推动术中系统的发展,为外科医生提供更大的支持。
边缘AI和机器人技术的进步正在克服劳动力和材料成本的上升与限制,进而重塑整个行业。TIRIAS Research首席分析师Jim McGregor表示:“未来每个行业都将受益于AI和机器人技术,而2022年已被证明是一个关键的转折点。凭借NVIDIA预训练AI模型、 TAO工具套件和Omniverse Isaac等框架以及Jetson开发者社区与其合作伙伴生态系统的支持,Jetson AGX Orin所提供的可扩展AI平台拥有无与伦比的资源,能够轻松适应几乎所有应用。”
结语
随着3D感知、自然语言理解、多传感器融合等领域的发展,开发者面临着边缘AI和机器人等更复杂的挑战。NVIDIA Jetson AGX Orin开发者套件的推出能够帮助企业创建和部署以前不可能实现的自主机器和边缘AI应用,必将加速机器人技术和边缘AI的发展。
好文章,需要你的鼓励
微软高级软件工程师Alice Vinogradova将自己用SAP ABAP语言编写的向量数据库ZVDB移植到了搭载Z80处理器的经典计算机Sinclair ZX Spectrum上。她发现ABAP(1983年)和Z80(1976年)几乎是同时代产物,都诞生于内存珍贵、每个字节都很重要的计算时代。通过应用Z80优化技术,尽管时钟频率相差857倍,但代码运行速度仅慢3-6倍。她认为这些老式优化技术具有普遍适用性,在现代硬件上依然有效。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
韩国电子巨头三星宣布收购美国西雅图数字健康技术公司Xealth,进一步扩大在健康领域的布局。Xealth专注于帮助医疗专业人员将数字健康技术整合到日常实践中,与70多家数字健康技术供应商合作,应用覆盖美国500多家医院。此次收购将推动三星向连接医疗保健平台转型,结合其在传感器技术和可穿戴设备方面的优势,完善Samsung Health平台功能。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。