Jetson全系平台支持云原生技术,从而更简化边缘设备端AI的构建、部署和管理
2020年5月14日,NVIDIA宣布推出具有云原生支持的NVIDIA®Jetson Xavier™ NX开发者套件,并将此支持扩展到用于自主机器的整个NVIDIA Jetson™边缘计算产品系列。
Jetson Xavier NX模块是加速AI应用的理想平台,与被业界广泛采用的前代产品Jetson TX2相比,其性能提高了10倍以上。通过运用云原生技术,开发人员即可利用这块仅有信用卡尺寸大小的高AI功能与高计算性能的模块,推动创新并大规模部署AI。
借助云原生技术在NVIDIA Jetson系列产品上的支持,智能机器制造商和AI应用开发人员可以在嵌入式和边缘设备上构建和部署高性能的软件功能在机器人、智慧城市、医疗保健、工业物联网等领域。
云原生技术助力制造商和开发人员执行频繁的改进措施,提高准确度,并通过基于Jetson的AI 边缘设备使用最新功能。开发人员可以在应用的整个生命周期中快速且大规模地部署新算法,同时最大程度地减少停机时间。
NVIDIA副总裁,边缘计算业务总经理Deepu Talla表示:“NVIDIA已在多个行业中创建并优化了大量AI软件。如今,有了云原生技术的加持,我们在嵌入式和机器人领域的客户就能通过高性能、低功耗的Jetson系列产品,受益于软件的创新。Jetson Xavier NX是NVIDIA在边缘计算领域多年经验和领导地位的成果,可帮助客户部署实际的AI应用。”
NVIDIA Jetson是领先的边缘AI计算平台,受到近50万名开发者的青睐。NVIDIA的NGC™注册表中包含若干容器化的预训练AI模型,这些模型都是AI应用开发必不可少的构建模块。
开发者可利用NGC中的模型和最新NVIDIA工具,并直接基于Jetson Xavier NX开发者套件或其他Jetson开发者套件进行优化。他们还可以使用带有交叉编译工具链的工作站,甚至还能借助即将在NGC上发布的容器,实现云开发工作流程。
具备云原生功能的Jetson Xavier NX已获得嵌入式生态系统的大力支持。
微软Azure边缘设备总经理Moe Tanabian表示:“Jetson Xavier NX赋予边缘AI强大的计算能力,同时又保持了Jetson Nano的小巧外形。这样就可以在诸多应用和场景上大规模部署具有AI加速功能的容器化Azure解决方案,例如处理多个摄像回馈的应用,更复杂的机器人应用,和边缘AI网管场景。”
Janakiram & Associates分析师Janakiram MSV表示:“NVIDIA的人工智能软件技术在多个行业以及从数据中心到其Jetson AI边缘解决方案的架构能力,可谓是令整个嵌入式和机器人世界瞩目的加速器,嵌入式和机器人世界即将从固定功能的软件设备转变为现代的软件定义的计算机。”
麻省理工学院航空航天学副教授Sertac Karaman表示:“NVIDIA Jetson Xavier NX可以让我们在更小的尺寸和更小功耗的预算下获得更高的性能,使小型无人机能够创新性地开发用于各种实际应用。我们相信,拥有云原生支持的Jetson平台是一项重要的新开发,有助于构建和部署未来几代自主机器。”
Jetson Xavier NX开发者套件是Jetson Xavier NX模块的开发平台。虽然节能模块比信用卡(70x45mm)的尺寸还要小,却具有高达21 TOPS(15W)或14 TOPS(10W)的服务器级性能。
嵌入式边缘计算设备需要更高的性能,以支持AI工作负载,但却受到尺寸、重量、功耗分配或成本方面的限制,而Jetson Xavier NX使其成为可能。
Jetson Xavier NX开发者套件基于NVIDIA CUDA-X™加速计算堆栈和Jetpack™ SDK(同时提供NVIDIA容器运行时间),在完整的Linux软件开发环境中将参考模型和载板相结合。
客户可采用最新的NVIDIA工具进行应用开发和优化,包括云原生开发和部署工作流程。Jetson Xavier NX开发者套件和Jetson Xavier NX模块现正通过NVIDIA分销渠道进行发售,售价399美元。
新一代自主机器嵌入式系统NVIDIA Jetson将现代AI的力量带入数百万边缘设备,开启嵌入式物联网应用程序新领域。专区有最新活动、产品、资源和学习内容,带您感知AI新维度。访问地址:http://www.zhiding.cn/special/jetson
好文章,需要你的鼓励
英国国家医疗服务(NHS)正将无人机纳入常规医疗物流体系。自今年2月起,无人机每天在雷恩斯公园和圣乔治医院之间运送血液等诊断样本,飞行仅需3分钟,比公路运输快约85%,且碳排放减少高达98%。目前已有逾2000名患者受益。NHS计划将该服务扩展至圣赫利尔、克罗伊登等多家医院,最终惠及约180万名患者。该网络由英国医疗初创公司Apian与谷歌旗下Wing合作运营。
AgentLens是Explyt公司联合俄罗斯学术机构开发的AI编程助手评测基准,通过分析完整人机交互轨迹而非仅看最终结果,从五个维度评估代码智能体的真实表现。
边缘AI计算厂商Aetina宣布,将在其DeviceEdge AIE-KT风冷系列和新款AIE-PT无风扇平台上支持英伟达全新Jetson T3000和T2000模块。T3000基于Blackwell GPU,最高提供865 FP4 TFLOPS算力,功耗70W;T2000则提供400 FP4 TFLOPS,面向视觉AI代理和自主移动机器人等场景。两款模块预计2027年第一季度上市,支持Nemotron、Cosmos 3等英伟达AI软件生态。
韩国梨花女子大学提出Splash框架,通过识别AI模型中的"休眠参数"并只在其中训练触觉能力,让小型多模态AI在学会感知材质触感的同时,完整保留原有视觉语言推理能力。