Jetson全系平台支持云原生技术,从而更简化边缘设备端AI的构建、部署和管理
2020年5月14日,NVIDIA宣布推出具有云原生支持的NVIDIA®Jetson Xavier™ NX开发者套件,并将此支持扩展到用于自主机器的整个NVIDIA Jetson™边缘计算产品系列。
Jetson Xavier NX模块是加速AI应用的理想平台,与被业界广泛采用的前代产品Jetson TX2相比,其性能提高了10倍以上。通过运用云原生技术,开发人员即可利用这块仅有信用卡尺寸大小的高AI功能与高计算性能的模块,推动创新并大规模部署AI。
借助云原生技术在NVIDIA Jetson系列产品上的支持,智能机器制造商和AI应用开发人员可以在嵌入式和边缘设备上构建和部署高性能的软件功能在机器人、智慧城市、医疗保健、工业物联网等领域。
云原生技术助力制造商和开发人员执行频繁的改进措施,提高准确度,并通过基于Jetson的AI 边缘设备使用最新功能。开发人员可以在应用的整个生命周期中快速且大规模地部署新算法,同时最大程度地减少停机时间。
NVIDIA副总裁,边缘计算业务总经理Deepu Talla表示:“NVIDIA已在多个行业中创建并优化了大量AI软件。如今,有了云原生技术的加持,我们在嵌入式和机器人领域的客户就能通过高性能、低功耗的Jetson系列产品,受益于软件的创新。Jetson Xavier NX是NVIDIA在边缘计算领域多年经验和领导地位的成果,可帮助客户部署实际的AI应用。”
NVIDIA Jetson是领先的边缘AI计算平台,受到近50万名开发者的青睐。NVIDIA的NGC™注册表中包含若干容器化的预训练AI模型,这些模型都是AI应用开发必不可少的构建模块。
开发者可利用NGC中的模型和最新NVIDIA工具,并直接基于Jetson Xavier NX开发者套件或其他Jetson开发者套件进行优化。他们还可以使用带有交叉编译工具链的工作站,甚至还能借助即将在NGC上发布的容器,实现云开发工作流程。
具备云原生功能的Jetson Xavier NX已获得嵌入式生态系统的大力支持。
微软Azure边缘设备总经理Moe Tanabian表示:“Jetson Xavier NX赋予边缘AI强大的计算能力,同时又保持了Jetson Nano的小巧外形。这样就可以在诸多应用和场景上大规模部署具有AI加速功能的容器化Azure解决方案,例如处理多个摄像回馈的应用,更复杂的机器人应用,和边缘AI网管场景。”
Janakiram & Associates分析师Janakiram MSV表示:“NVIDIA的人工智能软件技术在多个行业以及从数据中心到其Jetson AI边缘解决方案的架构能力,可谓是令整个嵌入式和机器人世界瞩目的加速器,嵌入式和机器人世界即将从固定功能的软件设备转变为现代的软件定义的计算机。”
麻省理工学院航空航天学副教授Sertac Karaman表示:“NVIDIA Jetson Xavier NX可以让我们在更小的尺寸和更小功耗的预算下获得更高的性能,使小型无人机能够创新性地开发用于各种实际应用。我们相信,拥有云原生支持的Jetson平台是一项重要的新开发,有助于构建和部署未来几代自主机器。”
Jetson Xavier NX开发者套件是Jetson Xavier NX模块的开发平台。虽然节能模块比信用卡(70x45mm)的尺寸还要小,却具有高达21 TOPS(15W)或14 TOPS(10W)的服务器级性能。
嵌入式边缘计算设备需要更高的性能,以支持AI工作负载,但却受到尺寸、重量、功耗分配或成本方面的限制,而Jetson Xavier NX使其成为可能。
Jetson Xavier NX开发者套件基于NVIDIA CUDA-X™加速计算堆栈和Jetpack™ SDK(同时提供NVIDIA容器运行时间),在完整的Linux软件开发环境中将参考模型和载板相结合。
客户可采用最新的NVIDIA工具进行应用开发和优化,包括云原生开发和部署工作流程。Jetson Xavier NX开发者套件和Jetson Xavier NX模块现正通过NVIDIA分销渠道进行发售,售价399美元。
新一代自主机器嵌入式系统NVIDIA Jetson将现代AI的力量带入数百万边缘设备,开启嵌入式物联网应用程序新领域。专区有最新活动、产品、资源和学习内容,带您感知AI新维度。访问地址:http://www.zhiding.cn/special/jetson
好文章,需要你的鼓励
2025年1月,OpenAI、软银、甲骨文和MGX联合宣布"星际之门"计划,承诺投资5000亿美元,部署高达10GW算力基础设施。如今,该项目已从白宫发布会上的宏大承诺,演变为一场前所未有规模的基础设施建设实验。项目已扩展至德克萨斯、威斯康星、俄亥俄等多地,并延伸至阿布扎比和挪威。然而,融资争议、合作伙伴摩擦、能源压力及政策监管收紧,正考验着这一"AI工业园"模式能否真正落地。
阿里Qwen团队通过引入强化学习和在线策略蒸馏,将Qwen-Image-2.0升级为Qwen-Image-2.0-RL,让图像生成模型真正学会人类审美,文生图Elo评分提升78分,图像编辑提升93分。
加密货币交易所OKX正式推出AI智能体交易市场OKX AI,允许AI代理相互雇佣、自主结算,并建立基于区块链的可携带信誉档案。该平台经过50家早期服务商封测后向开发者开放,依托稳定币和链上支付基础设施,支持全天候微支付。OKX创始人徐明星表示,传统金融基础设施为人类而建,智能体经济需要为自主软件专门设计的基础设施。
港科大与快手联合提出NormGuard,针对流匹配模型强化学习训练中速度范数膨胀问题,通过训练时单向惩罚约束,在保留奖励的同时改善图像真实感。