NVIDIA 4月份推出了新一代嵌入式开发套件Jetson AGX Orin,这是目前市场上性能强大、体积小巧,且节能的AI超级计算机,适用于高级机器人、自主机器以及下一代嵌入式和边缘计算。
这个系列,我们将介绍如何利用Jetson AGX Orin开发套件进行嵌入式边缘计算开发。
机器人技术的新时代正在出现,需要数量级更高的计算机器人现在正在进入人类世界,而不是孤立地工作,这需要多传感器感知、映射和定位、路径规划和控制、感知和安全,这些不断增加的任务正在推动对更多计算的需求
Jetson AGX Orin 每秒可提供 275 万亿次操作,为客户提供比其前身 Jetson AGX Xavier 高出 8 倍以上的处理能力,同时保持相同的手掌大小的外形尺寸和引脚兼容性。AGX Orin具有 NVIDIA Ampere 架构 GPU、Arm Cortex-A78AE CPU、下一代深度学习和视觉加速器、高速接口、更快的内存带宽和多模式传感器支持,以支持多个并发的 AI 应用。
让我们对比一下Jetson AGX Orin开发套件和Jetson AGX Xavier 开发套件的规格。
Jetson AGX |
Jetson AGX |
|
AI性能 |
32TOPS |
200TOPS |
GPU |
512-Core |
1792-Core |
64Tensor |
56 |
|
CPU |
8-core |
12-core |
DLA |
2x |
2x |
Vision |
2x |
PVA |
Memory |
32GB |
32GB |
存储 |
32GB |
64GB |
CSI Camera |
16 |
16 |
PCIe |
x16 connector with x8 PCIe Gen4 or x8 |
x16 PCIe slot: |
网络 |
Gigabit Ethernet |
Up |
Display |
HDMI |
DisplayPort 1.4a (+MST) |
USB Type-C |
2x USB-C 3.1 (supporting DIsplayPort and USB |
2x |
USB Type-A |
2x |
|
USB Micro-B |
USB |
USB |
M.2 Key M |
NVME |
x4 |
M.2 Key E |
PCIe |
x1 |
Other |
40-pin header (UART, SPI, CAN, I2C, I2S, |
40-pin header (I2C, GPIO, SPI, CAN, I2S, |
尺寸 |
105mm x 105mm x 65mm |
110mm x 110mm x 71.65mm |
NVIDIA Jetson AGX Orin开发套件的外箱为黑色。
侧面列出了开发套件的规格
请注意,购买Jetson AGX Orin开发套件后,需要将原包装和配件保留至少一年。一年内如果有质量问题需要保修,必须是原包装和配件返回给供应商。
打开外箱后,可以看到开发套件躺在里面,颜值很高啊!
我们会看到附送的3根电源线和1根USB-Type C线,以及一个适配器,这些都必须要保留好,不能弄丢哟
注意AGX Orin附赠的电源适配器规格:
再看看接口:
这里有三个按钮,分别是Power键、Force Recovery键和Reset键,同时有一个micro SD插槽。
这一面分别是USB Type-C接口,以及40-pin Expansion Header,还有2个USB3.2接口
这一面有电源插口,插口的上面是一个USB Type C接口,接着是一个网口,然后又是两个USB 3.2的接口(大家可以注意到AGX Orin总共有4个USB3.2接口)。
关键来了,AGX Orin配备了一个DP接口,跟AGX Xavier的HDMI接口不同,是要接DP显示器作为输出。DP接口旁边是一个Micro USB2.0接口。
将AGX Orin开发套件的底部朝上,我们看到这里可以外接一个M.2的SSD卡。与AGX Xavier不同,AGX Orin有自带无线网卡,而前者出厂是没有,需要自己安装,这样可以节省很多事情了。
同时我们也可以看到这里有2个MIPI CSI接口。
下篇文章,我们将在AGX Orin开发套件上配置操作系统。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。