硬件设计师在这场技术盛会上展示基于Jetson AGX Orin的边缘AI和嵌入式计算系统。
本周,全球30多家领先的技术合作伙伴在Computex上发布了首批基于NVIDIA Jetson AGX Orin的生产系统。
这些新产品来自十几家台湾地区的摄像头、传感器和硬件供应商,将被用于边缘AI、AIoT、机器人和嵌入式应用。
NVIDIA Jetson AGX Orin开发者套件自3月的GTC大会开始在全球全面上市,该套件可提供每秒275万亿次运算性能。在针脚兼容性与外形尺寸相同的情况下,其处理能力超过前代产品NVIDIA AGX Xavier 8倍。
Jetson Orin具有NVIDIA Ampere架构GPU、Arm Cortex-A78AE CPU、下一代深度学习和视觉加速器、高速接口、更快的内存带宽并支持能够为多个并发AI应用管道提供数据的多模态传感器。
全新Jetson AGX Orin生产模块为边缘AI带来服务器级的性能。该模块将于7月上市,Orin NX模块将于9月上市。
NVIDIA嵌入式和边缘计算副总裁Deepu Talla表示:“全新Jetson AGX Orin正在大幅提升下一代机器人和边缘AI应用的性能。我们的生态系统合作伙伴相继发布基于Jetson Orin的生产系统并为特定的行业和用例定制各种外形尺寸,这将继续推动这款产品加速发展。”
强大的产品和合作伙伴生态系统
此次大会上发布的Jetson产品包括服务器、边缘设备、工业PC、载板、AI软件等。这些产品将推出有风扇和无风扇配置并且提供多种连接和接口选项,还会加入适用于机器人、制造、零售、运输、智慧城市、医疗等重要经济部门或加固型应用的规格。
此次发布产品的厂商包括NVIDIA合作伙伴网络中的中国台湾公司,如研扬、凌华、研华、安提、英研智能移动、欣普罗、圆刚科技、艾讯、慧友、宸曜科技、医扬科技和超恩。
其他在全球推出全新Jetson Orin解决方案的NVIDIA合作伙伴包括:Auvidea、宝视纳、Connect Tech、D3 Engineering、Diamond Systems、e-Con Systems、Framos、英飞凌、ITANZI、沥拓科技、Leopard Imaging、米文动力、Mist Elektronik、移远通信、RidgeRun、Sequitur、Silex、SmartCow、Stereolabs、Syslogic、瑞泰新时代和天准科技等。
Jetson开发者突破百万
如今,超过 100 万开发人员和 6,000 多家公司正在 NVIDIA Jetson 边缘 AI 和机器人计算平台上构建商业产品,以创建和部署自主机器和边缘 AI 应用程序。
不断壮大的Jetson合作伙伴生态系统已拥有150多名成员,包括AI软件、硬件和应用设计服务、摄像头、传感器和外设、开发者工具以及开发系统领域的专业公司,因此能够提供全方位的支持。由Jetson AGX Xavier驱动的AAEON BOXER-8240在今年荣获COMPUTEX 2022最佳选择金奖。
开发者正在Jetson AGX Orin开发者套件上构建可无缝部署在生产模块上的下一代应用。Jetson AGX Orin用户可以使用NVIDIA CUDA-X加速计算堆栈、NVIDIA JetPack SDK和最新NVIDIA工具开发和优化应用,包括云原生开发工作流程。
全方位的软件支持
通过Jetson Orin,开发者能够部署强大、复杂的模型来解决自然语言理解、3D感知、多传感器融合等领域的边缘AI和机器人挑战。
TIRIAS Research首席分析师Jim McGregor表示:“作为AI领域公认的领导者,NVIDIA不断发挥自己的技术专长,通过强大的生态系统和完整的端到端解决方案,比如各种运用通用工具和神经网络模型的硬件平台来推动机器人技术的发展。”
他表示:“全新Jetson平台带来NVIDIA Ampere架构的高性能和多功能性,进一步推动自主移动机器人领域的进步。这些机器人被广泛应用于从农业和制造业到医疗和智慧城市等多种领域。”
NVIDIA NGC目录中的预训练模型经过优化,随时可以使用NVIDIA TAO工具套件和客户数据集进行微调。这不仅降低了生产级AI的部署时间和成本,而且还可以凭借云原生技术实现整个产品生命周期内的无缝更新。
为了满足特定用例的需求,NVIDIA软件平台加入了:用于机器人技术的NVIDIA Isaac Sim on Omniverse;用于构建语音AI应用的GPU加速SDK——Riva;用于AI多传感器处理、视频、音频和图像理解的串流分析工具包——DeepStream;以及通过整合视觉数据与AI提高行业运营效率和安全的应用框架、开发者工具组与合作伙伴生态系统——Metropolis。
好文章,需要你的鼓励
据《华尔街日报》报道,在马斯克针对OpenAI的诉讼失败后,OpenAI正加速推进IPO计划。CEO萨姆·奥特曼希望公司最快于今年9月上市,目前已与高盛、摩根士丹利合作,并可能在数日或数周内秘密提交上市申请。与此同时,马斯克旗下SpaceX的IPO文件也预计近期公开。两家公司的上市竞争,标志着马斯克与奥特曼的博弈从法庭转移至资本市场。
KAIST团队提出策略助推方法,通过强制分配解题方向引导AI探索多样思路,仅用八份样本就超越了消耗八倍资源的传统方法。
调查显示,51%的专业人士认为AI生成的低质量内容(即"workslop")正在降低生产效率,45%的人因此对职场使用AI更加谨慎。这类内容表面精致却缺乏准确性和实质价值。专家建议两步应对:一是重塑AI生产力思维,推行"AI先行、人工复核"的工作模式;二是保持持续投入,深入掌握AI工具的有效用法。企业领导者强调,真正从AI中受益需要坚持与学习,而非浅尝辄止。
要理解这项研究,先得明白现在的AI是怎么"画"图的。 可以把AI生成图片的过程想象成一个特殊的厨房。当AI要学会画图时,它不会像人类画家那样一笔一画地描绘,而是采用一种叫做"自回归"的方式——简单说就是"一个食材接一个食材地添加"。但问题在于,AI厨房处理的"食材"不是真实的图像像素,而是一种被压缩过的"标准化食材包"。 这个压缩过程,叫做"离散分词",由一个叫"分词器"(tokenizer)的设备完成。打个比方,分词器就像一台高级的食材切片机,它把一整张图片切成很多小块,然后给每一小块贴上一个"编号标签",对应到一本"标签字典"(也就是研究者口中的"码本")里的某个条目。比如,标签001可能代表"蓝天的一小块",标签002代表"绿草的一小块"。 这种做法的好处是大幅简化了AI的工作量——它不用记住几百万个像素,只需要记住一串编号就行了。这就是为什么如今像Chameleon、Emu3这些大名鼎鼎的多模态AI模型都用这种技术。 但问题也恰恰出在这里。当切片机以16倍的压缩率工作时(也就是说原本256个像素被压缩成1个标签),很多细节就被无情地丢弃了。蓝天少一些云彩、草地少几根草尖,人眼几乎看不出来。可一旦切到了文字或人脸,灾难就发生了——一个英文字母"e"和"c"的差别可能就在那么几个像素,一张脸上眉眼的位置稍微挪一挪,整个人就变了样。 研究团队发现,认知科学研究早就指出,人类的视线会不自觉地被文字和人脸吸引,对这两类内容的细节扭曲特别敏感。换句话说,AI画其他东西糊一点没关系,但文字和脸糊了,用户立马就能察觉。 之前的研究者也意识到了这个问题,他们的解决思路通常是"加大切片机的容量"——比如把标签字典从1万6千条扩展到26万条,或者让每张图用更多的标签。但这就像为了切好一根胡萝卜而把整个厨房改造成大型工厂,成本高得离谱,而且效果也不见得好。 清华和微软的团队提出了一个完全不同的思路:与其让切片机变得更大,不如教它学会"看重点"。 二、给切片机装上"火眼金睛"