AES-100边缘智能服务器,颠覆传统服务器,架构让人工智能边缘部署更轻松
中国上海 – 2022年6月16日
全球领先的边缘计算解决方案提供商—凌华科技推出基于华为Ascend Atlas200的全新边缘智能服务器AES-100,突破固有服务器的设计理念,采用分布式AI节点加弹性灵活的处理器设计方案,可在紧凑的1U空间内布置多路边缘处理单元,也可以根据场景和需求不同搭配不同的CPU模块,适用于广泛的AI边缘应用。

AES-100视频分析服务器架构图

产品亮点
与传统的集中式算力架构相比,AES-100采用的分布式多路AI节点能够有效地降低硬件成本。
|
算力架构 |
传统集中式算力架构 |
分布式算力架构 |
|
产品特点 |
CPU+GPU的异构计算,多个GPU通过PCIE链接到两颗处理器,如:双路4PU服务器、双路8GPU服务器; |
每颗AI SOC芯片是一个完整的小算力节点,配置独立的CPU、AI核心、编解码核心、显存、存储和操作系统; |
|
CPU主要职责 |
负责数据预处理,如视频软解码,CPU性能要求较高,根据GPU数量增加,CPU的性能也要增加; |
系统CPU:负责任务调度,对CPU性能要求不高; SOC CPU:负责数据预处理; 编解码核心:负责视频编解码; |
|
内存主要职责 |
与GPU显存之间数据交换,一般配置的内存容量要大于GPU的显存总容量,GPU数量越多,需要配置的内存容量也越大; |
系统内存:负责任务调度,对内存容量要求不高; SOC 内存:相当于显存,用于数据交换; |
|
成本对比 |
CPU和内存的性能要求高,成本占比高 |
CPU和内存的性能要求低,成本占比低 |
在高算力的场景下,采用分布式算力架构的硬件成本可大幅度下降。AES-100可以广泛应用在城市道路对行人、机动车以及非机动车的特征结构化数据分析,可极大提高在海量视频中对目标的查找速度;监所等特殊场合发生的一场行为进行检测,并及时发出报警,有效提升视频监控的价值,保障工作人员及在押人员的安全。
好文章,需要你的鼓励
杜克大学研究团队建立了首个专门针对Web智能体攻击检测的综合评估标准WAInjectBench。研究发现,现有攻击手段极其多样化,从图片像素篡改到隐藏弹窗无所不包。虽然检测方法对明显恶意指令有中等效果,但对隐蔽攻击几乎无能为力。研究构建了包含近千个恶意样本的测试数据库,评估了十二种检测方法,揭示了文本和图像检测的互补性。这项研究为Web智能体安全防护指明了方向,提醒我们在享受AI便利时必须保持安全意识。
生成式AI的兴起让谷歌和Meta两大科技巨头受益匪浅。谷歌母公司Alphabet第三季度广告收入同比增长12%达742亿美元,云服务收入增长33%至151.5亿美元,季度总收入首次突破千亿美元大关。Meta第三季度收入512.5亿美元,同比增长26%。两家公司都将大幅增加AI基础设施投资,Meta预计2025年资本支出提升至700亿美元,Alphabet预计达910-930亿美元。
加州大学圣地亚哥分校研究团队系统研究了AI智能体多回合强化学习训练方法,通过环境、策略、奖励三大支柱的协同设计,提出了完整的训练方案。研究在文本游戏、虚拟家庭和软件工程等多个场景验证了方法有效性,发现简单环境训练能迁移到复杂任务,监督学习初始化能显著减少样本需求,密集奖励能改善学习效果。这为训练能处理复杂多步骤任务的AI智能体提供了实用指南。