近日,UCloud优刻得发布自研的AI模型工厂和AI边缘盒子(UBoxAI)两款产品,通过用户可自定义算法的AI平台,以及内置多种算法、软硬件结合的AI边缘设备,打造全国产化的、云边端协同的平台型AI产品,赋能用户在多种场景下的视觉结构化AI能力,助力用户打通从AI算法到场景应用的关键环节。
UAI模型工厂 小白也能定制AI模型
UCloud AI模型工厂(Algorithm Model Factory,以下简称“UAI模型工厂”)提供从数据采集、标注、模型训练、部署的一站式AI开发能力,帮助用户实现无门槛的算法生产,快速创建标注及训练任务,测试发布,管理AI模型的全生命周期。为各行业用户提供开放的AI服务,解决AI开发门槛高的难题。
UAI模型工厂具有以下特性:
UAI模型工厂主要针对图像进行AI分析,实现图像中目标的检测定位与分类,适用于安全生产,工业质检,安防监控等场景。平台的快速入门操作流程如下:
比如,比如通用检测模型的图片上传,要求首先确认要识别的目标物体,并上传不少于100张含有这些目标物体的图片,样本越多,后期模型的效果越显著。
用户还可以创建数据标签,并标注数据。标签可以为目标名称,比如“垃圾桶”、“安全帽”、“电瓶车”等;标签也可以为物体在场景中的状态,比如“合格”、“不合格”等。
UCloud AI模型工厂后期将陆续开放模型训练能力、支持UCloud智能AI边缘盒子、GPU一体机等多种交付形式。通过算法和终端的云边协同,可以让算法更加匹配用户需求,更快速的根据用户需求进行迭代。
AI边缘盒子,内置多种实用场景算法
UCloud智能AI边缘盒子(UBoxAI)EB004A,是一款基于深度学习技术的智能边缘计算节点设备,采用国产RK3399六核64位2.0GHz处理器,具有小体型,高频率,高稳定性等特点。可接入IPC(网络摄像机)等前端设备,实现对传统监控设备的智能化改造。支持对多种行人、车辆、物品的视频结构化分析,可提供多算法模型融合、远程升级、智能运维、事件分析及报警联动服务,广泛应用于安防监控、安全生产、园区楼宇、社区养老、建筑工地等多种场景。
UCloud智能AI边缘盒子具有以下特性:
支持人脸识别、区域入侵、离岗检测、消防通道占用、电瓶车检测、火苗检测、高空抛物等20余种算法,并跟随业界需求,持续进行高频迭代。支持针对客户专用场景的算法迭代与优化。
AI边缘盒子实现了毫秒级检测速度,支持30人并发抓拍。它采用国产化芯片,搭载RK3399Pro六核高性能处理器,采用双核Cortex-A72+四核Cortex-A53构架,主频高达1.8GHz,拥有强大的通用计算性能。四核ARM高端GPU Mali-T860,集成了更多带宽压缩技术,整体性能优异。
强大的AI运算性能NPU。CPU内部集成AI神经网络处理器NPU,支持8bit/16bit运算,运算性能高达3.0TOPS,相较于传统GPU作为AI运算单元的的大型芯片方案,NPU的功耗仅仅是GPU的1%,具有极高的算力效能比。
3)强悍硬件
UCloud自研的边缘硬件,配置优质金属外壳,隐蔽式引线孔,无风扇设计,铝合金结构导热,高效降温,通过了60℃高温老化测试,7X24小时稳定运行。
4)云边协同
基于嵌入式高可靠架构设计,AI边缘盒子搭配AI模型工厂(训练及部署平台),可实现硬件与算法的持续集成和持续开发,灵活加载、更新算法引擎、模型、应用及授权。支持部署第三方算法。
通过云边端协同的产品架构,UCloud优刻得致力于开放视频结构化AI能力,构建持续升级的AI平台服务,赋能企业用户、集成商、代理商等合作伙伴,打通算法到场景的关键环节,推动AI应用更大范围落地。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。