与开发者同行 从新版OpenVINO看英特尔的智能边缘赋能之道

作者:李祥敬   【原创】   2020-10-29 15:16:06

关键字: 智能边缘 英特尔 OpenVINO

新版本OpenVINO不仅体现了英特尔的产品领导力,还体现了其与开发者、生态伙伴一起推动智能边缘创新方案的努力。

随着人工智能的深入发展,相关AI应用呈现迅速发展的态势,这离不开广大开发者对于人工智能技术的持续关注。为了更好地帮助开发者拥抱AI,各大厂家都发布了各种软件框架和工具持续赋能开发者。在过去的两年时间里,英特尔OpenVINO工具套件因其开发简便易于使用,一次编写任意部署,受到了开发者的广泛欢迎,并在工业、医疗健康、零售等多个领域推出了响应的解决方案。

OpenVINO工具套件以每季度一次的频率不断迭代更新,以满足快速变化的市场所提出的新需求。近日,英特尔OpenVINO工具套件2021.1版正式发布。相较于以往的更新,这次新版本亮点非常多:搭载Intel Gaussian和神经加速器能够支持GNA2.0;搭载DL Streamer可提供语音分析能力,同时在Open Model Zoo中提供了针对音频、语音和语言的预训练模型和方案演示。

此外,新版英特尔OpenVINO工具套件支持最新硬件Intel第11代酷睿处理器,可针对要求高速处理、计算机视觉、低延迟计算等关键物联网应用需求进行优化,满足多种应用场景对严苛环境和实时计算性能的需求。

英特尔公司物联网事业部中国区首席技术官兼首席工程师张宇博士表示,创新是英特尔整个物联网战略的一个重要抓手,而创新的主体是开发者,英特尔从开发者的角度出发,提供了一系列的软件和工具,加速整个创新的步伐。OpenVINO工具套件是英特尔推动智能边缘创新方面的核心推动力,可以帮助开发者解决最后一公里的问题,降低开发者的开发负荷。比如OpenVINO提供了一个Model Server容器化的模型服务,帮助开发者把OpenVINO所提供的人工智能推理能力方便地部署在数据中心云平台或是边缘基础架构之上面。

开放共享:赋能开发者成长

如果说持续的产品更新迭代是OpenVINO赢得开发者的关键,那么英特尔围绕OpenVINO通过中国社区、领航者联盟,举办行业赛事等举措,持续赋能开发者则为OpenVINO的发展构建了坚实的生态环境。赋能开发者是一个系统工程,需要厂商根据开发者不同的需求,聆听开发者的反馈声音,提供全面的学习资源。

在工具支持方面,英特尔围绕OpenVINO推出了适配多款硬件的高性能、易使用、广部署的开发人员软件工具,以及推动智能边缘大众化的英特尔DevCloud for the Edge,实现全系列一键访问。DevCloud for the Edge是一个免费的帮助开发者进行深度学习推理的云端计算开发平台。开发者可以利用这些云端资源,先体验再下单采购和部署,解决中小企业内部资金资源短缺的问题。而且为了方便国内的开发者进行下载,OpenVINO开源版本已经托管在Gitee。

人才建设方面,英特尔通过课程培训、产品落地、比赛认证、职业助力、社区共建等多重形式,全面赋能人工智能开发者的职业发展。2020年4月英特尔与复旦大学以及中国大学MOOC(慕课)平台,联合推出了一门基于OpenVINO的人工智能精品课程,对行业开发者及学生开放,开课至今已经汇集了10000多名学习者;此外,这门课程还与全国25所大学院校中进行推广,建立人工智能在院校里的课程学习;OpenVINO相关的比赛也创造了100余项创新项目。

在社区方面,为了加强开发者之间的连接,2020年5月,秉承“开放、开源、共创”的理念,通过聚焦各种各样类型的开发者,OpenVINO中文社区顺利成立,社区成员之间进行经验交流。同时在社区建立的半年的时间内,英特尔工程师在社区中累计的志愿服务时长已达2000小时,内容包括技术案例分享,增强了与开发者的沟通联系,进一步获得开发者的反馈并提升产品体验。

社区的成立也吸引了广大OpenVINO中国粉丝的加入,更有一批热心的开发者成为社区志愿者,在半年时间里,这些热心志愿者为社区提供的服务时长更是高达6000小时之多。

在这里我们不妨看几个社区志愿者的故事。王振林工作在一家智能医疗企业,从事图象处理相关的算法研究。两年前,他刚刚从大学毕业就开始学习OpenVINO,并在加入岗位后将OpenVINO引入到他们的智慧诊疗产品,成为他们公司在这个领域的一个技术骨干。

在完成算法与模型构建之后,我们需要考虑如何加速算法的推理性能、降低整个解决方案硬件的成本。刘金龙就遇到了这样的问题,他们的团队尝试过几种不同的解决方案,但是当时都并不是很成功。后来,刘金龙认识了OpenVINO,经过了几个月的时间,他成功利用OpenVINO实现算法推理性能的显著提升,处于行业领先地位。

接下来他们整个团队开始学习OpenVINO,在更多的产品和项目当中使用OpenVINO。刘金龙表示,那一个月是他整个职业生涯当中绩效考核结果最好的一个月。他现在成为OpenVINO中文社区技术志愿者的主力,总结非常多的技术文章在社区当中分享。

其实像上述几位开发者那样得益于OpenVINO和自己在人工智能技术的探索,在职业上面实现一定飞跃的案例其实还有很多。为了推动人工智能技术的发展,人才是原动力,英特尔是一个赋能者,不单单是在生态系统方面的赋能,也全面赋能开发者和科技人才的成长,与更多的开发者一起在共同成长的过程中携手推动智能边缘的技术创新。

商业落地:慧眼识能源

对于开发者来说,项目能否实现产品和商业化落地是一大挑战。为此,英特尔OpenVINO工具套件领航者联盟正式成立,其通过一系列的技术交流活动和行业开发大赛,为开发者们创造一个学习交流、创新发展的平台,为开发者的技术进阶和职业发展提供各种资源。这些优秀的开发者遍及各行各业,借助英特尔公司的生态构建优势,从理念到产品化,从原形到商业落地。

目前,英特尔OpenVINO工具套件领航者联盟聚集了一批优秀的开发者。在“英特尔OpenVINO工具套件领航者联盟DFRobot行业AI开发者大赛”上,来自华北电力大学智慧能源与信息研究中心主任郑华教授所带领的团队,凭借基于英特尔OpenVINO工具套件所打造的变电站视觉智能巡检系统,从众多参赛案例中脱颖而出,成为领航者联盟的第一批成员。

郑华表示,团队的名字叫做“慧眼识能源”,希望通过智能技术降低人工劳动强度,提高智能水平。“英特尔和OpenVINO能够赋予我们这双慧眼,变得更锐利、更敏锐,为电力系统,包括能源行业进行赋能。”

具体到获奖项目,来源于华北电力大学在电站运维工程压板应用场景中的切实困扰。目前电站运维工程中压板状态的确认完全依赖人工方式。因压板尺寸小、数量多、分布密集的特点,检测不仅耗时耗力,容易造成视觉疲劳,导致误操作、漏操作现象发生,严重危害人身与电网运行安全。

智能边缘计算使得电力行业由运营者变成创新的驱动者,通过大量的智能边缘计算设备,加人工智能的手段共同解决行业当中的痛点。郑华所带领的团队基于OpenVINO机器视觉和深度学习中目标检测与识别等方法,通过摄像头对继电保护压板状态进行实时检测,采用多帧检测融合算法应对现场环境干扰,使用英特尔硬件设备与OpenVINO工具套件优化模型,实现软硬件一体化的变电站继电保护压板状态识别。通过搭载多种类型的传感器、摄像头、易于扩展实现表计识别、状态指标识别、缺陷识别等各类功能,提高电力生产一线的及时性、安全性、工作效率与自动化水平,实现变电站的智能化运检。

在电站运维工程压板应用场景中,通过智能边缘设备,通过实时化的优化平台,能够更及时、更准确地把采集到的结构化数据和非结构化数据能够进行综合分析,从而实现边缘侧闭环的优化控制。而在这一过程中,边缘侧计算智能分析就非常重要,OpenVINO的作用也在于此,其价值体现在以下几个方面:高性能计算支撑TensorFolw、PyTorch等主流框架,减轻开发人员地工作量。另一方面,OpenVINO让原本非实时的工作在精度尽可能不损失或者有限损失的条件下变成实时性工作。

此外,OpenVINO的学习成本低,特别是新版本支持更多人工智能开发模型比如TensorFolw 2.0开发出更多的模型应用,应用在实际的业务应用场景中。而且在双方合作过程中,英特尔为郑华团队提供了很多支持和帮助,包括实验室、设备层面、商务对接和商务推广。项目之所以脱颖而出的价值在于其具有行业示范意义,其解决方案可扩展至巡检机器人、无人机、监控摄像头等更多领域的落地部署,具有多领域,普适性,可复制等商业化市场落地的特点。

变电站的系统太多,设备太多,操作系统多,硬件平台差异太大,这给应用部署带来了很大的挑战。而OpenVINO的“一次编写任意部署”让问题变得迎刃而解。郑华还谈到了新版本增加了语音分析能力,这对方案的进一步拓展提供了技术支撑。变压器正常运行的声音是很低沉、均匀,不会听到噪音。如果有异常有故障的时候里面就会有噪音,有些人耳可以听出来,有些人耳听不出来,这个时候就需要借助人工智能通过实时的评估分析,对变压器的故障进行精准的判断,进行预防性的维修,提升设备的利用程度。“未来,我们将和英特尔进行更多合作,不仅仅是更变电站装了一个慧眼,未来还要给它装耳朵,能够实现变电站智能运维的‘全科医生’,并在工业互联网等更多的领域推广落地优秀的市场应用。”

郑华教授还表示,电力行业智能化的路还很长,需要更加深入的研究;在领航者联盟的助力下,郑教授会在不久的将来建立一个开发实验室,将现有的解决方案从商业落地的角度进一步完善。同时电力行业智能化还需要更多的开发者、更多的高校师生的共同努力,郑教授将这个开放实验室形象的比喻成一个“领航者枢纽”,热情的邀请产学研多领域的开发者进行交流,共同推进技术创新的愿景。

结语

新版本OpenVINO不仅体现了英特尔的产品领导力,还体现了其与开发者、生态伙伴一起推动智能边缘创新方案的努力。通过诸多举措赋能职业发展与加速项目商业落地,英特尔将始终致力于与开发者的密切沟通和脑力激荡,与开发者一路同行,共创智能边缘发展新机遇。

    扫一扫

    分享文章到微信


    北京第二十六维信息技术有限公司(至顶网)版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号
    举报电话:13070156560 举报邮箱:jubao@zhiding.cn 安全联盟认证