以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

作者:李祥敬   【原创】   2020-06-19 17:33:42

关键字: 英特尔

随着以数据为中心的转型不断深化,英特尔围绕硬件、软件和生态系统构建全新AI优化数据平台产品组合,携手产业生态,赋能“智者更强”,以改变世界的技术造福个人、企业和社会。

至顶网计算频道 06月19日 新闻消息(文/李祥敬):当前,数字经济蓬勃发展,而数据成为数字经济时代的重要特征。我们每一个人被无处不在的数据所包围,而5G网络转型、人工智能、边缘、万物云化等关键转折性技术正在推动数据的增长并塑造整个行业。为了实现数据价值,人工智能和分析将是未来十年起决定性作用的工作负载。在摩尔定律和云效率的帮助下,人工智能正从最复杂的组织转向渗透每一个应用程序。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

英特尔的目标是通过产品组合为每个以数据为中心的工作负载提供服务,持续推动以数据为中心的领域从云到边缘的颠覆性创新。英特尔公司数据平台事业部副总裁、英特尔至强处理器和存储事业部总经理Lisa A. Spelman表示,英特尔一直投资于能充分释放数据潜力的平台技术的研发。凭借领先的规模、广泛的产品组合以及生态系统的支持等独特优势,英特尔将不断满足人们对数据迁移、存储和处理日益增长的需求。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

在近日举行的主题为“‘芯’存高远 智者更强”的英特尔数据创新峰会暨新品发布会上,英特尔宣布推出最新的数据平台产品组合,包括集成AI加速的英特尔第三代至强可扩展处理器、英特尔首个人工智能优化FPGA Stratix 10 NX、第二代英特尔傲腾持久内存、最新英特尔3D NAND SSD及相关软件解决方案,以在数据中心、云和智能边缘领域支持客户进一步加快人工智能和数据分析等工作负载的开发和部署。

以数据为中心的硬件

硬件层面,英特尔加大了连接性方面投资,旨在让数据从以太网到硅光子再到交换机的迁移过程变得更加迅速。通过对3D NAND和傲腾技术的投资,英特尔一直在内存和存储领域进行创新。为了建设丰富的CPU和XPU产品线,英特尔进行了数十年的投入。

Lisa表示,英特尔拥有独特的优势,可提供在CPU,GPU,FPGA和专用加速器插槽中部署的标量、矢量、空间和矩阵架构的各种组合,使客户能够选择对应的产品组合承载相应的计算类型。比如随着近3500万颗芯片的部署,至强可扩展处理器目前已成为全球以数据为中心基础设施的基石,它可以处理各种以数据为中心的工作负载;凌动处理器拓展了在功率受限用例中的应用;FPGA可编程解决方案助力实现从普通级别到更精细的计算执行的加速;Movidius、Habana和GPU加速器则作为补充产品进一步为工作负载提供加速功能。

英特尔一直致力于为至强处理器注入AI训练和AI推理功能。第一代英特尔至强可扩展处理器加入了AVX-512,并优化了FP32。在2019年继续进行了相关改进,在第二代至强可扩展中引入了英特尔深度学习加速技术,从而显著提高了基于INT8推理的性能。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

随着第三代至强可扩展产品的推出,英特尔将至强拓扑优化的数量从24个增加到44个,并加入了对bfloat16的支持。第三代英特尔至强可扩展处理器是业界首款具有内置bfloat16支持的主流服务器处理器,增强了现有的深度学习优化能力。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

bfloat16是一个精简的数据格式,与如今的32位浮点数(FP32)相比,bfloat16只通过一半的比特数且仅需对软件做出很小程度的修改(如必要),就可达到与FP32同等水平的模型精度。新增的bfloat16支持同时为CPU的AI训练和推理性能提供加速。

在第三代至强可扩展处理器平台上,英特尔提供四路、八路的服务器,为当今AI融合的数据密集型数字服务提供内置AI加速和持久内存领导性。这一处理器专为深度学习、虚拟机(VM)密度、内存数据库、任务关键型应用及分析密集型工作负载而设计。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

第三代至强可扩展也是当前唯一最多可提供八路可扩展性的x86平台。对于那些将老旧基础设施进行更新换代的客户来说,与使用寿命已达5年的同等级四路平台相比,其有望在常见工作负载3上获得预计约1.9倍的提升和高达2.2倍的虚拟机提升。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

据悉2021年代号为Sapphire rapids的至强可扩展处理器已经启动,其将包含一项全新的称为Advanced Matrix Extensions或AMX的AI功能,从而确保至强平台成为AI的最佳CPU平台。

除了至强可扩展处理器,英特尔Stratix 10 NX FPGA——英特尔首个针对高带宽、低延迟AI加速所打造的AI优化FPGA产品。此类FPGA可针对自然语言处理、欺诈识别等具有高计算要求的应用程序为客户提供可定制、可重新配置、可扩展的AI加速。英特尔Stratix 10 NX FPGA配备集成式高带宽内存(HBM)、高性能网络功能以及最新AI优化算法模块AI Tensor Block,其含有AI模型算法常用的低精度乘法器密集阵列。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

英特尔公司副总裁、可编程解决方案事业部总经理David Moore表示,FPGA具有独特的定位,可以为快速创新的客户提供高性能的自定义工作负载。

为了使创新者能够提供智能服务,英特尔开发了一种方法,使开发人员能够在英特尔包括FPGA在内的各种产品组合中快速部署AI解决方案。例如,数据科学家可以利用OpenVINO在不了解FPGA的情况下利用FPGA进行AI推理。他们可以在Tensorflow,Caffe或mxnet等标准AI框架中进行训练,并通过OpenVINO进行函数调用,从而在几秒钟内部署该解决方案。

英特尔Stratix 10 NX嵌入了一种新型的AI优化模块,称为AI Tensor。Stratix 10 NX通过AI Tensor块,扩展了基于FPGA的高性能AI推理,让硬件定制化能力的优势得以进一步拓展。与当今用于人工智能推理工作负载的Stratix 10 MX相比,AI Tensor提供的INT8计算性能高出多达15倍。Stratix 10 NX FPGA针对跨多节点大型模型的实时AI加速进行了优化,作为多功能加速器与英特尔至强处理器相得益彰。

CPU和FPGA产品的更新外,英特尔GPU产品也在开发中。同时,第三代英特尔Movidius VPU(Keem Bay)也即将推出,它是英特尔边缘AI产品组合的最新成员,一种专用于计算机视觉和深度学习推理的AI加速器。

英特尔在去年第四季度收购了Habana,以加强AI产品组合,并加快在新兴、快速增长的AI芯片市场的工作。英特尔已经整合并强化了产品路线图,调整了软件资源,现在还向大型CSP提供了Habana的第一个深度学习训练处理器。

除了计算产品,英特尔一直在进行系统性地投资,弥合内存和存储层级间的鸿沟。英特尔傲腾SSD通过快速缓存和存储加速应用程序,提升了每个服务器的规模,并减少延迟敏感工作负载的交易成本。与DRAM不同,英特尔傲腾持久内存技术可提供高性能智能,以更低的成本提供比DRAM高的容量,并且在计划或计划外重新启动后,数据不必重新加载到内存中,也可以保留其数据。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

英特尔傲腾持久内存200系列,是英特尔下一代的持久内存模块,可支持前所未有的内存容量,并以最快的速度访问持久存储的数据。傲腾持久内存200系列提供的CPU对持久性数据的访问速度比主流NAND SSD读取数据快225倍以上。与第一代产品相比,英特尔傲腾持久内存200系列的平均内存带宽增加了25%。

针对使用全闪阵列存储数据的系统,英特尔发布了新一代高容量英特尔3D NAND固态盘:英特尔SSD D7-P5500 和P5600,能够满足AI及分析工作负载的密集IO需求,并具有提高IT效率和数据安全性的高级功能。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

英特尔SSD D7-P5500和P5600固态盘建立在英特尔浮栅结构的3D NAND技术,实现了业内领先的96层TLC的面密度,在该面密度下具有领先的写入性能以及领先的数据保留能力。与上一代NVMe NAND相比,这些驱动器具有全新的PCIe控制器,固件,并且可部署第3代和第4代PCIe,可将延迟降低40%,并将性能提高33%。

第三代至强可扩展处理器引入了英特尔傲腾持久内存200系列,可在四路系统中提供多达18TB的内存数据,非常适合进行内存数据库、密集虚拟化、分析及高耗能计算等数据密集型工作负载的管理。

第三代英特尔至强可扩展处理器及英特尔傲腾持久内存200系列目前已开始陆续交付。5月,Facebook宣布将基于第三代英特尔至强可扩展处理器打造其最新的开放式计算平台(OCP)服务器。其它大型云服务提供商,如阿里巴巴、百度和腾讯也已宣布采用英特尔新一代处理器。通用OEM系统配置预计于2020年下半年推出。英特尔SSD D7-P5500和P5600 3D NAND固态盘现已发布。英特尔Stratix 10 NX FPGA将于2020年下半年交付。

软件与生态系统

Lisa表示,生态系统就是英特尔为客户从硬件中提取价值的方式,这也是公司非常具有战略眼光的一部分。我们每个人都付出了巨大的努力,推动生态系统和软件的优化。“不管是我们打造的OneAPI,还是软件能力,我们都有持续的投入。这是One Intel,以及跨多产品线的理念的缩影,以确保所有的产品技术都可以完美地协调配合。”

在软件方面,英特尔对客户常用的软件不断进行优化,包括流行的开源框架、定制拓扑结构等等;通过应用程序工程和支持开源社区,英特尔使AI开发人员能够在Intel平台上进行编程;英特尔正在通过oneAPI建立一个统一的编程模型,为开发人员提供统一的体验,同时使产品组合当中的所有AI产品的性能得以最大化。

随着英特尔不断扩展领先的AI产品组合,更好地满足多样化的客户需求,英特尔也不断通过oneAPI跨架构工具组合帮助开发者简化异构编程的流程、加速性能、提升生产力。凭借这些高级工具,开发者可在英特尔CPU、GPU、FPGA上实现AI工作负载的加速,并使代码可以在目前及未来的英特尔处理器及加速器上得以兼容。

英特尔oneAPI跨架构工具生态系统使开发人员能够为AI、HPC和其他计算密集型应用程序提供高性能和高效的开发。而英特尔OpenVINO发行版工具包是用于开发AI应用程序的软件工具集,其重点是加快对诸如计算机视觉、语音等用例的推理。

David表示,开发人员的生产力是英特尔战略的一个关键部分,其中一个目标就是使FPGA设计流程更高效。OneAPI是在至强可扩展平台上的平台级异构集成,而OpenVINO则针对深度学习应用,能够读取、部署和优化FPGA加速器的目标集成。“因此,当我们展望FPGA的应用范围时,除了人工智能,我们的一个重点是通过对英特尔软件框架、标准机器学习框架以及行业资料库的集成利用,提高FPGA设计流程的整体生产力。”

针对第三代至强可扩展处理器平台的bfloat16支持,深度学习框架(包括TensorFlow和Pytorch)优化过的版本将支持bfloat16,并通过英特尔AI分析工具包即可获得。英特尔同时为OpenVINO工具包和ONNX Runtime环境提供bfloat16优化,以简化推理的部署工作。

在生态方面,从公有云提供商到OEM平台以及AI Builders社区(SI,ISV等),他们已经使用Intel AI技术建立了蓬勃发展的合作伙伴生态系统。在活动上,来自华大基因、金山云、国电南瑞集团、腾讯云、阿里云等各行业用户代表,在主题演讲环节分享了他们部署AI和数据分析解决方案、推动IT架构转型、提供创新云计算服务的最佳实践。

以数据为中心软硬结合+生态 英特尔打造全新AI优化数据平台产品组合

英特尔在解决方案级别上交付,通过生态系统驱动的解决方案,客户用例POC验证和英特尔精选解决方案,使AI易于采用和部署。英特尔精选解决方案是英特尔生态建设的典型代表,帮助合作伙伴加快产品推向市场的速度。但这也是英特尔的战略优势。

基于全新的平台产品组合,英特尔还对其精选解决方案组合进行了全面升级。英特尔最新发布3个全新精选解决方案,以及5个经过强化的精选解决方案,重点覆盖数据分析、AI及超融合基础设施三大领域。面向基因组分析的增强版英特尔精选解决方案正在全球范围内被应用于新冠疫苗研发,而面向VMware Horizon VDI on vSAN的全新英特尔精选解决方案将用于增强远程学习。

英特尔公司市场营销集团副总裁兼中国区数据中心销售总经理陈葆立表示,英特尔是一家平台型公司,更关注生态的构建力。“我们在产品领先力、解决方案创造力以及生态构建力三个方面和各行各业的客户或者是方案提供商进行合作。”

在方案创新方面,英特尔关注如何与国内优秀的方案商更好地把产品进行融合,打造行业应用方案。英特尔精选解决方案的出发点就是把新技术和国内的优秀方案商进行定制化匹配,预先配置和性能实现最优化,让行业用户通过简单操作就可以进行部署。

“我们产品开发的速度是遵循客户至上的准则,现在领先的用户一直有新的需求,包括人工智能、5G,从而让我们的开发速度也在加快。我们希望推陈出新,可以服务到最终用户。OEM合作伙伴也始终和我们紧密配合,在我们推出新平台的时候就可以匹配推出新的产品和方案来满足最终用户的需求。”陈葆立说。

结语

20多年来,英特尔持续推动数据中心领域的创新,凭借软硬结合的优势、规模化的能力以及与客户的深厚合作,英特尔灵活创新的产品和解决方案经过了客户的实战考验,并在广泛的应用中被成功验证。随着以数据为中心的转型不断深化,英特尔围绕硬件、软件和生态系统构建全新AI优化数据平台产品组合,携手产业生态,赋能“智者更强”,以改变世界的技术造福个人、企业和社会。

    扫一扫

    分享文章到微信


    北京第二十六维信息技术有限公司(至顶网)版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号
    举报电话:13070156560 举报邮箱:jubao@zhiding.cn 安全联盟认证