ZD至顶网服务器频道 12月08日 新闻消息(文/董培欣): 12月5日,赛灵思公司战略与市场营销高级副总裁Steve Glaser与赛灵思云计算战略市场开发总监Andy Walsh就赛灵思FPGA芯片在数据中心的主流应用与记者展示了座谈。
Steve Glaser首先向大家介绍了赛灵思在数据中心业务里完成的一些里程碑事件。包括与IBM、高通的联手合作,也包括百度亚马逊等超大型数据中心的成功应用,同时还包括赛灵思为加速FPGA在“超七大”数据中心中的主流应用而不断推出的产品、工具,以及在行业统一标准方面的先锋地位。
Andy Walsh则向我们具体介绍了SC2016 全球超算大会上赛灵思重磅推出的可重配置加速堆栈( Reconfigurable Acceleration Stack ), 通过一系列的数据展示了这一堆栈对加速赛灵思FPGA 在超大规模数据中心中主流应用重要意义。
通过Andy walsh的介绍我们可以了解,全球七大超大规模数据中心公司中,已经有多家开始采用赛灵思的FPGA产品。
在百度,赛灵思FPGA被运用到机器学习和一些汽车方面的应用之中,赛灵思FPGA的资源池化能力,协助百度将序列数据的分析能力提升到以前的10倍。
在微软,在数据中心的每个服务器节点都将进行FPGA的部署,用来加速网络,数据加密以及进行流量负载均衡。
上个月,亚马逊也宣布了采用赛灵思FPGA的F1计算实例,满足用户在数据分析、视频、安防、机器学习方面的应用需求。
还有一些走在科技前沿的小型企业,例如深鉴科技,也在通过运用赛灵思FPGA产品,使得机器学习推断效率得到最大的提高,完善神经系统模型的训练,加速低精度数据的精准分析。
机器学习、数据分析、视频处理、存储压缩以及虚拟网络数据传输,这是超大规模数据中心客户最关心的几个重要工作负载,也是通过FPGA可以加速完成的典型工作负载。
通过赛灵思所提供的相同单位功耗下赛灵思FPGA与服务器CPU性能对比中可以了解。在相同功耗下,赛灵思FPGA的机器学习处理能力是CPU的11倍、数据分析SQL查询能力是CPU的33倍、视频转码和存储压缩能力可以达到40倍,云计算数据中心中最重要的虚拟网络数据传输能力也可以达到CPU处理性能的23倍。
光用数字对比,效果并不明显,在接下来的介绍中,Andy Walsh具体对比了在加速机器学习和数据分析时相同性能的至强CPU与池化FPGA产品的成本、功耗与空间对比。赛灵思提供的数据显示,一台采用双路至强CPU、16个池化FPGA的服务器所提供的加速机器学习和数据分析处理能力,需要24台双路至强服务器才能进行满足。FPGA与至强服务器的系统成本为1:10、功耗为1:12、机架空间占用为1:12。综合对比下,赛灵思的池化FPGA产品的使用成本仅是双路至强服务器的1/10。
目前数据中心的硬件架构还是以x86 至强服务器为主体。做为一款通用型处理芯片,x86的适用性方面依占据无可比拟的技术优势。但是在当前云计算软件定义技术的冲击下,x86架构在机器学习、数据分析、视频处理、存储压缩以及虚拟网络数据传输中的处理性能问题开始凸显。由此产生了投入成本过高、运营维护庞杂以及横向扩展无力等一系列问题。因此,在数据中心中开始探索采用GPU、FPGA等产品来协助高性能运算、视频处理、虚拟网络传输等应用的技术实施。
赛灵思正是把握了这种技术动向,推出可重配置加速堆栈方案,可以帮助全球最大的云端服务供应商们快速开发和部署加速平台。专门针对云级应用而设计的基于FPGA的赛灵思可重配置加速堆栈,包括库、框架集成、开发板并支持OpenStack。通过赛灵思FPGA,该可重配置加速堆栈方案提供了业界最高的计算效率:比x86服务器CPU高出40倍;比竞争型FPGA方案高出6倍。
此外,赛灵思还正在致力于FPGA产品的通用性和普及性方面的工作。多年来,阻碍赛灵思FPGA广泛应用的最大障碍就是只有硬件工程师才能实现的硬件语言编程模式,把占据80%以上的软件和系统级工程师挡在了门外。赛灵思通过推出SDx软件定义的设计环境系列,为来自不同应用领域的大量的软件和系统级工程师打开了硬件创新的大门。
据介绍,目前 SDx产品库目前已经积累了一千多个产品应用,这些产品在使用时,已经无需经过深层次的FPGA开发或硬件编程即可应用。所以在数据中心和云计算这样的领域,赛灵思FPGA可以通过合适的库、合适的openstack环境来支持高层次的框架,这些应用的开发人员就不需要FPGA方面的专业知识。并且在嵌入式市场,赛灵思FPGA可以支持C/C++软件定义的开发环境。预计在今后五年时间内,赛灵思的用户数量将是现在的5倍(从50000到250000),而且主要是软件和系统工程师,而不是像过去那样主要是FPGA和硬件工程师。FPGA的应用普及程度和应用困难度也都会显著的降低,相信到时候,数据中心由x86一统天下的硬件架构格局也会因此而发生重大改变。
好文章,需要你的鼓励
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
本期《Quick Charge》播客涵盖多个热点话题:特斯拉疑似试图删除FSD欺诈相关证据以规避巨额赔付;卡特彼勒持续推进建筑领域电气化布局;住宅太阳能30%税收抵免即将到期。此外,嘉宾Tom Pacheco就高压系统与电池技术培训展开探讨,强调电动车技术人才培养的紧迫性。节目同时提醒有意安装太阳能的用户尽快行动,可通过EnergySage平台比较多家安装商报价。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。