魔性的音乐,配上夸张的表情,近期有没有被一个“吗咿呀嘿”的视频特效洗脑?“吗咿呀嘿”的背后是AI技术的普及、数十万台服务器和庞大的数据中心支持。然而当前的人工智能应用依然处于非持续的、动态变化之中,没有单一的或某种固定类型的应用能够主导一个固定模式的数据中心。为此,赛灵思推出了可组合式数据中心的新理念,助力数据中心企业为各种各样的AI应用赋能。
2021年3月4日,赛灵思数据中心事业部金融技术全球业务开发经理Alastair Richardson、赛灵思数据中心事业部网络与存储产品管理总监Kartik Srinivasan、赛灵思数据中心市场营销总监Ed Wright以及赛灵思数据中心部亚太区数据中心战略营销经理Guruprasad M. Parthasarathy,从加速算法交易、智能世界视频分析以及赛灵思打造的应用商城向我们介绍了赛灵思可组合式数据中心如何在器件层面实现可扩展和可配置。
首先,赛灵思数据中心事业部金融技术全球业务开发经理Alastair Richardson向我们介绍了既具备软件算法交易开发便利和灵活性,又具备硬件算法交易高性能的赛灵思加速算法交易。
赛灵思加速算法交易可以帮助交易者使用非常复杂的策略,而且不需要进行硬件的发,就可以达到不到一微秒的低时延要求。赛灵思加速算法交易开箱即用、即插即用,是一种基于赛灵思 Alveo加速卡的解决方案。
在赛灵思的Vitis软件平台上,开发者可以通过模块化的方式来构建并且部署基于FPGA的Alveo卡,能够支持库混搭的Alveo卡,可以支持非常广泛的算法交易的用例,因此可以在它上面更容易的部署算法交易的框架和IP。通过这样的方式,交易者可以在赛灵思加速算法交易框架中,使用各种各样的库进行组合,并且支持C和C++语言进行编程,这样就能支持非常广泛的各种各样的全球的软件开发商,并且还可以进行非常方便的集成,把内部和第三方的应用进行集成,同时使得时延降低到微秒级以下,而且其使用起来也非常方便,编程也非常方便,可以将以前以“年”来计算的研发周期,缩短到几周。
用户只需要去购买赛灵思的Alveo U50和Alveo U250,获得产品后从赛灵思免费进行开源软件下载,无需许可证的费用。通过这样的方式就可以立即使用赛灵思的加速算法。
在云计算数据中心的虚拟网络中,是通过CPU来进行数据包的转发,在占用宝贵的CPU计算资源的同时,也不利于虚拟网络带宽的进一步扩展。因此,赛灵思数据中心事业部网络与存储产品管理总监Kartik Srinivasa在接下来的环节中,向我们介绍了如何通过赛灵思SN1000 SmartNIC,实现在虚拟网络中的数据包转发卸载。
Kartik Srinivasa介绍了SmartNIC在超大规模的数据中心和云服务提供商中应用的三大领域,分别是网络、安全和存储。为此,赛灵思推出了Alveo SN1000 SmartNIC,这是业界首款硬件可组合式SmartNIC。
SN1000是一个2×100GB的SmartNIC,完全符合数据中心封装尺寸和功耗仅为75瓦的需求。SN1000基于UltraScale+ FPGA架构,另外还有ARM的子系统,以及可编程的Viits Networking。正是由于SN1000的灵活应变性以及其多核的ARM子系统,和Vitis Networking功能,才使得这款硬件成为业界首款硬件可组合式SmartNIC。
SN1000的价值定位和不同之处在于,它能够为所有的卸载提供软件定义的硬件加速,还是业界首款可组合式SmartNIC,能够满足不同应用的需求,而且能够以线速性能提供特定应用数据路径,可以用P4、C、C++编程语言实现快速灵活应变的硬件加速。最后, SN1000所拥有的控制面和数据面分离的异构架构,可以在数据面实现管理和加速,同时也可以在控制面通过ARM的CPU来进行加速,可以实现非常高效和便捷的安全分离和迁移。
视频监控已经成为各个行业中十分普及的应用,但如何在海量视频中及时发现问题并预警,也成为困扰企业的一个难题。这就需要企业具备高性能的人工智能视频分析能力。
赛灵思数据中心部亚太区数据中心战略营销经理Guruprasad M. Parthasarathy向大家讲解了,如何通过赛灵思智能世界视频分析解决方案双管齐下同时解决企业和开发者的痛点。
赛灵思智能世界视频分析解决方案解决了硬件开发的部分,支持开发者无需任何FPGA开发,只需要做应用的开发就可以实现智能视频分析的应用部署。此外,赛灵思联合生态系统合作伙伴提供了随时可部署的视频分析解决方案。这些解决方案能够支持智慧城市、智能医疗、智能零售等等重要领域的部署。
同时,由于赛灵思产品对于流量处理速度,是其它产品的两倍,通过赛灵思智能世界视频分析解决方案,只需要一台服务器就可以满足30个摄像头的智能视频分析需求,大大降低企业视频分析的成本支出。并可以通过VMSS平台灵活对视频处进行扩展。
在上面技术讲解中,经常提到赛灵思应用商店。最后赛灵思数据中心市场营销总监Ed Wright向我们就赛灵思应用商店(Xilinx App Store)进行了介绍。
赛灵思应用商店,是赛灵思为客户提供解决方案和应用的一种全新的方式。用户通过使用赛灵思应用商店可以非常容易的帮助他们去评估、购买并且部署有关的应用。这个新的应用商店不仅仅能够方便客户以一种全新的方式非常方便的去消费赛灵思的应用。同时还能够给赛灵思的合作伙伴一种新的方式,把他们的应用推给相关的客户。能够更加方便的管理有关的许可证,更加方便的通过赛灵思的数字、知识产权管理的计划来获取相关数据,并且能够更好的给客户推送他们的应用。可以预计,今年赛灵思应用商店将会成为客户评估并且部署加速解决方案和应用的一个优选方式。
由此可知,赛灵思通过全新的加速算法交易、SmartNIC加速数据中心网络、智能世界视频分析解决方案以及赛灵思应用商店,可以向企业提供全向的基于人工智能的应用解决方案,从而协助用户在人工智能应用开发、网络数据传输加速、智能世界视频分析等多个领域,可以更加轻松、更加从容的实现人工智能的应用部署。在这里也希望有更多企业可以和赛灵思一起共同努力,打造人工智能的全新世界。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。