美国当地时间11月15日,在盐湖城举行的全球超算大会SC16上,浪潮与英特尔联合发布了双方合作研发的FPGA加速卡F10A,这是目前业界支持OpenCL的最高密度最高性能的FPGA加速设备。
SC16发布会现场
F10A支持OpenCL高级语言开发使其具备良好的易编程性,从而在软件生产力上取得了质的飞跃。传统FPGA开发采用Verilog、VHDL等硬件描述语言,对开发者要求较高,开发周期也较长,因此在高性能计算应用受到限制。而采用OpenCL的F10A利用软件高级语言和模型编程,开发周期大幅缩短。据浪潮提供的数据显示,在F10A上开发GZIP算法,1名工程师采用OpenCL用时1个月即可独立完成开发,而采用Verilog则需要耗时3个月才能完成移植。
FPGA加速卡
F10A具有高性能、高密度、高带宽的特点。F10A基于Altera的Arrial 10芯片,单芯片峰值运算能力达到了1.5TFlops,功耗却只需35W,每瓦特性能达到42GFlops。同时,F10A设计为高密度的半高半长PCI-E插卡,同时具有灵活的板卡内存配置,最大支持32G双通道内存,是业内同等FPGA卡内存容量的4-8倍。此外,F10A支持2个10Gb光口,可以实现数据直接从网络到板卡处理,无需经过CPU,大大减低了传输延时。
F10A适用面极广,既可采用DNRange模式实现数据并行,也可采用Pipeline模式实现任务并行,完全支持所有低延迟、高强度应用,如高性能计算、深度学习、数据采集、高频交易、网络处理和信号处理等。
随着高性能计算和人工智能技术的快速发展以及大数据的爆发式增长,传统处理器芯片在提升性能功耗比方面遇到了极大挑战。支持OpenCL的FPGA介于专用芯片和通用芯片之间,具有一定的可编程性,体现出非常明显的硬件重构+软件定义特点,在处理特定应用时有更加明显的效率。此前,浪潮已经与科大讯飞、Altera成功将FPGA芯片应用于智能语音线上识别领域,较CPU性能加速2.871倍,而功耗相当于CPU的15.7%,性能功耗比提升18倍。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
延世大学研究团队通过分析AI推理过程中的信息密度模式,发现成功的AI推理遵循特定规律:局部信息分布平稳但全局可以不均匀。这一发现颠覆了传统的均匀信息密度假说在AI领域的应用,为构建更可靠的AI推理系统提供了新思路,在数学竞赛等高难度任务中显著提升了AI的推理准确率。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
蒙特利尔大学团队发现让AI"分段思考"的革命性方法Delethink,通过模仿人类推理模式将长篇思考分解为固定长度块,仅保留关键信息摘要。1.5B小模型击败传统大模型,训练成本降至四分之一,计算复杂度从平方级降为线性级,能处理十万词汇超长推理,为高效AI推理开辟新道路。