至顶网计算频道 08月07日 新闻消息(文/董培欣):随着云计算、大数据、人工智能技术的不断发展,具备通用型计算能力的CPU已经越来越难以满足大数据分析和人工智能对计算能力的特列计算性能要求。于是GPU与FPGA等异构计算产品开始在数据中心中出现并逐步占有一席之地。
当前,为了满足云计算数据中心内日益提升的计算、网络和存储性能要求,自适应和智能计算的全球企业赛灵思公司(Xilinx)宣布推出Alveo U50,进一步扩展 其Alveo数据中心加速器卡产品组合。Alveo U50卡是业界首款可以支持第四代PCIe(PCIe Gen 4)的轻量级自适应计算加速卡, 专门为扩容各种不同关键计算、网络和存储工作负载而特别设计,而且所有的加速都在同一个可重配置FPGA平台之上实现。
Alveo U50卡采用赛灵思UltraScale+架构,率先使用半高半长的外形尺寸和低75瓦的低包络功耗。该卡支持高带宽存储器(HBM2),每秒100G网络连接,并支持第四代PCIe和CCIX互联标准。通过支持标准的PCIe服务器插槽和仅相当于现有Alveo卡1/3的功耗, Alveo U50大幅扩展了自适应加速技术可以部署的范围,从而为要求严苛的计算、网络与存储工作负载带来了前所未有的高吞吐量与低延时。8GB HBM2提供了超过400Gbps的数据传输速度, QSFP端口提供了高达100Gbps的网络连接。此外,高速网络I/O还支持各种前沿应用, 如NVMe-oF解决方案(NVM Express over Fabrics),解耦计算存储和专业金融服务应用。
Alveo U50为客户提供了小尺寸、低功耗的可编程加速器平台,专门面向任意服务器部署,本地、云端和边缘的横向扩展架构和特定领域加速而打造。为了应对云微服务等新兴动态工作负载的挑战,Alveo U50在吞吐量,延迟和功效方面实现了10-20倍的改善。 对于加速网络和存储工作负载,U50卡可帮助开发人员通过将计算更接近数据来识别并打破时延和数据移动的瓶颈。
从机器学习推断、视频转码和数据分析到计算存储,再到电子交易和金融风险建模,Alveo U50可以将Alveo平台的灵活性、高吞吐量和低时延等性能优势,扩展到任意服务器的部署中。与固定架构的其他解决方案不同,Alveo U50的软件和硬件可编程性使客户能够在工作负载和算法不断发展的同时,满足不断变化的需求并随时优化应用性能。
赛灵思执行副总裁兼数据中心部总经理Salil Raje先生表示:“对数据中心永无止境的需求,正在将现有数据中心基础设施的性能推向极限,行业需要灵活应变的解决方案来优化广泛应用领域工作负载的性能,以延长现有基础设施的生命周期,并最终降低总拥有成本(TCO)。新款Alveo U50面向数据中心工作负载带来了优化的外形尺寸,以及前所未有的高性能与灵活应变能力,我们将持续与不断扩大的应用合作伙伴生态系统合作,共同构建解决方案堆栈,为众多行业提供此前不可想象的新功能。”
好文章,需要你的鼓励
这项来自苹果公司的研究揭示了视频大语言模型评测的两大关键问题:许多测试问题不看视频就能回答正确,且打乱视频帧顺序后模型表现几乎不变。研究提出VBenchComp框架,将视频问题分为四类:语言模型可回答型、语义型、时序型和其他类型,发现在主流评测中高达70%的问题实际上未测试真正的视频理解能力。通过重新评估现有模型,研究团队证明单一总分可能掩盖关键能力差距,并提出了更高效的评测方法,为未来视频AI评测提供了新方向。
这篇来自KAIST AI研究团队的论文提出了"差分信息分布"(DID)这一创新概念,为理解直接偏好优化(DPO)提供全新视角。研究证明,当偏好数据编码了从参考策略到目标策略所需的差分信息时,DPO中的对数比率奖励形式是唯一最优的。通过分析DID熵,研究解释了对数似然位移现象,并发现高熵DID有利于通用指令跟随,而低熵DID适合知识密集型问答。这一框架统一了对DPO目标、偏好数据结构和策略行为的理解,为语言模型对齐提供理论支持。
VidText是一个全新的视频文本理解基准,解决了现有评估体系的关键缺口。它涵盖多种现实场景和多语言内容,提出三层评估框架(视频级、片段级、实例级),并配对感知与推理任务。对18个先进多模态模型的测试显示,即使最佳表现的Gemini 1.5 Pro也仅达46.8%平均分,远低于人类水平。研究揭示输入分辨率、OCR能力等内在因素和辅助信息、思维链推理等外部因素对性能有显著影响,为未来视频文本理解研究提供了方向。
ZeroGUI是一项突破性研究,实现了零人工成本下的GUI代理自动化在线学习。由上海人工智能实验室和清华大学等机构联合开发,这一框架利用视觉-语言模型自动生成训练任务并提供奖励反馈,使AI助手能够自主学习操作各种图形界面。通过两阶段强化学习策略,ZeroGUI显著提升了代理性能,在OSWorld环境中使UI-TARS和Aguvis模型分别获得14%和63%的相对改进。该研究彻底消除了传统方法对昂贵人工标注的依赖,为GUI代理技术的大规模应用铺平了道路。