Xilinx日前推出最新的Alveo数据中心加速卡,Alveo数据中心加速卡可用于提升计算、网络和存储工作负载。 Alveo此举凸显了Xilinx正瞄着数据中心和平台处理器发力。
Xilinx推出的Alveo U50卡是一款低层次适应性加速器,Alveo U50卡支持PCIe Gen 4及是个可编程平台,可用于内部部署、边缘或云端部署服务器。
Alveo U50目前已开始提供样品,将于秋季全面上市,Alveo U50对吞吐量、改善延迟和效率的改善达10倍至20倍。 U50卡令开发人员能够找到并消除延迟及数据瓶颈。
Xilinx旗下名为Xilinx Ultrascale的泛架构支持Alveo U50卡。Alveo U50是第一款采用了75瓦功率封装及半高半长外形封装的产品,是专为包括视频转码及分析在内的各类机器学习设计的。
Alveo U50卡含:
Xilinx称AMD的EPYC处理器、IBM的Power Systems和西数都将支持Alveo U50。
好文章,需要你的鼓励
企业谈AI基础设施时,注意力往往首先集中在模型、GPU和算力集群上。但当大模型应用走向规模化推理,一个瓶颈开始浮现:算力采购完成,并不意味着Token能够被稳定、低成本、可控地交付出去。
STATE16研究院这篇综述发现,物理AI系统存在"静默失效"风险——AI以高度自信执行基于错误世界信息的动作,却不触发任何报警,并提出在AI输出与物理执行之间建立独立授权层的框架。
穆拉蒂时隔18个月首次接受重大媒体采访,介绍其创立的Thinking Machines Lab正在开发的"交互模型"。该模型能以200毫秒间隔处理音频、文本和视频流,捕捉人类交流中的中断、修正和停顿。她还谈及OpenAI"政变周"经历,强调行业决策权过于集中的担忧,并回应了公司近期研究人员离职问题,表示这是初创实验室的正常波动。
UIUC与微软联合研发的OpenWebRL框架让4B小模型仅凭400条初始数据,通过在真实网站上边做边学的强化学习方式,在网页智能体基准上超越了用27万条数据训练的竞争对手。