伴随着智算时代的到来,生成式AI的发展对算力的需求爆发增长。随着模型参数量越来越大,大规模AI计算进入万卡时代,面临计算能力不足、训练成本高等问题。原因之一就是传统网络效率低下,导致多节点间的通信效率低。在训练基础模型中,网络通信往往占到20%到40%的时间,在进行梯度和参数同步时,浪费了宝贵的算力资源。
近日,2024年英特尔杯大学生电子设计竞赛嵌入式系统专题邀请赛(以下简称 “大赛”)颁奖典礼在上海交通大学举行,标志着本届大赛圆满落幕。
在即将召开的巴黎奥运会上,国际奥林匹克委员会(IOC)与英特尔合作,引入了生成式AI(GenAI)检索增强生成(RAG)解决方案,改方案基于英特尔至强处理器和英特尔Gaudi AI加速器的开放式AI系统及平台。
布鲁塞尔机场与SHARP/NEC再度携手,采用在全球高端显示市场应用广泛的全彩LED恒晶屏,提升机场信息系统的运营效率和服务品质,共筑航显行业新标杆。
身价200亿美元的IT巨头万维科技公司(World Wide Technology)的长期首席执行官兼技术大师Jim Kavanaugh认为,英伟达(Nvidia)在新人工智能时代掌握了制胜先机,万维科技公司正在对旗下合作伙伴关系进行“重大投资”。
近日,在浪潮网络2024新品发布暨合作伙伴大会上,正式发布了“元脉”全栈AI网络方案,方案以系统化视角,充分结合大模型训练与推理的实际痛点需求,为AIGC智算中心网络的构建提供全面、创新解决方案,帮助用户构建超大规模、超高带宽、超强可靠,以及高度自动化的网络系统。
7月18日,由中国智能计算产业联盟与全国信标委算力标准工作组共同主办的2024中国算力发展专家研讨会在京召开。院士专家们齐聚一堂,共同探索超智融合技术的发展路径。
今日,英特尔分享了与国际奥林匹克委员会(IOC)的一些合作细节,并披露了其以行业需求为导向所打造的生成式AI(GenAI)检索增强生成(RAG)解决方案。该成果深度展示了英特尔如何通过基于英特尔至强处理器和英特尔Gaudi AI加速器的开放式AI系统及平台,帮助开发者和企业应对AI高速发展所带来的需求。
对于英伟达Grace Hopper以及英伟达Blackwell等前沿平台,您只能使用开源GPU内核模块。这些平台不支持专有驱动程序。
最新被英伟达收入囊中的初创公司Brev.dev可以帮助AI开发人员在云供应商中找到最具成本效益的GPU计算。在此之前,英伟达还收购了另外两家初创公司,目的很明确,就是为了扩展其 DGX Cloud 服务的功能。
就在一年前的7月18日,曾联手创办仙童半导体公司的诺伊斯和摩尔另立门户,在美国加州山景城创办了一家芯片公司英特尔(Intel),格鲁夫随后加入他们。三年后,英特尔生产出世界上第一个可编程微处理器4004,从此成为半导体技术创新的执牛耳者,一路引领PC、数据中心等领域的创新,推动计算技术变革的进程。
Gartner最新的全球IT支出预测显示,数据中心系统支出将增长24.1%,是三个月前预期的10%的2倍多,是去年4%实际增幅的6倍——而这一切要都是因为生成式AI。
文章讨论了系统软件研究的动力,强调了应用需求和硬件能力的重要性,并提到了算力硬件调度与管理的探索。文中还涉及了光网络技术、数据中心、CPU技术发展等内容,并提供了相关技术资料的获取方式。
北京电子数智科技有限责任公司(简称“北电数智”)在2024全球数字经济大会上展示了四大AI创新产品和垂类行业模型矩阵。
虽然这笔钱并不算多,但足够让AMD的工程师们有机会考虑整个美国的未来,并为如今强大的CPU与GPU业务埋下种子。
众所周知,企业(特别是超大规模基础设施运营商和云服务商,但如今越来越多的普通企业也开始向生成式AI积极展开怀抱)正在AI加速器和相关芯片上投入巨额资金,旨在建立起属于自己的AI训练与推理集群。
绿色计算是Supermicro整体企业ESG战略和可持续发展目标的核心组成部分。面对人工智能、大型语言模型(LLMs)和高性能计算(HPC)快速发展的当下,计算基础设施的冷却解决方案成为用户必须关注的重点。