图中显示为Habana Labs的HL-205 Gaudi夹层卡。基于Gaudi的EC2实例可提供卓越的成本效益和高性能,且同时原生支持TensorFlow、 PyTorch等通用框架。(图片来源:Habana Labs)
新闻:在近日举行的AWS re:Invent 2020(亚马逊 re:Invent 2020)大会上,AWS首席执行官Andy Jassy宣布了采用最多8个Habana® Gaudi®加速器的EC2实例。对于机器学习工作负载,这些全新EC2实例的性价比相较目前基于GPU的EC2实例提升高达40%。Gaudi加速器专为训练深度学习模型而设计,适用于自然语言处理、对象检测和机器学习训练、分类、推荐以及个性化等工作负载。
“我们为AWS选择Habana Gaudi处理器用于其即将推出的EC2训练实例感到自豪。Habana团队期待继续与AWS展开合作,为客户持续提供确保连续性及先进性的产品路线图。”——David Dahan,英特尔公司旗下Habana Labs首席执行官
重要性:作为全球领先的云服务提供商,AWS被全球各地的开发者用于训练其人工智能模型。然而,机器学习模型复杂程度的增加推升了训练所需的时间和成本,特别是在越来越多的数据可用、且开发者寻求改进其模型的情况下。基于Gaudi的EC2实例旨在通过交付高成本效益及高性能,并同时原生支持TensorFlow和PyTorch等通用框架,来满足这些需求。借助Habana的SynapseAI软件套件,开发者将能够轻松地构建新的训练模型或将现有训练模型从GPU移植到Gaudi加速器。
英特尔的人工智能和XPU愿景:英特尔在2019年收购了Habana,并借此推进其人工智能战略,加强其面向云和数据中心的人工智能加速器产品组合。这包含一系列支持商业、社会及科研领域最具前景的人工智能应用场景的产品和技术。这也体现了公司面向提供全面的跨CPU、GPU、FPGA等的XPU架构并以此帮助客户和整个生态系统释放数据潜能的转型。
英特尔数据平台事业部首席战略官Remi El-Ouazzane表示:“我们的产品组合反应了人工智能并非是能用一种解决方案来满足所有场景的计算挑战。云服务提供商目前已广泛采用了内置人工智能性能的英特尔®至强®处理器来应对人工智能推理工作负载。通过Habana,我们现在得以帮助他们降低人工智能模型的大规模训练成本,在高增长的市场机遇中提供极富竞争力的替代选择。”
好文章,需要你的鼓励
施耐德电气以“新质服务+产业向‘新’行”为主题,第六次参会,展示全新升级的“新质服务体系”,围绕创新驱动、生态协同和行业赋能三大核心领域,以全新升级的“新质服务体系”,助力中国产业向高端化、智能化、绿色化迈进。
香港中文大学联合上海AI实验室推出Dispider系统,首次实现AI视频"边看边聊"能力。通过创新的三分式架构设计,将感知、决策、反应功能独立分离,让AI能像人类一样在观看视频过程中进行实时交流,在StreamingBench测试中显著超越现有系统,为教育、娱乐、医疗、安防等领域的视频AI应用开启新可能。
甲骨文正在成为大规模基础设施供应商的可靠选择。该公司通过AI技术推动应用开发,构建GenAI模型并将智能代理集成到应用套件中。CEO萨弗拉·卡茨透露,公司剩余履约义务达4553亿美元,同比增长4.6倍,并预测OCI收入将从2026财年的180亿美元增长至2030财年的1440亿美元。甲骨文正积极布局AI推理市场,凭借其作为全球最大企业私有数据托管方的优势地位,有望在云计算领域实现重大突破。
Atla公司发布Selene Mini,这是一个仅有80亿参数的AI评估模型,却在11个基准测试中全面超越GPT-4o-mini。通过精心的数据筛选和创新训练策略,该模型不仅能准确评判文本质量,还能在医疗、金融等专业领域表现出色。研究团队将模型完全开源,为AI评估技术的普及和发展做出贡献。