在近日举行的re:Invent 2020 CEO主题大会上,AWS 宣布了采用多达8个Habana® Gaudi®加速器的EC2实例,比目前GPU的EC2实例在机器学习性价比上提升了40%,基于Gaudi®的EC2实例计划于2021年上半年提供使用。
在主题大会上,AWS首席执行官Andy Jassy强调了各行业对高性能、更实惠的人工智能工作的巨大需求。随着公司计划引入以Gaudi为特色的新EC2实例进行深度学习训练,AWS将进一步降低AI数据集的训练成本,并降低希望利用AI提供业务分析、改善效率和增强用户体验的客户的运营总成本。
8卡的Gaudi 解决方案可以在TensorFlow上每秒处理12000张图像训练ResNet-50模型。每个Gaudi处理器集成了32GB的HBM2内存,并集成了用于服务器内部处理器互联的RoCE功能。凭借AWS弹性架构适配器(EFA)的技术可以跨服务器扩展,从而允许AWS及其客户无缝地扩展使用多个基于Gaudi的系统以实现高效和可扩展的分布式训练。
Habana的SynapseAI软件套件专为在Habana Gaudi处理器上提供高性能的深度学习训练,SynapseAI与TensorFlow和Pythorch等流行的深度学习框架集成,对Gaudi进行了优化。开发人员将可以获取开放的Gaudi软件、参考模型和文档。参考模型将在Habana的GitHub知识库中公开发布,并将包括各种流行的模型,如图像分类、对象检测、自然语言处理和推荐系统。SynapseAI软件套件包括Habana的图形编译器和实时Tensor Processor Core (TPC)内核库、固件和驱动程序,以及用于定制内核开发的TPC SDK和SynapseAI Profiler等开发工具。有关在Gaudi上使用新的AWS EC2实例的更多信息,请参阅我们的白皮书。
Habana将在目前Gaudi效能基础上,推出下一代TSMC 7nm 的Gaudi2®,让AI训练应用和服务广大客户、数据科学家和研究人员。
好文章,需要你的鼓励
2025年伊始,美国AI行业融资热潮延续。迄今已有9家AI初创公司完成超1亿美元融资,其中一家更突破10亿美元大关。这些公司涉及AI研究、基础设施、法律科技等多个领域,融资规模和估值均创新高,彰显了投资者对AI技术和市场前景的持续看好。
人工智能应用,尤其是生成式AI,正推动企业云计算成本上升。一项报告显示,这些成本平均增长了30%。大多数IT和财务领导认为GenAI导致的云支出已难以控制。专家指出,不加管理的GenAI可能使创新在财务上不可持续。然而,AI工具也可以帮助预测和管理云支出。专家建议采用混合云模式和边缘计算来控制成本,并根据组织的云计算发展阶段做出架构决策。
Apple最新发布的M3版iPad Air延续了上一代的优秀设计,主要升级在于搭载了M3芯片和改进的妙控键盘。虽然性能提升不大,但仍是一款出色的平板电脑。新款妙控键盘带来了更好的使用体验,整体而言M3版iPad Air为用户提供了更具未来性的选择。
Google 推出基于 Gemini AI 的新功能,可自动识别 Gmail 邮件中的活动详情并添加到 Google 日历。用户只需点击新增的"添加到日历"按钮,即可快速完成日程设置。这项功能目前已向企业、教育用户和 Google One AI Premium 订阅者开放,旨在简化日程管理流程,提高工作效率。