新特性:在近日举行的Microsoft Build大会上,Microsoft推出了 基于Project Brainwave的Azure机器学习硬件加速模型,并与Microsoft Azure Machine Learning SDK相集成以供预览。客户可以使用 Azure大规模部署的英特尔FPGA(现场可编程逻辑门阵列)技术,为其模型提供行业领先的人工智能AI推理性能。
“作为一家整体技术提供商,我们通过与Microsoft密切合作为人工智能提供支持。人工智能适用于从训练到推断,从语音识别到图像分析等各种使用场景,英特尔拥有广泛的硬件、软件和工具组合,可满足这些工作负载的需求。”——Daniel McNamara,英特尔公司副总裁兼可编程解决方案事业部总经理
意义:数据科学家和开发人员可以在全球最大的加速计算云中轻松地使用深度神经网络DNN处理各种实时工作负载,应用的领域涵盖制造、零售和医疗领域等。不论是在云计算还是边缘计算中,他们都可以利用英特尔FPGA来训练模型,并将其部署到Project Brainwave上。
重要性:Project Brainwave使用英特尔FPGA来提供实时人工智能,释放了可编程硬件的潜能并展示了人工智能的未来。基于 FPGA 的架构具有高吞吐和经济节能的特点:比如可以运行 ResNet 50——这是一种行业标准的DNN,需要近 80 亿次计算——而无需批处理。AI客户无需在高性能和低成本之间进行选择。
操作方法:通过使用Azure Machine Learning SDK for Python,客户可以重新训练基于ResNet 50的模型及其数据,专门处理图像识别任务。
对于实时AI工作负载,由于计算强度较高,因此需要专用的硬件加速器。英特尔FPGA支持Azure针对任务配置硬件,以实现峰值性能。
微软公司杰出工程师Doug Burger表示:“客户现在可以利用英特尔FPGA和英特尔至强技术,在云端和边缘使用微软的一系列AI突破性技术。这些新功能支持将AI集成到实时处理流程中,以利用Microsoft Azure和Microsoft AI的强大功能推动业务转型。”
用户可以根据Azure工作负载的特定要求进一步完善FPGA或完全改变其用途。采用英特尔FPGA和英特尔至强处理器开发的Azure架构支持根据用户的定制软件和硬件配置条款,通过加速AI实现创新。
Project Brainwave的限量预览版现已提供,用户可在本地访问Microsoft设计的基于英特尔FPGA的系统,后者充当Azure IoT Edge设备并连接到Azure IoT Hub。
好文章,需要你的鼓励
这项由索非亚大学INSAIT和苏黎世联邦理工学院共同完成的研究,揭示了大语言模型在数学定理证明中普遍存在的"迎合性"问题。研究团队构建了BrokenMath基准测试集,包含504道精心设计的错误数学命题,用于评估主流AI模型能否识别并纠正错误陈述。
约翰斯·霍普金斯大学研究团队提出了创新的隐私保护AI文本生成方法,通过"控制代码"系统指导AI生成虚假敏感信息来替代真实数据。该方法采用"藏身于众"策略,在医疗法律等敏感领域测试中实现了接近零的隐私泄露率,同时保持了高质量的文本生成效果,为高风险领域的AI应用提供了实用的隐私保护解决方案。
实验室和真实使用测试显示,iPhone Air电池续航能够满足一整天的典型使用需求。在CNET进行的三小时视频流媒体压力测试中,iPhone Air仅消耗15%电量,表现与iPhone 15相当。在45分钟高强度使用测试中表现稍逊,但在实际日常使用场景下,用户反馈iPhone Air能够稳定支撑全天使用,有线充电速度也比较理想。
这项由Reactive AI提出的稀疏查询注意力机制通过减少查询头数量而非键值头数量,直接降低了注意力层的计算复杂度,实现了2-3倍的训练和编码加速。该方法在长序列处理中表现出色,在20万词汇序列上达到3.5倍加速,且模型质量损失微乎其微,为计算密集型AI应用提供了新的优化路径。