从云到边缘基础架构,全面提升Ampere Altra系列的AI性能
中国,北京(2021年8月5日)——安晟培半导体科技有限公司(Ampere Computing)日前宣布收购AI技术初创公司OnSpecta,该收购将助力Ampere通过AI推理应用程序进一步增强Ampere Altra的性能。相较于常用的基于CPU的机器学习(ML)框架,OnSpecta深度学习方案(DLS)的AI优化引擎可带来显著的性能提升。目前,两家公司已开展合作,在基于Ampere的实例上运行了流行的AI推理工作负载,并展示了超过四倍的加速。此次收购将包括一个优化的模型集合(model zoo),包含对象检测、视频处理和推荐引擎等功能。
Ampere创始人、董事长兼首席执行官Renee James表示:“很高兴OnSpecta团队加入Ampere。借助他们在深度学习领域的专业积累,Ampere将推出更强大的推理任务处理平台,提供更低的能耗、更强的性能、更高的可预测性。此次收购也凸显了我们致力于为云和边缘部署的客户提供差异化的云原生计算平台的承诺。”
据IDC研究显示,到2024年,AI服务器市场市值预计将超260亿美元,年增长率将达13.7%。在中心和边缘的基础架构中,Ampere的客户正在寻找解决方案,以管理AI推理任务成本和不断增长的需求。DLS为无缝二进制drop-in库,适用于多种AI框架,可大幅提升Ampere Altra上的推理速度。它支持使用Altra-native FP16数据格式,该格式可将FP32格式的性能提高一倍,且不会显著降低精度,也无需重新对模型进行训练。
OnSpecta联合创始人兼首席执行官Indra Mohan表示:“本次收购是我们双方通力合作后水到渠成的结果。加入Ampere后,我们将进一步助力Ampere Altra取得更大的成功,为客户提供关键支持,让Altra产品系列更好地用于各种AI推理用例。”
Oracle云基础设施执行副总裁Clay Magouyrk表示:“在Oracle OCI Ampere A1实例上,Ampere Altra和OnSpecta所展现的强大性能和易用性有目共睹。凭借DLS在所有主要开源AI框架(包括Tensorflow、PyTorch和ONNX)上的兼容性,以及Ampere Altra可预测的性能,OCI Ampere A1将在AI推理工作负载中继续开拓创新。”
依据惯例,此次收购将于8月完成,具体交易条款未披露。
好文章,需要你的鼓励
传统数据工程面临数据质量差、治理不善等挑战,成为AI项目的最大障碍。多智能体AI系统通过协作方式正在彻底改变数据准备、治理和应用模式。Google Cloud基于Gemini大语言模型构建协作生态系统,让不同智能体专门负责数据工程、科学、治理和分析等任务。系统通过分层架构理解组织环境,自主学习历史工作流程,能够预防问题并自动处理重复性任务,大幅提升效率。
中科大团队开发出LongAnimation系统,解决了长动画自动上色中的色彩一致性难题。该系统采用动态全局-局部记忆机制,能够为平均500帧的动画进行稳定上色,性能比现有方法提升35-58%。核心创新包括SketchDiT特征提取器、智能记忆模块和色彩优化机制,可大幅提升动画制作效率。
微软推出Copilot调优功能,让企业通过低代码工具利用自动化微调技术训练企业数据。与基于公开数据的通用AI模型不同,企业需要理解内部数据和流程的专业化模型。Gartner预测专业化GenAI模型市场将在2026年翻倍至25亿美元。这些模型通常基于开源模型构建,部署为小语言模型,提供更好的成本控制和数据安全性,同时更易符合欧盟AI法案要求。
南开大学团队开发出DepthAnything-AC模型,解决了现有AI距离估算系统在恶劣天气和复杂光照条件下性能下降的问题。通过创新的扰动一致性训练框架和空间距离约束机制,该模型仅用54万张图片就实现了在雨雪、雾霾、夜晚等复杂环境下的稳定距离判断,同时保持正常条件下的优秀性能,为自动驾驶和机器人导航等应用提供了重要技术支撑。