从云到边缘基础架构,全面提升Ampere Altra系列的AI性能
中国,北京(2021年8月5日)——安晟培半导体科技有限公司(Ampere Computing)日前宣布收购AI技术初创公司OnSpecta,该收购将助力Ampere通过AI推理应用程序进一步增强Ampere Altra的性能。相较于常用的基于CPU的机器学习(ML)框架,OnSpecta深度学习方案(DLS)的AI优化引擎可带来显著的性能提升。目前,两家公司已开展合作,在基于Ampere的实例上运行了流行的AI推理工作负载,并展示了超过四倍的加速。此次收购将包括一个优化的模型集合(model zoo),包含对象检测、视频处理和推荐引擎等功能。
Ampere创始人、董事长兼首席执行官Renee James表示:“很高兴OnSpecta团队加入Ampere。借助他们在深度学习领域的专业积累,Ampere将推出更强大的推理任务处理平台,提供更低的能耗、更强的性能、更高的可预测性。此次收购也凸显了我们致力于为云和边缘部署的客户提供差异化的云原生计算平台的承诺。”
据IDC研究显示,到2024年,AI服务器市场市值预计将超260亿美元,年增长率将达13.7%。在中心和边缘的基础架构中,Ampere的客户正在寻找解决方案,以管理AI推理任务成本和不断增长的需求。DLS为无缝二进制drop-in库,适用于多种AI框架,可大幅提升Ampere Altra上的推理速度。它支持使用Altra-native FP16数据格式,该格式可将FP32格式的性能提高一倍,且不会显著降低精度,也无需重新对模型进行训练。
OnSpecta联合创始人兼首席执行官Indra Mohan表示:“本次收购是我们双方通力合作后水到渠成的结果。加入Ampere后,我们将进一步助力Ampere Altra取得更大的成功,为客户提供关键支持,让Altra产品系列更好地用于各种AI推理用例。”
Oracle云基础设施执行副总裁Clay Magouyrk表示:“在Oracle OCI Ampere A1实例上,Ampere Altra和OnSpecta所展现的强大性能和易用性有目共睹。凭借DLS在所有主要开源AI框架(包括Tensorflow、PyTorch和ONNX)上的兼容性,以及Ampere Altra可预测的性能,OCI Ampere A1将在AI推理工作负载中继续开拓创新。”
依据惯例,此次收购将于8月完成,具体交易条款未披露。
好文章,需要你的鼓励
人工智能代表着第四次工业革命的到来,它不仅是机械化工具,更是全球范围内增强、合作和颠覆的催化剂。AI已深度融入日常生活,在医疗、国防、金融和公共治理等领域发挥变革作用。与以往技术不同,AI能够增强人类决策能力,提升效率和创新。然而,算法偏见、网络安全威胁和隐私问题等风险不容忽视。未来AI发展需要政府、企业和学术界协调合作,建立伦理、法律框架,确保AI成为推动人类进步的积极力量。
腾讯微信AI团队开发的ComoRAG系统通过模仿人脑认知机制,让AI具备了动态记忆和循环推理能力,在长文本理解任务上相比传统方法准确率提升高达11%。该系统采用三层知识组织结构和五步认知循环过程,能够像侦探破案一样主动探索线索、整合信息、构建完整推理链条,特别在处理复杂叙事推理问题时表现优异,标志着AI从信息检索工具向智能推理伙伴的重要转变。
随着现代AI技术对数据中心基础设施提出新要求,"AI数据中心"一词使用日益频繁。然而,这一术语的定义仍不清晰,AI数据中心与传统数据中心的区别并不明显。AI数据中心通常具备更大容量、GPU加速硬件、优化网络设备、高效冷却系统等特征,但这些特性并非AI独有。与其投资专门的AI设施,企业或许应考虑改造现有数据中心来支持AI工作负载。
新加坡南洋理工大学团队开发的4DNeX系统实现了从单张照片生成完整4D动态场景的突破。该技术采用6D视频表示法融合RGB颜色和XYZ空间信息,构建了包含920万帧数据的4DNeX-10M大规模数据集,通过改进视频扩散模型实现15分钟内的高效生成,在动态程度和一致性指标上显著优于现有方法,为虚拟现实、影视制作等领域提供了新的技术路径。