这似乎是专有人工智能芯片爆发的一周,Google宣布其公有云将支持人工智能芯片,Amazon表示正在开发自己的人工智能芯片。这一趋势还在继续,英国半导体巨头ARM今日宣布代号为Project Trillium的机器学习计划。
Project Trillium将包括一系列特别设计的处理器,以适应机器学习和神经网络所需的计算类型。ARM表示,该项目首先将重点放在移动芯片上,但同时补充说,Trillium的高度可扩展性最终将提供“提升或降低性能曲线的能力”。
据ARM称,Project Trillium的机器学习处理器将让移动设备和智能设备提升到一个新的高度。
ARM公司IP产品部门总裁Rene Haas表示:“人工智能向边缘设备的加速发展,提高了对解决计算、同时保持能效的创新要求。新设备将需要这些新处理器提供的高性能机器学习和人工智能。再加上我们平台提供的高度灵活性和可扩展性,我们的合作伙伴将能够推动跨越广泛设备的边界。”
AMR表示,其ARM ML处理器每秒可处理超过4.6万亿次操作,同时能耗非常低,这对于很多最关注电池寿命的移动设备用户来说非常重要。Project Trillium还包括ARM OD,这是一种物体检测芯片,它使用设备的摄像头实时识别人和物体。ARM指出,这两款芯片可以共同提供“高性能、高能效的人检测和识别解决方案”。对于普通人来说,这可以实现更好的人脸识别功能和增强现实体验。
ARM机器学习副总裁、机器学习总经理Jem Davies表示,这款新芯片的速度和能效使其了应对“最具挑战性的日常机器学习任务”。
Davies在一篇博客文章中写道:“它在现实世界使用的时候性能可能会更高。”他拿支持AR功能的潜水面罩作为该芯片的使用案例。“这意味着使用ARM ML处理器的设备将能够独立于云执行机器学习。这对于潜水面罩等产品来说显然非常重要,对于任何不能依赖稳定的互联网连接的自动驾驶汽车等设备也同样重要。”
他补充说:“我们现在有一个可以扩展到任何设备的机器学习处理器架构,因此它更多的是在市场需要的时候为市场提供所需的产品。这为我们和我们的生态系统合作伙伴提供了对任何机会做出反应的速度和敏捷性。”
ARM表示,Project Trillium只是其新计划的代号,随后将会宣布其新系列芯片的商业品牌名称。ARM将在4月份提供该芯片的早期预览,并计划在2018年年中前全面推出。
Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示:“ARM是大多数智能手机、平板电脑和物联网终端的核心,因此ARM能够增加机器学习在行业中的应用范围。英特尔、高通、Nvidia和Xilinx之间竞争激烈,ARM希望在整体解决方案、可扩展性和每瓦性能方面脱颖而出。”
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。