
本文作者:英特尔技术部总经理高宇
无处不在的AI, 已经遍及云端、边缘,和客户端。首先,云端能够提供最强大的AI算力,它同时提供训练和推理的能力,成为AI世界的智慧中枢。其次,边缘能够提供高效的,超低时延的AI能力,解决了AI在千行百业的最后一公里问题。而客户端的AI能力也在不断提升,最终将解决个人AI的数据隐私和个性化问题。可见,AI非常适合云边端三级架构,按照用户场景进行针对性部署。英特尔为云边端都提供了强大的AI解决方案。
在云端AI方面,企业通常投入很大,希望更多用户能够同时使用,以摊销成本,为数据中心增强AI。针对云端AI对于大参数、大并发、训推一体这三大核心诉求,英特尔提供了基于至强处理器的AI方案,以及基于Gaudi AI加速器的方案。
至强处理器作为目前云计算的重要算力基础,已经提供了强大的AI算力,特别是去年底发布的第五代至强可扩展处理器,让AI性能大幅提升。另外英特尔很快将推出至强6处理器家族,将至强家族的性能再提高一个新高度,新平台将具备更加出色的AI能力,请大家拭目以待。针对更高性能AI的应用场景,英特尔推出了Gaudi AI加速器,其具备强大的AI tensor算力,以及大容量高速HBM显存,适合从训练到高并发推理的云上AI任务。
在边缘方面,低时延、高可用、参数微调能力是必不可少的要求,这样才能服务于千行百业,不同场景。针对边缘AI对于这三大核心诉求,英特尔提供了酷睿CPU + 锐炫GPU的组合,全栈式的解决方案能够各行业对AI的性能和成本需求。
针对越来越强烈的在端侧部署AI的需求,英特尔 CEO 在2023年提出了AI PC理念,并且在同年12月15日发布了AI PC的首款处理器——酷睿Ultra,它采用了XPU架构,也就是CPU、GPU、NPU的高性能混合架构,能够让适合的引擎处理合适的任务,提供了比上一代高达8倍的AI性能,帮助用户解决端侧对于快速响应、数据隐私安全、个性化服务这三大诉求。
光有强大的硬件是不够的,AI 的世界 30% 是靠硬件,70%靠的是软件。所以英特尔提供了各式各样的软件工具链,能够不断调优性能,发挥芯片潜能。英特尔AI工具链家族包括对英特尔平台性能深度优化的OpenVINO™工具,也包括完美对接各种开源框架的BigDL工具,以及对各种底层设备进行编程的API工具OneAPI。为不同的开发者提供不同的趁手工具,应对开发挑战。另外,英特尔和开发者始终站在一起。英特尔中国还有一只强大的现场技术支持团队,我们做到对开发者的有问必答,帮助合作伙伴以最快的速度,实现在英特尔平台上AI软件的快速部署和调优。
AI 已经无处不在,将彻底改变人们的工作和生活,在人们最直观感受的AI应用时代,PC一定是AI的最佳载体之一。PC 自诞生以来,已经经历了个人电脑普及、互联网PC两次变革。在今天的万物AI时代,我们认为“AI+PC”将大有可为,AI PC 成为PC市场的新物种,承载着AI,为算力赋予了新的意义。
我们已经有越来越多的合作伙伴,发布了基于酷睿Ultra 处理器的AI PC。 AI PC的应用也在丰富着AI的体验。 我们总结了六大应用场景,为用户示范了AI PC 的独到之处。 AI Chatbot带来更专业的问答体验,AI PC助理帮用户完成简单日常工作,AI Office助手能高效处理文字甚至起草合同文书,AI本地知识库RAG能让知识财富得以共享利用,AI多媒体能帮你处理视频图片等内容,挥洒无限创意。AI PC管理能让远程管理和防护等更高效,帮助企业降本增效。
AI PC 神通广大,全面解锁 AI 应用,还为教育、医疗、金融、制造、零售等行业驱动AI能力,打通行业AI落地的“最后一公里”。
这就是AI PC无所不能的实力。
去年9月,英特尔CEO提出AI PC 概念。12月发布首款AI PC 处理器酷睿Ultra。到今天的半年时间里,我们看到PC产业合作伙伴前所未有的紧密合作,成果斐然。我们发布了 AI PC 加速计划,和AI PC 开发者计划。 100家软件合作伙伴和150 家硬件合作伙伴和我们同心协力,优化加速AI PC,打磨300项 AI 加速功能,共同书写AI PC的历史新篇章。我们还针对500款AI模型进行优化,让它们能够在酷睿Ultra平台的AI PC上优化运行。到下一代处理器 Lunar Lake,AI 算力直接提升到100 TOPS,算力满满。更值得骄傲的是,今年第一季度销量喜人,酷睿Ultra已经出货500万片,预计到年底,将有230款AI PC ,共计交付4000万片处理器。到2025年,目标为1亿台PC增添AI特性。我们更有信心达成长期目标,到2028年,全球80%的PC都将是 AI PC!
AI PC 已来,未来会更为振奋。
前几天,我们提前预告了酷睿 Ultra 家族的第二款产品—— Lunar Lake 处理器的细节。一年不到的时间里,AI 性能比前一代产品高出 3 倍,配备了超过60 TOPS 的GPU算力和 超过45 TOPS 的NPU算力,100多TOPS的平台算力,为来自20多家 OEM 的 80多款 AI PC 提供动力。今年,Lunar Lake 将和Meteor Lake 一起在今年交付4000万片 AI PC 处理器。更多细节,我们将在6月初的Computex 期间公布,敬请期待!
在AI大潮下,顺势而为,不进则退。我们希望协同产业伙伴一起,继续挖掘AI时代的新玩法,新机会,让AI惠及更多人。正如我们英特尔的愿景一样,创造改变世界的科技,造福地球上的每一个人。
好文章,需要你的鼓励
很多人担心被AI取代,陷入无意义感。按照杨元庆的思路,其实无论是模型的打造者,还是模型的使用者,都不该把AI放在人的对立面。
MIT研究团队提出递归语言模型(RLM),通过将长文本存储在外部编程环境中,让AI能够编写代码来探索和分解文本,并递归调用自身处理子任务。该方法成功处理了比传统模型大两个数量级的文本长度,在多项长文本任务上显著优于现有方法,同时保持了相当的成本效率,为AI处理超长文本提供了全新解决方案。
谷歌宣布对Gmail进行重大升级,全面集成Gemini AI功能,将其转变为"个人主动式收件箱助手"。新功能包括AI收件箱视图,可按优先级自动分组邮件;"帮我快速了解"功能提供邮件活动摘要;扩展"帮我写邮件"工具至所有用户;支持复杂问题查询如"我的航班何时降落"。部分功能免费提供,高级功能需付费订阅。谷歌强调用户数据安全,邮件内容不会用于训练公共AI模型。
华为研究团队推出SWE-Lego框架,通过混合数据集、改进监督学习和测试时扩展三大创新,让8B参数AI模型在代码自动修复任务上击败32B对手。该系统在SWE-bench Verified测试中达到42.2%成功率,加上扩展技术后提升至49.6%,证明了精巧方法设计胜过简单规模扩展的技术理念。