随着 Windows 10 即将结束支持,一些 IT 领导者在准备 PC 升级周期时,正在评估直接在台式机或笔记本电脑上运行 AI 工作负载可能带来的云成本节省和安全性提升。
由于 2025 年 10 月 14 日后 Windows 10 将不再提供安全更新,许多 CIO 发现自己正处于十字路口,一些人正考虑将 Copilot+ 认证的 AI PC 作为其 Windows 11 企业设备计划的一部分。
一些行业专家认为,这样做可以让 CIO 抢占先机。
Gartner 杰出副总裁分析师 John-David Lovelock 最近对 CIO.com 表示:"在两年内,几乎不可能买到没有 AI 功能的 PC、平板电脑、笔记本电脑或手机。无论你是否需要,这都将成为标配。"
不过,AI PC 时代仍处于起步阶段。第一批配备神经处理单元 (NPU) 的 AI PC 于 2024 年下半年推出,搭载了低于 40 TOPS (每秒万亿次运算) 的芯片。这些专用 NPU 由 Intel、AMD、Apple 和 Qualcomm 提供,是 PC 和笔记本电脑核心 CPU 和 GPU 的补充,可以更高效地运行 AI 工作负载并节省电池寿命。
2025 年刚刚上市的第二代 AI PC 将在性能上有显著提升,提供超过 40 TOPS 的芯片上系统 (SOC) NPU 和 16GB RAM——这是 Microsoft 指定的 Copilot+ PC 品牌的要求。已经或即将在 2025 年或 2026 年推出 AI PC 的 OEM 厂商包括 Dell、Acer、Asus、HP、Lenovo、Samsung 和 Microsoft。
AI PC 可以本地运行大语言模型,但仅限于推理,不能训练模型。
Dell 本月初在 CES 上发布的 Max Pro 是一款高端 AI PC 工作站,Dell 声称它整合了支持 AI 推理和大语言模型微调所需的 40+ TOPS NPU 加速器。Dell 还推出了 Dell Pro AI Studio 工具包,使开发者能够利用 NPU 的算力和 AI 模型所需的大量内存。
最终用户可以在云端和市面上的 Copilot+ AI PC 上执行 Copilot+ 提供的基本生成式 AI 功能,如文档摘要和内容创作。目前集成到 PC 中的提供 40 TOPS 的 NPU 将使用户和开发者能够运行更多 AI 工作负载和更小的专用 AI 模型。
分析师指出,当支持 NPU 的 Windows 11 取代 Windows 10 时,将在今年晚些时候开始一轮 PC 更新周期。
IDC 集团副总裁 Tom Mainelli 表示:"我们将看到许多公司在 2025 年更新他们的 PC,我们预计其中一部分会选择完整的 AI PC Copilot+ 配置,大部分会选择配备低于 40 TOPS 的 AI PC,当然在 2025 年仍会有相当一部分是非 NPU 设备。"
他补充说:"对 CIO 来说,能够本地运行大语言模型,带来潜在的成本、性能、隐私和安全优势,这很有吸引力。"
Mainelli 承认,AI PC 上的大多数实际用例将与如今人们在云端使用 AI 的功能相同——内容创作、内容编辑、文本摘要、语言翻译、重复任务自动化、原型设计、个性化、预测洞察和虚拟助手——但它们将在设备本地运行,使其更快、更便宜、更私密和更安全。
他说,将部分 AI 工作负载分配到 PC 为 CIO 提供了其他好处,并指出 Microsoft 将继续在云端提供其 Copilot+ 应用程序。
这位 IDC 分析师补充说:"AI PC 的愿景是,随着时间推移,从小型语言模型开始,然后是量化后的大语言模型......更多工作负载将在本地进行,速度更快,延迟更低,你不需要连接互联网,而且应该更便宜。你为 AI PC 多付一点钱,但 [AI 工作负载] 不在云端,而且可以说利润更高,更安全。"
虽然这类 PC 和笔记本电脑的安装基数很小,但今年将购买更多认证的 AI PC,2026 年可能会有更大的投资,Mainelli 说。根据 IDC 的数据,近 80% 的企业计划在 2025 年底前更新其 PC 组合,70% 的消费者将在未来两年内更新他们的 PC。IDC 还预计,随着 NPU 集成到较低层级的硬件中,从长远来看将出现 AI PC 的"猛攻"。
尽管 Windows 10 的终结日期即将到来,但很少有 CIO 愿意谈论 Copilot+ PC。
同时,随着主动 AI 功能开始普及,AI PC 和笔记本电脑将变得更加重要,Dairyland Power Cooperative 副总裁兼 CIO Nate Melby 说。
Melby 说:"大公司倾向于采用生命周期方法来处理这类技术,他们会每年进行更新。我最喜欢的策略之一是每年更新三分之一的 PC/笔记本电脑,这样在三年周期内,所有设备都能保持最新状态。我的方法是为重度用户和特定用例评估 AI PC,在这些场景下它是有意义的,然后开始将它们纳入下一年的采购周期。"
Melby 指出,AI PC 有许多好处,并称它们有可能颠覆某些 SaaS 市场。
Melby 说:"CIO 考虑一些早期部署是明智的,这可以让 AI 更接近员工和流程。另一个好处是它保持了本地计算,在某种程度上降低了网络风险。但这需要战略眼光和精确定位。现在 AI PC/笔记本电脑的成本处于溢价阶段,所以我们真的需要一个令人信服的商业案例,而降低云成本的潜力可能有助于突破这些合理性。"
并非所有 IT 领导者都支持在 PC 和笔记本电脑上运行 AI。
Liberty Mutual 的 Liberty IT 董事总经理 Tony Marron 说:"不幸的是,这种方法有许多缺点,包括被锁定在解决方案中,升级变得更困难,以及无法从任何增量改进中受益。"
开发者生态系统尚处起步阶段
除了与芯片合作伙伴合作外,Microsoft 还在与独立软件供应商合作,开发利用 NPU 加速的独特 AI 应用程序。
在 CES 上,Intel 展示了一些正在开发利用 NPU 和 AI PC 功能的独立软件供应商。
例如,McAfee 创建了一个智能 AI 引擎,正在开发 AI PC 安全功能,包括保护企业设备的诈骗检测技术。Zoom 也在 CES 上讨论了其新的 AI 伴侣,以增强 Copilot+ AI PC 上团队的协作工具。
另一个例子是,视频编辑应用 Capcut 提供实时编辑、高级效果和基于 AI 的滤镜,这些功能通过 AI PC 的 NPU 得到增强,实现更流畅的性能和更快的渲染时间。DaVinci Resolve 是另一个针对 NPU 功能优化的视频编辑应用程序,该公司表示,它利用 Copilot+ PC 的计算能力为电影制作人、调色师和编辑创建高效的工作流程。
但这仅仅是开始,IDC 的 Mainelli 说。
他说:"我们将面临一个鸡与蛋的问题,能够利用 NPU 的应用程序很少。所有应用程序开发者都在努力;AMD、Intel 和 Qualcomm 都在努力;Microsoft 正在与软件供应商合作,在桌面端实现 AI 功能。"
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。