这两家公司解释称,双方的合作将让企业用户更容易扩展信息技术基础设施,支持成功的人工智能和机器学习战略,而无需在云中托管这些工作负载。他们可以在自己的内部数据中心部署戴尔的PowerEdge服务器,或者将其作为大型混合云设置的一部分。
RHEL AI是红帽公司传统Linux操作系统的一个专门版本,用于开发基础人工智能模型。开发人员用它来创建、测试和部署生产中的人工智能模型,它现在是戴尔专用人工智能服务器 PowerEdge R760xa的首选平台。
RHEL AI的优势之一是,它可以访问IBM Research强大的开源Granite系列大型语言模型。Granite模型是Meta的Llama系列等知名开源模型以及OpenAI 的GPT LLMs 等专有模型的替代品,它们在生成式人工智能编码任务中表现出色。
除了Granite,RHEL AI平台还配备了基于Large-scale Alignment for chatBots方法的 InstructLab模型对齐工具。它采用了优化的、可启动RHEL映像的形式,适用于单个服务器部署。它还包含在红帽的OpenShift AI中,后者是一个混合云机器学习操作(MLOps)平台,用于在分布式集群环境中大规模运行模型和 InstructLab。
戴尔和红帽表示,在PowerEdge服务器上运行RHEL AI,客户将会受益于简化的AI体验,该平台已经针对包括英伟达加速计算在内的AI工作负载进行了持续测试和验证。
戴尔高级副总裁Arun Narayanan表示,最后一点非常重要,因为在公司的PowerEdge服务器上针对RHEL AI运行AI工作负载的验证意味着客户可以对其基础架构投资的稳定性和可扩展性更有信心。他补充表示:“这简化了生成式人工智能的用户体验,加快了在可信软件堆栈上构建和部署关键人工智能工作负载的进程。”
红帽公司副总裁兼生成式人工智能基础模型平台总经理Joe Fernandes表示,人工智能项目需要访问广泛的计算资源,这些资源需要可以随着项目的发展而扩展。他表示:“通过与戴尔合作,在戴尔PowerEdge服务器上验证并支持RHEL AI,我们将使客户更有信心也更灵活地在混合云环境中利用生成式人工智能工作负载的力量,推动他们的业务走向未来。”
戴尔表示,RHEL AI将于今年第三季度在其最新的PowerEdge服务器上推出,在此之前,客户将可以在全球的戴尔客户解决方案中心预览使用RHEL AI。
好文章,需要你的鼓励
微软近年来频繁出现技术故障和服务中断,从Windows更新删除用户文件到Azure云服务因配置错误而崩溃,质量控制问题愈发突出。2014年公司大幅裁减测试团队后,采用敏捷开发模式替代传统测试方法,但结果并不理想。虽然Windows生态系统庞大复杂,某些问题在所难免,但Azure作为微软核心云服务,反复因配置变更导致客户服务中断,已不仅仅是质量控制问题,更是对公司技术能力的质疑。
Meta研究团队发现仅仅改变AI示例间的分隔符号就能导致模型性能产生高达45%的巨大差异,甚至可以操纵AI排行榜排名。这个看似微不足道的格式选择问题普遍存在于所有主流AI模型中,包括最先进的GPT-4o,揭示了当前AI评测体系的根本性缺陷。研究提出通过明确说明分隔符类型等方法可以部分缓解这一问题。
当团队准备部署大语言模型时,面临开源与闭源的选择。专家讨论显示,美国在开源AI领域相对落后,而中国有更多开源模型。开源系统建立在信任基础上,需要开放数据、模型架构和参数。然而,即使是被称为"开源"的DeepSeek也并非完全开源。企业客户往往倾向于闭源系统,但开源权重模型仍能提供基础设施选择自由。AI主权成为国家安全考量,各国希望控制本地化AI发展命运。
香港中文大学研究团队开发出CALM训练框架和STORM模型,通过轻量化干预方式让40亿参数小模型在优化建模任务上达到6710亿参数大模型的性能。该方法保护模型原生推理能力,仅修改2.6%内容就实现显著提升,为AI优化建模应用大幅降低了技术门槛和成本。