这两家公司解释称,双方的合作将让企业用户更容易扩展信息技术基础设施,支持成功的人工智能和机器学习战略,而无需在云中托管这些工作负载。他们可以在自己的内部数据中心部署戴尔的PowerEdge服务器,或者将其作为大型混合云设置的一部分。
RHEL AI是红帽公司传统Linux操作系统的一个专门版本,用于开发基础人工智能模型。开发人员用它来创建、测试和部署生产中的人工智能模型,它现在是戴尔专用人工智能服务器 PowerEdge R760xa的首选平台。
RHEL AI的优势之一是,它可以访问IBM Research强大的开源Granite系列大型语言模型。Granite模型是Meta的Llama系列等知名开源模型以及OpenAI 的GPT LLMs 等专有模型的替代品,它们在生成式人工智能编码任务中表现出色。
除了Granite,RHEL AI平台还配备了基于Large-scale Alignment for chatBots方法的 InstructLab模型对齐工具。它采用了优化的、可启动RHEL映像的形式,适用于单个服务器部署。它还包含在红帽的OpenShift AI中,后者是一个混合云机器学习操作(MLOps)平台,用于在分布式集群环境中大规模运行模型和 InstructLab。
戴尔和红帽表示,在PowerEdge服务器上运行RHEL AI,客户将会受益于简化的AI体验,该平台已经针对包括英伟达加速计算在内的AI工作负载进行了持续测试和验证。
戴尔高级副总裁Arun Narayanan表示,最后一点非常重要,因为在公司的PowerEdge服务器上针对RHEL AI运行AI工作负载的验证意味着客户可以对其基础架构投资的稳定性和可扩展性更有信心。他补充表示:“这简化了生成式人工智能的用户体验,加快了在可信软件堆栈上构建和部署关键人工智能工作负载的进程。”
红帽公司副总裁兼生成式人工智能基础模型平台总经理Joe Fernandes表示,人工智能项目需要访问广泛的计算资源,这些资源需要可以随着项目的发展而扩展。他表示:“通过与戴尔合作,在戴尔PowerEdge服务器上验证并支持RHEL AI,我们将使客户更有信心也更灵活地在混合云环境中利用生成式人工智能工作负载的力量,推动他们的业务走向未来。”
戴尔表示,RHEL AI将于今年第三季度在其最新的PowerEdge服务器上推出,在此之前,客户将可以在全球的戴尔客户解决方案中心预览使用RHEL AI。
好文章,需要你的鼓励
无人机食品配送服务商Flytrex与全球知名披萨连锁品牌Little Caesars宣布合作,推出全新Sky2无人机,最大载重达4公斤,可一次配送两个大披萨及饮料,满足全家用餐需求。Sky2支持最远6.4公里的配送范围,平均从起飞到送达仅需4.5分钟。首个试点门店已在德克萨斯州怀利市上线,并实现与Little Caesars订单系统的直接集成。
FORTIS是专门测量AI代理"越权行为"的基准测试,研究发现十款顶尖模型普遍选择远超任务需要的高权限技能,端到端成功率最高仅14.3%。
法国社会住房项目ViliaSprint?已正式完工,成为欧洲最大的3D打印多户住宅建筑,共12套公寓,建筑面积800平方米。项目由PERI 3D Construction使用COBOD BOD2打印机完成,整体工期较传统建造缩短3个月,实际打印仅用34天(原计划50天),现场操作人员从6人减至3人,建筑废料率从10%降至5%。建筑采用可打印混凝土,集成光伏板及热泵系统,能源自给率约达60%。
荷兰Nebius团队提出SlimSpec,通过低秩分解压缩草稿模型LM-Head的内部表示而非裁剪词汇,在保留完整词汇表的同时将LM-Head计算时间压缩至原来的五分之一,端到端推理速度超越现有方法最高达9%。