思科已与英伟达和VAST Data结成联盟,推出安全AI工厂——这是一套专为企业AI应用设计的服务器、GPU和存储设备组合方案。
这些安全AI工厂与戴尔的AI工厂类似,都属于融合基础设施(CI)形式,将供应商的产品整合到单一SKU中,为客户提供便利。思科在融合基础设施领域已有多年经验,曾与EMC、VMware合作推出原创的机架级Acadia VCE系统。思科还利用NetApp存储构建了名为FlexPods的类似系统,以及与Pure Storage合作的FlashStacks。其模式一直是将第三方存储与思科UCS服务器和网络产品相结合,以与戴尔、HPE、IBM等服务器系统供应商竞争。现在,思科正在与VAST Data存储重复这一模式。
思科计算业务高级副总裁兼总经理Jeremy Foster表示:"智能体AI有潜力为全球企业释放AI价值。从聊天机器人发展到能够帮助解决真正业务挑战的智能体是革命性的,但前提是企业能够在正确的时间有效利用正确的数据。思科、英伟达和VAST正在合作,为客户提供释放数据价值的简单路径。"
AI POD是思科安全AI工厂概念中的基础设施组件。AI POD是整个工厂方案中的所谓原子单元:
思科的UCS服务器包含英伟达的RTX PRO 6000 Blackwell服务器版GPU,专为AI应用和智能体使用而定位。AI POD存储元素可以由NetApp、Pure Storage或VAST Data产品组成。有两种部署选项:带有VAST Data存储的现成部署系统,以及使用NetApp、Pure Storage或VAST Data存储的模块化自建基础设施变体。
VAST表示,AI POD可与其InsightEngine配合使用,声称其AI OS软件栈拥有比NetApp或Pure Storage更多的AI相关组件。VAST称,思科的安全AI工厂蓝图"扩展到新的用例,包括通过更快的数据提取和检索来加速检索增强生成(RAG)管道。"
VAST Data战略联盟副总裁John Mao表示:"通过将VAST Data InsightEngine集成到思科与英伟达的安全AI工厂中,我们为企业提供了首个大规模RAG加速的集成设计。"
VAST表示,它将是首个与思科AI POD集成并为企业客户提供英伟达AI数据平台参考设计的供应商。据介绍,客户将通过将RAG管道延迟从分钟级降低到秒级来获得更快的请求响应时间,实现近实时AI响应。他们还应该能够"通过使AI智能体持续运行、动态学习并提供情境化业务成果来实现企业级智能体AI"。该设置"释放多步推理能力,架构设计支持同时运行多个智能体和工作负载的规模化需求。"
VAST AI POD具有基于角色的访问控制和合规审计就绪功能,是"为支持企业中不断增长的用例而构建的AI服务POD系列中的首个产品。"
配备VAST InsightEngine的思科AI POD现已通过思科提供。
Q&A
Q1:思科安全AI工厂是什么?有什么作用?
A:思科安全AI工厂是思科联合英伟达和VAST Data推出的企业AI解决方案,它是一套集成了服务器、GPU和存储设备的组合方案,专为企业AI应用设计,能够帮助企业更好地利用数据释放AI价值。
Q2:AI POD在安全AI工厂中扮演什么角色?
A:AI POD是思科安全AI工厂概念中的基础设施组件,被称为整个工厂方案中的原子单元。它包含思科UCS服务器、英伟达RTX PRO 6000 Blackwell服务器版GPU,以及NetApp、Pure Storage或VAST Data的存储产品。
Q3:VAST Data在这个合作中提供了什么独特优势?
A:VAST Data提供InsightEngine技术,声称其AI OS软件栈拥有比其他厂商更多的AI相关组件。它能够加速检索增强生成(RAG)管道,将响应时间从分钟级降低到秒级,实现近实时AI响应,并支持企业级智能体AI的持续运行。
好文章,需要你的鼓励
CoreWeave发布AI对象存储服务,采用本地对象传输加速器(LOTA)技术,可在全球范围内高速传输对象数据,无出口费用或请求交易分层费用。该技术通过智能代理在每个GPU节点上加速数据传输,提供高达每GPU 7 GBps的吞吐量,可扩展至数十万个GPU。服务采用三层自动定价模式,为客户的AI工作负载降低超过75%的存储成本。
IDEA研究院等机构联合开发了ToG-3智能推理系统,通过多智能体协作和双重进化机制,让AI能像人类专家团队一样动态思考和学习。该系统在复杂推理任务上表现优异,能用较小模型达到卓越性能,为AI技术的普及应用开辟了新路径,在教育、医疗、商业决策等领域具有广阔应用前景。
谷歌DeepMind与核聚变初创公司CFS合作,运用先进AI模型帮助管理和改进即将发布的Sparc反应堆。DeepMind开发了名为Torax的专用软件来模拟等离子体,结合强化学习等AI技术寻找最佳核聚变控制方式。核聚变被视为清洁能源的圣杯,可提供几乎无限的零碳排放能源。谷歌已投资CFS并承诺购买其200兆瓦电力。
上海人工智能实验室提出SPARK框架,创新性地让AI模型在学习推理的同时学会自我评判,通过回收训练数据建立策略与奖励的协同进化机制。实验显示,该方法在数学推理、奖励评判和通用能力上分别提升9.7%、12.1%和1.5%,且训练成本仅为传统方法的一半,展现出强大的泛化能力和自我反思能力。