思科已与英伟达和VAST Data结成联盟,推出安全AI工厂——这是一套专为企业AI应用设计的服务器、GPU和存储设备组合方案。
这些安全AI工厂与戴尔的AI工厂类似,都属于融合基础设施(CI)形式,将供应商的产品整合到单一SKU中,为客户提供便利。思科在融合基础设施领域已有多年经验,曾与EMC、VMware合作推出原创的机架级Acadia VCE系统。思科还利用NetApp存储构建了名为FlexPods的类似系统,以及与Pure Storage合作的FlashStacks。其模式一直是将第三方存储与思科UCS服务器和网络产品相结合,以与戴尔、HPE、IBM等服务器系统供应商竞争。现在,思科正在与VAST Data存储重复这一模式。
思科计算业务高级副总裁兼总经理Jeremy Foster表示:"智能体AI有潜力为全球企业释放AI价值。从聊天机器人发展到能够帮助解决真正业务挑战的智能体是革命性的,但前提是企业能够在正确的时间有效利用正确的数据。思科、英伟达和VAST正在合作,为客户提供释放数据价值的简单路径。"
AI POD是思科安全AI工厂概念中的基础设施组件。AI POD是整个工厂方案中的所谓原子单元:
思科的UCS服务器包含英伟达的RTX PRO 6000 Blackwell服务器版GPU,专为AI应用和智能体使用而定位。AI POD存储元素可以由NetApp、Pure Storage或VAST Data产品组成。有两种部署选项:带有VAST Data存储的现成部署系统,以及使用NetApp、Pure Storage或VAST Data存储的模块化自建基础设施变体。
VAST表示,AI POD可与其InsightEngine配合使用,声称其AI OS软件栈拥有比NetApp或Pure Storage更多的AI相关组件。VAST称,思科的安全AI工厂蓝图"扩展到新的用例,包括通过更快的数据提取和检索来加速检索增强生成(RAG)管道。"
VAST Data战略联盟副总裁John Mao表示:"通过将VAST Data InsightEngine集成到思科与英伟达的安全AI工厂中,我们为企业提供了首个大规模RAG加速的集成设计。"
VAST表示,它将是首个与思科AI POD集成并为企业客户提供英伟达AI数据平台参考设计的供应商。据介绍,客户将通过将RAG管道延迟从分钟级降低到秒级来获得更快的请求响应时间,实现近实时AI响应。他们还应该能够"通过使AI智能体持续运行、动态学习并提供情境化业务成果来实现企业级智能体AI"。该设置"释放多步推理能力,架构设计支持同时运行多个智能体和工作负载的规模化需求。"
VAST AI POD具有基于角色的访问控制和合规审计就绪功能,是"为支持企业中不断增长的用例而构建的AI服务POD系列中的首个产品。"
配备VAST InsightEngine的思科AI POD现已通过思科提供。
Q&A
Q1:思科安全AI工厂是什么?有什么作用?
A:思科安全AI工厂是思科联合英伟达和VAST Data推出的企业AI解决方案,它是一套集成了服务器、GPU和存储设备的组合方案,专为企业AI应用设计,能够帮助企业更好地利用数据释放AI价值。
Q2:AI POD在安全AI工厂中扮演什么角色?
A:AI POD是思科安全AI工厂概念中的基础设施组件,被称为整个工厂方案中的原子单元。它包含思科UCS服务器、英伟达RTX PRO 6000 Blackwell服务器版GPU,以及NetApp、Pure Storage或VAST Data的存储产品。
Q3:VAST Data在这个合作中提供了什么独特优势?
A:VAST Data提供InsightEngine技术,声称其AI OS软件栈拥有比其他厂商更多的AI相关组件。它能够加速检索增强生成(RAG)管道,将响应时间从分钟级降低到秒级,实现近实时AI响应,并支持企业级智能体AI的持续运行。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。