AI正在改变数据中心,推动对新应用和架构的需求。而DPU可以提供更高的性能、零信任分布式安全模型和简化的操作,NVIDIA和VMware、戴尔科技联手推出的解决方案将帮助企业构建高性能、零信任的数据中心。
随着计算和网络工作负载的激增,AI与零信任安全已成为一股推动全球企业重构数据中心的强大力量。
数字世界不断扩展,网络威胁的数量和复杂程度也与日俱增。企业亟须通过AI做出响应,在海量数据中发现威胁,并构建基于零信任、全方位安全架构的系统。
人工智能(AI)/机器学习(ML)和分析功能的分布式现代化应用,正在利用加速器,并提供更高的安全性作为主流应用基础设施的一部分,从而推动数据中心架构的转型。
近日,NVIDIA宣布与戴尔科技推出一款专为人工智能(AI)时代设计的全新数据中心解决方案,为全球企业带来先进的AI训练、AI推理、数据处理、数据科学和零信任安全能力。
戴尔PowerEdge服务器,基于最新VMware vSphere 8创新技术而构建,并由NVIDIA BlueField DPU提供加速。戴尔PowerEdge服务器可为关键的企业云应用提供先进的性能和效率,同时更加有效地防止企业在多云环境中受到横向威胁。
DPU加速的PowerEdge服务器
在新一代GPU加速数据中心领域,戴尔与NVIDIA一直保持合作,并推动了大规模的突破。如今推出的新解决方案结合戴尔PowerEdge服务器、NVIDIA BlueField DPU 、NVIDIA GPU和NVIDIA AI Enterprise 软件,并针对VMware vSphere 8企业工作负载平台进行了优化,为客户提供出色的性能与安全能力,帮助企业机构解决一些全球面临的严峻挑战。
据悉,戴尔PowerEdge服务器内置NVIDIA DPU、NVIDIA GPU与VMware vSphere 8,可助力企业提升AI工作负载性能和建立零信任安全基础。
VMware vSphere 8将数据中心基础设施服务卸载到NVIDIA BlueField DPU上面,并对这些服务进行加速、隔离、加强对它们的保护,客户可以加速网络和安全服务,并节省CPU周期,同时保持性能,满足现代分布式工作负载的吞吐量和延迟要求。这一组合提高了性能与效率、简化了运营并增强了数据中心、边缘、云和混合环境的基础设施安全。
NVIDIA AI Enterprise即将支持VMware vSphere 8
NVIDIA和VMware合作,提供针对AI工作负载优化的端到端企业平台。
NVIDIA 和 VMware AI-Ready Enterprise Platform是一个结合NVIDIA AI Enterprise软件套件和VMware vSphere的解决方案,戴尔PowerEdge服务器作为NVIDIA认证系统之一,将能够运行此解决方案。
NVIDIA AI Enterprise是一套全面的云原生AI和数据分析软件套件,为使企业能够在熟悉的基础设施上使用AI,而做了专门的优化。这套软件可以部署在任何地方,包括从企业数据中心到公有云,并且为保证AI项目在各地的正常运行,其对全球企业均可提供支持。
即将发布的NVIDIA AI Enterprise将为VMware vSphere 8的新功能提供支持,包括对更大规模的多GPU工作负载、资源优化和GPU生命周期的轻松管理提供支持。
据悉,内置在NVIDIA BlueField-2 DPU上运行的vSphere 8的戴尔服务器,将于今年晚期上市。内置VMware vSphere的NVIDIA AI Enterprise现已上市,前往NVIDIA LaunchPad 动手实验室,即可体验。
结语
AI正在改变数据中心,推动对新应用和架构的需求。而DPU可以提供更高的性能、零信任分布式安全模型和简化的操作,NVIDIA和VMware、戴尔科技联手推出的解决方案将帮助企业构建高性能、零信任的数据中心。
好文章,需要你的鼓励
韩国科学技术院研究团队提出"分叉-合并解码"方法,无需额外训练即可改善音视频大语言模型的多模态理解能力。通过先独立处理音频和视频(分叉阶段),再融合结果(合并阶段),该方法有效缓解了模型过度依赖单一模态的问题,在AVQA、MUSIC-AVQA和AVHBench三个基准测试中均取得显著性能提升,特别是在需要平衡音视频理解的任务上表现突出。
这项研究利用大语言模型解决科学新颖性检测难题,南洋理工大学团队创新性地构建了闭合领域数据集并提出知识蒸馏框架,训练轻量级检索器捕捉想法层面相似性而非表面文本相似性。实验表明,该方法在市场营销和NLP领域显著优于现有技术,为加速科学创新提供了有力工具。
un?CLIP是一项创新研究,通过巧妙反转unCLIP生成模型来增强CLIP的视觉细节捕捉能力。中国科学院研究团队发现,虽然CLIP在全局图像理解方面表现出色,但在捕捉细节时存在不足。他们的方法利用unCLIP生成模型的视觉细节表示能力,同时保持与CLIP原始文本编码器的语义对齐。实验结果表明,un?CLIP在MMVP-VLM基准、开放词汇语义分割和视觉中心的多模态任务上显著优于原始CLIP和现有改进方法,为视觉-语言模型的发展提供了新思路。
这项研究介绍了RPEval,一个专为评估大语言模型角色扮演能力而设计的新基准。研究团队从法国里尔大学开发的这一工具专注于四个关键维度:情感理解、决策制定、道德对齐和角色一致性,通过单轮交互实现全自动评估。研究结果显示Gemini-1.5-Pro在总体表现上领先,而GPT-4o虽在决策方面表现出色,但在角色一致性上存在明显不足。这一基准为研究人员提供了一个可靠、可重复的方法来评估和改进大语言模型的角色扮演能力。