机器学习和数据分析等数据密集型工作负载已变得司空见惯。为处理这些计算密集型任务,企业需要为实现高性能进行优化的加速服务器。
英特尔于昨日发布第3代英特尔至强可扩展处理器(代号“Ice Lake”)。该处理器基于全新的架构,可大幅提升其性能和可扩展性。在NVIDIA GPU和网络功能的帮助下,新系统成为理想的企业加速计算平台。此外,新系统还具备可实现GPU加速应用的功能。
Ice Lake平台加速计算的优势
Ice Lake采用了PCIe Gen 4,其数据传输速率比前代产品增加了一倍,现在已经可以与基于NVIDIA Ampere架构的GPU(如NVIDIA A100 Tensor Core GPU)的原生速度相匹配。PCIe Gen 4的采用提高了与GPU间的吞吐量,这对于涉及大量训练数据的机器学习工作负载来说尤为重要。同时,PCIe Gen 4的采用也提高了数据密集型任务的传输速度,比如通过高性能NVIDIA A40数据中心GPU等加速的NVIDIA RTX虚拟工作站3D设计任务。
PCIe性能的提高加快了GPU直接内存访问的传输速度。GPU和采用GPUDirect视频技术的设备之间视频数据I/O通信速度的加快,可助力实现更强大的直播解决方案。
数据速率的提高还实现了200Gb/s的网络速度,例如NVIDIA ConnectX家族的HDR 200Gb/s InfiniBand网卡、200Gb/s以太网网卡,以及即将推出的NDR 400Gb/s InfiniBand网卡技术。
Ice Lake平台支持64条PCIe通道,因此可以在同一台服务器中安装更多的硬件加速器,包括GPU和网卡等,从而提高每台主机的加速密度。这也意味着由最新NVIDIA GPU和NVIDIA 虚拟PC软件加速的多媒体VDI环境可以实现更高的用户密度。
这些增强功能实现了前所未有的GPU加速扩展。企业可以通过在一台主机内使用更多的GPU并更加有效地连接多台主机的GPU,处理最大规模的工作。
英特尔还提高了Ice Lake内存子系统的性能,将DDR4内存通道数从6条增加到8条,使内存的最高数据传输速率达到3200MHz。这使得从主内存到GPU和网络的数据传输带宽变得更大,进而可提高数据密集型工作负载的吞吐量。
最后,处理器本身的改进也进一步加快了计算工作负载的速度。每个时钟周期的指令数增加10-15%,可使加速工作负载所对应的CPU部分整体性能提升多达40%。此外,核的数量也有所增加,比如8xxx系列中的核心多达40个。这将提高每台主机的虚拟桌面会话密度,进一步增加服务器GPU投资的回报。
NVIDIA十分高兴地看到合作伙伴发布由NVIDIA GPU加速的全新Ice Lake系统,用于包括戴尔科技专为GPU加速而打造的Dell EMC PowerEdge R750xa,以及基于第3代英特尔至强可扩展处理器和PCIe Gen4打造的全新联想ThinkSystem服务器(其中有多个型号搭载NVIDIA GPU)。
英特尔的全新Ice Lake平台及随附的加速器硬件非常适合准备更新数据中心的企业客户。全新架构的增强功能使企业能够运行性能更加出色的数据中心级加速应用。NVIDIA与英特尔的共同客户将能够迅速从中获益。
敬请访问NVIDIA认证服务器目录,查看采用Ice Lake CPU的GPU加速服务器型号列表。后续将会有更多系统加入,欢迎定期访问该目录。
好文章,需要你的鼓励
这项研究由德累斯顿工业大学等机构的研究团队完成,旨在解决主动学习未被广泛应用的问题。研究者构建了包含460万种超参数组合的实验网格,系统分析了各参数对主动学习性能的影响。研究发现,不同策略实现间存在显著差异,基于边缘的不确定性策略整体表现最佳,随机选择约4000个超参数组合即可获得可靠结果。这些发现为设计可重现、可信赖的主动学习实验提供了明确指导,有助于降低入门门槛,促进技术在实际应用中的普及。
这项由英国爱丁堡大学和上海人工智能实验室研究者共同完成的工作提出了LongBioBench,一种用于评估长文本语言模型的新型基准测试框架。通过使用人工生成的虚构人物传记作为测试环境,该框架在保持可控性的同时,提供了更真实的评估场景。研究对18个长文本模型的测试表明,即使最先进的模型在检索、推理和可信任性方面仍存在显著挑战,特别是上下文长度增加时。研究还揭示了现有合成基准测试的设计缺陷和长上下文预训练的局限性,为未来模型开发提供了重要指导。
SuperWriter是一项来自新加坡科技设计大学和清华大学的突破性研究,通过模仿人类"先思考后写作"的过程,彻底改良了AI长文生成能力。该研究团队开发的框架包含三个关键阶段:规划、写作和修改,使AI能像专业作家一样进行结构化思考。实验结果表明,经过训练的SuperWriter-LM模型不仅超越同等规模的所有AI模型,甚至在某些领域表现优于规模更大的顶级模型,为AI辅助写作开创了新的可能性。
香港大学与阿里巴巴达摩院合作开发的LayerFlow是一种突破性的层级视频生成技术,能同时生成透明前景、完整背景和混合场景视频。该技术通过创新的框架设计将不同视频层级作为子片段连接,并引入层级嵌入使模型区分各层级。面对高质量训练数据稀缺的挑战,研究团队设计了三阶段训练策略,结合Motion LoRA和Content LoRA,实现了图像和视频数据的联合训练。LayerFlow不仅支持多层视频生成,还能实现视频分解和条件层生成,为视频创作领域带来革命性变革。