虽然今年的疫情让全球进入了非常时刻,但是技术发展的脚步并没有因为“社交距离”而停顿。在近日举行的GTC 2020秋季站上,NVIDIA并发布了一系列的新产品、新技术和新服务,涵盖数据中心、边缘AI、专业视觉、协同设计、健康医疗等领域。
DPU加速
众所周知,NVIDIA创建了GPU加速计算。现在,NVIDIA宣布推出一种新型处理器——DPU(Data Processing Unit,数据处理单元),由新型的DOCA(Data-Center-Infrastructure-On-A-Chip Architecture)架构——一种全新的数据中心IOC(Infrastructure On A Chip,基础架构级芯片)架构提供支持。
在NVIDIA看来,数据中心已成为新型计算单元。在现代化、安全的加速数据中心中,DPU已成为其重要的组成部分。CPU、GPU和DPU的结合,可构成完全可编程的单一AI计算单元,提供前所未有的安全性和算力。
DPU能够从CPU上卸载关键的网络、存储和安全任务,使企业能够将其IT基础设施转变为最先进的数据中心。此类数据中心可实现加速、具有完全可编程性,并具有“零信任”安全功能,防止数据泄露和网络攻击。
目前,NVIDIA DPU产品两款PCIe产品:NVIDIA BlueField-2 DPU和NVIDIA BlueField-2X DPU。包括华硕、源讯、戴尔技术、富士通、技嘉科技、新华三、浪潮、联想、云达科技和超微等服务器制造商均计划在其企业级服务器产品中集成NVIDIA DPU。
针对硬件,NVIDIA也推出了NVIDIA DOCA软件开发套件,并完全集成于NVIDIA NGC,帮助开发者在DPU加速数据中心基础设施服务上构建应用程序。
除此以外,NVIDIA DPU还得到了软件基础设施合作伙伴的广泛支持,包括:VMware宣布与NVIDIA展开合作,将在VMware Cloud Foundation中支持BlueField-2 DPU;红帽企业Linux操作系统(RHEL)和红帽OpenShift上为BlueField-2 DPU提供支持等。
一站式AI基础设施
人工智能算力已经成为当前应用工作负载的重要支撑,而相应的基础设施建设成为载体。在GTC 2020秋季站上,NVIDIA发布全球首个一站式AI基础设施——企业版NVIDIA DGX SuperPOD解决方案。
AI基础设施需要极高的存储速度,以并行处理各类数据,例如文本、表格数据、音频和视频。NVIDIA企业版DGX SuperPOD解决方案采用全闪存存储并经过优化,能满足客户的特定要求以及AI工作负载的独特需求。DDN是企业版DGX SuperPOD解决方案首个通过NVIDIA认证的存储合作伙伴。
DGX SuperPOD是由包含20个到140个独立的NVIDIA DGX A100系统构建的集群,借助NVIDIA Mellanox HDR InfiniBand网络互联的20个模块,AI性能最低可达到100petaflops,最高可达700petaflops,可运行最复杂的AI工作。
企业版DGX SuperPOD解决方案是基于NVIDIA多年致力于创造全球最先进的AI系统的成果打造而成,例如在今年TOP500和MLPerf测试中均名列前茅的NVIDIA Selene是一款280节点的DGX SuperPOD。
目前,包括韩国NAVER、印度高级计算发展中心C-DAC等已经部署全新DGX SuperPOD AI超级计算机。
除全新的企业版DGX SuperPOD解决方案外,DGX SuperPOD蓝本已可作为NVIDIA认证的合作伙伴用于规划和部署自身DGX SuperPOD方案的行业指南,并为NGC软件提供完整服务和经认证的支持。每台DGX SuperPOD均由NVIDIA认证的合作伙伴进行调试、堆叠和配置。
边缘AI
AI除了在数据中心大规模应用外,得益于5G、IoT等技术的发展,边缘测AI正在迎来爆发期。NVIDIA EGX AI平台就为此而生。
EGX平台的核心是一个可在NVIDIA NGC上使用的优化AI软件堆栈,该软件目录提供了一系列行业特定的AI工具包和预培训的模型,降低了在NVIDIA认证系统上构建和部署AI应用程序的难度。
视觉AI、5G、CloudRAN、安全和互联网企业与业内主要服务器制造商,如戴尔技术(Dell Technologies)、浪潮(Inspur)、联想(Lenovo)和超微(Supermicro),以及业内领先软件基础设施提供商,如Canonical、Cloudera、红帽(Red Hat)、SUSE和VMware利用NVIDIA EGX平台帮助企业将AI推向边缘。
此外,EGX平台正将NVIDIA Ampere GPU和BlueField-2 DPU功能整合在一张PCIe卡上,NVIDIA还宣布推出NVIDIA Fleet Command混合云平台,该平台具备边缘计算的安全性、实时处理能力、远程管理和SaaS的简便。
除了EGX AI平台,NVIDIA Jetson边缘AI平台涵盖各级别产品,包括从入门级AI设备到用于完全自主机器的高级平台,Jetson Nano 2GB开发者套件是该系列最新产品。
Jetson Nano 2GB开发者套件主要用于在机器人和智能物联网等领域创建动手项目以进行AI教学。为支持这项工作,NVIDIA还宣布提供免费在线培训和AI认证计划。
Jetson Nano 2GB开发者套件由NVIDIA JetPack SDK提供支持,NVIDIA JetPack SDK随附NVIDIA容器运行时及完整的Linux软件开发环境。因此,开发者可以将他们的Jetson应用程序及其所有依赖项打包到一个可以在任何部署环境下运作的容器中。该产品还内置了在自动驾驶汽车、工业物联网、医疗、智慧城市等领域广泛应用的NVIDIA CUDA-X加速计算堆栈。
凭借运行多种AI模块和框架的性能和能力,Jetson Nano 2GB开发者套件为在发展过程中学习和创建AI应用程序的开发者提供了一个可扩展平台。
专业视觉以及协同设计
如今AI无处不在,在专业视觉领域,NVIDIA拥有Quadro RTX GPU和虚拟GPU解决方案等领先产品。在GTC 2020秋季站上,NVIDIA发布了Quadro RTX A6000和A40两款专业视觉用途的产品。
在硬件新品发布的同时,NVIDIA宣布NVIDIA Omniverse平台已进入公测阶段。Omniverse整合了NVIDIA在图形、仿真和AI领域的突破,是全球首个基于NVIDIA RTX的3D仿真模拟和协作平台。
数千万设计师、建筑师和其他领域的创作者将能通过该平台实现本地或远程实时协作,例如负责3D建筑设计迭代的建筑师、修改3D场景的动画师以及协作开发自动驾驶汽车的工程师,整个协作就像是在线上共同编辑文档一样简单。
Omniverse基于皮克斯应用广泛的Universal Scene Description(USD),一种能够在3D应用中实现通用互换的先进格式。该平台还使用了多项NVIDIA技术,例如实时照片级逼真渲染、物理效果、材质以及在业内领先3D软件产品之间的交互式工作流程。
Omniverse已经获得Adobe、Autodesk、Bentley Systems、Robert McNeel & Associates和SideFX等软件厂商支持。
NVIDIA还宣布推出NVIDIA Maxine平台,该平台为开发者提供了一套基于云的、GPU加速AI视频会议软件。
NVIDIA Maxine是云原生的流视频AI平台,能让服务提供商每天对大约3000多万次的网络会议提供全新AI功能。视频会议服务提供商在云端运行基于NVIDIA GPU的平台,可以为用户提供包括凝视校正、超分辨率、噪声消除、人脸补光等全新AI效果。
疫情期间,远程会议需求得到极大释放。数以百计甚至千计的用户有可能会试图拨入同一场会议。NVIDIA DeepStream可在云端的NVIDIA GPU上利用Kubernetes容器集群中运行的AI微服务,帮助开发者根据实时需求扩展他们的服务。AI推理能力让用户可同时运行多种AI功能,且同时满足应用程序的时延要求。
视频会议服务提供商通过NVIDIA GPU在云端进行AI推理应用,可利用Maxine为数十万用户提供领先的AI能力。Maxine平台采用模块化设计,开发人员可以轻松选择所需AI功能,并将其集成到视频会议解决方案中。
随着5G的建设,AR和VR应用的需求也被激发。NVIDIA CloudXR通过5G网络为专业工作流提供速度更快的增强现实和虚拟现实。NVIDIA与AWS合作通过云端实现无线AR和VR流式传输。
借助NVIDIA CloudXR,用户无需与高性能计算机实体相连就能驱动丰富的沉浸式环境。SDK在云端或本地的NVIDIA服务器上运行,可提供无线虚拟、增强或混合现实环境(统称为XR)所需的高级图形性能。
不论是审核3D模型的产品设计师,还是在模拟救援场景进行实践的急救人员,任何人只需借助手持平板电脑、VR头显和AR眼镜等Windows和安卓设备,都能够尽享CloudXR的优势。
医疗AI
AI的广泛采纳正在给各行各业带来前所未有的巨变,这对于医疗行业也是如此,特别是在当下应对疫情危机的情况下更具现实意义。
在这样的背景下,NVIDIA宣布与全球医疗健康公司葛兰素史克(GSK)及其AI团队达成合作,将计算技术应用于药物和疫苗研发。
GSK新的AI中心将利用GSK重要的基因和基因组数据,改进转化药物和疫苗的设计和开发过程。该中心将利用生物医学数据、AI方法和先进的计算平台,以更高的精确度和更大的规模解读基因和临床数据。
除了NVIDIA DGX A100系统外,GSK还将被允许访问NVIDIA的Cambridge-1。Cambridge-1是英国最强大的AI超级计算机,帮助英国医疗健康领域的研究人员借助AI解决包括COVID-19在内的紧迫的医学难题。
Cambridge-1超级计算机,将采用NVIDIA DGX SuperPOD系统,由80个通过NVIDIA Mellanox InfiniBand网络连接的NVIDIA DGX A100系统构建,帮助研究人员和学者解决最具挑战性的大规模AI训练、推理和数据科学等工作负载。模块化的DGX SuperPOD架构只需要短短数周,就能完成安装并运行传统超级计算机需要数年时间才能部署的系统。
Cambridge-1具备超过400petaflops AI性能和8petaflops Linpack性能。在最新的全球最强超级计算机排名TOP500榜单中,Cambridge-1排名第29位。同时,该超级计算机也跻身当前Green500榜单中全球最节能的超级计算机前三名。
Cambridge-1瞄准四大重点领域:联合行业研究、赠与大学计算权限、支持AI初创企业和培养未来的AI从业者。葛兰素史克(GSK)和阿斯利康(AstraZeneca)将是首批采用Cambridge-1进行研究的制药公司。来自盖伊和圣托马斯NHS基金会、伦敦国王学院和Oxford Nanopore Technologies公司的研究人员也计划使用该系统。
在医疗健康领域,NVIDIA持续贡献其在GPU优化和高性能计算开发方面的专业知识,包括NVIDIA Clara Discovery 、一组新的优化计算药物发现应用和框架。
其中,NVIDIA Clara Discovery套件汇集了医疗影像、放射学和基因组学功能,为医疗健康领域最大的计算任务开发AI应用程序。该套件带有预训练的AI模型和应用特定框架,能够帮助研究人员定义从寻找目标、化合物构建到开发相应的新一代新药研发流程。
通过自然语言处理领域的最新突破,研究人员可以使用生物医学特定语言模型来组织、理解和激活大型数据集、研究文献、并整理现有治疗和其他重要现实数据的论文或专利。
好文章,需要你的鼓励
临近年底,苹果公布了2024年App Store热门应用和游戏榜单,Temu再次成为美国下载量最多的免费应用。
云基础设施市场现在已经非常庞大,很难再有大的变化。但是,因为人们可以轻松地关闭服务器、存储和网络——就像开启它们那样,预测全球云基础设施开支可能非常困难。