NVIDIA：欢迎进入混合计算的时代！

在最新一期的中国HPC TOP100的榜单中，我们能明显的看到排名前三的都是基于英伟达（NVIDIA）的Tesla GPU+CPU的混合计算系统，尤其是前两名的系统，“星云”在今年5月份的全球TOP500名单中位列第二，而最新发布的“天河一号A”，若以5月份的TOP500榜单成绩来看，已经是全球第一。这显然已经足够引起世界HPC领域的重视，因为它们都不再是纯CPU的HPC系统（5月份的TOP500第一名还是纯CPU的HPC系统），而且是来自于中国——这个似乎在IT领域还算不上发达国家的地区，所以的这一切似乎也预示着某种趋势与内在的规律，为此我们也专门采访了NVIDIA公司GPU计算事业部总经理Andy Keane先生，以及英伟达公司中国区PSG高级销售经理谢强先生。

NVIDIA公司GPU计算事业部总经理Andy Keane先生

中国已经站在世界HPC系统发展的前沿

记者：我们看到最新的中国TOP100名单中，前三名全部是采用GPU的混合计算系统，而且前两名，还分列全球TOP500强的第一和第三名，但是从全球的TOP 500强来看的话，采用GPU混合计算系统却很少见，好像中国现在比较热衷于GPU异构计算系统的开发，而且越做越大。NVIDIA公司怎么看待中国在GPU异构计算系统上的表现，跟国际上的其他企业有什么不同？

Andy Keane先生：如果你看全球500强这些企业，目前可能只有4台计算机用的是加GPU的异构计算方式，现在第三台超性能计算机是中科院IPE，在北京建的一台计算机。中国确实是最早先使用GPU的国家，另外，中国应用GPU的确历史最悠久，中科院也有一系列的规划，更广泛的使用在GPU系统中。但是在其他的企业，他们首先是进行小规模的GPU安装，之后再迁移到自己基于CPU的大的系统平台上，这是在国外的做法。

我相信在11月份发布的500强的企业中，你会看到更多的企业在使用CPU+GPU异构处理方式，当然在中国的企业的名字已经发布了，但是其他很多的使用混合处理器的企业将会在11月发布，基本上都是国外的企业。为什么呢？因为CPU+GPU有独特的优势，包括高性能以及高能效比两方面。

记者：还是联合中国的市场，我们也知道“天河一号”去年发布的时候，它是中国TOP100的第一名，那时候他用的是AMD的4850，可能很多人会有疑问，到今年怎么都换成Tesla，我们也知道一些原因，想请NVIDIA公司具体给我们阐述一下，“天河一号A”基于什么样的考虑让他们最后把AMD的4850换成了Tesla？

Andy Keane先生：最主要的原因就是软件，NVIDIA公司提供了一个范围非常广的编程环境，使开发人员的能力得到很大的加强，所以说，主要还是提供了非常良好的编程环境。人们一般情况下会更多的关注语言，就系统而言真正关注的有两类人：一个是应用开发人员；另一类是对IT系统进行维护的人员。我们支持的ECC，首先它可以进行很好的SMI的管理，另外它也有一些软件工具，帮我们更好的管理集群。一方面可以进行很好的应用开发，另一方面还可以管理集群，所以这两者加在一起才使得系统表现的如此出色。一方面你要考虑这个系统是谁建造的，另外一方面还要考虑，是谁让建好的系统能够得以应用，这两个因素缺一不可。

像“天河一号A”里面用了7000多个GPU，放到一个系统中，除了开发应用技术之外，还有管理、维护的大量工作，而我们正好有这样管理、维护的技术，可以帮他们更好的管理。

记者：是否可以认为中国在基于GPU的应用开发也走在世界的前面？比如基于使用CUDA的这种编程环境，中国混合编程的团队或者技术实力，你怎么看待它在全世界的水平？

Andy Keane先生：没错，可以这么说，就像刚才提到的中科院的IPE高性能计算的应用，这是一个例子，还有很多其他的例子，中科院还有很多其他的应用。其实，高性能计算是两个问题：一是，高性能计算让计算技术加速，本身是加速的问题；二是在应用上了，我们希望所有的科学家也好，工程师也好，都能够应用这样高性能计算的工具，来解决生活当中所面临的问题。一个是本身加速的问题，另外一个就是应用的问题。

记者：我们今天看到中国的TOP100里面前三名都采用了Tesla的GPU，但是我们发现效率有很大的不同，第一名可能最高，达到53%，第三名才达到18.5%，我们也看到了第三名的成绩，也用到了所谓的GPU Direct加速的互联技术。第一套系统据说用的是国防科大自己开发的一个专用的互联网络，能够达到160G的双向带宽。从GPU采用角度来说，NVIDIA公司对混合计算的效率有什么看法，或者说对于未来采用混合技术的开发人员有什么忠告，采用什么样的架构来保证混合计算体系架构的一个更高效率？

Andy Keane先生：系统的实际运行效率是由他所要运行的应用所决定的，你刚才提到的，效率比较低的第三套系统，它大多的工作就是处理分子动力学和离子仿真。它的应用就导致你需要对它的架构进行一定的设计。新的天河一号A它主要面临的应用，是希望尽可能的处理广泛的应用，我们也需要进行不同系统的设计。所有超性能计算机会用于不同的终端，只是现在比较普遍的衡量他们性能的标准都是Linpack值。

谢强先生：我补充一下，高性能计算机设计体制结构的两种方式：一种是有应用主导，然后设计计算机；第二种是我要设计一种通用的高性能计算机。所以大家设计计算体系结构的思想是不一样的。比如中科院的方式，他们是先有了应用，先有了离子仿真和分子动力学的应用，完全是按照他们的应用，他们的应用在上面跑的效率最好。但是非常不幸的是，今天世界排名只用Linpack的测试软件，中科院的系统设计不是了Linpack设计的机器，他们是为了自己的分子动力学和离子仿真设计的机器，这样就导致用同一个测试程序测试的时候，结果会有比较大的差异。但是天河这台机器是为了不同的应用，它的设计更通用一些。

其实就Tesla本身的效率来讲，在中科院他们自己的应用上，效率是非常高的，可能能达到70%、80%，甚至90%，非常高的效率。为什么会有这样的原因呢？分子动力学和他们那种计算模式，在不同的节点之间做计算的时候没有节点之间的通讯，而Linpack的程序节点之间是有通讯的。应用不一样，是造成这个问题最主要的原因。但是目前大家没有更好的衡量高性能计算的方式，Linpack已经是不错的了，大家默认Linpack测试了，不断你是什么结构设计的机器，我都用这个测，大家有一个排名了。

记者：现阶段，中国在高性能计算上排名比较靠前，是不是说现在中国在高性能计算方面处在领先的地位，你对未来中国的高性能计算怎么看呢？

Andy Keane先生：毫无疑问中国占据了领先地位。新的500强将会在1个月之后发布，我相信对于应用来说，不仅仅是因为应用了GPU，在系统设计以及架构的安排上也是发挥了一定的作用，只有这两点综合起来，才能够让你的应用处于领先的地位。对于任何行业来说，如果你想成为行业领先的企业的话，其中一个方式就是采用最新的技术。

所以我相信，你看到英特尔和NVIDIA公司两家企业，两个观点是具有非常鲜明对比的，比如说英特尔的观点就是对过去的一种延续，一步一步的延续到未来。但是对于NVIDIA公司来说，尤其是中国的高性能计算，因为采用的是最新的技术，也获得了最新技术带来的优势。所以，在中国前三大HPC系统就是因为采用了新的技术，使他们能够把这个优势应用到最好。

混合计算还有广阔的发展空间 GPU也将越来越重要

记者：现在异构计算越来越流行了，GPU的带宽能比CPU的带宽高好几倍，这么高，可能对每一个节点之间的互联也造成了很大的压力。在NVIDIA公司看来的话，目前的这种MPI的架构是不是已经达到一种瓶颈了，或者说在某些方向已经影响了互联的操作，未来有没有可能出现新的语言架构替代MPI？不知道NVIDIA公司怎么看来这个问题？

Andy Keane先生：计算本身是了解整个过程中存在什么样的局限和限制，之后让软件工程师或者计算机工程师寻找一些方法来跨越这些局限。所以，你刚才所提出的那个因素，应该是一个非常关键的因素，使得超级计算机可以大规模的进行灵活的扩展，主要是它跨越了互联项目的一些局限。如果这个系统是用Linpack来测量的话，因为要传递很多的数据，所以整个网络上会面临很大的数据压力。

根据我过去26年在计算领域的一些经验和体会，你们还会继续看到，这个行业在不断的发展，将会有更多的创意，一个接一个而来，你们接下来还会看到更多的创意和创新。比如说我们的处理器速度越来越快，这就意味着我们需要的总线数量也就越来越多，他们之间的互联性应该也是越来越好。不管怎么样，总会存在一定的局限和瓶颈，但是我们的工程师会想各种的办法跨越这些局限。

所以说，现在和过去的差异在哪里？你在新的系统中，我们用的是中国基本的技术，把它应用在高性能计算机中，使它的速度更快，而且扩展性更高。

GPU计算单元的高速互联问题已经成为了未来混合架构HPC系统的发展的一个重要挑战

记者：以前NVIDIA公司自己也设计编程，从显卡的Shader到后来的CUDA编程，NVIDIA公司越来越多的进入标准领域，以后高性能计算里面也会涉及到标准，比如MPI也是一种标准。你们作为主导GPU混合计算的领头企业，是否会提出一些更好的互联标准或者互联语言架构，比如像CUDA这样的GPU技术混合架构？

Andy Keane先生：从CUDA向系统级别这样的转换，在这个过程中，我们将和大量的合作伙伴一起来做，比如说HP、IBM，我们都会和他们一起做。就MPI来说，用这个例子你就可以理解了，比如说我们会和MPI整个开发者社区一起努力，同时也会把他们扩展到CUDA或者其他的软件，和他们进行结合。这个过程，一方面我们会在MPI一起和开发社区努力，同时我们也会考虑如何融合其他的软件。这是一个合作的过程，我们会做贡献，也会做出我们这一部分的努力。

记者：CPU+GPU超级计算机的话，使用了很多的GPU，同时也使用的多个 CPU，在组成庞大运算量当中，有百分之多少是GPU贡献的，有多少是 CPU贡献的？

Andy Keane先生： CPU为20%，GPU为80%。

记者：那就是说，GPU的运算比 CPU大很多，以后的比例会继续提高吗？是不是意味着以后不需要太强的CPU，只需要能够管理的GPU就可以了？

Andy Keane先生：在系统的设计中，实际上是一个设计平衡的问题，一定要在各个环节里达到平衡，比如说你的GPU速度越快，就意味着你需要快速的CPU的速度，还有网络的速度以及内存的大小，是需要达到一个平衡的。

记者：目前排名比较靠前的超级计算机的应用，相当数量是Tesla的产品，是不是拥有Tesla的多少，很大程度上决定了未来超级计算机的运算能力？

Andy Keane先生：应用高性能计算一般是一些科研机构或者出于商用的目的，比如油气行业，天然气、石油行业以及金融行业，他们都会应用高性能计算。但是用了高性能计算之后，你得到的优势，就相当于高性能计算有什么样的性能，就能给你带来什么样的优势。我相信在未来，这个系统将会在这个清单的很多企业里应用，或者说很多的行业里应用，排名靠前的以及在下面的这些行业都会大量的使用GPU，为什么？他们都希望通过应用GPU能够使他们的性能有所提高，计算速度有所加快。

已经有越来越多厂商和用户进入混合计算时代

记者：浪潮等世界级HPC厂商与NVIDIA公司有了如此的深入合作，那么例如IBM、HP等其他厂商是否准备有合作？

Andy Keane先生：我们和一些比较大型的国际上的厂商，比如戴尔、惠普、IBM都建立了一定的业务关系，同时也共同推出了一些产品。除了刚才提到这三家公司以外，还包括Cray、APPRO等这些企业，包括一些地区性的、国际性的企业，我们都和他们有一定的合作。比如在日本，HP用我们的技术推出了一款产品，也是一种高性能计算机，叫做TSUBAME，它用的就是GPU的技术。另外，IBM的iDataPlex也有采用GPU的方案。每一个系统都有自己的竞争力。

谢强先生：刚才Andy 也说了，基本上国际上大的计算机厂商现在都推出了基于GPU的高性能计算机产品。刚才说的惠普，在日本已经开始建一个超级计算机，跟日本东京科技大学合作，叫TSUBAME，那个是用惠普的SL390的系统，装载它的服务器。为什么又谈到IBM呢？因为惠普也好，IBM也好，他们实现GPU高性能计算技术方法不一样，有的是把GPU重新设计系统，比如说惠普的SL390，有的就直接把GPU放在他们已有刀片服务器或者系统，比如说IBM的iDataPlex。他就举了一个例子，不同的系统，大家实现GPU技术的方法有不一样。为什么要有不一样存在呢？如果原来的系统能够用GPU的话，你可以节省很多成本，有的用户以后买了，已经有了CPU系统，他要用GPU，不用重新再买新的系统，只要把GPU加进去就好了。

日本TSUBAME超级计算机

记者：现在开拓的产品主要针对每一代顶级的GPU来做的，未来会不会像Quadro一样做一些多条产品线，比如中高低端都有Tesla的产品？

Andy Keane先生：是这样的，我们将会在未来逐渐推出不同级别的应用，实际上我们现在的产品开发基本上根据客户的需求，比如说他们有什么样的性能需求，针对他们的需求，我们开发一些产品。比如说，现在客户要求的是性能一定要卓越，而且能够做更高的计算以及应用，这也是我们为什么开发目前的应用。

在未来计算机会有不同的发展趋势，比如之前说到的高性能计算机，这是一个应用。另外也有个人高性能计算的应用。在第二种类别中，我们可能用的GPU相对来说性能稍微低一些，但是它更好的能够和工作站结合，不用说和服务器结合，像这种大型的超级应用一样。

记者：现在国内更多的开始应用Tesla的产品，现在基于Fermi架构的Tesla产品在国内的销售和订单情况是怎么样的？客户在使用产品之后，他们集中反馈的情况是什么样的？

Andy Keane先生：我没有一些具体的数字，但是毫无疑问，美国是我们的第一大市场，中国是我们的第二大市场，而且这个市场在不断的发展壮大，成长的速度也是非常快的。为什么有这么大的发展呢？主要是因为一些引导性的或者说一些比较大型的试点超级计算机的应用系统的推出，使人们看到了，利用这个新的技术能够给他们带来什么样的潜力，所以它的发展才会非常快，目前也是非常快。

用户的反馈意见是非常积极的，我们把之前应用的一些弊端或者说一些性能得以进一步的加强，比如说它的双精度，以及ECC、缓存、IO接口都进行了性能上的提高。总的来说，我们从Tesla 10系列产品中进行性能的加强，对Tesla 10系列产品系列的应用中的一些经验和教训，我们进行了改进之后，用到Fermi架构之中。之后，我们会把在Fermi架构应用中出现的一些经验和教训，经过改进之后，再应用到Tesla中。我们的目标是，希望随着一代一代产品的推出，它的应用和性能能力得到很大的加强。

记者：Tesla作为NVIDIA公司比较新的产品线，一推出就很受欢迎，我想问一下，能不能方便透露一下，基于三种架构的Tesla产品里面出货的比例大概是多少？

谢强先生：可以一个例子，如果从消费类市场，从量上来讲，消费类市场是专业工程图片卡市场的10倍，这是说10:1的市场，而不是说我们的销量。专业图卡的市场又会是高性能计算的10倍，这是在量上这样的一个区分，希望能够给你们一个帮助。可能没有一手的数据，因为Fermi这个产品刚刚出来，其实发货才一个季度，差不多从6月份开发发货，这段时间应该没有准确的基于Fermi的产品数据，从我们公司上一代产品来讲，差不多是这样的比例。这是最好的回答，希望能够帮到你们。

展望未来 NVIDIA具备独特的竞争优势

记者：我看你的履历里面，有在英特尔里面工作过，我们也知道，英特尔也在开发类似于显卡的内核架构的这种产品，可能它组装的是一种统一的编程架构，因为它都是X86。从NVIDIA公司来看的话，怎么看未来分支的状况？一种是传统的CPU的多核的架构，你怎么看待未来的这种竞争？

Andy Keane先生：即便是英特尔这边的发言人，他们在描述未来存在的问题时候，已经描述很好了，对于大型的超性能计算机来说，最主要的不是和X86兼容不兼容的问题，而是它的能源的问题。所以我们看一下计算系统的未来，在过去以及在未来都会经历多种过渡，比如说从低一级向高一级性能的过渡，成本也有一定的变化。你看一下超级计算系统的历史，我们之前从主机逐渐发展到Deck Alpha，之后到A1860，一直到现在的X86，最后这一步主要是出于低成本的考虑，同时也希望能够降低电耗，但是它的耗电量还是比较高的。所以说，我们接下来要面临的新的问题是什么呢？低成本是一个考虑，另外能耗怎么能够降低，是目前的一个挑战。

刚才我们看到的是过去的一些变化，看未来得话，我们要分析一下，未来面临什么样的挑战呢？两个挑战：一是编程的挑战，用什么语言呢？也许是基于CUDA语言的架构，当然我们也会考虑其他的语言，不仅仅局限于CUDA，这是一个挑战；另外，也是英特尔和NVIDIA公司不太一样的地方。如果把 X86核拿出来之后，如果要进行大型扩展的话，应用起来冷却是一个很重要的问题。我们的首席科学家Bill Dally也提出了很多的证据和数据，如果想进行进一步的发展和改变的话，首先我们要考虑平衡好能耗，还有高性能计算之间的关系。你要基于什么样的架构，而且这个架构一定是非常节能的架构，才能继续发展高性能计算。X86是不可以实现的，也许是未来的GPU或者其他的技术。

所以说，超性能计算跟手机也一样，我们也看到手机在不断的发展，有的手机用PC的操作系统，比如X86的核，有的是用内建的操作系统，但是它能够提供浏览网页和收发E-mail的功能。一些旧的系统我们可以摒弃，不是说要完全沿用下来，我们一定要进行创新，这样才能够解决功能上的问题，我想这也是高性能计算未来的发展趋势吧。

记者：NVIDIA公司的产品现在对于OpenCL标准兼容性如何？在未来的话，你们怎么看待OpenCL标准在未来编程方面的前景？

Andy Keane：我们的主营业务就是卖GPU，至于软件，我们的独立供应商用什么的软件，用什么样的语言，对我们有什么要求，我们就按照他们的语言来进行运用，包括OpenCL、CUDA、Fortune，Pascal以及JAVA，我们都是根据他们的语言来应用GPU。所以我们的竞争对手，他们一般在做宣传的时候会说什么什么是你的选择，比如说OpenCL，他会说OpenCL是你们的选择，但是我们也看到了，我们是可以支持多种语言的OpenCL、CUDA、Pascal以及JAVA。不管软件供应商有什么样的要求，我们根据他们的要求就提供什么样的GPU，包括一些产品的驱动也好，双精度也好，其他扩展的功能也好，我们都可以去网站上免费下载。不管是开发商有什么样的需求，我们都会提供，都是可以兼容的。

CUDA所支持编程语言和API很丰富，为开发人员提供了很好的灵活性

NVIDIA公司中国区公关经理金洋先生：再补充一点，OpenCL是开放的，我们CUDA是不开放的，其实实际并不是这样的，我们这边非常支持OpenCL的标准，他们可能只有一个OpenCL，我们是唯一一家可以使用的、支持OpenCL计算的厂家。除了OpenCL之外，如果我们的消费者要用到其他的语言，C++、CUDA、JAVA的语言，我们都可以提供支持，我们GPU支持所有可以实现的语言。所以我们并不是决策者，决定哪种语言我们支持，决策者是用户，他们需要什么样的语言，我们提供什么样的语言。而且OpenCL组织的主席是NVIDIA公司现在的副总裁，可以说OpenCL在NVIDIA公司不断的推广，不断的支持下，OpenCL才可以得以壮大。所以我们对于OpenCL和对于其他语言的支持，我们都会全力的支持，任何一种用户会用到的语言，可以实现GPU高性能计算的规模性的发展，我们NVIDIA公司 GPU都是支持的。这里强调一下，CUDA并不是一个编程语言，这是编程的中间层架构，什么样的语言到这儿都可以变成用CUDA自己环境去运行，所以说上面是开放的。很多人可能不大了解，认为CUDA就是一种自己的语言。你们支持什么样的库，就支持什么样的语言，就OK了。