NVIDIA谈GPU在HPC领域的应用

NVIDIA在1月28日到29日期间在日本理化研究所召开了题为“Accelerated Computing（加速计算）”的大会，主要与参会者谈论并行加速器的可能性。NVIDIA首席执行官黄仁勋在大会首日进行了主题演讲。

NVIDIA首席执行官黄仁勋

“量产版”Fermi Tesla

● 向商用HPC的转变以及对新架构的需求

黄仁勋在演讲中分三个话题介绍了GPU计算：“为什么超级计算需要新架构？”、“为什么GPU是最佳选择？”以及“为什么NVIDIA如此执着于GPGPU？”

首先，黄仁勋介绍了NERSC（National Energy Research Scientific Computing Center）的研究内容。据称，自从2008年“模拟”需求不断增长以来，计算资源一直处于不足的状况。模拟需求不仅来自于科研领域，还有工业领域的原型制造等更广泛的领域。

在科研和工业领域，模拟是十分常见的，自2008年以后计算资源需求开始迅速增长。尽管HPC的变革大幅度提升了性能，但是也没能完全满足这些需求

1999年以后开发出的HPC处理器与以前有着巨大的差异。1999年以前的是向量处理器、超级计算机厂商开发的SIMD和MIMD、以及多处理器，并且大多用于商业用途。

不过后来Intel在1999年公布了作为向量指令的SSE。在那之后，采用了大量x86 CPU的超级计算机开始主导市场，超级计算机处理器的商用化也就此开始。黄仁勋表示，根据摩尔定律，性能每18个月就会翻一番，价格也会随之降低。

在SSE出现以后，基于x86 CPU的超级计算机的份额不断扩大

可是问题也随之出现，那就是处理器的扩展停滞下来。在这里黄仁勋引用了伯克利大学David Paterson提出的“The Brick Wall（砖墙）”理论，也就是由指令层的并行性“墙”、内存“墙”和计算机性能的能耗“墙”共同组成一堵巨大的墙。

在这个例子中，处理器性能以每年52%的速度增长，到2002年的时候遇到“墙”所造成的障碍之后则降低到每年20%的增长率。假设一直维持着每年52%的增长率，那么到了2016年相当于丢失1000倍的性能。

通过细胞模拟的例子说明了模拟中需要有强大的浮点计算能力，目前超级计算机的速度已经突破了1PFLOPS

另外他还提到了软件开发者相对应的要求。一般软件包的基础代码是不变的，对下一代产品的调节主要是通过追加功能实现的。即使追加功能较晚，18个月性能增长2倍的速度也会使得两者相互抵消。然而现在因为处理器的扩展停滞了，就有必要对代码进行重写。

GPU的性能提升比多核CPU更显著

现在出现了处理器的多核新架构，当然软件开发者也会考虑到这一点。并行处理器的出现使得GPU计算的性能有了大幅度的提高。