HPC China 2015结束了，一起聊聊深度学习的那点事！

ZD至顶网服务器频道 11月16日 新闻消息（文/于泽）：一年一度的全国高性能计算学术年会（HPC China 2015）已经谢幕，一场围绕HPC全生态领域的研讨也刚刚告一段落。回顾本届大会，相关硬件技术、软件技术及应用等在这场为期三天的大Party中得到了充分的展现，平心而论，以笔者粗浅的学识听懂的并不多，至于原因吗，这个领域太专业，尤其是在应用方面。 

虽然听懂的不算多，但有一个重要议题还算是有些研究和理解，本文就借着这点浅薄的认识随便聊聊。聊什么呢？深度学习。其诞生于很久以前，却发迹于近两年，背后的逻辑是因为这两年的计算水平提升的太快，有了基本匹配深度学习所需要计算能力的实力。 

之所以说基本匹配，是因为深度学习所需要的计算能力实在太大，别说是现在，即便再过十年估计也无法完全满足。这一点就像科大讯飞内核研发中心研发总监于振华在接受采访时所讲的，现在的深度学习神经网络联接数也就10的8次方，跟真正的人脑差了将近6个数量级，人脑的复杂度比我们现在做的最复杂的神经网络还要复杂的多。

 NVIDIA解决方案工程架构副总裁Marc Hamilton

可见，技术真的是没有止境的。对此，来自NVIDIA的解决方案工程架构副总裁Marc Hamilton则半开玩笑地说，当前的技术水平距离完全满足深度学习的需求确实还有很大一段距离，否则我们的工程师都无事可干了。 

深度学习跟日常生活有什么联系？ 

言归正传，可能你对深度学习并没有那么了解，也不知道它是干什么的？下面我们从头讲起，但是并不讲概念，为了通俗易懂，我们讲生活。生活与深度学习有什么关系？就从刚刚过去的双11购物狂欢节开始。 

说起网购，估计绝大多数人都尝试过，相信也有很多人都注意到了，当你打开某个网站浏览时，总会有推荐商品这一栏，这是怎么来的？有的是根据你正在浏览的内容推荐相近的，有的则是根据你之前的浏览、搜索结果匹配的，这可以说是当前较为普遍的一种深度学习应用，即通过长期积累数据来分析你的购物习惯，并推荐相应的产品，类似的应用在淘宝、京东……都在做。

打开某购物网站的推荐商品 

商品推荐可以说是当前比较普遍，也比较简单的一个深度学习的应用例子，说其比较简单是因为用户容错率高，即便推荐错了，顶多是一笑而过。但是像语音识别、图像识别等，用户的要求就高了，比如当前很多公司都推出了语音识别的应用，像苹果的Siri、百度的小度等都属于此，你能容忍它们连续犯几次错误？估计没几个人愿意陪一个听不懂你话的应用玩，错几次，这应用就相当于白做了。要想留住用户，唯一的办法就是不断提高识别的精准度。 

而从当前的应用阶段来看，像百度、科大讯飞之类的在语音识别领域已经有了突破性的进展，95%甚至更高的识别率已经不是问题，在今年召开的百度世界大会上，百度公司创始人、董事长兼首席执行官李彦宏曾公开展示过百度的语音识别技术，包括方言、外语的识别率都能达到很高的水平。 

深度学习面临的现状与挑战 

那他们是怎么做到的呢？简单来说，就是通过建立模型、算法，让机器自己去学习，这跟人的成长过程很相似，小时候每天都在接触新鲜的事物，每天都在吸收，其中人靠的是大脑的计算能力，机器则靠的是处理器的计算能力，这里不得不提加速技术，尤其是GPU加速技术。因为实话讲，机器学习跟CPU的关系确实不大，相比GPU，同样大小CPU的计算能力的确十分有限。 

可能有人会问了，既然CPU发挥不了多大的作用，干脆全部使用GPU好了，就该领域而言，这是一个很好的设想，但无法实现，毕竟很多基础的软件、应用都是基于CPU的架构编写的，光有GPU是运行不起来的。所以，到这应该很好理解为什么现在很多超级计算机都是CPU+GPU的异构架构了吧，各司其职，各自发挥自己的作用。 

Marc介绍，Intersect60公布的HPC应用情况调查显示，全球TOP 10的应用中有90%支持GPU加速，而即便将范围扩大到前50，也有70%应用支持GPU加速，业界对GPU加速的认可度可见一斑。而如果把这一点聚焦到深度学习领域，几乎是100%，就笔者了解，像百度、阿里、京东、科大讯飞这些但凡在做深度学习研究的，都是NVIDIA的用户。 

更多关于NVIDIA的信息，包括产品、解决方案就不多展开了，有兴趣的用户可以自行查找。抛开这个，前面讲了深度学习当前所取得的一些成果，包括语音识别、图像识别等，现在我们谈谈深度学习现在面临的一些问题，其实前面有提到过，现在即便最大的模型离真正的人脑也差的还远，那诸如此类的问题还有哪些呢？ 

在此次大会为期三天的探讨里，我们先看看相关做应用的嘉宾是如何说的？一，业内缺乏成熟的深度学习平台解决方案；二没有相关的定制芯片，难以发挥更高的效率。 

这两点有办法解决吗？第一还比较容易一点，毕竟虽然GPU厂商只有那么几家，但是围绕在他们旁边的合作伙伴有很多，随着市场的扩大，进来的厂商必定会越来越多，而NVIDIA全球副总裁、PSG &云计算业务总经理Ashok Pandey在接受采访时也表示，他们在不断与合作伙伴深入沟通，以便给客户提供更好的解决方案，而在此次大会上，曙光相关的解决方案XSystem深度学习产品已经亮相。 

那第二点呢？这个问题并不好解决，从厂商的角度来看，定制芯片除非需要很大的量，否则无论是成本还是技术更新都会受节制，看看英特尔，其实就很好理解NVIDIA了。Marc表示，NVIDIA年产8000万块GPU，除非谁一年能买4000万块，他们会考虑为其定制。虽然有点半开玩笑的意思，但确实说明定制之路不太现实。 

除此之外，深度学习还可能会面临什么问题呢？在笔者看来，任由当前形势发展，深度学习很可能只是寡头之间的比拼。此话怎讲？入行门槛太高，别说搞应用，可能搭个系统就会耗费巨大的人力、物力，由此带来的结果是创新的缓慢，要知道，每个行业的进步都是在充分竞争的基础上，如果只有几个寡头在玩，那前景确实堪忧。该问题也再次凸显业内对方便、易用的解决方案的渴望，笔者也希望这个问题能尽快得到解决，来带动整个行业的发展。 

问题还有吗？当然有，而且这个应该算十分基础的能力，那就是GPU计算性能的再提升。好消息是，很快NVIDIA下一代GPU产品就会面世，相比当前产品，计算性能更高，约有10倍的性能提升，如果照此速度发展下去，抹平6个数量级的差距似乎也并不遥远，但这无疑这会很难，而且越来越难。 

总结 

虽然深度学习目前已经取得了一些成绩，但也不得不说面临一些问题，要想快速健康的发展离不开全领域的共同努力。希望不久的将来，不只是看到京东、阿里去分享他们在深度学习领域的一些探索，而是看到更多创新性的应用探索，同时也希望整个产业链能够更快地成长，帮助我们更好地生活。