至顶网服务器频道 06月19日 新闻消息(文/李祥敬):按部就班的ISC2017如期在德国法兰克福举行,备受瞩目的TOP500也被公布,其中有几个变化值得关注。
第一,来自无锡国家超级计算中心的Sunway TaihuLight(神威太湖之光)毫无悬念卫冕冠军。
第二,广州国家超级计算机中心的天河2号排名第二,在2016年之前,其实这个“老二”连续三年位列TOP500榜首。
第三,瑞士国家超级计算中心(CSCS)的Cray XC50系统名列“探花”,这主要是其借助NVIDIA Tesla P100 GPU,使得其Linpack性能翻了一倍。
第四,看到前三名,“米国去哪儿了”?这也是历史上第二次美国未能进入TOP500榜单的前三。上次是1996年,当时三个日本系统占据了前三名。不过,在TOP500中,从总数看,美国仍然是第一名,169台;接着是中国,160台。然后是日本有33台超级计算机,德国是28台,法国17台,英国17台。
第五,需要注意的是前十中,Cray和IBM BlueGene/Q系统,以及富士通,散落在前十名榜单中。
第六,英特尔继续是TOP500芯片的主要供应商。至强或至强Phi处理器能为TOP500系统中的464台提供支持。 IBM Power处理器占据21席,而AMD Opteron CPU则存在于六个系统中。
第七,在加速器/协处理器技术方面,最受欢迎的是NVIDIA GPU,共有74个系统使用,然后是Xeon Phi协处理器,共有17个系统在使用。
第八,对于系统互连,以太网和InfiniBand仍然是最流行的技术。以太网在207个系统中存在;InfiniBand存在于178个系统中。
好文章,需要你的鼓励
苏州大学研究团队提出"语境降噪训练"新方法,通过"综合梯度分数"识别长文本中的关键信息,在训练时强化重要内容、抑制干扰噪音。该技术让80亿参数的开源模型在长文本任务上达到GPT-4o水平,训练效率比传统方法高出40多倍。研究解决了AI处理长文档时容易被无关信息干扰的核心问题,为文档分析、法律研究等应用提供重要突破。
在Cloudera的“价值观”中,企业智能化的根基可以被概括为两个字:“源”与“治”——让数据有源,智能可治。
清华大学团队首次揭示了困扰AI训练领域超过两年的"幽灵故障"根本原因:Flash Attention在BF16精度下训练时会因数字舍入偏差与低秩矩阵结构的交互作用导致训练崩溃。研究团队通过深入分析发现问题源于注意力权重为1时的系统性舍入误差累积,并提出了动态最大值调整的解决方案,成功稳定了训练过程。这项研究不仅解决了实际工程问题,更为分析类似数值稳定性挑战提供了重要方法论。