2022年1月5日,2022 ASC世界大学生超级计算机竞赛(ASC22)初赛正式开启。来自全球五大洲的300多支参赛队伍将在接下来的近两个月中,挑战“源”AI语言大模型、2020年戈登·贝尔奖获奖应用DeePMD-kit等尖端应用赛题。

报名参加ASC22的高校队伍中,不乏在上一个国际超算赛季表现突出的队伍,如ISC21和SC21冠军清华大学、ASC20-21现场决赛总冠军及ISC21季军暨南大学、ASC20-21线上决赛总冠军台湾清华大学、SC21 IndySCC超算竞赛冠军中山大学,以及SC21亚军上海科技大学、SC21最高计算性能奖得主南方科技大学、SC21 IndySCC季军瑞士苏黎世联邦理工学院等。此外还有中国科学技术大学、美国德州A&M大学、俄罗斯乌拉尔联邦大学、澳大利亚蒙纳什大学、哥伦比亚EAFIT大学等强队。
在ASC22初赛中,所有大学生队伍需要完成两道极具挑战性的尖端应用赛题,分别是“源”AI语言大模型和AI+Science代表性软件DeePMD-kit。
今年的AI赛题聚焦当前业界前沿AI大模型。“源”是2021年发布的一个面向中文的巨量语言模型,参数量达2457亿,刷新了业界多个中文榜单的记录,且在众多的语言处理任务场景中表现出了广阔的应用前景。AI大模型的训练面临着计算量和并行策略设计的双重挑战,因此也是参赛队展示超算性能优化能力的绝佳试验场。ASC22组委会提供了100GB的高质量中文数据集,要求参赛队基于这一数据集实现一个47亿参数的小号“源”模型。值得一提的是,组委会并没有提供模型设计的参考代码,这意味着参赛队需要自行完成模型结构构建和全部训练过程,并合理设计模型训练策略,以期得到最佳的计算性能。
DeePMD-kit赛题将引导大学生进行一场人工智能+科学研究(AI+Science)的前沿探索。科学研究与人工智能结合被视为当前最值得期待的创新趋势之一,机器学习分子动力学DeePMD-kit的出现成功推动了相关领域的跨越式发展。而高性能计算的加入将机器学习分子动力学的潜力持续释放:DeePMD-kit在超级计算机顶点(Summit)上达到了双精度91P的峰值性能,到解时间快于之前基线水平1000倍以上,相关成果获得了2020年戈登·贝尔奖。可以说DeePMD-kit的出现定义了科学研究+机器学习+高性能计算的新范式。本次赛题聚焦DeePMD-kit的训练效率优化,通过高性能优化提升训练速度对于用户来说至关重要。参赛选手将对DeePMD-kit的模型构建过程有一个直观认识,并可以使用高性能优化的手段优化整个训练过程。
ASC22世界大学生超算大赛的启动会将于1月19日在北京召开,届时权威专家学者、东道主高校、参赛队代表将共同开启ASC22序幕,会上将公布总决赛东道主等重磅信息。
为帮助各参赛队伍高效备战,ASC22竞赛集训营将于1月20日-21日在线上举行。来自英特尔、英伟达、中国科学院、深势科技、高效能服务器和存储技术国家重点实验室的HPC及AI专家将详解竞赛规则、集群搭建及优化、赛题等内容,进行参赛指导。往届大赛获奖团队也将现身集训营分享参赛经验。
ASC 世界大学生超级计算机竞赛是由中国发起组织,并得到亚洲及欧美相关专家和机构支持,旨在通过大赛平台推动各国及地区间超算青年人才交流和培养,提升超算应用水平和研发能力,发挥超算的科技驱动力,促进科技与产业创新。ASC超算大赛迄今已举行至第十届,吸引超过万名世界各国大学生参赛,是全球最大规模的超算竞赛。
内容来源:亚洲超算协会
好文章,需要你的鼓励
五家光学存储初创公司正在开发长期存储技术,旨在用超过100年寿命的光学介质替代只有5-7年寿命的磁带。这些公司包括Cerabyte、Ewigbyte、HoloMem、Optera和SPhotonix,它们的技术类似微软Project Silica项目。光学存储介质具有更强的化学、冲击、辐射、水和热抗性,同时保持低能耗和高容量特性。
卡内基梅隆大学团队提出DistCA技术,通过分离AI模型中的注意力计算解决长文本训练负载不平衡问题。该技术将计算密集的注意力任务独立调度到专门服务器,配合乒乓执行机制隐藏通信开销,在512个GPU的大规模实验中实现35%的训练加速,为高效长文本AI模型训练提供了新方案。
Nutanix发布分布式主权云产品组合更新,为多云环境提供更安全的运营和管理功能。该解决方案支持企业在分布式环境中灵活部署和治理基础设施,运行传统虚拟机、现代云原生和AI应用。新功能包括支持完全断网环境的暗站点管理、政府云集群正式发布、Kubernetes平台增强安全合规性、企业AI平台集成NVIDIA微服务,以及云平台新增跨站点灾难恢复能力,为用户提供统一管理和运营简化体验。
清华大学研究团队提出3DThinker框架,首次让AI具备类似人类的三维空间想象能力。该系统在推理过程中插入特殊的三维想象符号,不依赖外部工具或大量标注数据,就能从有限的二维图像中构建三维心理模型。在多个空间推理基准测试中,3DThinker相比传统方法性能提升达50-100%,为自动驾驶、机器人导航、虚拟现实等领域的AI应用开辟了新路径。