1月4日,2024 ASC世界大学生超级计算机竞赛(ASC24)启动会在北京举行。ASC24吸引了全球超过300支高校队伍报名参赛,通过初赛选拔的队伍将参加4月9日-13日在上海大学举行的总决赛。赛题包括大模型推理优化、渗流数值模拟,以及国际通行基准测试HPL和HPCG等。来自高性能计算和人工智能领域的中国科学院院士、中国工程院院士、专家学者及参赛师生代表等参加了启动会。
ASC24超算竞赛启动会专家及师生代表
ASC24的大语言模型推理优化赛题引人关注。目前生成式人工智能呈现“百模争秀”,随着大模型训练开发快速进展和应用逐步落地,对大模型推理性能和成本的优化已经受到业界高度重视。本次赛题要求参赛队伍基于流行的开源大语言模型LLaMA2,构建并优化推理引擎,在组委会提供的样本数据集上实现高吞吐推理处理。该模型具有700亿参数,各参赛队伍需要充分了解并掌握大模型常见的并行方法,并学习使用各种技术来优化推理过程。
ASC24的渗流数值模拟赛题旨在研究多相流体在多孔介质中的复杂流动规律与特征。ASC24赛题要求各参赛队伍模拟石油开采场景中油、气、水等多相流体的渗流情况,并优化大规模并行计算过程,提升离散算法的计算性能和并行效率。渗流力学广泛应用于环境保护、地震预报、生物医疗等领域的科学研究,以及防止治理地面沉降或海水入侵、兴建大型水利水电工程、农林工程、冻土工程等工程技术中。
ASC专家委员会主席、图灵奖获得者、田纳西大学杰出教授杰克?唐加拉(Jack Dongarra)表示,ASC旨在激励下一代的HPC(高性能计算)科学家和工程师们,使用最前沿的技术提供创新的解决方案。ASC竞赛是世界上最大的超算竞赛,致力于培养下一代有才华的年轻优秀学生,在超算和人工智能领域探索、激励、创新和合作。
Jack Dongarra
ASC24总决赛东道主上海大学副校长聂清表示,上海大学是国内较早开展高性能计算集群研制和应用的高校之一,希望通过举办ASC竞赛,为更多的青年人才提供更加开阔的科技交流舞台,接触更多的前沿技术和应用,培养他们的团队合作能力、创新意识和实践能力,进一步做到以赛促学、以赛促教、以赛促研。
ASC24总决赛东道主上海大学副校长聂清
ASC24汇聚了来自世界多个国家和地区的高校队伍报名参赛,既有多次取得国际超算竞赛冠军的强队,也有首次报名但颇具实力的队伍。ASC24组委会为参赛师生举办了竞赛集训营,邀请国内知名高校及研究机构的专家详解ASC竞赛规则、集群搭建及优化、并行程序设计、AI语言大模型等知识,介绍赛题及解题思路,同时邀请往届ASC获奖队伍分享备战心得体会。
ASC24超算竞赛集训营
ASC世界大学生超级计算机竞赛(ASC Student Supercomputer Challenge)由中国发起组织,并得到亚洲及欧美相关专家和机构支持,旨在通过大赛平台推动各国及地区间超算青年人才交流和培养,提升超算应用水平和研发能力,发挥超算的科技驱动力,促进科技与产业创新。ASC超算大赛迄今已举行至第十一届,吸引来自全球六大洲上万名大学生报名参赛,是全球最大规模的大学生超算竞赛。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。