20支来自亚太区的队伍共同挑战AI应用场景中的关键集合通信模型
美国加州Sunnyvale/北京时间2023年8月24日,国际高性能计算和人工智能咨询委员会(HPC-AI Advisory Council)宣布了第11届亚太区RDMA(Remote Direct Memory Access,远程内存直接访问)编程竞赛结果,上届冠军队,来自中国的西北工业大学队蝉联本次RDMA编程竞赛的冠军;南开大学队和香港中文大学与澳大利亚国立大学的港中文澳国立联队获得本次竞赛的第二名;中国科技大学队、北京邮电大学和南京邮电大学联队、台湾暨南大学的Pangolin队获得的第三名。
本次竞赛共有40多支来自亚太区各个大学和科研机构的学生团队和10多支来自亚太区科技企业的团队参加了为期5天的2023年亚太区RDMA编程课,20支队伍被选中参与了最后的为期两天编程竞赛,共同挑战AI应用中的典型集合通信模型 - Reduce/Scatter 通信场景,并通过先进的网络计算技术对其进行优化。Reduce/Scatter通信是当前热门的大语言模型应用中最关键的通信模型之一,在比赛过程中,参赛队伍表现出了极大的创新力和高超的编程能力,使 Reduce/Scatter集合通信性能得到了极大的性能提升。
本次竞赛由国际高性能计算和人工智能咨询委员会主办,得到了日本的PCCC(PC Cluster Consortium)、中国科学院计算科学研究所、清华大学和北京大学的大力支持,旨在为亚太区的学生们提供领先的RDMA编程课程的学习机会,并提供先进的软、硬件平台供学生们动手实践,再通过竞赛的形式来归纳和验证他们的学习效果,最终达到提升学生们的HPC和AI知识能力的效果。
赛后国际高性能计算和人工智能咨询委员会主席Gilad Shainer先生说到:“大模型时代的到来,需要在通信模型上进行创新,以满足单个训练集群动辄数千或者数万颗GPU对性能和效率的需求。网络设备,特别是网络计算技术及因此而出现的新型RDMA通信算法,将会是确保AI集群今后扩展无忧的关键技术。我们每年都要举办亚太区RDMA编程课和竞赛的目的就是帮助学生们扩展他们的知识面、提升他们的动手能力,让他们一走向社会后即能拥有最先进的知识。”
关于竞赛的更多详情,请访问国际高性能计算和人工智能咨询委员会网站 Student RDMA Programming Workshop And Competition - HPC Advisory Council.
好文章,需要你的鼓励
Carma Technology 针对 Uber 提起专利侵权诉讼,称其侵犯了涉及拼车系统的五项专利。案情回溯至十年前,凸显专利保护对创新者的重要性,可能对 Uber 及其他公司带来巨大影响。
东京大学研究团队开发的WebChoreArena是一个全新的网页代理评估基准,它包含532个精心设计的任务,专注于测试AI代理处理繁琐、复杂网页任务的能力。研究结果显示,即使是最先进的语言模型(如Gemini 2.5 Pro)在这些挑战性任务上的表现也比常规任务降低了约14个百分点,证明了这一基准有效区分了不同模型的能力。WebChoreArena通过设计海量记忆、计算、长期记忆等类型的任务,为评估AI代理在实际应用场景中的表现提供了更严格的标准。
经过暂停战略调整,Automattic 宣布重返 WordPress 开发,包括核心、Gutenberg、Playground 等模块,计划今年推出 6.9 版本,并涉及与 WP Engine 的法律争端。
这项研究提出了一种名为LIFT的新型微调方法,通过在低秩近似后识别大语言模型中的主要权重进行稀疏微调。研究表明,仅更新5%的主要权重就能在推理任务上超越全参数微调,同时保持与LoRA相当的内存效率。LIFT在常识推理、算术推理等多项任务上表现优异,还能更好地平衡学习新知识与保留原有能力。这一方法揭示了大语言模型中关键参数的重要性,为资源高效的模型定制提供了新思路。