7月18日,由中国智能计算产业联盟与全国信标委算力标准工作组共同主办的2024中国算力发展专家研讨会在京召开。院士专家们齐聚一堂,共同探索超智融合技术的发展路径。
本次研讨会以“超智融合技术路线下的趋势与发展”为主题,中国科学院院士陈润生,中国科学院院士钱德沛,中国工程院院士郑纬民,北京应用物理与计算数学研究所研究员袁国兴,国家信息中心信息化和产业发展部主任单志广,中国科学院计算技术研究所研究员张云泉,中国科学院计算技术研究所研究员谭光明,中国信通院云计算与大数据研究所所长何宝宏,中国科学院计算机网络信息中心研究员陆忠华,中国科学院大学教授、博士生导师徐俊刚,广东智能研究院副院长钱诚等专家、学者应邀参会。
2024中国算力发展专家研讨会现场
趋势与概念:超智融合的三个阶段
中国科学院院士钱德沛在会上表示,超智融合将沿着“for AI”、“by AI”和“being AI”三个阶段演进。第一阶段“for AI”着重于对现有计算机系统的改造与升级,发展专用硬件,为人工智能研究提供坚实的基础设施。第二阶段“by AI”将用AI改造传统的计算,用AI的方法求解传统超算问题,并影响传统计算机的结构。最终阶段“being AI”,计算机系统将呈现内在的智能特性,人工智能成为计算机的核心属性和基本组成,其计算能力和智能化水平将远超今天的超算或智算。
大模型作为超智融合的重要抓手,也被多位嘉宾所强调。中国科学院院士陈润生指出,大模型本身是一个平台,是一种解决方案,是计算机应用发展的新质生产力。他认为,超算与智算的结合是必然的,将会有机融合,而不是简单拼凑。
中国科学院计算技术研究所研究员张云泉认为,大模型的迅猛发展彰显出新质生产力的特质,但目前也遇到了算力瓶颈。鉴于中国在超算领域拥有深厚技术积累,希望超智融合能有效化解这一挑战。
国家信息中心信息化和产业发展部主任单志广表示,超智融合很有新意,但是它未来的基础理论还要进一步的深化,还要具体说清楚融合的形态是什么,到底是计算体系的融合还是应用体系的协同?
在我国,超智融合技术已被应用于国家超算互联网的建设中。通过链接全国超算、智算中心,并深度整合计算、软件、应用等多方资源,构建起一体化算力服务平台,为社会提供高效、便捷的算力服务。
国家超算互联网2024年4月正式上线以来,已有超过200家应用、数据、模型等服务商入驻国家超算互联网,并提供超过3200款商品。这些商品覆盖科学计算、工业仿真、AI模型训练等领域,可满足全社会对先进计算服务的需求。
技术路径:硬件与软件协同发展
钱德沛认为,超智融合的技术路线分为硬件和软件两个方面。在硬件方面,要寻找专用和通用之间的平衡点,尽量以最低的能耗实现最高的性能,可重构或柔性硬件可能是未来的主要途径。在软件方面,要从基本大模型的理论形成完整支撑AI的软件栈,包括理论、算法、框架、系统软件、编译器和应用开发等。
“超算和智算差别极大,两者本质是不同的系统。”陈润生剖析道,“超算依靠时间复杂度,跑完程序结果就出来了;而智算依靠的是空间复杂度,需要先把所有的知识训练好。”
中国信通院云计算与大数据研究所所长何宝宏则强调,超智融合的技术路径要收敛、统一,最好能在芯片级走向统一。他认为,超智融合要从场景开始,考虑超算的科学应用向智算基础设施迁移的问题。“传统超算和智算的训练,对底层基础设施要求并不一样,也需要判断在什么场景下应实现兼容统一,又在哪些场景下需凸显其独特性。”
“目前大模型训练中,虽然一些国家超算中心已经能够提供支撑,但还应该重点围绕国产算力芯片发展十大关键软件,进一步实现软硬件协同优化。”中国工程院院士郑纬民认为。
应用场景:AI for Science成为趋势
在北京应用物理与计算数学研究所研究员袁国兴看来,不同的应用有不同的技术,而且要求用不同的算法,它对计算机也有不同的要求。大模型对精度、对普适性、对算法的需求也和传统计算不一样。大模型还是应该跟应用结合起来,来解决不同的应用问题。
在计算范式和应用层面,AI for Science成为趋势,体现了AI方法的泛化,不仅限于计算机视觉和自然语言处理,还拓展至各学科领域。人工智能不等同于低精度,应用领域和方法的普适性增强,如强化学习和图神经网络的应用广泛。
主权级大模型:国家超算平台的机遇
会上,举办了主权级大模型创新联合体成立仪式,并启动了《2024中国算力发展研究报告之超智融合技术路线与趋势》编撰工作。
广东智能研究院副院长钱诚认为,国家超算平台是打造主权级大模型的理想选择。他指出,我国超算体系受美国禁运早,因此减少了国际干扰,成为计算体系中最稳固的平台之一。当前计算硬件领域正迅猛发展,智能芯片性能也将迎来拐点,底层硬件和人工智能带来的新范式将推动计算系统的革新。
澎峰(北京)科技有限公司董事长张先轶也认为,国产卡在大模型的微调训练和推理上是完全可用的,随着国产芯片整个系统的更进一步推动,将能承载更大型模型。对于预训练的主权级大模型十分必要,模型结构的创新也可以推动对算力需求的下降。
粤澳先进智能计算联合实验室主任邓练兵表示,主权级大模型应用将推动各方合作,共建共享开放平台。通过国家引导或市场机制,围绕主权级大模型构建生态,可解决算力中心利用率低与中小企业算力需求难以满足的矛盾。
结语
超智融合是人工智能和超级计算领域的重要发展趋势,将推动计算能力的飞跃,并为各行各业带来变革。本次研讨会为超智融合的未来发展提供了宝贵的思路和建议,相信在各方的共同努力下,超智融合将取得更加丰硕的成果,为人类社会带来更加美好的未来。
好文章,需要你的鼓励
OpenAI宣布ChatGPT新增重磅功能——聊天记录搜索。用户可以快速一键搜索自己的聊天记录,或者从中断的地方继续聊天了。无论你开了
英伟达成长为市值3.43万亿美元的公司的过程,并分享了他对企业失败的持续恐惧。他表达了对人工智能引领新工业革命的坚定信念,强
今年的汉诺威工业博览会就是一个很好的例子:我们看到了元宇宙如何彻底改变我们组织工业流程、使数据可访问和促进协作的方式。具
数据中心作为“碳达峰与碳中和”重大战略决策背景下的重要载体,其绿色化发展成为“零碳”建设的重要举措,如何在运营中实施节能