HPE公司已经向瑞士研究机构出售一台SGI 8600超级计算机系统,用于支持Blue Brain项目对小鼠丘脑及新皮质的模拟。
Blue Brain项目是瑞士洛桑联邦理工学院(简称EPFL)发起的一项大脑研究计划,旨在模拟哺乳动物的大脑。其中涉及约百名参与者,包括神经科学家、计算机工程师、物理学家、数学家以及化学家。其主要目标在于了解大脑的工作原理,从而协助脑部疾病的诊断与治疗。
该项目还希望为神经机器人以及神经形态计算的发展做出贡献。
超级计算机将专注于模拟小鼠的丘脑:这种生物团状结构位于脑干上方,中脑与大皮层之间。其作用在于将运动与感觉信号传递至大脑皮层。大脑皮层中的主要组成部分为新皮质,其与感受知觉有关,主要负责实现运动命令与空间认知。
这套Blue Brain 5系统将被安装在位于卢加诺的瑞士国家超级计算中心(简称CSCS),用于满足神经科学领域内的各类模拟需求。
HPE公司于2017年年底获得了第一份合同,连同后续阶段,其总价值可能高达1800万瑞士法郎——折合1800万美元以上。
SGI 8600
这套水冷式SGI 8600 Blue Brain 5系统集成有四种不同配置,其各自针对不同的工作负载需求进行了优化——分别拥有不同的内存带宽、网络带宽、处理能力、图形处理以及输入/输出带宽。
其可作为单一系统运行,同时托管专用于可视化或深度学习等不同任务的子系统。
其中包含327个节点,采用Skylake Gold 6140 CPU配合至强Phi 7230协处理器与英伟达Tesla V100 GPU。其采用单轨与双轨Mellanox InfiniBand互连机制,且拥有4 PB DDN Lustre存储方案——DDN每秒80 GB的IME突发缓冲器能够有效加速数据流。
EPFL方面公布的YouTube视频讨论了Blue Brain项目中涉及的IO问题:
其总带宽超过每秒50 GB,峰值性能则为1.06千万亿次——位列全球超算五百强中相对靠后的位置。
HPE公司表示,该系统可以扩展至数千个节点。EPFL目前无法准确预测其何时能够成功模块鼠类大脑,或者实现这项任务究竟需要多少个节点。
好文章,需要你的鼓励
OpenAI首席执行官Sam Altman表示,鉴于投资者的AI炒作和大量资本支出,我们目前正处于AI泡沫中。他承认投资者对AI过度兴奋,但仍认为AI是长期以来最重要的技术。ChatGPT目前拥有7亿周活跃用户,是全球第五大网站。由于服务器容量不足,OpenAI无法发布已开发的更好模型,计划在不久的将来投资万亿美元建设数据中心。
阿里巴巴团队提出FantasyTalking2,通过创新的多专家协作框架TLPO解决音频驱动人像动画中动作自然度、唇同步和视觉质量的优化冲突问题。该方法构建智能评委Talking-Critic和41万样本数据集,训练三个专业模块分别优化不同维度,再通过时间步-层级自适应融合实现协调。实验显示全面超越现有技术,用户评价提升超12%。
英伟达推出新的小型语言模型Nemotron-Nano-9B-v2,拥有90亿参数,在同类基准测试中表现最佳。该模型采用Mamba-Transformer混合架构,支持多语言处理和代码生成,可在单个A10 GPU上运行。独特的可切换推理功能允许用户通过控制令牌开启或关闭AI推理过程,并可管理推理预算以平衡准确性和延迟。模型基于合成数据集训练,采用企业友好的开源许可协议,支持商业化使用。
UC Berkeley团队提出XQUANT技术,通过存储输入激活X而非传统KV缓存来突破AI推理的内存瓶颈。该方法能将内存使用量减少至1/7.7,升级版XQUANT-CL更可实现12.5倍节省,同时几乎不影响模型性能。研究针对现代AI模型特点进行优化,为在有限硬件资源下运行更强大AI模型提供了新思路。