过去两年,机器学习彻底改变了蛋白质结构预测。而现在,人工智能又在蛋白质设计领域引发了新一轮革命。
自从AI问世以来,众多科学家们就加入了利用它来进行蛋白质研究的赛道。生物学家发现,使用机器学习,可以在几秒钟内创建出蛋白质分子。而在以前,这个时间也许是几个月。
近日,初创企业Evozyne使用NVIDIA提供的预训练AI模型,创造了两种在医疗和清洁能源领域具有重大潜力的蛋白质。其中一种蛋白质用于治疗一种先天性疾病,另一种用于消耗二氧化碳以减少全球变暖。

这样科学家使用NVIDIA BioNeMo创建出能够生成高质量蛋白质的大型语言模型,以此加快药物研发并助力创造更具可持续性的环境。
加速药物研发的新方法
Evozyne联合创始人、论文共同作者Andrew Ferguson表示: “令人欣喜的是,这个AI模型第一轮产出的合成蛋白质就像自然生成的蛋白质一样,表示该模型已经学会了自然界的设计规则。”
Evozyne使用了NVIDIA的ProtT5。ProtT5是一个Transformer模型,是用于创建医疗AI模型的软件框架和服务——NVIDIA BioNeMo的一部分。
分子工程师Ferguson的研究领域涵盖化学和机器学习领域,他表示:“BioNeMo非常强大,让我们能够训练模型,然后以非常低的成本使用该模型来运行工作任务,在几秒钟内就能生成数百万个序列。该模型预测了如何组装出能够满足Evozyne需求的新蛋白质。”
该模型是Evovyne ProT-VAE流程的核心。Evozyne的ProT-VAE流程将NVIDIA BioNeMo中强大的Transformer模型与变分自编码器(VAE)相结合。
他表示:“几年前,还没有人注意到可以使用大型语言模型与变分自编码器相结合的方式来设计蛋白质。”
相比之下,Evozyne的方法只通过一轮,就能改变一个蛋白质中半数乃至以上的氨基酸。这相当于进行了数百次的突变。
Evozyne数据科学家Joshua Moller表示: “他们通过将工作扩展到多个GPU来加快训练速度。
这将训练大型 AI 模型的时间从几个月缩短到一个星期。Ferguson表示:“所以我们能够训练出原本不可能训练出的模型,比如一些有数十亿可训练参数的模型。”
革命性的AI模型
传统的蛋白质工程设计方法,即定向进化,采用的是一种缓慢、无计划的方法,通常一次只改变几个氨基酸的序列。而机器学习有助于研究海量可能的氨基酸组合,然后有效地识别最有用的序列。
BioNeMo是一款基于NVIDIA NeMo Megatron构建的AI赋能药物研发云服务和框架,用于在超级计算规模下训练和部署大型生物分子Transformer AI模型。服务包括预训练LLM、对蛋白质、DNA、RNA和化学的通用文件格式的原生支持,还提供可供SMILES(用于分子结构)和FASTA(用于氨基酸和核苷酸序列)使用的数据加载器。
借助BioNeMo,科学家可以开始为UniRef50和ZINC数据库轻松使用预训练模型、自动下载器和预处理器。借助无监督式结构化学习者,各种模型、嵌入和输出得以结合,将多模态数据组合在一起。无监督式预训练还消除了对已标记数据的需求,从而快速生成已学习的嵌入,预测蛋白质结构、功能、细胞位置、水溶性、膜结合性、保存区域和可变区域等。
其中,MegaMolBART是一种使用14亿个分子(SMILES字符串)进行训练的生成化学模型,可用于多种化学信息学应用。而且BioNeMo提供了ProtT5和ESM1-85M等基于 Transformer 的蛋白质语言模型。
BioNeMo还提供OpenFold,这是一种用于预测新型蛋白质序列 3D 结构的深度学习模型。
NVIDIA的Transformer模型会读取数百万种蛋白质中的氨基酸序列。该模型运用神经网络用来理解文本的技术,学会了大自然如何构建蛋白质氨基酸序列。
展望未来,使用AI加速蛋白质工程的前景十分广阔。人工设计出来的蛋白质相对于自然界中原本就存在的蛋白质而言,更加稳定,在没有能量或高温等极端情况下,也能实现它的某项功能。
此外,也可以用人工智能来设计氨基酸序列,使其与主干相符,用于改善酶、抗体等特定蛋白的稳定性。人工智能技术对于不同大小、不同构象的蛋白质设计起到了非常重要的作用,未来还可帮助设计更多、更有用的蛋白质,包括可用于减少污染、改善环境的新的生物材料。
好文章,需要你的鼓励
CPU架构讨论常聚焦于不同指令集的竞争,但实际上在单一系统中使用多种CPU架构已成常态。x86、Arm和RISC-V各有优劣,AI技术的兴起更推动了对性能功耗比的极致需求。当前x86仍主导PC和服务器市场,Arm凭借庞大生态系统在移动和嵌入式领域领先,RISC-V作为开源架构展现巨大潜力。未来芯片设计将更多采用异构计算,多种架构协同工作成为趋势。
延世大学研究团队通过分析AI推理过程中的信息密度模式,发现成功的AI推理遵循特定规律:局部信息分布平稳但全局可以不均匀。这一发现颠覆了传统的均匀信息密度假说在AI领域的应用,为构建更可靠的AI推理系统提供了新思路,在数学竞赛等高难度任务中显著提升了AI的推理准确率。
Vast Data与云计算公司CoreWeave签署了价值11.7亿美元的多年期软件许可协议,这标志着AI基础设施存储市场的重要转折点。该协议涵盖Vast Data的通用存储层及高级数据平台服务,将帮助CoreWeave提供更全面的AI服务。业内专家认为,随着AI集群规模不断扩大,存储系统在AI基础设施中的占比可能从目前的1.9%提升至3-5%,未来五年全球AI存储市场规模将达到900亿至2000亿美元。
蒙特利尔大学团队发现让AI"分段思考"的革命性方法Delethink,通过模仿人类推理模式将长篇思考分解为固定长度块,仅保留关键信息摘要。1.5B小模型击败传统大模型,训练成本降至四分之一,计算复杂度从平方级降为线性级,能处理十万词汇超长推理,为高效AI推理开辟新道路。