Efficient evolution of human antibodies from general protein language models

https://www.youtube.com/watch?v=7szFo_IPUcE

code：GitHub - brianhie/efficient-evolution: Efficient evolution from protein language models

哈佛大学化学与化学生物学系和圣路易斯华盛顿大学的研究人员共同完成的一篇论文，发表在Nature Biotechnology上。

抗体是一种大分子，属于免疫球蛋白家族，它们的分子量通常在150 kDa以上，具有高度特异性的结合能力，可以与抗原结合并进行免疫反应。

这篇文章介绍了一种使用通用蛋白质语言模型来加速人类抗体进化的方法。研究人员训练了一种基于大规模蛋白质序列数据的语言模型，该模型可以预测蛋白质序列的下一个氨基酸。然后，他们使用这个模型来预测在人类抗体的可变区域中进行的突变，并针对这些突变进行计算机模拟，以确定哪些突变可能会增加抗体的亲和力。最终，他们使用这种方法成功地改进了三种抗体的亲和力。这种方法可以提高人类抗体的快速进化，并有望在药物开发中发挥重要作用。

近年来，抗体的制备技术在医学领域的应用越来越广泛。然而，高亲和力的抗体的制备仍然是一项具有挑战性的任务。为了提高抗体的亲和力，科学家们通常会利用定向进化技术，但这种方法需要大量的实验操作和时间。本项研究不依赖于特定的抗体序列或结构信息，而是利用通用的蛋白质语言模型，根据自然界的进化规律，筛选出符合要求的氨基酸替换，从而提高抗体的亲和力。这种方法为开发更有效的抗体提供了新思路。下面我们将对这项研究进行详细介绍。

图1 | 使用蛋白质语言模型指导进化。a、b 是两个可能的模型，用于将高度具有进化合理性的突变空间（例如抗体中观察到的突变）与在特定选择压力下表现出高适应度的空间（例如导致与特定抗原结合亲和力高的突变）相关联。这两个模型都假定高适应度的突变构成了完整的变异空间的稀有子集，并且一般而言，高适应度的突变也具有进化合理性。

根据第一个模型（a），高适应度的突变在具有进化合理性的突变子集中很少见。

根据第二个模型（b），当仅限于合理变异范围时，健康状况的改善变得更加普遍。

c、蛋白质语言模型是对数百万自然蛋白质序列进行训练的，可以学习到可能在自然界中看到的氨基酸模式。 我们假设具有高语言模型可能性的大多数突变也具有进化合理性。 假设这是正确的，如果第二个模型（b）更好地描述了自然，则没有关于特定选择压力的信息的语言模型仍然可以有效地指导进化。

通过广义语言模型获得氨基酸替代方案的方法

该研究分别使用多个蛋白质语言模型预测目标抗体中可能进行的突变，并使用多个模型一致推荐的预测方案得到符合要求的氨基酸替换策略。

我们将一个给定的原始序列x作为输入

，其中， 是一组氨基酸序列，N代表该序列的长度。另外我们还需要一组经过预训练的masked language models用以产生条件似然概率。为了指导基于特定语言模型的进化，我们首先计算语言模型可能性高于野生类型的替换集，其公式可表示如下：

其中  表示其中一个语言模型，表示野生型抗体的一个氨基酸残基，并且.为了进一步过滤仅具有最高可能性的替换方案，我们选择多个模型一致推荐的预测方案作为最终的替换方案，其中，对于新的氨基酸，我们计算

然后，我们在多个语言模型中获得比野生型更高可能性的替换集，该替换集可用公式表示如下：

其中是截止值，其控制要测量的对应变体的数量。

在这篇文章中使用了六个大规模的masked language models，即来自 https://github.com/facebookresearch/esm 的ESM-1b模型和五个模型，它们组合在一起形成ESM-1v20。ESM-1b是在UniRef50的2018-03版本上进行训练的，该版本包含约2700万个序列，而ESM-1v中的五个模型则分别在UniRef90的2020-03版本上进行训练，该版本包含约9800万个序列。

通过使用语言模型得到符合要求的氨基酸替换后，再从这些方案中筛选出可能会增加抗体亲和力的替换方案。然后，他们使用计算机模拟来评估这些替换方案的效果，并选择最优的替换进行实验验证。

实验结果

作者通过在语言模型的指导下进行抗体的模拟进化来验证文章中的假设，以亲和力成熟的七种抗体作为本次实验的对象，这七种抗体分别是MEDI8852，MEDI8852 UCA，mAb114，mAb114 UCA，S309，REGN10987，C143。作者使用ESM-1b语言模型和ESM-1v五种语言模型的集合（总共六种语言模型）进行了进化。作者使用这些语言模型来计算对重链（VH）或轻链（VL）的抗体可变区的所有单个氨基酸替换的可能性，并选择其中具有更高进化可能性的替换。这些替换在六个语言模型的一致结果下高于野生型。在第一轮进化中，通过含有一个单个氨基酸替换的变异体的生物膜干涉技术（BLI）来测量抗体与抗原相互作用强度。在第二轮中，测量了经过替换组合后的变体，并根据第一轮的结果选择原抗体或经过氨基酸替代的变异体。作者对所有七种抗体进行了这两轮进化，每种抗体在第一轮中测量了8-14个变体，在第二轮中每种抗体测量了1-11个变体，实验结果如下图a所示。另外，下图b说明了从野生型到每种抗体的最高亲和力变体的进化轨迹。经过这两轮的进化之后得到的最高亲和力的变体与原抗体的对比如下图c所示。

另外，作者还对进化后抗体的附加特征进行了详细的分析，作者发现，在推荐的31种语言模型中，有21种的Fabs，测试的亲和力增强变体比野生型具有更高的熔化温度（Tm），并且所有变体都保持热稳定性（Tm > 70 °C）。当S309进化为具有更高的亲和力时，最佳的Tm为72.8 °C，相比之下野生型为72.5°C，而sotrovimab中引入VH N55Q取代策略将Tm降低至69.6°C，如上图b所示。mAb114、mAb114-UCA、REGN10987和C143的进化变体也保留或改善了Tm；当进化出mAb114 UCA时，作者观察到的最高变化是从74.5 °C增加至82.5°C。然而，热稳定性的改善并不能完全解释亲和力成熟结果，因为作者观察到MEDI8852及其UCA的亲和力成熟变体的Tm有所降低，尽管这些Fab仍然是热稳定性的。

此外，作者还测试了亲和力成熟设计的多种可能的特异性结合，因为在治疗环境中结合非预期的靶标可能会导致不良的副作用。对于七种抗体中的每一种，作者使用评估与可溶性膜蛋白非特异性结合的多特异性测定法测试了野生型和三种亲和力成熟的变体。作者观察到所有七种抗体的任何变体的多特异性没有实质性变化，并且所有测试的抗体的多特性值都在治疗可行范围内，如下图a所示。

另外，本文还研究了亲和力成熟变体是否具有更好的病毒中和活性。作者使用灭话病毒中和试验（方法）测试了四种抗体的亲和力增强变体，在所有情况下，变体的半最大抑制浓度值（IC50）有了显著的改善，包括针对埃博拉假病毒的最佳mAb114变体也发生了1.5倍的提升；针对严重急性呼吸系统综合征冠状病毒2β灭活病毒的最佳REGN10987变体发生了两倍提升；针对贝塔灭活病毒的最佳C143变体提高了32倍，如下图b所示。此外，与野生型相比，mAb114 UCA的亲和力成熟变体在>100倍的低浓度下表现出可检测的中和作用。一般来说，结合亲和力的变化与中和作用的变化很好地相关，如下图c所示。

结论

本研究通过基于通用蛋白质语言模型的方法实现了人类抗体的高效进化，成功地提高了抗体的亲和力和特异性。研究结果表明，通用蛋白质语言模型可以作为一种有效的工具来指导抗体亲和力成熟的研究，有望在生物医药领域发挥重要作用。

内外在fitness解释：https://blog.csdn.net/weixin_43135178/article/details/130724856

Nat. Biotechnol. | 从一般蛋白质语言模型中高效进化人类抗体

仅从蛋白质语言模型和序列信息中高效地进化人类抗体 - 哔哩哔哩

【NB 2023】从一般蛋白质语言模型中高效进化人类抗体相关推荐

  1. 论文浅尝 - ICLR2021 | BERTology 遇上生物学：在蛋白质语言模型中解释注意力

    来源:ICLR2021 链接:https://arxiv.org/abs/2006.15222v3 一.动机 Transformer架构已经被证明可以学习有用的蛋白质分类和生成任务表示.然而,在可解释 ...

  2. 《预训练周刊》第33期：艾伦AI研究所等 | 预训练语言模型的高效分层域适应

    No.33 智源社区 预训练组 预 训 练 研究 观点 资源 活动 关于周刊 本期周刊,我们选择了9篇预训练相关的论文,涉及词汇迁移.常识问答.多模态训练.层次训练.对比学习.图像分割.图文模型.蛋白 ...

  3. ESM蛋白质语言模型学习笔记

    一.背景 现阶段蛋白序列数据库正呈指数级增长,而目前人们已经了解其结构的蛋白质仅占数据库的一小部分.若能够仅通过蛋白质的氨基酸序列预测蛋白质结构与功能,将大大提高生化研究的效率,并有助于蛋白质设计技术 ...

  4. ICRA 2023最新！自动驾驶传感器高效部署新方法！

    点击下方卡片,关注"自动驾驶之心"公众号 ADAS巨卷干货,即可获取 今天为大家邀请到上海人工智能实验室的青年研究员蔡新雨,为大家分享ICRA 2023中稿的自动驾驶传感器部署策略 ...

  5. 【视频转PDF】Gleamoe Peanut 2023，轻松提取视频中的幻灯片！

    目录 Gleamoe Peanut 2023:==轻松提取视频中的幻灯片==,让学习与研究更高效 一.简介 软件特点 软件优点 二.软件界面 三.安装与使用 四.技术细节 处理逻辑 定位幻灯片的两种方 ...

  6. Android开发中高效的数据结构用SparseArray代替HashMap

    Android开发中高效的数据结构用SparseArray代替HashMap 转载于:https://www.cnblogs.com/zhujiabin/p/5775435.html

  7. ​EMNLP 2021 最新综述：语言模型中的关系性知识

    ©作者 | 张义策 单位 | 北哈尔滨工业大学(深圳) 研究方向 | 自然语言处理 论文标题: Relational World Knowledge Representation in Context ...

  8. EF Core中高效批量删除、更新数据的Zack.EFCore.Batch发布三个新特性

    Zack.EFCore.Batch是一个支持在Entity Framework Core中高效删除和更新数据的开源库.我们知道,EF Core中不支持高效的删除和更新数据,所有的更新和操作都是逐条数据 ...

  9. python json操作_4个小窍门，让你在Python中高效使用JSON

    字典和列表是 Python的两种数据类型,也是用来处理JSON的完美工具.本文将主要分享以下内容: 如何载入.编写JSON? 如何在命令行上优化.校验JSON? 如何通过使用JMESPath对JSON ...

最新文章

  1. 历史性难题——如何为Kafka挑选合适的分区数？
  2. js控制鼠标移动_原生JS封装可拖拽效果
  3. 【转】Java抽象类与接口的区别
  4. HCL安装和使用模拟器中遇到的问题
  5. python找数字程序_程序以查找Python中从1到N的所有缺失数字
  6. 使用工具Csvde导出域中所有用户信息
  7. x5cloud云平台---------------网络彩讯
  8. Spring IoC 的实现机制
  9. 关于UnityHub更换位置后找不到编辑器以及登录界面白屏的问题
  10. 液压外部测试系统软件,液压测试系统的软件设计
  11. 系统集成项目管理工程师计算题（进度管理总浮动时间、自由浮动时间、工期）
  12. doc批量转成docx(doc batch convert docx)
  13. 测试人员的绩效考核指标
  14. 贝叶斯小数据分析—— 23 条数据决定宇航员生死（使用 PyMC3）
  15. web-页面body添加背景图片
  16. 使用shopnc发送qq邮件遇到的坑
  17. 深入浅出 RxJS 核心原理（源码实现）
  18. 【图像分割】基于计算机视觉实现视网膜图像中的血管分割附matlab代码
  19. Ryzen3 2200g安装Debian11.1后配置VBox
  20. Linux与TPM2芯片

热门文章

  1. 微信解除外链屏蔽，会让诈骗信息满天飞？
  2. 如何使用BurpSuite
  3. 笔记本左Ctrl键失灵
  4. MATLAB 仿真实现任意（n,k,m）卷积码译码
  5. 简单典型二阶系统_【知识库】滑轮系统 | 分类和建模
  6. 深入浅出DDoS攻击防御——攻击篇
  7. WIN7访问远程共享文件:0x80070035 找不到网络路径解决方法
  8. 全网最细：Jest+Enzyme测试React组件（包含交互、DOM、样式测试）
  9. 轻量化网络（一）MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
  10. 为什么你看了那么多干货，却依然没有提升？