多模态Foundation模型 (MFMs)在单细胞组学中的应用

🔬 多模态基础模型（MFM）：开启分子细胞生物学的通用建模时代

随着高通量组学技术的发展，生物学数据呈指数级增长，传统方法已难以从海量数据中全面提取分子见解 。为此，多模态基础模型（Multimodal Foundation Models, MFMs）提出了一种新思路：类似于自然语言处理中大型语言模型的做法，将不同组学（基因组、转录组、蛋白质组、代谢组、空间组学等）数据整合到一个统一模型中进行预训练 。这种模型可以在细胞分子状态的广泛连续范围内建模，有望帮助构建细胞、基因和组织的整体图谱 。与传统的全细胞模拟（基于规则或常微分方程）相比，MFMs 不再依赖简化假设和学科特异的模块划分 ；它们通过自监督学习获取知识，从数据中学习细胞系统的复杂非线性交互规律，可应用于多种任务 。传统方法通常将细胞划分为离散类型，而 MFMs 则可表示细胞状态的连续变化，更好地捕捉组织内部的异质性和动态演化 。

---

📌 什么是多模态基础模型（MFMs）？

MFMs 是一种面向“细胞-分子-组织”多层级组学数据的通用大模型架构，其设计灵感源自 NLP 领域的 GPT 系列模型。它通过整合 RNA-seq、ATAC-seq、蛋白质谱、空间组学、perturb-seq 等模态，尝试在一个统一结构中学习细胞系统状态与调控规律。

🧠 关键特征：

• 跨模态 token 化（从序列到细胞图谱的统一嵌入）
• 多层 Transformer 架构融合多源信息
• prompt 控制多任务目标（如生成、预测、模拟）
• 强泛化能力，支持 zero-shot & in silico 实验模拟
  

---

🧭 图解核心理念与模型结构 图1中各分析技术（如单细胞RNA测序、表观基因组测序、空间组学和质谱蛋白质组学等）能够在单细胞或空间分辨率上获取数据，覆盖中心法则的多个层面 。通过整合同一个细胞的多种测量，MFMs 可重建细胞的动态行为和谱系关系。如图所示，MFMs 可以将细胞状态映射到连续空间，从而识别发育过程中的过渡状态和谱系轨迹，并用于发现新的细胞类型和预测干预（例如基因敲除或药物作用）后的响应 。图中箭头表示这些应用场景在分子机制上存在关联性，借助 MFMs 联合建模其中一项任务可促进对其他任务的理解 。综上，图1强调 MFMs 通过跨模态数据预训练，能够连接基因、转录本、蛋白质等多层次信息，以生成细胞和组织行为的综合性描述（例如细胞轨迹重建、异质性识别等） 。

---

图2 比较了传统假设驱动的研究流程与基于数据的 MFMs 流程。在假设驱动模式下，研究者通常针对特定领域（如癌症或心脏）设计实验和理论，这隐含地假设一种情境下的知识对另一情境帮助有限 。图2a（左）示意了这一观点：不同研究领域自成体系。与此不同，MFMs 引入了一种以数据为中心的工作流程 。在该流程中，大量多样化的组学数据被无假设地生成和整合，用于预训练基础模型，使其捕获普遍的生物学规律 。图2a（右）所示，MFMs 训练时可利用来自多种细胞类型、组织条件和时间点的丰富数据，将基因功能在不同细胞状态间加以泛化，有助于在新情境下推断未知功能 。图2b 展示了“实验室闭环”的理念：训练好的基础模型可以用于选择信息量丰富的下轮实验（例如预测某药物在未测细胞系的疗效并指导实验），并将这些实验结果反馈到模型训练中 。通过不断迭代，MFMs 促进计算模拟与实验设计的互补结合，实现模型构建和数据生成的正反馈循环

---

图3 描绘了 MFMs 的核心结构设计要素。首先需要解决跨模态数据的统一表示：多组学数据具有不同的尺度和类型（从单个核苷酸到完整蛋白），MFMs 可采用多层级标记化技术将其编码到共享的向量空间。例如，可以将 DNA 序列切分为低级核苷酸 k-mer 标记、中级序列片段标记，以及高级的基因或蛋白标记。这种标记化类似自然语言模型中的“早期融合”策略，使不同模态可以共享语义空间。其次是多层次注意力机制的设计：MFMs 中可能采用混合 Transformer 架构，一部分注意力仅在同一模态内（如基因–基因或碱基–碱基）进行局部自注意力，另一部分跨层级连接不同模态标记以捕捉全局交互。局部注意力可学习单一模态内部的内在关系，而全局注意力负责将多模态信息联结起来（如基因与蛋白质之间的交互）。图3a 总结了这种结构：多模态输入经由统一标记器和多层注意力模块处理，并通过自监督任务进行预训练 。图3b 则细化了注意力操作的原理：用不同颜色方块表示的多头注意力示意了模型如何在同级标记间（实线）和跨级标记间（虚线）建立关联 。通过这样的设计，MFMs 能够学习跨组学的综合表示，为下游的预测任务（如扰动响应）打下基础 。

---

图4 展示了 MFMs 在预训练和开发过程中面临的任务和挑战。图4a 列举了若干自监督任务示例：例如，重建缺失的组学标记、纵向（时间）数据生成、跨模态生成以及条件生成（如模拟基因敲除后的表达） 。这些任务都可以统一地表述为令牌（token）生成问题：模型在输入中加入模态或任务提示标记（如<t+1>、<knockout>等），学习在不同条件下生成对应的输出 。这种基于提示符（prompt）的训练方式使得模型可以在同一框架中复用参数，应对多种生物学预测任务 。

    图4b 列出了开发 MFMs 的主要挑战：一方面，数据需求和计算资源非常高 。构建 MFMs 需要大规模配对的多组学数据（最好包含空间和时序信息），而这类数据目前在众多研究中零散分布、样本稀缺 ，因此全球协作和数据共享至关重要 。同时，训练大型模型通常依赖昂贵的高性能计算（如顶级 GPU） ，这不仅限制了模型可访问性，也增加了能源消耗；需要采用低秩适应、参数高效微调等低资源技术来缓解这一瓶颈 。另一方面，评估和可解释性也是关键难题。需要在标准化数据集上开展多样化基准测试，综合评价预测细胞类型、发育轨迹、生成疾病样本、计算扰动等能力 。由于现有评估往往依赖人类标注（如基因标记定义的细胞类型），可能会惩罚模型发现新细胞亚群的能力 ；因此，发展更加“客观”的评测指标十分必要 。此外，大型深度模型固有的不可解释性和“幻觉”风险也不容忽视 。我们期望生物基础模型的输出始终基于训练数据和生物学上下文，例如提示生成 CD4+ T 细胞时，其表达特征应符合该细胞类型 ；在模型不确定时，应能给出“不确定”提示 。总之，图4总结的预训练任务和挑战为后续研发指明了方向：既要设计丰富的自监督任务扩展模型能力，又要应对数据稀缺、计算开销和可解释性等实际问题 。

---

🔍 MFMs 的三大核心应用方向（核心价值）🧬 1. 组织异质性建模与谱系追踪

• 组织异质性识别。 得益于单细胞和空间组学技术的进步，研究者可以高分辨率地解析复杂组织（如肿瘤）内的细胞亚群和过渡状态 。MFMs 通过跨组学集成，将细胞状态嵌入到连续空间中，从而实现对细胞发育轨迹和谱系位置的映射 。与传统离散标记型方法相比，MFMs 可以更灵活地推断细胞对内外环境的响应，并且能够对缺失组学层面进行预测填充（例如根据训练的代谢标记信息，推断临床样本的细胞命运），从而解决多源数据整合的难题 。简而言之，MFMs 可用于将异构数据集联合分析，在健康和疾病条件下比较细胞状态，实现组织异质性的深度刻画 。
  

🔗 2. 基因调控网络（GRN）学习

• 基因功能与调控预测。 通过学习来自大规模异构疾病样本的数据，MFMs 能发现与特定基因模块、蛋白标志物或代谢路径相关的多组学预测性特征 。现有研究表明，仅使用基因组序列即能预测基因功能，将单细胞RNA图谱信息加入模型可以进一步提高预测精度 。更重要的是，基因调控网络（GRN）本质上跨越多组学：转录因子结合、可变剪切、翻译后修饰等事件共同决定调控机制 。MFMs 通过整合表达、染色质可及性等多源信息，为捕捉影响因子提供了更加全面的视角 。由于基因调控具有条件特异性（依赖于细胞类型和生理状态） ，MFMs 能在大规模预训练中学习到“默认”调控网络，并通过迁移学习在不同背景下阐明特定的 GRN 。因此，MFMs 有望填补传统方法在解析时空条件特异性 GRN 方面的空白，使我们更好地理解基因调控的动态特征 。
  

💊 3. 干预模拟与药物筛选

• 干预（扰动）建模。 MFMs 在模拟基因或化学扰动效应时显示出潜力。已有模型（如 scGPT、CellOracle、GeneFormer、CellOT、CPA、chemCPA、GEARS 等）通过学习细胞嵌入来预测基因敲除或药物处理后的表达谱，初步验证了这一思路 。多模态融合使得 MFMs 能利用多组学背景来更准确地模拟扰动效应：模型可以首先整合表达、表观和蛋白信息构建完整的细胞表示，并根据不同细胞类型和扰动条件进行条件化分析 。随着单细胞测序和大规模 CRISPR 扰动数据（如 Perturb-seq）的积累，MFMs 可接受原始细胞特征和潜在干预的条件输入，预测扰动后的协同下游效应，而不仅限于转录层面的变化 。鉴于基因组合空间呈指数级增长，MFMs 在准确预测扰动响应方面的能力，将极大加速新治疗靶点的发现和基因调控机制的理解 。
  

⚠️ 面临挑战与发展方向



☁️ 展望未来：通用生信 AI 模型的曙光总的来说，多模态基础模型为分子细胞生物学带来了新的分析范式，有望揭示复杂生物系统的规律并指导实验设计 。随着测序成本降低与组学技术进步，构建“多模态 AlphaFold”式的细胞基础模型已成可能。MFMs 将推动从“数据驱动”到“机制生成”迈进，带来：

• 多模态科研平台核心模块
• 临床级预测与个体化模拟能力
• 生信开发从特定工具向通用模型范式转型