应用数学与交叉科学研究中心生物信息学团队于2026年4月15日第2次组会按期举行，小组全体成员和各位导师共同参加。在这次组会上，由一名研二学生和两名研一学生分别汇报自己的研究进展，然后老师与同学们对汇报内容进行学术探讨，并对存在的问题给出相应的指导和建议。
李汉中：本次组会汇报了一篇文献。高光谱图像分类的性能依赖于空间信息与光谱信息的深度融合。尽管主流的 Transformer 架构能够捕获全局上下文，但它们往往忽略一个关键的归纳偏置，即 ：中心像素决定类别，同时还会带来较高的计算成本。此外，传统的线性融合策略（如拼接或逐元素相加）难以捕捉空间维度与光谱维度之间复杂的非线性交互关系。为了解决上述问题，本文提出了一种 中心像素引导的双路径多头注意力 Transformer（CPFormer）。该模型首先引入一个光谱–空间特征嵌入（SSFE）模块，在保持固有光谱特性的同时生成稳健的初始特征表示。随后，提出了一种 中心像素引导的双路径多头注意力（CP-DMA）模块：在空间路径中，采用中心像素作为查询（query），并引入二维高斯位置编码（2-D Gaussian positional encoding） 以增强局部感知能力；在光谱路径中，采用深度可分离卷积并结合双向光谱衰减先验（bidirectional spectral decay prior），以建模光谱通道的连续性。此外，CP-DMA 采用逐元素乘法进行空间–光谱融合，从而实现自适应的非线性特征交互。在四个基准数据集上的大量实验（在有限训练样本条件下）表明，CPFormer 在分类性能上优于当前最先进的方法。
王梓涵：本次组会汇报了一篇文献。尽管预训练自然语言处理（NLP）模型已在多个领域取得成功，但它们在计算生物学中的应用却受到了限制 —— 这类模型依赖生物序列数据，却忽略了关键的三维（3D）结构信息，而这类信息与 NLP 模型的序列式架构并不兼容。为此，文章提出了拓扑 Transformer（TopoFormer）：该模型通过融合 NLP 模型与多尺度拓扑技术 ——持久拓扑超图拉普拉斯（PTHL） 构建而成，能够系统地将不同空间尺度下复杂的 3D 蛋白 - 配体复合物，转化为 NLP 可处理的、由拓扑不变量和同伦形状构成的序列。PTHL 可系统性地将复杂 3D 蛋白 - 配体复合物转换为 NLP 兼容的拓扑不变量与形状序列，捕捉跨空间尺度的核心相互作用。在多个基准数据集上，TopoFormer 在打分精度、排序、分子对接与筛选任务中均展现出卓越性能。该方法可用于将通用高维结构化数据转换为 NLP 兼容序列，为更广泛的基于 NLP 的研究铺平了道路。
陈启未：本次组会汇报了一篇文献。尽管大语言模型（LLMs）已在众多任务中取得巨大成功，但传统标准残差连接（Standard Residuals）在极深网络中的信息传递能力却遇到了瓶颈——这类连接依赖死板的逐层局部累加，难以满足深层网络对早期历史特征的跨层调用需求，而现有的多流解决方案（如 mHC）带来的高昂内存读写（I/O）开销又与大规模工程部署极不兼容。 为此，文章提出了注意力残差机制（Attention Residuals，特别是块注意力残差 Block AttnRes）：该架构通过用动态的注意力检索取代传统的残差加法构建而成，能够系统地将庞大且深层的网络历史特征，精简转化为当前层可轻量化读取的块级表征（Block representations）。 Block AttnRes 可利用层专属的查询向量，系统性地对历史区块进行跨层打分与加权聚合，在几乎不增加额外 I/O 负担的前提下，精准捕捉跨网络深度的核心关键信息。 在多个不同规模的混合专家（MoE）模型实验中，Block AttnRes 在验证集损失（Validation Loss）下降及扩展定律（Scaling Laws）表现上均展现出卓越性能，以极低的推理延迟媲美了全注意力检索的精度。该方法作为一种极具性价比的即插即用型底层架构，可直接替代现有的标准残差模块，为未来训练更深、更强大的基础大语言模型铺平了道路。
