引用本文

饶晓洁, 张通, 孟献兵, 陈俊龙. 基于多层注意力和消息传递网络的药物相互作用预测方法. 自动化学报, 2023, 49(12): 2507−2519 doi: 10.16383/j.aas.c220371

Rao Xiao-Jie, Zhang Tong, Meng Xian-Bing, Chen C. L. Philip. Drug-drug interaction prediction method based on multi-level attention mechanism and message passing neural network. Acta Automatica Sinica, 2023, 49(12): 2507−2519 doi: 10.16383/j.aas.c220371

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c220371

关键词

药物相互作用预测，多层次注意力机制，消息传递神经网络，位置编码 

摘要

药物相互作用(Drug-drug interaction, DDI)是指不同药物存在抑制或促进等作用. 现有DDI预测方法往往直接利用药物分子特征表示预测DDI, 而忽略药物分子中不同原子对DDI的影响. 为此, 提出基于多层次注意力机制和消息传递神经网络的DDI预测方法. 该方法将DDI建模为通过学习基于序列表示的药物分子特征实现DDI预测的链接预测问题. 首先, 建立基于注意力机制和消息传递神经网络的原子特征网络, 结合提出的基于分子质心的位置编码, 学习不同原子及其相关联化学键的特征, 构建基于图结构的药物分子特征表示; 然后, 设计基于注意力机制的分子特征网络, 并通过监督和对比损失学习, 实现DDI预测; 最后, 通过实验证明该方法的有效性和优越性.

文章导读

药物相互作用(Drug-drug interaction, DDI)针对的是两种或两种以上药物进行混合时, 某些药物的性能受到其他药物的影响, 而发生协同或拮抗作用[1-2]. DDI引发的药物副作用可能会降低药物疗效, 诱发不良反应, 甚至影响到患者的身体健康. 由于传统基于实验的方法进行DDI预测存在成本高、检测周期长等问题[3-4], 近年来, 基于计算机辅助的计算方法日益得到广泛应用[2, 5]. 通过传统的机器学习和深度学习等计算机辅助计算方法从已有药物相互作用数据中学习建立模型并实现DDI预测, 可以大大提高DDI预测任务的效率[3]. 因此, 研究基于计算机辅助的DDI预测方法具有重要的理论和应用价值.

DDI预测任务主要包括对药物分子式进行量化并提取其特征, 以及选择合适的模型预测DDI[6-7]. 不同于一般的结构化数据, 药物分子具有确定的分子结构及其生物化学性质. 因此, 解决DDI预测问题的关键是学习药物分子结构及其特征信息, 并建立预测模型. 目前, 已有大量DDI预测任务相关研究成果, 其中涉及的方法可以概括为基于传统机器学习的方法和基于深度学习的方法[1, 8-9].

在现有DDI预测方法中, 利用药物的生化特征信息, 包括药物靶点、酶、药物转运体及蛋白质等相关信息构建模型并预测DDI, 是一种有效的研究思路[2, 10-11]. 这类方法通过充分利用药物相关联的生化特征信息可以提高DDI预测的精度, 不过也存在一些局限性[3], 比如此类生化特征信息的获取成本较高[6]. 如何在没有这些生化特征信息的前提下提高DDI预测的精度, 是值得深入研究的问题. 此外, 由于DDI预测任务涉及多个药物分子, 且不同药物分子内部又具有不同的原子信息, 因此有必要深入挖掘药物分子内不同原子和不同药物分子之间的相关关系, 并研究通过融合原子和分子等不同层次的特征信息, 提高DDI预测准确率.

针对上述问题, 本文提出一种基于多层次注意力机制和消息传递神经网络的药物相互作用预测方法. 为了充分挖掘药物的分子结构信息, 本文从药物分子内不同原子和不同药物分子之间两个层面研究DDI预测方法. 通过基于注意力机制的消息传递神经网络学习药物分子内包含不同原子和化学键的图结构特征, 并结合基于多头注意力机制的神经网络提取不同药物分子间相关关系的特征信息, 实现从药物分子内和分子间两个不同层次进行药物分子特征提取, 从而完成DDI预测任务.

本文主要贡献是同时从原子和分子层面设计基于注意力机制的特征学习策略, 提出基于多层次注意力机制和消息传递神经网络的DDI预测方法. 主要创新点包括两个方面: 一方面, 通过考虑不同原子及其相关联化学键的不同相互作用信息, 设计基于分子质心的位置编码策略, 提出基于注意力机制和消息传递神经网络的原子特征网络; 另一方面, 通过考虑分子之间的不同相互作用关系, 提出基于注意力机制和密集连接结构的分子特征网络. 具体来说, 相比直接在分子层面学习不同药物分子相互作用关系的方法[10, 12], 本文方法选择同时从原子和分子层面学习预测DDI. 考虑到不同药物分子的相互作用关系本质上取决于其内部原子和化学键的相互作用, 这里首先学习药物分子内不同原子、化学键间的相互作用关系, 并通过设计基于分子质心的位置编码策略, 辅助学习药物分子的图结构特征表示. 这种方法有助于模型学习得到丰富的药物分子表示, 从而更有利于挖掘出不同药物分子的潜在相互作用关系. 虽然已有研究工作也同时从原子和分子层面研究DDI预测方法, 不过这些方法在原子层面只考虑了原子节点特征, 并没有充分利用不同原子相关联的化学键特征[13], 无法在原子和分子层面同时提取不同原子及其相关联化学键的不同注意力信息, 因此其预测能力也有限. 大量对比实验和消融实验验证了本文方法的有效性, 以及相比现有方法的优越性.

图 1  模型框架图

图 2  基于注意力机制的消息传递原子特征网络

图 3  药物分子之间注意力分数的可视化

针对药物相互作用预测的应用研究需求和不同药物分子及其内部不同原子对DDI预测结果具有不同作用等问题, 本文提出一种基于多层次注意力机制和消息传递神经网络的药物相互作用预测方法. 通过设计基于注意力机制的原子特征网络和分子特征网络, 从两个不同层次分别学习分子内不同原子和化学键以及不同分子间的特征信息, 并结合本文提出的基于分子质心的位置编码, 提高药物分子编码的效率, 从而提高DDI预测结果的准确性. 通过大量对比实验和消融实验验证了本文方法的有效性和优越性.

本文提出的方法虽然可以从原子和分子层面提取药物分子特征信息, 但是利用的仅仅只是包含药物分子信息的SMILES序列, 并没有充分利用其他的药物相关信息. 下一步的研究工作可以考虑如何充分利用药物分子结构式之外的信息, 如同时利用药物分子结构式和包含药物相互作用关系的文本等多种信息, 进一步提高模型预测潜在药物相互作用关系的能力.

作者简介

饶晓洁

华南理工大学计算机科学与工程学院硕士研究生. 主要研究方向为机器学习与人工智能在生物医药领域的应用. E-mail: rxj19971214@163.com

张通

华南理工大学计算机科学与工程学院教授. 2016年获得澳门大学软件工程专业博士学位. 主要研究方向为情感计算, 进化计算, 神经网络和其他机器学习技术及其应用. E-mail: tony@scut.edu.cn

孟献兵

华南理工大学计算机科学与工程学院助理研究员. 2019年获中南大学博士学位. 主要研究方向为计算智能和人工智能算法及其应用. 本文通信作者. E-mail: axbmeng@gmail.com

陈俊龙

华南理工大学计算机科学与工程学院教授. 主要研究方向为控制论, 智能系统和计算智能E-mail: philipchen@scut.edu.cn