基于注意力的神经网络可解释心力衰竭患者临床预测

Posted 2021-04-26 血管与腔内血管外科杂志

患者数据是人工智能研究人员的宝库。不过，有一个问题：许多用于挖掘患者数据的算法就像黑匣子一样，这使得医生很难理解他们的预测。研究发现一种新算法，不仅可以预测心力衰竭患者的医院再入院率，而且可以告诉你为什么会发生这种情况。

医生越来越多地使用电子医疗记录中的数据来评估患者风险、预测结果、推荐和评估治疗方法。然而，由于缺乏可解释性，机器学习算法在临床上的应用受到了阻碍。这些模型通常扮演着黑匣子的角色：你可以看到输入（数据）和输出（预测）的内容，但你看不到两者之间发生了什么。因此，很难解释为什么模型会说出他们所说的话。

这削弱了医疗保健专业人士对机器学习算法的信任，并限制了它们在日常临床决策中的应用。当然，可解释性也是欧盟隐私条例的一个关键要求，因此改进它也有法律上的好处。

基于注意力的神经网络

在心脏病患者身上测试了一种基于注意力的神经网络。基于注意力的神经网络能够利用上下文信息关注数据中的关键细节。这和人类评估周围世界的方法是一样的。当人们看到一张达尔马提亚狗的照片时，他们会立即聚焦在图片中心的四条腿的黑斑点白色形状上，并认出这是一只狗。为此，他们运用直觉和从上下文中收集的信息。基于注意力的神经网络基本上也是这样做的。

由于它们对上下文的敏感性，这些神经网络不仅擅长于做出预测，还允许您准确地看到什么特征导致了什么结果。当然，这提高了你的预测可解释性。基于注意力的神经网络传统上用于图像识别和语音识别，而上下文是理解发生什么的关键。近年来，它们也被应用于其他领域。

实验

研究人员跟踪了736名心力衰竭患者。根据患者特点，他们试图预测和解释患者出院后12个月内的再入院情况。研究人员观察了105个特征，包括年龄和性别、血压和心率、糖尿病和肾脏问题等疾病、住院时间和药物使用。

基于注意力的模型预测了三分之二的再入院率，比其他三种流行的预测模型稍有改进。更重要的是，该模型能够指定哪些风险因素对每个患者的再入院率影响最大，使预测对医生更有用。此外，该模型为所有患者样本提供了最重要的危险因素。

在医生实现基于注意力的模型之前，它需要在更大的数据集上进行验证。未来希望通过在电子健康记录中包含出院时获得的文本数据和每日进展记录来扩展这项研究。

---

来源： Peipei Chen et al. Interpretable clinical prediction via attention-based neural network, BMC Medical Informatics and Decision Making (2020). 

《血管与腔内血管外科杂志》

2020.08.10