新的神经网络帮助医生解释心力衰竭患者的复发

患者数据是人工智能研究人员的宝库。但存在一个问题：许多用于挖掘患者数据的算法充当黑匣子，这使得医生通常难以解释它们的预测。埃因霍温理工大学 (TU/e) 和中国浙江大学的研究人员现已开发出一种算法，不仅可以预测心力衰竭患者再次入院的情况，还可以告诉您发生这种情况的原因。该工作已发表在《BMC Medical Informatics and Decision Making》上。

医生越来越多地使用电子医疗记录中的数据来评估患者风险、预测结果以及推荐和评估治疗。然而，机器学习算法在临床环境中的应用因缺乏可解释性而受到阻碍。这些模型通常充当黑匣子：您可以看到输入的内容(数据)和输出的内容(预测)，但您看不到中间发生的情况。因此，很难解释为什么模型会说出他们所说的内容。

这削弱了医疗保健专业人员对机器学习算法的信任，并限制了它们在日常临床决策中的使用。当然，可解释性也是欧盟隐私法规(GDPR)的关键要求，因此改进它也有法律上的好处。

基于注意力的神经网络

为了解决这个问题，博士。工业工程与创新科学系的候选人陈佩佩与 TU/e 和杭州浙江大学的其他研究人员一起，在中国的心脏病患者身上测试了基于注意力的神经网络。基于注意力的网络能够使用上下文信息关注数据中的关键细节。