vEpiNet
基于视频和脑电图数据的多模式发作间期癫痫样放电检测方法
摘要
为了增强基于深度学习的发作间期癫痫样放电(IED)自动检测,本研究利用视频和脑电图(EEG)数据,提出了一种多模态方法vEpiNet。数据集包括来自484名患者的24,931个IED和166,094个非IED的4秒视频+脑电图片段。视频数据通过提出的患者检测方法进行处理,采用帧差和简单关键点(SKPS)捕捉患者的运动。脑电图数据通过EfficientNetV2进行处理。视频和脑电图特征通过多层感知器进行融合。我们开发了一个名为nEpiNet的对照模型,以测试vEpiNet中视频特征的有效性。我们使用了10折交叉验证进行测试。结果显示,10折交叉验证在两个模型中都表现出较高的接收者操作特征曲线下面积(AUROC),其中vEpiNet的AUROC(0.9902)略优于nEpiNet(0.9878)。此外,为了测试模型在现实世界场景中的性能,我们设置了一个前瞻性测试数据集,包含来自50名患者的215小时原始视频+脑电图数据。结果显示,vEpiNet实现了0.8623的精确率-召回率曲线下面积(AUPRC),超过了nEpiNet的0.8316。整合视频数据将在80%敏感性下的精度从70%(95%
CI,69.8%-70.2%)提高到76.6%(95%
CI,74.9%-78.2%),并将假阳性减少近三分之一,vEpiNet平均处理一小时视频+脑电图数据时间为5.7分钟。我们的发现表明视频数据可以显著提高IED检测的性能和精度,特别是在前瞻性的真实临床测试中。这表明vEpiNet是一种在现实世界应用中临床可行且有效的IED分析工具。
多模态方法概述。数据来自两个主要来源:电信号和视频数据。提出的vEpiNet还包含两个分支:上面的分支处理并从电信号中提取特征,底部分支处理并从视频数据中提取运动特征。最后,两个来源的特征被融合在一起,分类器基于它们做出决策。
不同模型的比较。 (a) vEpiNet和nEpiNet模型在回顾性和前瞻性测试集上的精度-召回(PR)曲线。 (b)
vEpiNet和nEpiNet模型在回顾性和前瞻性测试集上的接收者操作特征(ROC)曲线。 (c)
nEpiNet、ResnEpiNet和VggnEpiNet的精度-召回(PR)曲线。 (d)
vEpiNet、ResvEpiNet和VggvEpiNet的精度-召回(PR)曲线。
[1] Nan Lin, Weifang Gao, Lian Li, Junhui Chen, Zi Liang,
Gonglin Yuan, Heyang Sun, Qing Liu, Jianhua Chen, Liri Jin, Yan Huang, Xiangqin Zhou, Shaobo Zhang,
Peng Hu, Chaoyue Dai, Haibo He, Yisu Dong, Liying Cui, Qiang Lu,
vEpiNet: A multimodal interictal epileptiform discharge detection method based on video and
electroencephalogram data,
Neural Networks, Volume 175, 2024, 106319,
https://doi.org/10.1016/j.neunet.2024.106319