经典电视剧高清无广告播放网站 ,av免费网站_高清全集在线观看

中文題目：帶有域?qū)箤W(xué)習(xí)的多級(jí)模態(tài)間和模態(tài)內(nèi)Transformer網(wǎng)絡(luò)用于多模態(tài)睡眠分期

論文題目：Multilevel Inter-modal and Intra-modal Transformer Network with Domain Adversarial Learning for Multimodal Sleep Staging

錄用期刊：Cognitive Neurodynamics（中科院大類三區(qū)）

錄用時(shí)間：2025.04.15

作者列表：

1)何洋洋 中國(guó)石油大學(xué)（北京）人工智能學(xué)院 控制工程 碩22級(jí)

2)劉建偉 中國(guó)石油大學(xué)（北京）人工智能學(xué)院 自動(dòng)化系 教師

摘要:

睡眠分期是睡眠相關(guān)疾病診斷過(guò)程中的重要環(huán)節(jié)，是了解睡眠過(guò)程的關(guān)鍵，主要基于整晚的腦電圖睡眠信號(hào)等時(shí)間序列來(lái)精準(zhǔn)劃分睡眠階段。傳統(tǒng)上人工視覺(jué)觀察睡眠信號(hào)并依據(jù)醫(yī)學(xué)專業(yè)知識(shí)識(shí)別的方法效率低下。隨著生物傳感技術(shù)和深度學(xué)習(xí)技術(shù)的發(fā)展，使得通過(guò)非侵入式的腦電圖信號(hào)（Electroencephalography，EEG）等自動(dòng)解碼睡眠過(guò)程成為可能。然而傳統(tǒng)的基于深度學(xué)習(xí)的自動(dòng)睡眠分期方法往往只考慮單模態(tài)的腦電信號(hào)，沒(méi)有同時(shí)考慮對(duì)多模態(tài)數(shù)據(jù)的利用，這限制了模型的性能。此外考慮到不同人的個(gè)體差異性，不同人的睡眠信號(hào)包含不通用的個(gè)性化特征會(huì)影響模型的泛化能力。為了解決上述問(wèn)題，本研究設(shè)計(jì)了多級(jí)Transformer的深度學(xué)習(xí)架構(gòu)來(lái)充分地捕獲睡眠信號(hào)中每個(gè)模態(tài)內(nèi)的時(shí)間依賴性和不同模態(tài)間的相互依賴性。本文還創(chuàng)新地引入了域?qū)箤W(xué)習(xí)方法來(lái)提高模型泛化性能。本文的實(shí)驗(yàn)結(jié)果表明提出的深度學(xué)習(xí)模型在多個(gè)常用數(shù)據(jù)集上優(yōu)于大多數(shù)基準(zhǔn)模型。這一成果為實(shí)現(xiàn)高精度的睡眠分期和便攜的家庭睡眠監(jiān)測(cè)提供了有力的技術(shù)支撐。

背景與動(dòng)機(jī):

傳統(tǒng)的基于深度學(xué)習(xí)的自動(dòng)睡眠分期方法往往只考慮單模態(tài)的腦電信號(hào)，沒(méi)有同時(shí)考慮對(duì)多模態(tài)數(shù)據(jù)的利用，這限制了模型的性能。此外考慮到不同人的個(gè)體差異性，不同人的睡眠信號(hào)包含不通用的個(gè)性化特征會(huì)影響模型的泛化能力。

為了解決上述問(wèn)題，本研究設(shè)計(jì)了多級(jí)Transformer的深度學(xué)習(xí)架構(gòu)來(lái)充分地捕獲睡眠信號(hào)中每個(gè)模態(tài)內(nèi)的時(shí)間依賴性和不同模態(tài)間的相互依賴性。本文還創(chuàng)新地引入了域?qū)箤W(xué)習(xí)方法來(lái)提高模型泛化性能。

1.多尺度編碼器

 

圖1 雙尺度的CNN結(jié)構(gòu)圖

2.  模態(tài)間級(jí)Transformer

 

圖2 模態(tài)間級(jí)Transformer編碼器結(jié)構(gòu)

3.  模態(tài)內(nèi)級(jí)Transformer

 

圖3 多級(jí)Transformer結(jié)構(gòu)圖

4.  對(duì)抗域泛化

 

圖4 提出的MIIT-DAL模型的整體架構(gòu)

結(jié)論:

在本文中提出了一個(gè)新穎的多模態(tài)模型架構(gòu)用于睡眠分期任務(wù)，能夠通過(guò)域?qū)箤W(xué)習(xí)策略引導(dǎo)模型學(xué)習(xí)域無(wú)關(guān)特征提升模型泛化能力。首先，該模型利用多尺度CNN去提取時(shí)不變特征，實(shí)驗(yàn)結(jié)果證明這是非常有效的。此外，使用了設(shè)計(jì)的模態(tài)間Transformer去捕獲模態(tài)間復(fù)雜的非線性依賴關(guān)系和模態(tài)內(nèi)Transformer提取時(shí)間依賴關(guān)系。它們以級(jí)聯(lián)方式連接去更好地提取模態(tài)間和模態(tài)內(nèi)特征并減少信息冗余。最后結(jié)合了域?qū)箤W(xué)習(xí)技術(shù)以引導(dǎo)模型學(xué)習(xí)域無(wú)關(guān)特征。在多個(gè)公開(kāi)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明了該模型很有競(jìng)爭(zhēng)力。而且，為了強(qiáng)調(diào)各個(gè)模塊的重要性，還進(jìn)行了消融實(shí)驗(yàn)。最終，可視化了該模型和睡眠專家的分類結(jié)果得到了睡眠圖。

作者簡(jiǎn)介:

劉建偉，教師，學(xué)者。