# 睡眠事件分类模型训练方案(DREAMS + MASS 跨数据集) > **版本:v2 终稿(按推荐方案锁定)** > **目标**:训练一个**5 秒窗口 / 多标签 sigmoid 输出**的睡眠事件分类模型,覆盖 4 个核心睡眠事件 + 1 个背景类,用于 EEG 睡眠分期判读辅助。 > **数据来源**:DREAMS (Zenodo 2650142) + MASS SS3 + MASS-EX。 > **生成时间**:2026-05-27。 --- ## 0. 锁定的训练方案(TL;DR) | 项目 | 决定 | |---|---| | **任务形式** | 多标签二分类(每类独立 sigmoid,BCEWithLogits + class weight) | | **窗口长度** | 统一 **5 秒** | | **采样率** | 统一 **100 Hz**(5s × 100Hz = 500 sample) | | **训练通道** | **4 通道**:CENTRAL_EEG / FRONTAL_EEG / EOG_DIFF / EMG | | **类别集** | 5 类:Background / Spindle / K-Complex / REM / MicroArousal | | **PLM** | 暂不纳入第一版(DREAMS PLM 与 EEG 事件目标差异大;后续可加) | | **SEM** | 第一版不纳入(无公开时间标注;二期用规则伪标签) | | **Artifacts / Apnea** | 不纳入(非 EEG 睡眠事件目标) | | **训练数据集** | DREAMS(Spindles, Kcomplexes, REMs)+ MASS(spindle/K-complex/MicroArousal)| | **划分** | 按被试 70/15/15,subject-level split | --- ## 1. 数据来源与事件清单 ### 1.1 DREAMS 数据集(Zenodo 2650142)— 已下载到 `/Users/bytedance/Documents/dataset/DREAMS` | 子库 | 用途 | 事件类型 | 通道 | 专家1事件总数 | 文件数 | 单段时长 | 采样率 | |---|---|---|---|---:|---:|---|---| | DatabaseSpindles | ✅ 训练正样本 | `vis1_Spindles` / `vis2_Spindles` | CZ-A1 / C3-A1 | 355 | 8 | 30 min | 100 / 200 Hz | | DatabaseKcomplexes | ✅ 训练正样本 | `vis1_Kcomplexes` / `vis2_Kcomplexes` | CZ-A1 | 272 | 10 | 30 min | 200 Hz | | DatabaseREMs | ✅ 训练正样本 | `vis1_REMs` | EOGs | 847 | 9 | 30 min | 200 Hz | | DatabaseSubjects | 🟡 仅取 EEG(提供背景样本) | — (仅 hypnogram) | — | — | 20 | 整夜 | 200 Hz | | DatabasePatients | 🟡 仅取 EEG(提供背景样本) | — (仅 hypnogram) | — | — | 27 | 整夜 | 200 Hz | | DatabaseArtifacts | ❌ 不用 | 伪迹标注 | — | 2000 | 20 | 15 min | 50 Hz | | DatabasePLMs | ❌ 第一版不用 | `vis1_PLMs` | EMG2 / EMG3 | 4421 | 10 | 整夜 | 200 Hz | | DatabaseApnea | ❌ 不用 | `vis_hypopnea` | PSG | 4058 | 12 | 整夜 | 200 Hz | ### 1.2 MASS SS3 数据集 — 已下载到 `/Users/bytedance/Documents/dataset/MASS/SS3` 扫描 62 份 `Annotations.edf` 实测: | 事件类型 | 评分者 | 计数 | 用途 | |---|---|---:|---| | **MicroArousal** | expert | **2244** | ✅ 训练正样本(Arousal 类) | | EMGArtefact | automatic | 343 249 | ❌ 算法生成不参与训练 | | Sleep stage(30s epoch) | — | 62 765 | 用作背景采样的阶段过滤参考 | **MicroArousal 时长分布**: ``` n=2244 mean=9.80s median=9.03s p90=14.19s p95=16.25s max=28.60s ≤3s = 0.0% ≤5s = 1.7% ≤10s = 61.6% ``` → **5s 窗口无法整体覆盖 arousal**,因此 arousal 采用「窗口级 ≥ 50% 覆盖」标签策略(详见 §4.4)。 ### 1.3 MASS-EX 推理数据集(fine 集) 含 `reasoning_text` 文本中**间接提到** SEM、vertex sharp 等事件,但**无时间戳**,仅作为后续弱监督参考。 --- ## 2. 最终训练标签集 ```python LABELS = { 0: 'Background', # 5s 窗口与任何专家事件均不重叠 1: 'Spindle', # DREAMS Spindles + MASS spindle (后续解析) 2: 'KComplex', # DREAMS Kcomplexes + MASS K-complex 3: 'REM', # DREAMS REMs (EOG 通道事件) 4: 'MicroArousal', # MASS MicroArousal (≥50% 窗口覆盖) } NUM_CLASSES = 5 # 多标签 sigmoid:同一 5s 窗口可同时正于多个类(如 Spindle + KComplex 共现) ``` 每个样本输出 `[5]` 维 logits,每维独立做 BCEWithLogits 二分类。 --- ## 3. 通道方案(4 通道) ### 3.1 跨数据集通道角色映射 | 角色 | DREAMS Spindles | DREAMS 其他 | MASS SS3 | Sleep-EDFx(备用) | |---|---|---|---|---| | `CENTRAL_EEG` | C3-A1 | CZ-A1 | EEG C4-LER | Pz-Oz | | `FRONTAL_EEG` | FP1-A1 | FP1-A2 | EEG F4-LER | Fpz-Cz | | `EOG_L` | EOG1-A1 | EOG1 / EOG1-A2 | EOG Left Horiz | EOG horizontal | | `EOG_R` | EOG2-A1 | EOG2 / EOG2-A2 | EOG Right Horiz | — | | `EMG` | EMG1 | EMG1 | EMG Chin1 | EMG submental | ### 3.2 模型输入 ``` ch_0 = CENTRAL_EEG # spindle / K-complex / arousal 主通道 ch_1 = FRONTAL_EEG # K-complex 辅助 + 慢波 ch_2 = EOG_DIFF = EOG_L − EOG_R # REM 关键 ch_3 = EMG # arousal/REM 肌张力指示 shape = (4, 500) # 4 ch × 5s × 100Hz ``` > Sleep-EDFx 缺 EOG_R 时直接用 EOG horizontal 替代 EOG_DIFF(已是双极导联)。 ### 3.3 预处理 1. **重采样到 100 Hz**(DREAMS 原始 50 / 100 / 200 Hz;MASS 256 Hz;统一目标 100 Hz)。 2. **滤波**:0.3–35 Hz 带通(保留 spindle 12–16Hz、K-complex 0.5–2Hz)。 3. **去基线**:每通道独立 demean。 4. **归一化**:每通道按训练集 robust z-score(中位数 / IQR),避免幅值差异。 --- ## 4. 5s 窗口切片规则 ### 4.1 正样本(事件居中) 对每条专家标注 `(onset, duration, type)`: ``` center = onset + duration / 2 window = [center − 2.5, center + 2.5] ``` - 短事件(spindle / K-complex / REM,~0.5–2s):事件被 5s 窗口完整居中包裹。 - 同一窗口可能同时正于多个类(如 K-complex 后跟 spindle)→ 多标签自然处理。 ### 4.2 Arousal 特殊规则(窗口级 ≥ 50% 覆盖) 由于 arousal 平均 ~10s,单个事件会**覆盖多个 5s 窗口**: ``` 对每个 5s 候选窗口 w = [t, t+5]: 若任意 arousal 区间 [a, a+d] 与 w 重叠时长 ≥ 2.5s(即 ≥ 50%): labels[MicroArousal] = 1 ``` 推理时,把连续标 1 的 5s 窗口合并回 arousal 段(与原始标注的边界对齐误差 ≤ 5s)。 ### 4.3 双专家合并(DREAMS) DREAMS 子库提供 `Visual_scoring1_*.txt` + `Visual_scoring2_*.txt` 两位专家。 **合并策略**:取**并集**(任一专家标过即视为事件),降低漏标率;同时记录 `agreement` 字段(双专家共识 / 单专家)以便训练时加权。 ### 4.4 负样本(Background) 对每条 EEG 记录: 1. 标记所有专家事件覆盖区间为「正区间」。 2. 在所有「正区间外」均匀切 5s 窗口。 3. 每条记录的负样本数限制为 `max(N_pos × 2, 50)`,避免负样本爆炸。 4. **额外条件**:若该 EEG 段属于 W(清醒)期且时长 < 30s,跳过(避免上电/睡前混入噪声)。 ### 4.5 全部窗口标签生成示例 ```python def build_labels_for_window(t_start, t_end, events): """events: [(type, onset, dur)]""" label = [0, 0, 0, 0, 0] # Bg, Spindle, KC, REM, Arousal for ev_type, onset, dur in events: ev_end = onset + dur overlap = max(0, min(t_end, ev_end) - max(t_start, onset)) if overlap <= 0: continue if ev_type == 'MicroArousal': if overlap >= (t_end - t_start) * 0.5: label[4] = 1 else: # Spindle / KC / REM if overlap >= 0.1: # 至少 100ms 重叠 idx = {'Spindle':1,'KComplex':2,'REM':3}[ev_type] label[idx] = 1 if sum(label[1:]) == 0: label[0] = 1 # Background return label ``` --- ## 5. 数据集量级估计 | 类别 | DREAMS | MASS | 合计正样本(窗口) | |---|---:|---:|---:| | Spindle | ~700 (双专家并集) | ~5000 (待解析) | ~5700 | | KComplex | ~540 | ~3000 (待解析) | ~3500 | | REM | ~1700 | ~2000 (MASS-EX 推理 fine 集对齐) | ~3700 | | MicroArousal | 0 | ~6000 (2244 事件 × ~3 个 5s 窗口/事件) | ~6000 | | **Background** | 受控 ~2× | 受控 ~2× | ~30000 | > 类别极不均衡,必须用 **inverse-frequency class weight** 或 **WeightedRandomSampler**。 --- ## 6. Train / Val / Test 切分 | 拆分 | 比例 | 来源 | |---|---|---| | Train | 70% | 按 subject ID 抽 | | Val | 15% | 按 subject ID 抽 | | Test | 15% | 按 subject ID 抽,不可与 train/val 重叠 | **关键约束**: - DREAMS 各子库 subject ID 独立 → 各子库内独立做 70/15/15 切分。 - MASS SS3 共 62 个被试 → 同样按被试切分。 - **跨数据集泛化测试**:另留 1 个完整数据集(如 Sleep-EDFx 的小样本)做 zero-shot 评估,不参与任何训练。 --- ## 7. 模型架构 ### 7.1 第一阶段 baseline:1D-CNN ``` Input (B, 4, 500) ├─ Conv1d(4→32, k=25, s=2) + BN + ReLU + MaxPool(2) # 感受野 ~50ms ├─ Conv1d(32→64, k=15, s=2) + BN + ReLU + MaxPool(2) ├─ Conv1d(64→128, k=11, s=2) + BN + ReLU + MaxPool(2) ├─ Conv1d(128→128, k=7, s=1) + BN + ReLU + GAP ├─ Dropout(0.3) └─ Linear(128 → 5) # 5 个独立 sigmoid Loss = BCEWithLogitsLoss(pos_weight = inverse_class_freq) ``` ### 7.2 第二阶段进阶:TinySleepNet / EEGNet 变体 - 通道间 depthwise separable conv,参数量更小。 - 加 1 层 BiLSTM(hidden=64)做时序建模(同一 record 上下文 5 个 5s 窗口)。 ### 7.3 跨库迁移 DREAMS 上预训练 → MASS 上 fine-tune(学习率减小 10×,只放开后两层)。 --- ## 8. 评估指标 | 指标 | 说明 | |---|---| | **Per-class F1** | 每类独立计算(多标签);Arousal 只看 0.5 阈值下的 F1 | | **Per-class AUROC** | 阈值无关 | | **Event-level F1** | 把连续正窗口合并回事件,与原始 onset/duration 对比(IoU ≥ 0.3 视作命中) | | **MASS 跨库 F1** | 在 MASS 上做 zero-shot 评估,验证 DREAMS 训练是否泛化 | --- ## 9. 实施步骤(按顺序执行) ### Step 1:构建数据切片(脚本:`train/build_event_dataset.py`) 输入: - `--datasets dreams-spindles dreams-kcomplexes dreams-rems mass-ss3` - `--out_dir data/event_5s_100hz/` 输出(每条样本一个 npz,或合并成 shard): ``` sample = { 'eeg': np.float32 (4, 500), 'labels': np.int8 (5,), # multi-hot 'onset': float, # 在原 record 中的起始秒 'subject': str, 'source': str, # 'dreams-spindles' / 'mass-ss3' 等 'agreement': str, # 'consensus' / 'expert1' / 'expert2' } ``` ### Step 2:训练脚本(`train/train_event_classifier.py`) - 依赖:`torch >= 2.0`, `torchaudio`(重采样可选), `numpy`, `mne`, `scikit-learn`。 - 超参:bs=128, lr=1e-3, optimizer=AdamW, scheduler=CosineAnnealingLR, epochs=50, early stop on val macro-F1。 - 日志:tensorboard + 保存每 epoch 的 per-class metrics。 ### Step 3:模型推理接到可视化网页 - 网页 `/api/predict_events` 端点:上传 record id → 返回每 5s 窗口的 5 类概率。 - 前端在 EEG 波形上叠加「模型预测事件」彩色框(与专家标注并排对比,方便人工审核)。 ### Step 4(二期):补 SEM / PLM - 用规则算法(带通 0.1–1 Hz EOG-L/R 反相相关 + N1 期约束)生成 SEM 伪标签。 - DREAMS PLM 单独训一个 EMG-only 头部模型。 --- ## 10. 关键决定记录(避免回头反复) 1. **不混 Artifacts**:伪迹检测是单独任务,不应与睡眠事件混训。 2. **不混 Apnea**:呼吸事件依赖 NAF / VTH / SAO2 通道,与 EEG 事件目标不一致。 3. **DREAMS-Subjects/Patients hypnogram 不进事件训练**:5s 整段分期是另一个任务,第一版只用其 EEG 作为 Background 池。 4. **算法自动检测(DREAMS Automatic_detection_*.txt / MASS automatic)一律不入训**。 5. **多标签优先于多分类**:spindle 与 K-complex 在 N2 期共现频繁,不应互斥。 6. **5s 窗口 + Arousal 用覆盖 ≥ 50% 二分类**:保持窗口长度统一,又不漏 arousal。 --- ## 11. 服务器部署所需资源 ### 11.1 数据体量(解压后) | 数据集 | 大小 | |---|---| | DREAMS(解压后)| ~19 GB | | MASS SS3(PSG + Annotations)| ~80 GB | | MASS-EX(fine + coarse)| ~10 MB | ### 11.2 切片后磁盘需求 预估 50 万个样本 × (4 × 500 × 4 byte + meta) ≈ **4–6 GB**(npz/parquet)。 ### 11.3 显存 baseline 1D-CNN @ bs=128:< 2 GB;可在单张 RTX 3060 / T4 上训练。 ### 11.4 软件依赖 ``` python>=3.10 torch>=2.0 mne>=1.6 numpy, scipy, scikit-learn, pandas tensorboard tqdm ``` --- ## 12. 数据来源链接 - DREAMS: - MASS SS3 dataverse: - MASS-EX: - MODA(备选 spindle 数据,二期可加): - Bitbrain BOAS(仅整段分期): - ANPHY-Sleep(仅整段分期): - CAP Sleep DB: --- ## 13. 附录 A:MASS Annotations.edf 解析参考代码 ```python import mne, glob, xml.etree.ElementTree as ET from collections import defaultdict events = defaultdict(list) for f in glob.glob('/path/to/MASS/SS3/dataverse_files/*Annotations.edf'): anns = mne.read_annotations(f) record_id = f.split('/')[-1].replace(' Annotations.edf', '') for desc, onset, dur in zip(anns.description, anns.onset, anns.duration): try: elem = ET.fromstring(desc) gn = elem.get('groupName', '?') sc = elem.get('scoringType', '?') except Exception: continue if sc == 'automatic': continue # 跳过算法 if gn == 'MicroArousal': events[record_id].append(('MicroArousal', float(onset), float(dur))) # MASS spindle/K-complex 在不同 SS 子集(SS1/SS2/SS5)有标注,SS3 中较稀 ``` ## 14. 附录 B:DREAMS Visual_scoring 解析参考代码 ```python def parse_dreams_event_file(path, scorer): """返回 [(event_type, onset, duration)]""" out = [] with open(path) as f: header = f.readline().strip('[]\n').split('/')[0] # 'vis1_Spindles' / 'vis2_Kcomplexes' / 'vis1_REMs' # 映射到统一类别 label_map = { 'vis1_Spindles': 'Spindle', 'vis2_Spindles': 'Spindle', 'Spindles': 'Spindle', 'vis1_Kcomplexes': 'KComplex', 'vis2_Kcomplexes': 'KComplex', 'Kcomplexes': 'KComplex', 'vis1_REMs': 'REM', 'REMs': 'REM', } ev_type = label_map.get(header) if ev_type is None: return [] for line in f: parts = line.strip().split() if len(parts) >= 2: out.append((ev_type, float(parts[0]), float(parts[1]))) return out ``` --- *文档结束 · 内容均基于 2026-05-27 实测数据,可直接迁移到训练服务器使用*