Datasets:

lemon2004
/

DREAMS

版本：v2 终稿（按推荐方案锁定） 目标：训练一个5 秒窗口 / 多标签 sigmoid 输出的睡眠事件分类模型，覆盖 4 个核心睡眠事件 + 1 个背景类，用于 EEG 睡眠分期判读辅助。 数据来源：DREAMS (Zenodo 2650142) + MASS SS3 + MASS-EX。 生成时间：2026-05-27。

0. 锁定的训练方案（TL;DR）

项目	决定
任务形式	多标签二分类（每类独立 sigmoid，BCEWithLogits + class weight）
窗口长度	统一 5 秒
采样率	统一 100 Hz（5s × 100Hz = 500 sample）
训练通道	4 通道：CENTRAL_EEG / FRONTAL_EEG / EOG_DIFF / EMG
类别集	5 类：Background / Spindle / K-Complex / REM / MicroArousal
PLM	暂不纳入第一版（DREAMS PLM 与 EEG 事件目标差异大；后续可加）
SEM	第一版不纳入（无公开时间标注；二期用规则伪标签）
Artifacts / Apnea	不纳入（非 EEG 睡眠事件目标）
训练数据集	DREAMS（Spindles, Kcomplexes, REMs）+ MASS（spindle/K-complex/MicroArousal）
划分	按被试 70/15/15，subject-level split

1. 数据来源与事件清单

1.1 DREAMS 数据集（Zenodo 2650142）— 已下载到 `/Users/bytedance/Documents/dataset/DREAMS`

子库	用途	事件类型	通道	专家1事件总数	文件数	单段时长	采样率
DatabaseSpindles	✅ 训练正样本	`vis1_Spindles` / `vis2_Spindles`	CZ-A1 / C3-A1	355	8	30 min	100 / 200 Hz
DatabaseKcomplexes	✅ 训练正样本	`vis1_Kcomplexes` / `vis2_Kcomplexes`	CZ-A1	272	10	30 min	200 Hz
DatabaseREMs	✅ 训练正样本	`vis1_REMs`	EOGs	847	9	30 min	200 Hz
DatabaseSubjects	🟡 仅取 EEG（提供背景样本）	— (仅 hypnogram)	—	—	20	整夜	200 Hz
DatabasePatients	🟡 仅取 EEG（提供背景样本）	— (仅 hypnogram)	—	—	27	整夜	200 Hz
DatabaseArtifacts	❌ 不用	伪迹标注	—	2000	20	15 min	50 Hz
DatabasePLMs	❌ 第一版不用	`vis1_PLMs`	EMG2 / EMG3	4421	10	整夜	200 Hz
DatabaseApnea	❌ 不用	`vis_hypopnea`	PSG	4058	12	整夜	200 Hz

1.2 MASS SS3 数据集 — 已下载到 `/Users/bytedance/Documents/dataset/MASS/SS3`

扫描 62 份 Annotations.edf 实测：

事件类型	评分者	计数	用途
MicroArousal	expert	2244	✅ 训练正样本（Arousal 类）
EMGArtefact	automatic	343 249	❌ 算法生成不参与训练
Sleep stage（30s epoch）	—	62 765	用作背景采样的阶段过滤参考

MicroArousal 时长分布：

n=2244   mean=9.80s   median=9.03s   p90=14.19s   p95=16.25s   max=28.60s
≤3s = 0.0%   ≤5s = 1.7%   ≤10s = 61.6%

→ 5s 窗口无法整体覆盖 arousal，因此 arousal 采用「窗口级 ≥ 50% 覆盖」标签策略（详见 §4.4）。

1.3 MASS-EX 推理数据集（fine 集）

含 reasoning_text 文本中间接提到 SEM、vertex sharp 等事件，但无时间戳，仅作为后续弱监督参考。

2. 最终训练标签集

LABELS = {
    0: 'Background',     # 5s 窗口与任何专家事件均不重叠
    1: 'Spindle',        # DREAMS Spindles + MASS spindle (后续解析)
    2: 'KComplex',       # DREAMS Kcomplexes + MASS K-complex
    3: 'REM',            # DREAMS REMs (EOG 通道事件)
    4: 'MicroArousal',   # MASS MicroArousal (≥50% 窗口覆盖)
}
NUM_CLASSES = 5
# 多标签 sigmoid：同一 5s 窗口可同时正于多个类（如 Spindle + KComplex 共现）

每个样本输出 [5] 维 logits，每维独立做 BCEWithLogits 二分类。

3. 通道方案（4 通道）

3.1 跨数据集通道角色映射

角色	DREAMS Spindles	DREAMS 其他	MASS SS3	Sleep-EDFx（备用）
`CENTRAL_EEG`	C3-A1	CZ-A1	EEG C4-LER	Pz-Oz
`FRONTAL_EEG`	FP1-A1	FP1-A2	EEG F4-LER	Fpz-Cz
`EOG_L`	EOG1-A1	EOG1 / EOG1-A2	EOG Left Horiz	EOG horizontal
`EOG_R`	EOG2-A1	EOG2 / EOG2-A2	EOG Right Horiz	—
`EMG`	EMG1	EMG1	EMG Chin1	EMG submental

3.2 模型输入

ch_0 = CENTRAL_EEG               # spindle / K-complex / arousal 主通道
ch_1 = FRONTAL_EEG               # K-complex 辅助 + 慢波
ch_2 = EOG_DIFF = EOG_L − EOG_R  # REM 关键
ch_3 = EMG                       # arousal/REM 肌张力指示
shape = (4, 500)   # 4 ch × 5s × 100Hz

Sleep-EDFx 缺 EOG_R 时直接用 EOG horizontal 替代 EOG_DIFF（已是双极导联）。

3.3 预处理

重采样到 100 Hz（DREAMS 原始 50 / 100 / 200 Hz；MASS 256 Hz；统一目标 100 Hz）。
滤波：0.3–35 Hz 带通（保留 spindle 12–16Hz、K-complex 0.5–2Hz）。
去基线：每通道独立 demean。
归一化：每通道按训练集 robust z-score（中位数 / IQR），避免幅值差异。

4. 5s 窗口切片规则

4.1 正样本（事件居中）

对每条专家标注 (onset, duration, type)：

center = onset + duration / 2
window = [center − 2.5, center + 2.5]

短事件（spindle / K-complex / REM，~0.5–2s）：事件被 5s 窗口完整居中包裹。
同一窗口可能同时正于多个类（如 K-complex 后跟 spindle）→ 多标签自然处理。

4.2 Arousal 特殊规则（窗口级 ≥ 50% 覆盖）

由于 arousal 平均 ~10s，单个事件会覆盖多个 5s 窗口：

对每个 5s 候选窗口 w = [t, t+5]:
    若任意 arousal 区间 [a, a+d] 与 w 重叠时长 ≥ 2.5s（即 ≥ 50%）：
        labels[MicroArousal] = 1

推理时，把连续标 1 的 5s 窗口合并回 arousal 段（与原始标注的边界对齐误差 ≤ 5s）。

4.3 双专家合并（DREAMS）

DREAMS 子库提供 Visual_scoring1_*.txt + Visual_scoring2_*.txt 两位专家。 合并策略：取并集（任一专家标过即视为事件），降低漏标率；同时记录 agreement 字段（双专家共识 / 单专家）以便训练时加权。

4.4 负样本（Background）

对每条 EEG 记录：

标记所有专家事件覆盖区间为「正区间」。
在所有「正区间外」均匀切 5s 窗口。
每条记录的负样本数限制为 max(N_pos × 2, 50)，避免负样本爆炸。
额外条件：若该 EEG 段属于 W（清醒）期且时长 < 30s，跳过（避免上电/睡前混入噪声）。

4.5 全部窗口标签生成示例

def build_labels_for_window(t_start, t_end, events):
    """events: [(type, onset, dur)]"""
    label = [0, 0, 0, 0, 0]   # Bg, Spindle, KC, REM, Arousal
    for ev_type, onset, dur in events:
        ev_end = onset + dur
        overlap = max(0, min(t_end, ev_end) - max(t_start, onset))
        if overlap <= 0:
            continue
        if ev_type == 'MicroArousal':
            if overlap >= (t_end - t_start) * 0.5:
                label[4] = 1
        else:                                   # Spindle / KC / REM
            if overlap >= 0.1:                  # 至少 100ms 重叠
                idx = {'Spindle':1,'KComplex':2,'REM':3}[ev_type]
                label[idx] = 1
    if sum(label[1:]) == 0:
        label[0] = 1                            # Background
    return label

5. 数据集量级估计

类别	DREAMS	MASS	合计正样本（窗口）
Spindle	~700 (双专家并集)	~5000 (待解析)	~5700
KComplex	~540	~3000 (待解析)	~3500
REM	~1700	~2000 (MASS-EX 推理 fine 集对齐)	~3700
MicroArousal	0	~6000 (2244 事件 × ~3 个 5s 窗口/事件)	~6000
Background	受控 ~2×	受控 ~2×	~30000

类别极不均衡，必须用 inverse-frequency class weight 或 WeightedRandomSampler。

6. Train / Val / Test 切分

拆分	比例	来源
Train	70%	按 subject ID 抽
Val	15%	按 subject ID 抽
Test	15%	按 subject ID 抽，不可与 train/val 重叠

关键约束：

DREAMS 各子库 subject ID 独立 → 各子库内独立做 70/15/15 切分。
MASS SS3 共 62 个被试 → 同样按被试切分。
跨数据集泛化测试：另留 1 个完整数据集（如 Sleep-EDFx 的小样本）做 zero-shot 评估，不参与任何训练。

7. 模型架构

7.1 第一阶段 baseline：1D-CNN

Input  (B, 4, 500)
├─ Conv1d(4→32, k=25, s=2) + BN + ReLU + MaxPool(2)   # 感受野 ~50ms
├─ Conv1d(32→64, k=15, s=2) + BN + ReLU + MaxPool(2)
├─ Conv1d(64→128, k=11, s=2) + BN + ReLU + MaxPool(2)
├─ Conv1d(128→128, k=7, s=1) + BN + ReLU + GAP
├─ Dropout(0.3)
└─ Linear(128 → 5)                                     # 5 个独立 sigmoid
Loss = BCEWithLogitsLoss(pos_weight = inverse_class_freq)

7.2 第二阶段进阶：TinySleepNet / EEGNet 变体

通道间 depthwise separable conv，参数量更小。
加 1 层 BiLSTM（hidden=64）做时序建模（同一 record 上下文 5 个 5s 窗口）。

7.3 跨库迁移

DREAMS 上预训练 → MASS 上 fine-tune（学习率减小 10×，只放开后两层）。

8. 评估指标

指标	说明
Per-class F1	每类独立计算（多标签）；Arousal 只看 0.5 阈值下的 F1
Per-class AUROC	阈值无关
Event-level F1	把连续正窗口合并回事件，与原始 onset/duration 对比（IoU ≥ 0.3 视作命中）
MASS 跨库 F1	在 MASS 上做 zero-shot 评估，验证 DREAMS 训练是否泛化

9. 实施步骤（按顺序执行）

Step 1：构建数据切片（脚本：`train/build_event_dataset.py`）

输入：

--datasets dreams-spindles dreams-kcomplexes dreams-rems mass-ss3
--out_dir data/event_5s_100hz/

输出（每条样本一个 npz，或合并成 shard）：

sample = {
    'eeg': np.float32 (4, 500),
    'labels': np.int8 (5,),       # multi-hot
    'onset': float,                # 在原 record 中的起始秒
    'subject': str,
    'source': str,                 # 'dreams-spindles' / 'mass-ss3' 等
    'agreement': str,              # 'consensus' / 'expert1' / 'expert2'
}

Step 2：训练脚本（`train/train_event_classifier.py`）

依赖：torch >= 2.0, torchaudio（重采样可选）, numpy, mne, scikit-learn。
超参：bs=128, lr=1e-3, optimizer=AdamW, scheduler=CosineAnnealingLR, epochs=50, early stop on val macro-F1。
日志：tensorboard + 保存每 epoch 的 per-class metrics。

Step 3：模型推理接到可视化网页

网页 /api/predict_events 端点：上传 record id → 返回每 5s 窗口的 5 类概率。
前端在 EEG 波形上叠加「模型预测事件」彩色框（与专家标注并排对比，方便人工审核）。

Step 4（二期）：补 SEM / PLM

用规则算法（带通 0.1–1 Hz EOG-L/R 反相相关 + N1 期约束）生成 SEM 伪标签。
DREAMS PLM 单独训一个 EMG-only 头部模型。

10. 关键决定记录（避免回头反复）

不混 Artifacts：伪迹检测是单独任务，不应与睡眠事件混训。
不混 Apnea：呼吸事件依赖 NAF / VTH / SAO2 通道，与 EEG 事件目标不一致。
DREAMS-Subjects/Patients hypnogram 不进事件训练：5s 整段分期是另一个任务，第一版只用其 EEG 作为 Background 池。
算法自动检测（DREAMS Automatic_detection_*.txt / MASS automatic）一律不入训。
多标签优先于多分类：spindle 与 K-complex 在 N2 期共现频繁，不应互斥。
5s 窗口 + Arousal 用覆盖 ≥ 50% 二分类：保持窗口长度统一，又不漏 arousal。

11. 服务器部署所需资源

11.1 数据体量（解压后）

数据集	大小
DREAMS（解压后）	~19 GB
MASS SS3（PSG + Annotations）	~80 GB
MASS-EX（fine + coarse）	~10 MB

11.2 切片后磁盘需求

预估 50 万个样本 × (4 × 500 × 4 byte + meta) ≈ 4–6 GB（npz/parquet）。

11.3 显存

baseline 1D-CNN @ bs=128：< 2 GB；可在单张 RTX 3060 / T4 上训练。

11.4 软件依赖

python>=3.10
torch>=2.0
mne>=1.6
numpy, scipy, scikit-learn, pandas
tensorboard
tqdm

12. 数据来源链接

DREAMS: https://zenodo.org/records/2650142
MASS SS3 dataverse: https://borealisdata.ca/dataverse/MASS
MASS-EX: https://huggingface.co/datasets/Feng613/MASS-EX
MODA（备选 spindle 数据，二期可加）: https://osf.io/8bma7/
Bitbrain BOAS（仅整段分期）: https://openneuro.org/datasets/ds005555/versions/1.1.0
ANPHY-Sleep（仅整段分期）: https://osf.io/r26fh/
CAP Sleep DB: https://physionet.org/content/capslpdb/

13. 附录 A：MASS Annotations.edf 解析参考代码

import mne, glob, xml.etree.ElementTree as ET
from collections import defaultdict

events = defaultdict(list)
for f in glob.glob('/path/to/MASS/SS3/dataverse_files/*Annotations.edf'):
    anns = mne.read_annotations(f)
    record_id = f.split('/')[-1].replace(' Annotations.edf', '')
    for desc, onset, dur in zip(anns.description, anns.onset, anns.duration):
        try:
            elem = ET.fromstring(desc)
            gn = elem.get('groupName', '?')
            sc = elem.get('scoringType', '?')
        except Exception:
            continue
        if sc == 'automatic':
            continue                    # 跳过算法
        if gn == 'MicroArousal':
            events[record_id].append(('MicroArousal', float(onset), float(dur)))
        # MASS spindle/K-complex 在不同 SS 子集（SS1/SS2/SS5）有标注，SS3 中较稀

14. 附录 B：DREAMS Visual_scoring 解析参考代码

def parse_dreams_event_file(path, scorer):
    """返回 [(event_type, onset, duration)]"""
    out = []
    with open(path) as f:
        header = f.readline().strip('[]\n').split('/')[0]   # 'vis1_Spindles' / 'vis2_Kcomplexes' / 'vis1_REMs'
        # 映射到统一类别
        label_map = {
            'vis1_Spindles': 'Spindle', 'vis2_Spindles': 'Spindle', 'Spindles': 'Spindle',
            'vis1_Kcomplexes': 'KComplex', 'vis2_Kcomplexes': 'KComplex', 'Kcomplexes': 'KComplex',
            'vis1_REMs': 'REM', 'REMs': 'REM',
        }
        ev_type = label_map.get(header)
        if ev_type is None:
            return []
        for line in f:
            parts = line.strip().split()
            if len(parts) >= 2:
                out.append((ev_type, float(parts[0]), float(parts[1])))
    return out

文档结束 · 内容均基于 2026-05-27 实测数据，可直接迁移到训练服务器使用

睡眠事件分类模型训练方案（DREAMS + MASS 跨数据集）