jisenli/fdif-stage1

FDIF 阶段 1 —— 语义关键打断窗口

给全双工语音模型训练内容触发的主动打断用的合成语料。 每条样本标注了三个时间戳：证据何时开始、何时充分、何时干预已太晚。

代码与完整文档：https://github.com/mtilyxuegao/FDIF

⚠️ 未发表的研究数据，方法论仍在迭代。不要当作稳定 benchmark 使用。

---

先听两条

下面两条前 22.97 秒逐字相同、同一个音色（Samantha）、同一个 TTS 引擎。 分歧只发生在之后。这一对就是整套方法的全部要点。

场景：用户在安排晚餐，**开头自己声明过"其中一位不吃坚果"**。

---

A. 本应被打断（但音频里没人打断）— audio/cont_00006.wav

⚠️ 音频里听不到任何打断，这是设计如此。 语料是输入，不是正确行为的演示。 标注标记的是一个被刻意留空的机会。

这由闸门强制保证：agent_neutral 会否决任何 agent 评论或纠正用户说法的样本—— 如果音频里的助手先把错误指出来了，被测模型就没什么可判断的了。 参考话术只以文本存在于 manifest（供 R_content 打分），从未合成进音频。

时间	说话人	内容
0.30 – 2.92	用户	So I'm doing dinner for four friends this Saturday and
2.98 – 5.50	用户	one of them is nut-free, so keep that in mind ← 自己设下的约束
5.85 – 7.06	助手	Got it, noted.
7.41 – 10.96	用户	I want to start with something light, maybe a citrus salad
11.02 – 11.31	用户	um ← 停顿，但停顿不构成打断理由
11.81 – 15.59	用户	I've been going back and forth on whether to do a soup course
15.94 – 17.35	助手	Sounds nice so far.
17.70 – 20.06	用户	and then for the main I was thinking the almond flour ← 违反约束
20.12 – 22.97	用户	crust on the chicken because it stays really crisp in the oven

evidence_start        17.71s   "almond flour" 开始出现
evidence_sufficient   19.99s   ← 从这一刻起，听者已能确定这违反了他自己设的约束
deadline              22.90s   ← 他讲完这道菜就翻篇了，再纠正就晚了
可打断窗口             2.90s
应做动作  soft_interrupt  ·  该说 "Heads up — the almond flour breaks the nut-free constraint."

用户从头到尾没有停下来求助，也没有让出话轮。 触发打断的理由完全来自他说的内容。

见下方「Interrupt 听起来是什么样」——把该说的话放进窗口里的演示。

---

B. 不该打断 — audio/cont_00006__self_correction.wav

前 22.97 秒和 A 完全一致。然后：

时间	说话人	内容
…前面与 A 逐字相同…
20.12 – 22.97	用户	crust on the chicken because it stays really crisp in the oven
24.34 – 30.40	用户	oh wait, hold on, that can't be right, it has to be nut-free ← 自己发现了
30.75 – 32.60	助手	Good choice, that works.

自我纠正延迟  1.36s   （数据集内在 0.5–2.0s 区间采样）
正确动作      listen  ← 他自己会改口，插嘴只会添乱

如果模型在 19.99–22.90 这个窗口里开口，在 A 里是对的，在 B 里是错的。 而在那一刻，两条音频听起来完全一样——唯一的区别在未来。

这正是本数据集要教的判断：不是"检测到错误就打断"，而是"这个错误值不值得现在打断"。 语料里 120 条困难负样本全部用这种方式派生——从正样本最小改动而来， 所以正负两类的表面分布由构造匹配，唯一的系统性差异就是那个变换。

Interrupt 听起来是什么样

⚠️ 下面四条是演示，不属于数据集。把 manifest 里的 reference_intervention 用该样本的 agent 音色合成，叠在 evidence_sufficient 上。不要拿来训练。 生成脚本：tools/demo_interrupt.py

语料的 99 个 Interrupt 窗口全部落在用户仍在说话的时段（60 条 soft_interrupt

• 39 条 clarify，实测 60/60 正样本窗口内用户未让出话轮）。所以助手一开口就必然重叠 ——这正是主动打断区别于普通接话的地方。

试听	样本	动作	助手说的话	与用户重叠
	fact_00001 · 事实错误 · apple_say	soft_interrupt	"Quick note — 20 kg is about 44 pounds, not 60."	3.56s
	cont_00006 · 自相矛盾 · apple_say	soft_interrupt	"Heads up — the almond flour breaks the nut-free constraint."	2.98s
	cont_00011 · 自相矛盾 · kokoro	soft_interrupt	"That's 9.7 kilos against a 7 kilo limit."	2.74s
	cont_00006__hedged · 对冲表述 · apple_say	clarify	同上，但用户是在不确定地问	2.96s

最后一条是有意放的对照：**同一个事实问题，用户从"我就这么定了"变成"我不太确定"， 正确动作就从 soft_interrupt 变成 clarify**。这也是为什么动作空间不能是二元的 ——hedged 同时是「打断」的困难负样本和「澄清」的正样本。

重叠是 R_cost 要计的代价（靠 user_speech mask），只不过在这些窗口里纠正的收益盖过了它。

语音合成

全部音频由 mlx-community/Kokoro-82M-4bit 合成（StyleTTS2 系，82M 参数，4-bit 量化，MLX 本地推理）。原生 24 kHz，统一重采样到 16 kHz。

28 个英语音色承担全部声学多样性，语速在 0.85–1.15 之间采样：

分组	音色	用途
美式（af_ / am_）	19 个	train
英式（bf_ / bm_）	8 个	eval 专用，train 见不到

同一个源断言派生出的所有样本（正样本 + 困难负样本 + 反事实孪生）共用音色和语速 ——最小对之间只能差措辞，不能差声学。

关于单引擎的一个诚实说明

数据方案 §7 主张用 三个不同架构的引擎，理由是：单一合成器的停顿结构是规整的，一个 timing controller 会很乐意把「这个引擎怎么停顿」当作「什么时候该说话」学走。

本数据集为了韵律质量选择了单引擎，代价是留出从架构级降级成了说话人级：

原方案   留出一个不同架构的引擎  → 能测「换个合成器还认不认得」
现方案   留出一组不同口音的音色  → 只能测「换个口音还认不认得」

英式和美式音色由同一个模型、同一个韵律生成器产生，所以那条捷径在两边都成立。 这个替代无法区分「学到了语义」和「学到了 Kokoro 的停顿习惯」。

补救很便宜：仓库代码支持 python tools/render.py --engine apple_say 渲一个跨引擎诊断切片。 建议在拿到第一个训练结果后，用 20 条 eval 样本跑一次——如果跨引擎掉得厉害， 就说明模型学的是节奏不是语义。只有这个实验能回答那个问题。

选型依据（同一句话，三个候选引擎各念一遍，engine_comparison/ 下，不属于数据集）： apple_say · kokoro · kitten

这批数据要解决什么

Instruct-FD 报告最强的全双工系统（Gemini-Live）整体指令遵循 64.4%， 但在 **Interrupt 这一项只有 5.8%**，且在 Factual Misinformation / Safety Correction / Self Contradiction / Word Retrieval 四个子场景上得 **0.0%**。

现有全双工 RL（ASPIRin / DuplexPO / Multi-Faceted）的奖励全部锚在时间和声学事件上 ——停顿多长、延迟多少、重叠多久。没有一项问"该不该针对这句话的内容说话"。

本数据集提供把奖励锚到语义证据上所需的标注。

核心标注：语义关键窗口

evidence_start ────── evidence_sufficient ────── deadline
     证据开始出现          证据已充分，可以介入      再不介入就晚了

deadline 是最难的一个量。本项目的做法是依赖标记：在脚本里埋一句"用户开始基于错误前提 行动"的话，那句话的起点就是 deadline——把一个主观判断变成脚本可导出的量。

规模

内容	数量
样本	209
窗口	263
音频	109.9 分钟，双声道（user / agent 分轨）
词级时间戳	~17,000
校验错误	0

窗口类别：正样本 22.8% / 困难负样本 45.6% / 简单负样本 31.6%

困难负样本 5 类（各自针对一种失效模式）： self_correction（说错了但自己改口）、hedged（对冲表述）、 reported_speech（转述他人）、hypothetical（假设）、fiction_roleplay（朗读虚构文本）

目录

claims/       200 条断言，全部由代码重算验证（非 LLM 判断）
scaffolds/     60 段正样本对话
negatives/    120 条困难负样本（从正样本最小改动派生）
twins/         29 对反事实孪生（同音色同措辞，只改一个数）
synth/        209 条 manifest ← 主要产物
align/        209 条强制对齐结果
seed/          21 个手工编写的种子窗口
audio/        209 × {mixed, user, agent}.wav，16 kHz PCM16

manifest 的 JSON Schema 在 GitHub 仓库的 schema/window_manifest.schema.json。

构造方式

1. 断言库 —— 从可验证的真值扰动出错误（KB 三元组改年份、程序化算错单位换算）。 断言为假是由构造保证的，不是靠模型判断——这是规模化后不退化的前提。
2. 对话生成 —— LLM 把断言包进自然对话，所有数值逐字钉死，9 道程序化闸门校验。
3. 困难负样本 —— 从正样本最小改动派生，不独立生成。这样正负两类的表面分布由构造匹配， 唯一的系统性差异就是那个变换本身。
4. TTS —— 三个不同架构的引擎（Apple say / Kokoro / Kitten）， Kitten 完全留出、只用于 eval，作为引擎泛化探针。 同一个源断言派生出的所有样本共用引擎和音色。
5. 强制对齐 —— torchaudio MMS_FA，对着已知文本对齐。 构造决定"哪些词是证据"，对齐决定"这些词何时被说出"。

标注可信度

用 LLM 当标注员模拟器做过校验：给它看按从句编号的用户话语、不告诉它错在哪， 问"听到第几个从句才能确定说错了"。60 个互不相同的正样本：

精确从句一致  56/60 = 93%
一个从句以内  57/60 = 95%
判早          0 次

判早为 0 次是最有意义的一项：如果埋的 evidence_sufficient 系统性偏晚， 判官会一致地指向更早的从句。它没有。

已知缺口

• 9 类困难负样本只覆盖 5 类。缺 sarcasm（需要有表现力的 TTS）、 irrelevant_error、resolved_hesitation、backchannel_pause
• 只有事实错误和自相矛盾两个事件族。安全族必须人工策展，尚未做； 情绪和犹豫两族没有可计算的真值
• 无恢复分支，R_recovery 不可训练（评测建议改用 IHBench）
• 无真人录音。全部为合成语音，TTS 与真人的差距尚未量化
• 无标注员一致性 α。P0 gate 的判定条件，必须真人完成

使用注意

数据为合成，用于研究全双工话轮控制。语料中包含被刻意植入的错误陈述 （这正是标注的对象），不要当作事实来源。

安全族场景在设计上只到"用户表达了危险意图"这一层，不含任何操作细节。