- 访问与权利
- 路径映射
- 顶层结构
- 论文库目录
- 论文正文盘点口径
oral_papers_2024_2026/HSCD-Paper/llm4eda_paper_library_20260703/arxiv_ai_hw_codesign_2023_2026/arxiv_ai_hw_survey/ai_hw_conference_expansion/asplos_corpus_study/arxiv_emerging_kernels_2026/track-c-inframind/papers/hpca_best_paper_parity/Zotero/storage/FlorKernel/A_exploration/papers/(补充论文波)FlorKernel/A_exploration/*_20260901/pdfs/(滚动补充论文波)
- 论文正文盘点口径
- Metadata-only 目录
- 项目资产
- Downloads 暂存
- 清单和完整性
- 链接恢复
- 选择性恢复示例
MPBU:路径保持型研究资料备份
MPBU 是一个需要所有者手动批准访问的研究资料归档库。它用于保存论文正文、论文元数据、研究项目资产和经审计的下载暂存内容,不是供 datasets.load_dataset() 直接训练使用的标准数据集。
仓库按 wave 分批上传。一个目录已经出现,不代表该目录已经完整备份;完整性必须以 backup_manifests/ 中固定 commit 的验证报告为准。
访问与权利
本仓库启用 Hugging Face manual gated access。下载者必须登录、申请访问并获得所有者批准。
访问控制不会改变原文件的版权或许可证。本仓库没有一个能够覆盖全部文件的统一开放许可证;论文、出版商版本、预印本、代码、图片及其他材料仍受各自原始来源条款约束。获准访问不等于获得再次公开分发的权利。
仓库、脚本和清单中不得保存 Hugging Face token、cookie、API key、账号凭据或浏览器会话。
路径映射
普通归档对象保留原绝对路径,只移除开头的一个 /:
本地:/Users/rayw/Documents/Playground/oral_papers_2024_2026/pdfs/example.pdf
仓库:Users/rayw/Documents/Playground/oral_papers_2024_2026/pdfs/example.pdf
形式化规则:
repo_path = local_path.removeprefix("/")
local_path = "/" + repo_path
backup_manifests/ 是备份控制目录,不映射到原绝对路径。
顶层结构
.
├── README.md
├── .gitattributes
├── READY.json # 当前上传 wave 的准备回执(如存在)
├── Users/
│ └── rayw/
│ ├── Documents/Playground/ # 原工作区路径镜像
│ ├── Zotero/storage/ # Zotero PDF 附件
│ └── Downloads/ # 经审计后才进入的下载暂存 wave
└── backup_manifests/
└── <wave-label>/
├── paper_files.jsonl
├── summary.json
├── stage_errors.json
└── verification.json
论文库目录
论文正文盘点口径
下表由 2026-08-30 的 12 库上传前基线和 2026-09-01 发现的 FlorKernel 补充论文快照组成。regular PDF 路径和 symlink PDF 路径是互斥分类,两者之和才是该库的逻辑正文路径数。regular仍可能包含指向同一 inode 的 hardlink,因此也不等于去重论文篇数。
| 论文库 | regular PDF 路径 | symlink PDF 路径 | 逻辑正文路径合计 | 逻辑体积 |
|---|---|---|---|---|
HSCD-Paper |
1,722 | 1,421 | 3,143 | 7.61 GiB |
llm4eda_paper_library_20260703 |
5,810 | 3,455 | 9,265 | 31.25 GiB |
oral_papers_2024_2026 |
3,386 | 0 | 3,386 | 14.15 GiB |
arxiv_ai_hw_codesign_2023_2026 |
9,760 | 0 | 9,760 | 33.16 GiB |
arxiv_ai_hw_survey |
597 | 0 | 597 | 1.70 GiB |
ai_hw_conference_expansion |
734 | 0 | 734 | 1.58 GiB |
asplos_corpus_study |
105 | 0 | 105 | 0.31 GiB |
arxiv_emerging_kernels_2026 |
32 | 0 | 32 | 0.08 GiB |
track-c-inframind |
65 | 0 | 65 | 0.13 GiB |
papers |
10 | 0 | 10 | 0.04 GiB |
hpca_best_paper_parity |
3 | 0 | 3 | 0.01 GiB |
Zotero/storage |
98 | 0 | 98 | 0.32 GiB |
FlorKernel/A_exploration/papers(补充) |
49 | 0 | 49 | 0.11 GiB |
| 合计 | 22,371 | 4,876 | 27,247 | 90.44 GiB |
这些数字是路径保持型备份口径,不是文献计量口径。最终 wave 的数字以水合、哈希并固定 commit 后的 manifest 为准。
oral_papers_2024_2026/
2024–2026 年 AI、ML 和 CV 顶会 Oral 论文集合。正文位于 pdfs/,按以下 13 个会议年份目录组织:
AAAI_2025 AAAI_2026 CVPR_2025 CVPR_2026 ECCV_2024
ICCV_2025 ICLR_2025 ICLR_2026 ICML_2024 ICML_2025
ICML_2026 NeurIPS_2024 NeurIPS_2025
本地元数据包括 manifest.csv、aaai_oral_manifest.csv、scripts/、logs/、_cache/ 和 unresolved_sources.md。_cache/ 中的会议日程 PDF 不属于论文正文 wave。
HSCD-Paper/
AI workload 软硬件协同设计论文库,覆盖 DAC、ICCAD、DATE、ASP-DAC、MICRO、HPCA、ASPLOS、ISCA 等会议。
papers/pdf/:canonical PDF。papers/open_versions/:公开版本。papers/authorized_publisher/:已有授权访问取得的出版商版本。papers/by_conference_year/:按会议和年份组织的符号链接视图。data/inventory/、data/index/、data/fulltext/、data/pdf_parse/:清单、检索索引和解析资产。reports/、docs/、scripts/、tools/paper_explorer/:报告、字段说明、复跑工具和浏览界面。
正文 wave 以 papers/ 下 PDF 为准;其他内容在 metadata/project-assets wave 处理。
data/methodology_annotations/ 中 18 个 repair/relink backup PDF 原先被保守标为本地元数据;完整性终审确认它们仍是论文正文原路径后,已转入独立补充正文 wave。临时目录名不改变这 18 个冻结对象的正文属性;其他会议日程 PDF 与错误解析缓存仍不属于论文正文。
llm4eda_paper_library_20260703/
面向 LLM、Agent、RL for EDA、硬件设计和计算机系统的综合论文库。
pdfs/open/:公开版本。pdfs/acm/、pdfs/ieee/:相应出版渠道版本。pdfs/other/、pdfs/other_pdf/:其他核验来源。recent_downloads_20260810_20260819/:近期下载及按主题、collection、core、lineage 组织的逻辑视图。research_lineage_pilot_20260818/、research_lineage_batch2_20260819/:研究脉络分析包及引用论文。paper_library.csv、paper_library.jsonl、paper_library.bib:主元数据入口。pdf_download_*:下载队列、来源审计、状态和失败原因。
多个逻辑路径可能指向同一个正文,路径数不等于唯一论文数。
arxiv_ai_hw_codesign_2023_2026/
arXiv AI 系统、硬件和软硬件协同设计候选的扫描、筛选和严格阶段 PDF 救援库。
stage2_strict_rescue_pdfs/pdfs/2025/、pdfs/2026/:严格筛选正文。download_manifest.csv、download_status.jsonl、download_summary.json:来源、下载和完整性记录。keyword_scan_*、deepseek_stage1_*:候选发现和第一阶段筛选资产。
arxiv_ai_hw_survey/
AI 系统与硬件综述研究工作区。本根内 PDF 分散在多个实验和精选子集,因此全部 PDF 都属于正文范围。
controlled_500_2026-05-24/pdfs/:受控 500 篇样本。critique_10/pdfs/、paper_critiques/pdfs/:批评性分析样本与全文证据。premium_conference_learning_subset_2026-06-03/must_read_100_pdfs/:顶会学习精选。
ai_hw_conference_expansion/
体系结构与 EDA 顶会论文扩展库。
pdfs/:按内部编号、会议、年份和标题命名的正文。- 根目录 CSV/JSONL:候选、摘要、标签、来源、下载及缺失状态。
outputs/:语料报告、全文抓取、解析和方法学标注。dblp_cache/、dblp_missing_year_*:DBLP 来源缓存。
asplos_corpus_study/
ASPLOS/CGO 论文研究、问题形成和方法学实验工作区。
papers/:主论文集合。sources/:项目和监控材料引用的 PDF 来源。problem_formation/:扫描、holdout、methodology 和证据链所用 PDF。data/、text/、notes/、reports/、research_handbook/、scripts/、slides/:项目资产。
.tmp/ 中的 PDF 不属于正文 wave。
arxiv_emerging_kernels_2026/
近期 emerging-kernels 研究集合。
representative_pdfs/:代表性全文。representative_text/:对应文本抽取。corpus/:候选全集、均衡筛选集和摘要。insights_report_zh.md:跨论文趋势总结。
track-c-inframind/
赛道 C 编译器、Runtime 和算子调度研究项目。research/ 下 PDF 包括参考论文、稿件、补充材料、检查表和不同渲染版本;非 PDF 内容在项目资产 wave 中处理。
papers/
小型通用参考论文库,包括根目录散装论文,以及 asplos2026-best-official/、micro2025-best-official/。
hpca_best_paper_parity/
HPCA 论文提案与质量对齐工作区。papers/ 保存参考正文;proposal、rubric、decision log、experiments、preprocess 和 reviews 属于研究决策资产。
Zotero/storage/
Zotero 的 PDF 附件存储区。随机附件目录名和原文件名保持不变,以便恢复后与 Zotero 条目重新关联。账号信息、数据库 journal 和应用凭据不属于 PDF wave。
FlorKernel/A_exploration/papers/(补充论文波)
FlorKernel 近期问题形成过程中实际下载并使用的 49 个参考论文 PDF,合计 117,092,879 字节。它们与旧 23 个全局 wave 的远端路径重叠为 0;其中 19 个正文内容与既有库重复、30 个内容新增,但路径保持型恢复要求全部 49 个原路径都存在。checklist_full/text/ 下 43 个 extracted-text 文件不是论文正文,留在本机作为元数据。
FlorKernel/A_exploration/*_20260901/pdfs/(滚动补充论文波)
FlorKernel 在首次补充快照之后继续生成近期 workflow、action-space 与 recursive-self-improvement 研究批次。其 pdfs/ 中的第三方论文正文按原绝对路径进入独立滚动 wave;对应 extracted text、深读记录、脚本、选择日志和有人工 QA 价值的渲染图进入项目资产 wave。上传器采用“冻结快照、固定 commit 验证、再次扫描”的方式追赶仍在写入的目录,因此这里不把某一轮的计数误写成最终上限。
Metadata-only 目录
这些目录不向论文正文 wave 提供 PDF,但其 CSV、JSON、Markdown、脚本、报告和人工决策不能丢失。
agent_conference_expansion/
2024–2026 年 ICML、ICLR、NeurIPS、AAAI、ACL、EMNLP Agent 相关论文的候选发现、分类和标注工作区。重点目录为 outputs/、taxonomy/、scripts/ 和 logs/。
iclr_article_corpus_v1/
ICLR 2024–2026 Oral 文章的模板/素材选取和人工决策库。
data/raw/:官方 Oral 元数据和候选评分。selection/:proposal、主清单、backup ledger 和全量 decision ledger。reports/:可人工审阅的选取与排除报告。corpus_config.yaml、decision_schema.json、corpus_manifest.json:配额、受控词表和快照哈希。
cgo_recent_3/
CGO 2024–2026 proceedings 元数据,包括 papers.json/csv/md、doi_list.txt、DBLP 原始快照、下载状态和刷新脚本。
paper_analysis/
ViDA ASP-DAC 2025 的结构化论文分析资产,包括研究问题、前序工作、实现映射、实验分类、引用角色、图表证据、页级文本和抽取脚本。原 PDF 位于其他正文库。
项目资产
项目资产仍按原绝对路径放在 Users/rayw/...,不建立丢失来源关系的扁平副本。下列分类表示当前完成度和备份优先级,不是对研究成果质量的评分。每个项目只上传冻结 manifest 列出的对象。
预调研候选
FlorKernel/
面向 agentic kernel systems 的近期预调研与问题形成工作区。项目资产 wave 保存研究 brief、文献筛选与深读记录、综合稿、决策日志、rubric、实验/评审脚本、轻量结果以及可复现 TileRT 展开树的原始压缩包。
A_exploration/papers/ 下的 49 个第三方论文 PDF 不混入项目资产,而以独立补充论文 wave 按原路径归档;对应的 extracted text 留在本机作为元数据。mixture-of-kittens/ clean upstream clone 和已能由 tilert-main.tar.gz 精确复现的 tilert/ 展开树不重复上传。
首次补充之后新增的 workflow_recent4m*、action_space* 和 rsi* 批次采用双重证据:完整批次树进入项目资产清单,pdfs/ 同时进入论文正文清单,以便固定提交验证后安全释放本地正文。.work/、tmp/、node_modules/ 和其他运行缓存仍属于可重建临时产物,不上传;正式深读、抽取文本、研究脚本、决策记录及 QA renders 保留。
blind_rediscovery_pilot_20260829/
这是“隐去前作身份后的独立研究重发现”预调研。canonical 主树位于 llm4eda_paper_library_20260703/blind_rediscovery_pilot_20260829/,并以 blind_rediscovery_pilot_main 独立 root 纳入 Wave A;其中保存 protocol、冻结哈希、agent/judge manifests、BR01–BR04 任务包、完整 submissions/evaluations、评分表、审计、验证脚本和最终报告。该主树恢复时仍映射回论文库内部的原路径。
同名顶层目录 /Users/rayw/Documents/Playground/blind_rediscovery_pilot_20260829/ 是独立的 submission overlay,当前只含 submissions/BR02_R2.md,并以独立 root 纳入 Wave A;它在仓库中映射为 Users/rayw/Documents/Playground/blind_rediscovery_pilot_20260829/。主树与 overlay 不静默合并,也不因同名而互相覆盖。仅保留可解释实验的正式资产;临时 agent workspace、运行缓存和凭据不上传。
进行中项目
kernel-harness/
近期活跃且工作树未完全提交的 kernel benchmark/harness 项目。上传当前文件系统快照中的源码、测试、benchmark 定义、任务协议、prompt、recipes、knowledge entries、provider 对照结果、日志和研究证据;因此恢复不依赖远程 Git 是否包含本地修改。
.git/、缓存、虚拟环境、build/dist/tmp 和 testbench/knowledge/entries/.gitkeep 不进入资产正文。token-records/ 含个人名称路径及调用/用量记录,作为隐私隔离目录明确排除,即使仓库启用了 manual gating 也不上传。
full_duplex_omnimodal_edge_architecture/
面向全双工全模态模型的端侧计算架构与软硬件协同设计主线。上传 research charter、shared context、problem/idea/literature ledgers、日志、方法转移文档、workload 定义、实验协议、脚本、自测、轻量适配器、patch、结果、审计回执和可复现性锁定信息。
以下是硬排除:
full_duplex_omnimodal_edge_architecture/upstream/
full_duplex_omnimodal_edge_architecture/reproduction/envs/
full_duplex_omnimodal_edge_architecture/reproduction/models/
full_duplex_omnimodal_edge_architecture/reproduction/cache/
full_duplex_omnimodal_edge_architecture/reproduction/build/
full_duplex_omnimodal_edge_architecture/reproduction/upstream/
full_duplex_omnimodal_edge_architecture/reproduction/wheels/
full_duplex_omnimodal_edge_architecture/reproduction/runtimes/
full_duplex_omnimodal_edge_architecture/reproduction/external/
full_duplex_omnimodal_edge_architecture/reproduction/tmp/
full_duplex_omnimodal_edge_architecture/reproduction/hf_home/
这些目录是上游 checkout、模型权重、环境、wheel/runtime、构建产物或缓存;应通过锁清单和脚本重建,不复制到 MPBU。
diexue/
进行中的 Vinext/Cloudflare 全栈站点与原生 Apple 客户端项目。上传 app/、worker/、db/、drizzle/、public/、tests/、examples/、native/DieDu/、Xcode 项目、配置、migration、lockfile 和构建脚本;.openai/hosting.json 等声明式配置仅在凭据扫描通过后加入。
硬排除:
diexue/node_modules/
diexue/native/.build/
diexue/dist/
diexue/.next/
diexue/.vinext/
diexue/.wrangler/
diexue/.git/
diexue/build/sites-vite-plugin.ts 是源文件,不能因父目录名为 build 而误删。
当前工作树中的 app/globals 2.css、app/page 2.tsx 和 app/layout 2.tsx 是 3 个内容不同的未跟踪源码副本,必须按原文件名保留。不得将它们当作重复文件、构建产物或同名备份自动排除。
cake-mini/
CAKE compiler-agent co-design 核心循环的独立、可审计重建。上传 src/、tests/、configs/、examples/、scripts/、reports/、项目配置,以及 artifacts/ 中用于证据链的轻量 contract、candidate/evidence 记录和必要生成源。不上传 Python 环境、缓存、GPU 编译缓存、可重建 binary 或外部 benchmark 数据集副本。
高完成度项目
ResearchOS/
原生、local-first 的 iPhone/iPad 研究管理应用。上传 Swift/SwiftUI/SwiftData 源码、ResearchOSCore package 源码、Xcode 项目和 project.yml、unit/UI tests、Bridge 的 TypeScript 源码与测试、contracts/、docs/、seed/、templates/、scripts/、经审计的 artifacts/ 和 references。Bridge 的 dist/ 是由 TypeScript 源码生成的 JavaScript 构建输出,不属于备份正文。
硬排除:
ResearchOS/DerivedData/
ResearchOS/bridge/node_modules/
ResearchOS/bridge/dist/
ResearchOS/Packages/ResearchOSCore/.build/
ResearchOS/.git/
运行时 token、Keychain 导出、CloudKit/iCloud 设备数据和本地 Bridge 密钥不属于上传边界。
本地工作树当前还包含 8 个修改文件和 1 个新增 Xcode project。这些未必存在于任何远程 Git 版本,项目 wave 必须以冻结时文件系统快照为准将它们纳入 manifest;不能用“代码已在远程 Git”代替这一快照。.git/ 本身仍排除。
ndforge-harness/
NDForge/NDSynthBench 近数据处理综合和多保真度模拟实验框架。上传 agent/、benchmark 定义、configs/、docs/、manifests/、methodology/、ndforge/、paper/、patches/、研究记录、冻结 results、scripts、tests 和必要的轻量 tools。
排除 tmp/ 及 tmp* 临时测试目录、虚拟环境、编译器/模拟器工具链、构建输出、缓存和可重新 checkout 的上游源码。上游版本由 lock manifest 记录,本地修改由 patches/ 保留。
ai4ai_work/
AI4AI model/harness survey 的生成和视觉 QA 工作区。上传 survey 构建脚本、章节源、正式 figures/assets、可访问性与样式审计、最终渲染 PDF、页图和 contact sheets。排除 __pycache__/、临时渲染目录和可由源文件完全重建且没有 QA 价值的中间产物。
output/
集中保存高完成度论文交付包,包括 DeferKV ASP-DAC 2027 最终/压缩包、CRISP 源包、AI4AI survey、最终 PDF、论文源、figures、docs、review 和复现数据/结果。明确的最终 PDF、ZIP 和提交 package 是正式交付物,即使它们可由源码重建也应保留。
排除 build_clone/、TeX/编译缓存、临时解压副本和纯重复中间渲染;对最终成果有审计价值的 render/review 回执保留。
feishu_chat_export/(仅工具源码)
Wave A 只纳入飞书导出工具本身:README.md、feishu_export.py、iab_archive.mjs、requirements.txt 和 .gitignore(以冻结 manifest 为准)。它们按原路径映射到 Users/rayw/Documents/Playground/feishu_chat_export/。exports/、.feishu_profile/、.venv/ 及缓存始终排除;工具源码进入备份不代表任何聊天内容进入备份。
.codex_tmp/ppt_speaker_notes_20260827/
已完成的 speaker-notes 演示文稿交付包,当前约 10.6 MiB 驻留数据。上传 16 页 template-starter.pptx 最终版、source notes、deviation log、QA 结果、布局资产和最终预览,以便同时恢复可编辑成品和生成/验收证据。
硬排除同级 .ppt_inventory.HeQX2R/ 中的 dataless 临时输入,以及 .codex_tmp/dslmind-sheet-* 派生预览。此处是对特定最终交付目录的例外纳入,不表示应整体上传 .codex_tmp/。
codex-karing-watchdog/
Codex/Claude 任务状态、连通性和受限同会话恢复的本地 watchdog。上传 Python 源码、tests、macOS SwiftUI wrapper 源码、plist、图标源、构建脚本和经脱敏的实验资产。排除 build/、生成的 app/zip、Application Support 运行状态、会话日志、任务内容、通知历史和任何 provider 或 Bridge 凭据。
karing-route-console/
Karing 路由控制台的 SwiftUI 源项目。上传 Package.swift、Sources/、Resources/、README.md 和 build-app.sh。排除 .build/、dist/、签名产物、已安装 app 副本和本地命令/状态队列。
karing-route-failsafe/
Karing 精确路由、白名单切换和失败自救的脚本/守护进程项目。当前安全源码快照包含 README、manager/failsafe/broker 脚本、两份 LaunchAgent plist、CodexRouteProbe.c、tests/smoke.sh、可重建探针说明和经脱敏的 route-spec.json。补充 wave 重传完整 9 文件前缀以支持严格整树校验;Hub 对与 Wave A 相同的 7 个文件按内容去重。编译后探针和运行时快照不作为源资产上传。
以下路径可能包含实时路由、订阅、控制器或恢复快照,即使仓库是 gated 也硬排除;不读取、不展示、不上传其内容:
karing-route-failsafe/live-inspect-*/
karing-route-failsafe/pre-*-backup-*/
karing-route-failsafe/strict-whitelist-candidate-*/
karing-route-failsafe/controller-rescue/**/*.json
延期历史归档:不属于最近两周 active 项目
本轮 active 口径为 2026-08-16 至 2026-08-30 的实质项目文件活动,而不是目录时间或嵌套 Git 元数据变化。按该口径,下列两个候选不进入当前 Wave A/B,延期到历史归档 Wave C:
kernel-design-agents-fresh-20260628/:窗口内只观察到嵌套外部仓库的 Git 元数据变化,没有主项目内容的实质活动。其大型实验输出仍有大量 dataless 文件,后续必须分批水合并完成凭据/隐私扫描后才能归档。elop-systems/:窗口内只观察到 tinygrad 的 Git pack/promisor 元数据变化;内容主要是可重新获取的上游基线仓库。后续默认只生成经脱敏的 component/remote/commit/dirty-state provenance manifest,若发现 dirty component,先保存 patch,再决定是否需要源码快照。
这里的 “Kernel/Elop” 仅指上述两个预检候选,不泛指工作区中所有名称含 kernel 或 elop 的目录。延期表示尚未进入当前上传边界,不表示删除或放弃备份。
全局上传边界
默认上传:源码、配置 schema、锁文件、测试、脚本、研究文档、冻结实验记录、审计回执和明确的最终交付物。
默认排除:
.git/、.DS_Store、__pycache__/、.pytest_cache/、临时文件和临时测试目录;node_modules/、虚拟环境、download/cache 目录、模型权重、工具链和可重新 checkout 的上游依赖;- DerivedData、
.build/、.next/、dist/等可重建构建输出,但上表明确列为“最终交付物”的 PDF/ZIP/package 除外; .env*、cookie、浏览器会话、Keychain 导出、provider token、API key、SSH/VPN 凭据、私钥、设备快照和含个人信息的运行状态。
所有候选文件在进入 stage 前都要先通过路径排除和凭据/个人信息扫描。排除只意味着不进入 MPBU,不授权删除原本地文件。
私密隔离:不上传
| 路径 | 处置 | 原因 |
|---|---|---|
feishu_chat_export/exports/ |
整个目录不上传 | 包含私人聊天导出;只在本地隔离保留,不枚举、不读取、不进入 stage。 |
ResearchOS-device-backups/ |
整个目录不上传 | 包含物理设备前后状态快照;不因 manual gate 而放宽。 |
feishu_chat_export/ 中不含导出内容的工具源码已作为 code-only root 纳入 Wave A,并继续硬排除 exports/、.feishu_profile/ 和 .venv/。私密隔离目录的 manifest 只记录目录级 exclusion rule,不记录其内部文件名或内容。
Downloads 暂存
经审计后需要保留的下载文件按原路径放入 Users/rayw/Downloads/。该目录可能包含尚未归入 canonical 库的新论文、publisher/IEEE/ACM/arXiv 下载批次、重复副本或待确认文件。
Downloads wave 必须为每个对象记录 SHA-256、大小、原路径及 canonical、duplicate、staging、unresolved 等处置状态;不会盲目上传整个 Downloads,也不会上传非科研电子书、零字节文件或凭据。
清单和完整性
backup_manifests/<wave-label>/paper_files.jsonl 是逐路径机器可读清单,记录:
- 原始根目录、相对路径、绝对路径和 HF 路径;
- 正文/本地元数据分类;
- 文件大小、mtime、inode、硬链接信息;
- 符号链接原始目标及解析路径;
- 水合状态、SHA-256、错误和重试次数。
PDF 只有同时满足以下条件才能进入上传 stage:
role == paper_body
status == ok
dataless == false
sha256 非空
哈希前后文件身份一致
每个 wave 必须经过:冻结清单 → 水合 → SHA-256 → 上传 → 固定 commit → 比较远端路径、大小和 LFS/Xet SHA-256 → 保存验证报告。
只有 missing = 0、mismatched = 0、unexpected = 0 后,才允许释放对应本地正文;本地元数据不删除。
链接恢复
Hugging Face 端保存的是每个逻辑路径可读取的普通文件对象,不保留原生 symlink/hardlink 节点。清单会保存原始链接关系。
恢复顺序:
- 下载固定 commit 到新的恢复区;
- 校验普通主文件的路径、大小和 SHA-256;
- 依据清单重建 hardlink;
- 最后依据原始
readlink目标重建 symlink; - 恢复 mode 和 mtime;
- 人工抽样后再替换任何正在使用的目录。
不要把未经检查的 Users/ 快照直接覆盖到正在工作的 home directory。
选择性恢复示例
from huggingface_hub import snapshot_download
snapshot_download(
repo_id="Norius/MPBU",
repo_type="dataset",
revision="<verified-commit-sha>",
local_dir="/path/to/MPBU-restore",
allow_patterns=[
"Users/rayw/Documents/Playground/oral_papers_2024_2026/**",
"backup_manifests/**",
],
)
恢复必须固定到验证报告记录的 commit,而不是动态 main。
- Downloads last month
- 280