NoProjectOnlyResearch/dataset-backup

Dataset Backup

本仓库用于备份 MSRA 服务器 9.223.177.62 上 /datadrive 盘中的数据集。

说明

• 本仓库仅作备份/归档之用。
• 每个数据集都是从其根目录开始整体压缩（tar + pigz，软链接已解引用以避免丢数据）。命名即原数据集文件夹名（路径分隔符 / 用 __ 替换）。
• 由于 HF 单文件上限 50GB，仓库里有两种布局：
  • 小数据集（压缩后 <50GB）：单文件 名字.tar.gz 直接放在一级目录。
  • 大数据集（压缩后 ≥50GB）：建一个 名字/ 文件夹，里面是该数据集的分片 名字.tar.gz.part000、part001…（每片约 45GiB）。

恢复方式

REPO=NoProjectOnlyResearch/dataset-backup

# (A) 小数据集 —— 单文件, 直接下载解压
huggingface-cli download $REPO BeautyBench.tar.gz --repo-type dataset --local-dir .
tar -xf BeautyBench.tar.gz                       # 得到 BeautyBench/ 目录

# (B) 大数据集 —— 下载整个分片文件夹, 合并后解压
huggingface-cli download $REPO --repo-type dataset \
  --include "UNO_makeup/*" --local-dir .
cat UNO_makeup/UNO_makeup.tar.gz.part* | tar -xz  # 按序合并分片并解压

来源

• 服务器：9.223.177.62（MSRA）
• 来自该服务器 /datadrive 盘上的各数据集目录（具体路径不固定）。