# FateFusion 데이터셋 다운로드 인덱스

**목적**: 중복 크롤링/다운로드 방지를 위한 데이터셋 상태 추적
**최종 업데이트**: 2026-01-14
**총 확보 데이터**: 77,847건

---

## 📋 다운로드 상태 추적표

### 범례
- ✅ **DOWNLOADED**: 다운로드 완료, 로컬 저장됨
- ⏳ **PENDING**: 발견했으나 아직 다운로드 안됨
- ❌ **NOT_AVAILABLE**: 데이터셋 없음
- ⚠️ **NEEDS_PROCESSING**: 다운로드됨, 구조화 필요
- 🔄 **NEEDS_UPDATE**: 업데이트 가능한 데이터

---

## 🟢 서양 점술 - 타로 (Tarot)

### 1. HuggingFace: Dendory/tarot
```yaml
상태: ✅ DOWNLOADED
URL: https://huggingface.co/datasets/Dendory/tarot
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_dendory_5770.csv
          ./datasets/tarot_dendory_5769.jsonl
데이터 건수: 5,769건
파일 크기: 2.9 MB (CSV) + 3.2 MB (JSONL)
라이선스: MIT
데이터 유형: spread_interpretation (3장 카드 조합)
품질: ChatGPT 생성 (검증 필요)
중복 체크: barissglc/tarot와 동일 가능성 높음
재다운로드: ❌ 불필요 (이미 확보)
```

**다운로드 스크립트**: `download_csv.py`

---

### 2. HuggingFace: barissglc/tarot
```yaml
상태: ⏳ PENDING (Dendory/tarot와 중복 가능성)
URL: https://huggingface.co/datasets/barissglc/tarot
데이터 건수: 5,769건 (Dendory와 동일)
중복 확인 필요: ✅ YES
재다운로드: ❌ 불필요 (Dendory로 충분)
```

**Action**: 중복 확인 후 스킵

---

### 3. GitHub: dariusk/corpora - Tarot Interpretations
```yaml
상태: ✅ DOWNLOADED
URL: https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_corpora_interpretations.json
데이터 건수: 78건 (전체 타로 카드 의미)
파일 크기: 85 KB
라이선스: CC0 (Public Domain)
데이터 유형: multi_factor_interpretation (카드별 해석)
품질: 전문가 해석 (Mark McElroy)
재다운로드: ❌ 불필요
```

**다운로드 방법**:
```bash
wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json
```

---

### 4. GitHub: ekelen/tarot-api
```yaml
상태: ✅ DOWNLOADED
URL: https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/tarot_api_card_data.json
데이터 건수: 78건 (Rider-Waite-Smith 덱)
파일 크기: 79 KB
라이선스: Open Source
데이터 유형: static_interpretation (카드 기본 정보)
재다운로드: ❌ 불필요
```

**다운로드 방법**:
```bash
wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json
```

---

### 5. Kaggle: lsind18/tarot-json
```yaml
상태: ⏳ PENDING (우선순위 낮음)
URL: https://www.kaggle.com/datasets/lsind18/tarot-json
데이터 건수: 78건
재다운로드: ❌ 불필요 (corpora/tarot-api로 충분)
```

**Action**: 스킵 (이미 78장 카드 데이터 확보됨)

---

## 🟢 서양 점술 - 점성술 (Astrology)

### 6. Kaggle: shahp7575/horoscopes
```yaml
상태: ✅ DOWNLOADED
URL: https://www.kaggle.com/datasets/shahp7575/horoscopes
다운로드 날짜: 2026-01-14
로컬 경로: ./datasets/horoscope_saved.csv
데이터 건수: 12,000건
파일 크기: 9.2 MB
라이선스: Kaggle Public
데이터 유형: temporal_prediction (12 별자리 × 5 카테고리)
출처: Horoscope.com 스크래핑 (2021)
재다운로드: ❌ 불필요
업데이트 체크: 🔄 매년 1회 (최신 데이터 확인)
```

**다운로드 스크립트**: `download_kaggle.py`

**다운로드 방법**:
```bash
kaggle datasets download -d shahp7575/horoscopes
```

---

### 7. Kaggle: gokhanyu/open-astrology-datasets
```yaml
상태: ✅ DOWNLOADED
URL: https://www.kaggle.com/datasets/gokhanyu/open-astrology-datasets
다운로드 날짜: 2026-01-14
로컬 경로:
  - ./datasets/gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv (18 MB)
  - ./datasets/gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv (18 MB)
  - ./datasets/gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv (18 MB)
데이터 건수: 60,000건 (20,000 × 3 파일)
파일 크기: 54 MB
라이선스: GPL 2
데이터 유형: multi_factor_interpretation (커플 궁합)
재다운로드: ❌ 불필요
```

**다운로드 스크립트**: `download_kaggle.py`

**다운로드 방법**:
```bash
kaggle datasets download -d gokhanyu/open-astrology-datasets
```

---

### 8. GitHub: g-battaglia/kerykeion
```yaml
상태: ⏳ PENDING (라이브러리만)
URL: https://github.com/g-battaglia/kerykeion
타입: 계산 라이브러리 (해석 데이터 없음)
라이선스: AGPL-3.0
활용: 점성술 차트 생성용
재다운로드: ❌ 불필요 (데이터셋 아님)
```

**Action**: 스킵 (계산 라이브러리)

---

## 🟡 서양 점술 - 수비학 (Numerology)

### 9. Kaggle: atharvakoshti/astrology-and-numerology-dataset
```yaml
상태: ⏳ PENDING (우선순위 중간)
URL: https://www.kaggle.com/datasets/atharvakoshti/astrology-and-numerology-dataset
데이터 건수: 불명 (PDF 추출 텍스트)
파일 크기: 1.4 MB
라이선스: Apache 2.0
데이터 유형: multi_factor (PDF → TXT 변환 필요)
최종 수정: 2024-12-26 (최신!)
재다운로드: ⚠️ 필요 시 (구조화 작업 필요)
```

**다운로드 방법**:
```bash
kaggle datasets download -d atharvakoshti/astrology-and-numerology-dataset
```

**TODO**: PDF 텍스트 구조화 스크립트 작성

---

## 🔴 서양 점술 - 룬 (Runes)

### 10. IEEE DataPort: Elder Futhark Recognition
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://ieee-dataport.org/documents/handwriting-elder-futhark-alphabet-recognition
DOI: 10.21227/5grg-a785
데이터 건수: 불명 (25 클래스)
데이터 유형: 문자 인식용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)
```

**Action**: 스킵 (이미지 인식용, 점술 해석 없음)

---

### 11. Roboflow: Elder Futhark Object Detection
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://universe.roboflow.com/brandon-aho-vjjr8/elder-futhark
데이터 건수: 1,731장 이미지
데이터 유형: 이미지 인식용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)
```

**Action**: 스킵

---

### 12. GitHub: Rundata (스칸디나비아 룬 텍스트 DB)
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://github.com/Stiftet/rundata-net
데이터 건수: ~4,000개 룬스톤 텍스트
라이선스: GNU GPL
데이터 유형: 역사 연구용 (점술 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)
```

**Action**: 스킵

---

## 🔴 동양 점술 - 사주팔자 (Saju/Bazi)

### 13. GitHub: tommitoan/bazica
```yaml
상태: ❌ NOT_DOWNLOADED (라이브러리만)
URL: https://github.com/tommitoan/bazica
타입: 계산 라이브러리 (Go)
제공 데이터: 60년 주기, 십간십이지, 절기 (JSON)
해석 데이터: ❌ 없음 (계산만)
라이선스: MIT
재다운로드: ❌ 불필요 (해석 데이터 없음)
```

**Action**: 스킵 (계산 라이브러리)

---

### 14. 사주 해석 데이터셋
```yaml
상태: ❌ NOT_AVAILABLE
검색 키워드:
  - "사주팔자 데이터셋"
  - "Four Pillars destiny dataset"
  - "bazi dataset"
  - "Chinese astrology birth chart"
발견 결과: 0건
대안:
  - 수동 생성 (ChatGPT/Claude)
  - 크롤링 (법적 리스크)
  - 유료 데이터 구매
```

**Action**: Phase 2 작업 (별도 전략 필요)

---

## 🔴 동양 점술 - 관상/손금/토정비결/꿈해몽

### 15. Kaggle: shyambhu/hands-and-palm-images-dataset
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://www.kaggle.com/datasets/shyambhu/hands-and-palm-images-dataset
데이터 건수: 11,076장 손 이미지
데이터 유형: 생체 인식용 (손금 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)
```

**Action**: 스킵

---

### 16. Roboflow: Palmistry Object Detection
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://universe.roboflow.com/palmistry-ccmq5/palmistry-dhpnb
데이터 건수: 7,177장 이미지
데이터 유형: 이미지 인식용 (손금 해석 없음)
재다운로드: ❌ 불필요 (점술 데이터 아님)
```

**Action**: 스킵

---

### 17. Sleep and Dream Database
```yaml
상태: ❌ NOT_DOWNLOADED (우선순위 낮음)
URL: https://sleepanddreamdatabase.org/
데이터 건수: 44,500+ 꿈 보고서
데이터 유형: 서양 꿈 연구 (한국 꿈해몽 아님)
재다운로드: ❌ 불필요 (한국 문화 데이터 아님)
```

**Action**: 스킵

---

### 18. 관상/토정비결/팔로산테
```yaml
상태: ❌ NOT_AVAILABLE
검색 결과: 0건
이유:
  - 관상: 윤리적 이유로 공개 데이터셋 없음
  - 토정비결: 공개 데이터셋 없음
  - 팔로산테: 공개 데이터셋 없음
```

**Action**: Phase 2 작업 (별도 전략 필요)

---

## 📊 다운로드 통계 요약

### 총 확보 데이터셋

| 카테고리 | 다운로드 완료 | 보류 | 불필요 | 없음 |
|---------|------------|------|-------|------|
| **서양 타로** | 4개 | 1개 | 1개 | 0개 |
| **서양 점성술** | 2개 | 0개 | 1개 | 0개 |
| **서양 수비학** | 0개 | 1개 | 0개 | 0개 |
| **서양 룬** | 0개 | 0개 | 3개 | 0개 |
| **동양 사주** | 0개 | 0개 | 1개 | 1개 |
| **동양 손금** | 0개 | 0개 | 2개 | 0개 |
| **동양 기타** | 0개 | 0개 | 1개 | 3개 |

**총 데이터셋**: 18개
**✅ 다운로드 완료**: 6개 (33%)
**⏳ 보류**: 2개 (11%)
**❌ 불필요/없음**: 10개 (56%)

---

### 확보된 데이터 건수

| 데이터셋 | 건수 | 크기 | 상태 |
|---------|------|------|------|
| Dendory/tarot | 5,769 | 6.1 MB | ✅ |
| Corpora Tarot | 78 | 85 KB | ✅ |
| Tarot API | 78 | 79 KB | ✅ |
| Kaggle Horoscopes | 12,000 | 9.2 MB | ✅ |
| Open Astrology | 60,000 | 54 MB | ✅ |
| **총계** | **77,925** | **~70 MB** | ✅ |

**중복 제거 후 예상**: ~77,847건

---

## 🚀 다운로드 프로세스

### 1단계: 환경 설정
```bash
# Kaggle API 키 설정
mkdir ~/.kaggle
cp kaggle.json ~/.kaggle/
chmod 600 ~/.kaggle/kaggle.json

# 필요 패키지 설치
uv pip install datasets pandas kaggle requests
```

### 2단계: 다운로드 스크립트 실행
```bash
cd C:\Users\SSAFY\projects\FateFusion_Datasets

# HuggingFace 타로 (5,769건)
uv run python download_csv.py

# Kaggle 점성술 (72,000건)
uv run python download_kaggle.py

# GitHub 타로 해석 (156건)
wget https://raw.githubusercontent.com/dariusk/corpora/master/data/divination/tarot_interpretations.json -O datasets/tarot_corpora_interpretations.json
wget https://raw.githubusercontent.com/ekelen/tarot-api/main/static/card_data.json -O datasets/tarot_api_card_data.json
```

### 3단계: 다운로드 검증
```bash
# 파일 목록 확인
ls -lh datasets/

# 데이터 건수 확인
uv run python verify_downloads.py
```

---

## ⚠️ 중복 방지 규칙

### Rule 1: 동일 소스 체크
- **barissglc/tarot** vs **Dendory/tarot**: 건수 동일 (5,769) → 중복 가능성
- **Action**: 다운로드 전 데이터 해시 비교

### Rule 2: 동일 카테고리 체크
- **타로 78장 카드 데이터**: 이미 3개 소스 확보
  - corpora/tarot_interpretations.json ✅
  - tarot-api/card_data.json ✅
  - lsind18/tarot-json ⏳ (스킵)

### Rule 3: 데이터 유형 체크
- **이미지 인식용 데이터**: 점술 해석 없음 → 스킵
  - Elder Futhark (룬 이미지)
  - Hands and Palm (손금 이미지)

### Rule 4: 라이브러리 vs 데이터셋
- **계산 라이브러리**: 해석 데이터 없음 → 스킵
  - kerykeion (점성술 계산)
  - bazica (사주 계산)

---

## 📋 다운로드 체크리스트

### 완료된 항목 ✅
- [x] HuggingFace Dendory/tarot CSV (5,769건)
- [x] GitHub Corpora Tarot JSON (78건)
- [x] GitHub Tarot API JSON (78건)
- [x] Kaggle Horoscopes (12,000건)
- [x] Kaggle Open Astrology (60,000건)

### 보류 항목 ⏳
- [ ] Kaggle Astrology-Numerology (구조화 필요)
- [ ] HuggingFace barissglc/tarot (중복 확인 필요)

### 스킵 항목 ❌
- [x] Kaggle lsind18/tarot-json (이미 확보됨)
- [x] IEEE Elder Futhark (이미지 인식용)
- [x] Roboflow Elder Futhark (이미지 인식용)
- [x] Roboflow Palmistry (이미지 인식용)
- [x] Kaggle Hands and Palm (이미지 인식용)
- [x] GitHub Rundata (역사 연구용)
- [x] GitHub kerykeion (계산 라이브러리)
- [x] GitHub bazica (계산 라이브러리)
- [x] Sleep and Dream DB (서양 꿈 연구)

### 부재 항목 🔴
- [ ] 사주 해석 데이터 (대안 전략 필요)
- [ ] 관상 데이터 (윤리적 이슈)
- [ ] 토정비결 데이터 (공개 데이터 없음)
- [ ] 한국 꿈해몽 데이터 (공개 데이터 없음)
- [ ] 팔로산테 데이터 (공개 데이터 없음)

---

## 🔄 업데이트 정책

### 주기적 체크 필요
| 데이터셋 | 체크 주기 | 이유 |
|---------|----------|------|
| Kaggle Horoscopes | 매년 1회 | 최신 운세 데이터 |
| Kaggle Astrology-Numerology | 분기 1회 | 2024년 신규 |
| HuggingFace Tarot | 필요 없음 | 정적 데이터 |

### 자동 업데이트 스크립트
```bash
# TODO: 분기별 자동 체크 스크립트 작성
# check_updates.py
```

---

## 📁 파일 구조

```
FateFusion_Datasets/
├── DATASET_INDEX.md              # 이 파일 (중복 방지 인덱스)
├── datasets/                     # 다운로드된 데이터셋
│   ├── tarot_dendory_5770.csv
│   ├── tarot_dendory_5769.jsonl
│   ├── tarot_corpora_interpretations.json
│   ├── tarot_api_card_data.json
│   ├── horoscope_saved.csv
│   ├── gauq-couples-aspects-REAL-7deg-20000-noa2b-cdata4.csv
│   ├── gauq-couples-aspects-RANDOMIZED-7deg-20000-noa2b-cdata4.csv
│   └── gauq-couples-aspects-RANDOMIZED2-7deg-20000-noa2b-cdata4.csv
├── download_csv.py               # HuggingFace 타로 다운로드
├── download_kaggle.py            # Kaggle 데이터셋 다운로드
├── download_huggingface_direct.py # HuggingFace Parquet 다운로드
├── upload_to_gdrive.py           # 구글 드라이브 업로드 (Python)
└── Colab_Upload_to_GDrive.ipynb  # 구글 드라이브 업로드 (Colab)
```

---

## 🎯 다음 단계

### Phase 1: 데이터 검증 및 구조화
- [ ] 중복 데이터 제거 스크립트 작성
- [ ] FateFusion JSONL 형식 변환
- [ ] 데이터 품질 검증

### Phase 2: 부족 데이터 확보
- [ ] 수비학 데이터 구조화 (PDF → JSONL)
- [ ] 동양 점술 데이터 수집 전략 수립
- [ ] 크롤링 or 수동 생성 결정

### Phase 3: 구글 드라이브 동기화
- [ ] Colab 노트북 실행
- [ ] 자동 업로드 스크립트 작성
- [ ] 버전 관리 시스템 구축

---

**마지막 업데이트**: 2026-01-14
**다음 체크**: 2026-04-01 (분기별)