wclee6314/nia-robotics-proto

NIA 로봇 작업 실패 원인 추론 및 복구 행동 데이터셋

주의: 본 데이터셋은 사업 공고 지원을 위해 데이터셋 포맷을 사전 검증하기 위한 단순화된 예시(Proof-of-Concept)이다. 하나의 단순한 Pick-and-Place 에피소드를 기반으로 NIA 가이드라인에서 요구하는 데이터 형식(원천데이터, 가공데이터, CoT, 메타데이터)을 미리 구현해본 것이며, 실제 사업 수행 시의 최종 데이터셋과는 규모 및 복잡도에서 큰 차이가 있다. 특히 실패 진단, 원인 추론, 복구 전략 생성과 같은 고난도 추론 데이터는 별도의 시나리오 기획 및 데이터 수집 파이프라인 구축이 필요하며, 현재 포함된 오류/복구 CoT(episode_002)는 형식 예시 수준이다.

1. 개요

본 데이터셋은 NIA(한국지능정보사회진흥원) 데이터 구축 가이드라인(과제6: 로봇 작업 실패 원인 추론 및 복구 행동 데이터)에 따라 구성된 로봇 작업 멀티모달 데이터셋의 포맷 예시이다. Unitree G1 휴머노이드 로봇의 Dex3 핸드를 이용한 물체 집기-놓기(Pick-and-Place) 작업을 수행하며, 계층적 추론 기반의 작업 계획과 오류 감지/복구 과정을 포함한 Chain-of-Thought(CoT) 데이터 형식을 정의한다.

본 데이터셋을 활용하여 학습된 모델의 특성:

• (행동 계획) 자연어 작업 명령을 논리적으로 분해하여 로봇이 실행 가능한 순차적 시맨틱 액션으로 변환할 수 있다.
• (추론 및 복구) 작업 중 발생하는 상황을 인식하고, 실패 시 원인을 분석하여 적절한 복구 전략 및 행동 계획을 생성할 수 있다.

---

2. 디렉토리 구조

dataset_nia_ex/
├── metadata.json              # 데이터셋 전체 메타데이터
├── generate_dataset.py        # 데이터셋 생성 스크립트
├── dataset_loader.py          # VLA 모델용 PyTorch 데이터 로더
├── visualize_dataset.py       # 데이터 시각화 도구
├── README.md                  # 본 문서
│
├── demo_video/                # ★ 데모 영상 (먼저 시청 권장)
│   ├── all_view.mp4               # 4분할 합성 영상 (640x480)
│   ├── front_cam.mp4              # 로봇 헤드 카메라
│   ├── front_3rd_view.mp4         # 3인칭 외부 카메라
│   ├── left_wrist_cam.mp4         # 왼쪽 손목 카메라
│   └── right_wrist_cam.mp4        # 오른쪽 손목 카메라
│
├── visualizations/            # ★ 시각화 결과 (PNG)
│   ├── dashboard.png              # 데이터셋 요약 대시보드
│   └── episode_XXX/
│       ├── camera_grid.png        # 4카메라 x 8프레임 그리드
│       ├── joint_trajectories.png # 오른팔 7관절 시간별 궤적
│       ├── ee_trajectory_3d.png   # EE 3D 궤적
│       ├── ee_position_over_time.png  # EE/블록 위치 시간 변화
│       └── phase_timeline.png     # 13단계 타임라인
│
└── episodes/                  # 에피소드 데이터
    ├── episode_001/           # 정상 수행 (성공)
    │   ├── source_data_1.json     # 원천데이터① - 자연어 명령
    │   ├── source_data_2.json     # 원천데이터② - 시계열 로봇 상태
    │   ├── processed_data_1.json  # 가공데이터① - 계층적 CoT
    │   ├── processed_data_2.json  # 가공데이터② - 상태 라벨링
    │   ├── processed_data_3.json  # 가공데이터③ - 오류/복구 CoT
    │   └── images/                # 카메라 이미지 (symlink)
    ├── episode_002/           # 파지 실패 시나리오
    └── episode_003/           # 성공 변형 시나리오

---

3. 데모 영상

demo_video/ 디렉토리에 Pick-and-Place 전체 시퀀스 영상이 포함되어 있다. 데이터셋 이해를 위해 먼저 시청을 권장한다.

파일	해상도	FPS	설명
all_view.mp4	640x480	30	4카메라 2x2 합성 (전체 시점 요약)
front_cam.mp4	640x480	30	로봇 헤드 1인칭 시점
front_3rd_view.mp4	640x480	30	3인칭 외부 시점
left_wrist_cam.mp4	640x480	30	왼쪽 손목 근접 시점
right_wrist_cam.mp4	640x480	30	오른쪽 손목 파지 시점

---

4. 시각화 도구

4.1 실행 방법

cd output/dataset_nia_ex

# 전체 에피소드 시각화
python3 visualize_dataset.py

# 특정 에피소드만
python3 visualize_dataset.py --episode episode_002

# 결과 저장 위치 지정
python3 visualize_dataset.py --save_dir ./my_vis

4.2 시각화 결과물 (visualizations/)

파일	내용
dashboard.png	데이터셋 전체 요약 (시나리오/난이도/단계별 분포)
camera_grid.png	4카메라 x 8프레임 시간순 이미지 그리드
joint_trajectories.png	오른팔 7관절 시간별 궤적 (단계별 색상 배경)
ee_trajectory_3d.png	EE 3D 궤적 + 블록 위치 마커
ee_position_over_time.png	EE X/Y/Z + 블록 위치 시간 변화
phase_timeline.png	13단계 타임라인 (가로 막대, 한글 라벨)

---

5. 에피소드 목록 및 데이터 통계

5.1 에피소드 목록

에피소드	시나리오	난이도	단위작업 수	스텝 수	시간(초)	설명
episode_001	success	상	13	759 (서브샘플 99)	25.3	정상 성공 수행 (원본)
episode_002	failure_grasp	상	13	759 (서브샘플 99)	25.3	파지 실패 + 복구 CoT
episode_003	success_variant	상	13	759 (서브샘플 99)	25.3	블록 위치 변형 성공

5.2 데이터 통계

항목	수량
총 에피소드 수	3
총 서브샘플 스텝 수	297 (99 x 3)
원본 총 스텝 수	2,277 (759 x 3)
카메라 이미지 총 수	~32,000 (4카메라 x ~8,000프레임)
CoT 데이터 (가공①)	3건 (L1→L2→L3 각 13단위작업)
오류/복구 CoT (가공③)	1건 (episode_002, 3단계 추론 + 5단계 복구)
난이도 분포	상: 3 (100%)
시나리오 분포	성공: 2 (67%), 실패: 1 (33%)

---

6. 데이터 구조 (NIA 3계층)

6.1 L1: 자연어 명령 (Natural Language Command)

고수준 작업 지시:

"테이블 위의 빨간 블록을 오른손으로 집어서 지정 위치(노란 박스)에 놓아라."

6.2 L2: 논리적 작업 분해 (Logical Task Decomposition)

13개 단위 작업으로 분해:

#	단위 작업	설명	제어 방식
1	작업 준비	오른팔을 작업 높이로 들어올림	cuRobo MotionGen
2	파지 자세 전환	손바닥 아래+손끝 20° 숙임	cuRobo MotionGen
3	블록 상방 이동	블록 위 20cm로 수평 이동	cuRobo MotionGen
4	하강	블록 높이까지 4cm 수직 하강	cuRobo MotionGen
5	파지	Dex3 세 손가락 45% 닫기 (80 steps)	관절 보간
6	블록 들기	블록 파지 상태로 15cm 상승	cuRobo MotionGen
7	목표 이동	노란 박스 위로 이동 (높이 유지)	cuRobo MotionGen
8	왼팔 보조	왼손 10cm 좌측 이동	Jacobian IK
9	블록 배치	15cm 하강	cuRobo MotionGen
10	해제	세 손가락 열기 (60 steps)	관절 보간
11	후퇴	15cm 상승	cuRobo MotionGen
12	정리	오른쪽 15cm 이동	cuRobo MotionGen
13	홈 복귀	초기 위치로 복귀	cuRobo MotionGen

6.3 L3: 로봇 행동 계획 (Robot Action Plan)

각 단위 작업에 대한 구체적 관절 제어 궤적, EE 목표 자세, 시작/종료 스텝 정보.

---

7. 데이터 파일 상세

7.1 원천데이터① (source_data_1.json)

자연어 명령 및 시나리오 정보.

{
  "episode_id": "episode_001",
  "scenario_type": "success",
  "difficulty": "상",
  "nl_command": "테이블 위의 빨간 블록을 오른손으로 집어서 지정 위치에 놓아라.",
  "nl_command_en": "Pick up the red block on the table with your right hand and place it at the designated position.",
  "sub_instructions": [
    {
      "task_id": 1,
      "phase": "LIFT",
      "instruction_kr": "오른손을 들어올려 작업 준비 자세를 취하라.",
      "instruction_en": "Raise the right hand to a ready position for task execution."
    },
    ...
  ]
}

7.2 원천데이터② (source_data_2.json)

시계열 로봇 상태 데이터. 원본 759 스텝 중 서브샘플링(매 10번째 + 단계 전환 시점).

{
  "total_original_steps": 759,
  "subsample_method": "every_10th_plus_transitions",
  "timesteps": [
    {
      "step": 51,
      "timestamp": 1.234,
      "state_label": "EXEC_LIFT",
      "joint_positions": [0.0, 0.0, ...],
      "joint_velocities": [0.0, 0.0, ...],
      "right_ee_position": [-4.348, -3.892, 0.841],
      "right_ee_orientation_quat": [0.999, 0.005, 0.014, -0.006],
      "left_ee_position": [-4.052, -3.887, 0.829],
      "left_ee_orientation_quat": [...],
      "object_position": [-4.239, -4.079, 0.824],
      "object_orientation_quat": [1, 0, 0, 0],
      "action_command": [0.0, 0.0, ...],
      "image_paths": {
        "front_cam": "images/front_cam/000051.jpg",
        "front_3rd_view": "images/front_3rd_view/000051.jpg",
        "left_wrist_cam": "images/left_wrist_cam/000051.jpg",
        "right_wrist_cam": "images/right_wrist_cam/000051.jpg"
      }
    },
    ...
  ]
}

7.3 가공데이터① (processed_data_1.json) - 계층적 CoT

L1→L2→L3 계층적 Chain-of-Thought. 각 단계별 추론 근거 포함.

{
  "cot": {
    "L1_command": "빨간 블록을 오른손으로 집어서 지정 위치에 놓아라.",
    "L1_reasoning": "테이블 위에 빨간색 정육면체 블록(6cm)이 있고, 이를 Dex3 핸드로 파지하여 목표 위치로 이동시켜야 한다. 13단계로 분해하여 순차 실행한다.",
    "L2_task_decomposition": [
      {
        "task_id": 1,
        "task_name": "작업 준비 (팔 들어올리기)",
        "phase": "LIFT",
        "description": "오른팔을 테이블 높이보다 높은 작업 준비 위치로 들어올린다.",
        "reasoning": "블록에 안전하게 접근하기 위해 오른팔을 블록 위치보다 높은 곳으로 이동시켜야 한다.",
        "preconditions": ["로봇이 초기 자세에 있음", "오른팔 구동 가능"],
        "postconditions": ["오른손이 블록 상방에 위치", "EE 높이가 블록보다 10cm 이상 높음"],
        "unit_operations": ["right_arm_lift_10cm"]
      },
      ...
    ],
    "L3_action_plan": [
      {
        "action_id": 1,
        "parent_task_id": 1,
        "action_type": "move_ee",
        "planner": "curobo_motiongen",
        "start_step": 0,
        "end_step": 38,
        "start_ee_position": [-4.348, -3.892, 0.841],
        "end_ee_position": [-4.349, -3.891, 0.938],
        "start_object_position": [-4.239, -4.079, 0.824],
        "end_object_position": [-4.239, -4.079, 0.824]
      },
      ...
    ]
  }
}

7.4 가공데이터② (processed_data_2.json) - 상태 라벨링

{
  "task_status": "success",
  "error_type": null,
  "environment": {
    "simulator": "isaac_sim_5.1",
    "scene": "small_warehouse_digital_twin",
    "table_position": [-4.3, -4.2, -0.2],
    "lighting": "default_warehouse"
  },
  "objects": [
    {
      "name": "red_block",
      "type": "cuboid",
      "size_cm": [6, 6, 6],
      "mass_kg": 1.0,
      "material": "rigid",
      "initial_position": [-4.25, -4.03, 0.84],
      "final_position": [-4.19, -3.89, 0.97]
    }
  ],
  "phase_labels": [
    {"phase": "EXEC_LIFT", "start_step": 0, "end_step": 38, "status": "success", "duration_s": 1.27},
    {"phase": "EXEC_ROTATE", "start_step": 39, "end_step": 86, "status": "success", "duration_s": 1.57},
    ...
  ],
  "quality_metrics": {
    "position_accuracy_cm": 0.7,
    "total_duration_s": 25.3,
    "trajectory_smoothness": 0.92
  }
}

7.5 가공데이터③ (processed_data_3.json) - 오류/복구 CoT

성공 시나리오: 예방적 관찰만 포함. 실패 시나리오(episode_002): 3단계 이상 추론 + 복구 전략.

{
  "has_error": true,
  "error_events": [
    {
      "step": 150,
      "error_recognition": {
        "type": "grasp_failure",
        "description": "블록 파지 실패 - 손가락이 블록을 충분히 감싸지 못함",
        "detection_method": "force_feedback_anomaly"
      },
      "cause_reasoning": {
        "reasoning_steps": [
          {"step": 1, "detail": "손가락 닫힘 각도(45%)가 블록 크기(6cm) 대비 부족하다."},
          {"step": 2, "detail": "블록과 EE의 수평 거리 오차가 4.7cm로 허용 오차(2cm)를 초과하였다."},
          {"step": 3, "detail": "하강 깊이(4cm)가 블록 높이(6cm) 대비 얕아 접촉면이 부족하다."}
        ],
        "root_cause": "EE-블록 수평 정렬 오차와 하강 깊이 부족의 복합 원인"
      },
      "recovery_strategy": {
        "strategy_description": "파지 재시도: 손가락 벌림 → EE 재정렬 → 하강 깊이 증가 → 재파지",
        "reasoning_steps": [
          {"step": 1, "action": "open_hand", "reasoning": "블록과의 접촉을 완전히 해제한다."},
          {"step": 2, "action": "realign_ee", "reasoning": "EE를 블록 중심 상방으로 재정렬한다."},
          {"step": 3, "action": "increase_descent", "reasoning": "하강 깊이를 6cm로 증가시킨다."},
          {"step": 4, "action": "close_hand_stronger", "reasoning": "손가락 닫힘 비율을 65%로 증가시킨다."},
          {"step": 5, "action": "verify_grasp", "reasoning": "파지 안정성을 확인한 후 다음 단계로 진행한다."}
        ]
      }
    }
  ]
}

---

8. 로봇 사양

8.1 로봇 모델 정보

항목	사양
로봇 모델	Unitree G1-29dof
핸드	Dex3-1 (3지 손, 좌/우)
전체 관절 수	43 (본체 29 + 핸드 14)
다리 관절	12 (좌/우 각 6: hip_yaw, hip_roll, hip_pitch, knee, ankle_pitch, ankle_roll)
허리 관절	3 (waist_yaw, waist_roll, waist_pitch)
팔 관절	14 (좌/우 각 7: shoulder_pitch/roll/yaw, elbow, wrist_roll/pitch/yaw)
손가락 관절	14 (좌/우 각 7: thumb_0/1/2, middle_0/1, index_0/1)
최대 도달거리 (팔)	~35cm (base frame 기준)
가반하중	약 3kg (단일 팔)

8.2 그리퍼(핸드) 스펙

항목	사양
핸드 모델	Unitree Dex3-1
손가락 수	3 (엄지, 검지, 중지)
손가락 자유도	7 per hand (thumb: 3, index: 2, middle: 2)
엄지 관절 범위	thumb_0: -1.051.05 rad, thumb_1: -1.050.61 rad, thumb_2: -1.75~0 rad
검지 관절 범위	index_0: 01.57 rad, index_1: 01.75 rad
중지 관절 범위	middle_0: 01.57 rad, middle_1: 01.75 rad
파지 방식	3점 접촉 (위에서 아래 접근)

8.3 센서 구성

센서	위치	해상도	주파수
front_cam	로봇 헤드 (d435_link)	640x480	50Hz
front_3rd_view	외부 고정 (PerspectiveCamera)	640x480	50Hz
left_wrist_cam	왼쪽 손목	640x480	50Hz
right_wrist_cam	오른쪽 손목	640x480	50Hz
관절 인코더	각 관절	-	시뮬레이션 스텝

---

9. 데이터 수집 환경

9.1 시뮬레이션 환경

항목	정보
시뮬레이터	NVIDIA Isaac Sim 5.1.0
프레임워크	Isaac Lab (IsaacLab)
물리 엔진	PhysX 5
Physics dt	0.005s
Render dt	0.01s (decimation=2)
모션 플래너	cuRobo (NVIDIA, GPU 가속 궤적 최적화)
GPU	NVIDIA GeForce RTX 4090
OS	Ubuntu 22.04 (Docker)

9.2 작업 환경

항목	정보
장소	소형 물류 창고 (small_warehouse_digital_twin)
작업대	테이블 (table_with_yellowbox), 위치: [-4.3, -4.2, -0.2]
대상 물체	빨간색 정육면체 블록 (6x6x6 cm, 1.0 kg, 강체)
배치 목표	노란색 박스 (테이블 위)
조명	기본 창고 조명

9.3 좌표계

• World frame: Isaac Sim 글로벌 좌표 (Z-up)
• Base frame: torso_link 기준 (cuRobo 사용)
• 로봇 방향: init_rot (0.7071, 0, 0, -0.7071) = Z축 -90° 회전
  • 로봇 전방 = world -Y, 로봇 좌측 = world +X, 로봇 우측 = world -X

---

10. 데이터 로더 사용법

10.1 기본 사용법

from dataset_loader import NIARoboticsDataset

dataset = NIARoboticsDataset(
    root_dir="output/dataset_nia_ex",
    cameras=["front_cam", "right_wrist_cam"],
    include_cot=True,
)

sample = dataset[0]
print(sample["language"])        # 자연어 명령
print(sample["sub_instruction"]) # 현재 단계 하위 명령
print(sample["phase_label"])     # 현재 단계 (예: EXEC_LIFT)
print(sample["robot_state"])     # 관절 위치, EE 포즈, 객체 포즈
print(sample["action"])          # 관절 목표 액션
print(sample["cot"])             # Chain-of-Thought 텍스트

10.2 VLA 모델 형식 변환

vla_sample = dataset.to_vla_format(0)
# vla_sample["image"]       : torch.Tensor [C, H, W] (첫 번째 카메라)
# vla_sample["instruction"] : str (자연어 + CoT)
# vla_sample["state"]       : torch.Tensor [21] (EE pos(3) + quat(4) + arm(7) + hand(7))
# vla_sample["action"]      : torch.Tensor [21]

10.3 필터링

# 성공 시나리오만
success_ds = NIARoboticsDataset(root_dir="...", scenario_filter=["success"])

# 실패 시나리오 + 오류 CoT
failure_ds = NIARoboticsDataset(root_dir="...", scenario_filter=["failure_grasp"], include_error_cot=True)

# 난이도 필터
medium_ds = NIARoboticsDataset(root_dir="...", difficulty_filter=["중"])

10.4 PyTorch DataLoader

from dataset_loader import create_dataloader

loader = create_dataloader(
    root_dir="output/dataset_nia_ex",
    batch_size=4,
    cameras=["front_cam"],
    include_cot=True,
    shuffle=True,
)

for batch in loader:
    images = batch["images"]
    actions = batch["action"]
    # 학습 루프 ...

10.5 전체 궤적 모드

traj_ds = NIARoboticsDataset(root_dir="...", load_full_trajectory=True, include_cot=True)
trajectory = traj_ds[0]
print(f"궤적 길이: {len(trajectory['steps'])} 스텝")

---

11. 난이도 기준

NIA 가이드라인에 따른 난이도 분류:

난이도	기준	본 데이터셋
상	단위 작업 10개 이상	13개 (해당)
중	단위 작업 4~9개	-
하	단위 작업 3개 이하	-

작업 계층 구조:

• 단위 조작 (기본 동작 요소): 관절 이동, 손가락 열기/닫기 등
• 단위 작업 (2개 이상 단위 조작의 조합): "팔 들어올리기", "손목 회전" 등
• 복합 작업 (2개 이상 단위 작업의 조합): "빨간 블록 Pick-and-Place"

---

12. 라이선스 및 참고

• NIA 로봇 작업 실패 원인 추론 및 복구 행동 데이터 구축 가이드 (과제6)
• Unitree G1 로봇 사양서 (https://github.com/unitreerobotics/unitree_ros)
• cuRobo: NVIDIA CUDA 기반 로봇 모션 플래닝 (https://github.com/NVlabs/curobo)
• Isaac Lab: NVIDIA Isaac Sim 기반 로봇 학습 프레임워크 (https://github.com/isaac-sim/IsaacLab)
• 시뮬레이션 데이터는 자체 생성 데이터로 저작권 문제 없음