logan098/ETRI_VR_Robotics_data_research

ETRI VR Robotics Data Research — 데이터 · 가중치 저장소

Apple Vision Pro 텔레오퍼레이션으로 ROBOTIS AI Worker FFW-BG2 실물 시연 데이터를 모으고, VLA(Vision-Language-Action) 모델 3종(π0.5 · GR00T N1.7 · RDT-1B)을 학습해 "언어가 로봇의 행동을 실제로 바꾸는가" 를 실기로 검증하는 연구의 데이터·가중치 정본입니다.

• GitHub (코드 · 문서 · 연구 서사): https://github.com/logan0741/ETRI_VR_Robotics_data_research
• 수행: 김건희 (전남대학교 / ETRI) · 로봇: ROBOTIS AI Worker FFW-BG2 · 물체: YCB 세트

브랜치 안내 — 무엇을 받아야 하는가

브랜치	내용	이런 목적이면
main (여기)	이 문서 + 원본 시연 데이터 data/raw/P0~P3 (태스크당 100 에피소드)	원본 데이터로 직접 가공·학습하려면
pi05	π0.5(openpi) 가중치 v8·v9 각 15종 + 가공 LeRobot 데이터셋(data/v8) + 깊이 라벨(data/v9) + 학습 레시피·실기 결과 문서	π0.5 를 실행·재학습·비교하려면
groot	GR00T N1.7 가중치 v8 15종 + GR00T 형식 데이터셋(data/v8/*_groot) + 문서	GR00T 를 실행·재학습하려면
rdt	RDT-1B 가중치(v6) + 데이터셋 + 정규화 통계·언어 임베딩 등 부속	RDT 를 실행·재학습하려면
result	실물 로봇 회차 기록 — 모델이 실제로 본 입력 프레임 + bridge.log/bringup.log (v6·v7·v8)	실기 결과를 검증·재분석하려면
all_data	학습 서버(RTX 6000 Ada ×3)·H100 서버·로봇 실행 PC 의 전체 작업 디렉토리 tar + 서버·PC 사양 문서 + v8 이전 가중치(models_pre_v8/)·실기 기록(result_pre_v8/)·초기 데이터	환경을 통째로 복원하거나, 위 브랜치에 없는 중간 산출물이 필요하면

v4 브랜치는 LIBERO_training 의 부분집합이라 삭제했습니다. LIBERO_training 은 정리 이전의 통합 브랜치로, 내용이 위 브랜치들에 전부 옮겨졌으며(v8 이전 가중치·실기 기록·서버 스냅샷은 all_data, 옛 원본 tar 는 main data/raw/legacy/) 곧 삭제 예정입니다.

각 브랜치는 자기 README 만 읽으면 실행까지 가능하도록 썼습니다 (가중치 경로 · config 이름 · 데이터 구조 · 학습 조건 · 실기 결과). 코드는 GitHub 저장소에 있습니다 — 학습은 Train 브랜치, 데이터 수집은 VisionPro, 실물 평가는 LAB.

---

연구 방법 요약

연구 질문

목표를 사다리로 정의합니다.

단계	내용	역할
L1	단일 과제 · 깨끗한 장면 (P0~P3 각각, 물체 2개, 1 파지 사이클)	학습
L2	여러 과제를 병합 학습 + 다물체 장면에서 단일 지시문 평가	학습 + 평가
L3	복합 프롬프트("A 하고 B 도 해라")로 한 에피소드에 2 사이클 연쇄	평가 전용 — zero-shot

L1·L2 데이터만 학습한 VLA 가, 본 적 없는 복합 프롬프트(L3)를 수행할 수 있는가. 복합 시연은 수집하지도 학습하지도 않습니다 — 학습시키면 창발이 아니기 때문입니다.

과제 4종 (지시문 문자열은 수집·학습·평가에 이대로 쓰입니다)

P0  Pick up the tomato soup can and place it on the red plate.
P1  Pick up the tomato soup can and place it in the red bowl.
P2  Pick up the Cheez-It box and place it on the red plate.
P3  Pick up the Spam can and place it in the red bowl.

물체는 전부 YCB (005_tomato_soup_can, 003_cracker_box, 010_potted_meat_can, 029_plate, 024_bowl) — 물리 모델이 공개돼 있어 MuJoCo 등 시뮬에서 같은 실험을 재현할 수 있습니다. P0/P1 은 물체가 같고 목적지만 달라 언어만이 분기 단서인 쌍이고, 단독 학습(지시문 1종)은 언어가 죽어 있는 대조군입니다.

수집 → 가공 → 학습 → 평가

1. 수집 — Vision Pro (WebXR 손 트래킹) → FastAPI :8012 (pose · 카메라 4채널 아틀라스 · 20Hz 레코더) → 팔 브릿지 :8013 (게이트 · 캘리브 · pinocchio IK) → 로봇 컨테이너 joint 릴레이 → ros2_control 100Hz. 왼팔 단독, 오른팔·리프트 고정. 카메라 헤드 좌/우(ZED Mini) + 손목 좌/우(RealSense D405), 640×480. 판정은 수집자 육안 (성공 + 회복 시연 유지, 최종 실패 드롭).
2. 가공 — 원본 20Hz pkl → LeRobot 10fps, state 8 / action 8 (왼팔 7 + 왼그리퍼 1). 물체 좌표·상수축을 넣지 않는 "자기 관절값만" 표준형이라 가중치가 이식 가능합니다. action 은 다음 프레임 목표 관절값(절대값) — π0.5·GR00T 모두 팔은 내부적으로 델타로 배우고 출력은 절대 목표 관절값(실행기에서 state 를 더하지 않는다).
3. 학습 — 태스크당 정확히 100 에피소드, 전 런 epoch 2.4 정렬, 스텝은 변환본 실측 프레임에서 자동 산출. 조합 15종(단독 4 + 2조합 6 + 3조합 4 + 4조합 1) × π0.5 · GR00T, 그리고 π0.5 는 깊이 보조 손실(v9)까지 같은 행렬로 한 번 더.
4. 평가 — 실물 회차(10회 단위, 사람 육안 판정) · 결과는 result 브랜치. 판정은 세 갈래: 지시문대로 / 엉뚱한 쪽으로 감(언어 무시의 직접 증거) / 과제 실패.

지금까지의 주요 결과

• 병합 학습이 언어 분기를 만든다 — 학습에 없던 다물체 장면에서 지시문만 바꿔 목적지를 골랐고 목표 혼동이 단독 3/10 → 병합 1/20 (2026-08-19, 66회차).
• 병목은 지각 — 방해물 하나로 단독 모델 성공률 80% → 30%. 파지 실패 대부분이 "그리퍼를 물체 위에서 닫으며 누름"(손목캠 거리 오차) → v9(깊이 보조) 설계 근거.
• 4과제 병합(p0123) 단독 평가에서 실패 68% 가 물체 선택 실패(같은 목적지로 가는 다른 물체를 잡음). 학습 장면에 대상 물체가 하나뿐이라 이름으로 고르는 법을 배운 적이 없음 — 방해물 포함 재수집이 다음 단계.

---

이 브랜치의 데이터 — data/raw/

폴더	지시문	장면	에피소드	수집일
P0/	Pick up the tomato soup can and place it on the red plate.	soup + plate	100	2026-08-03 (87) + 08-04 검증분 편입 (13)
P1/	Pick up the tomato soup can and place it in the red bowl.	soup + bowl	100	2026-08-11 ~ 12
P2/	Pick up the Cheez-It box and place it on the red plate.	box + plate	100	2026-08-12 ~ 18
P3/	Pick up the Spam can and place it in the red bowl.	Spam + bowl	100	2026-08-18 ~ 21

에피소드당 tar 1개 (F_ffw_sg2_follower_L_fastapi_leader_real_<YYYYMMDD_HHMMSS>_<NNN>.tar):

F_..._<NNN>/
  data_<timestamp>.pkl × N     20Hz 스텝 (관절 위치 · 명령 · 그리퍼 · 메타)
  cam_head_l.mp4  cam_head_r.mp4  cam_wrist_l.mp4  cam_wrist_r.mp4   (640×480)

각 폴더의 episodes.txt 가 포함 목록, rejected.txt 가 제외 에피소드와 사유입니다. 상세 규약: data/raw/README.md. LeRobot 변환·병합 스크립트는 GitHub 저장소와 all_data 의 서버 tar(vla_tools/, vla_runs/scripts/)에 있습니다.

받는 법

# git-lfs 필수. 브랜치 하나만, 필요한 폴더만 받는 것을 권장
GIT_LFS_SKIP_SMUDGE=1 git clone -b pi05 --single-branch \
  https://huggingface.co/datasets/ETRI7203/ETRI_VR_Robotics_data_research hf_pi05
cd hf_pi05 && git lfs pull --include="models/v8/pi05_v8_p0123/17899/**"

Citation

@misc{kim2026etrivrvla,
  title        = {ETRI VR Robotics Data Research: Vision Pro Teleoperation Data Collection and
                  Language-Conditioned VLA Training on the ROBOTIS AI Worker FFW-BG2},
  author       = {Kim, Geonhui},
  year         = {2026},
  howpublished = {\url{https://github.com/logan0741/ETRI_VR_Robotics_data_research}},
  note         = {Weights and data: \url{https://huggingface.co/datasets/ETRI7203/ETRI_VR_Robotics_data_research}}
}