这是一个基于 Python 3.10+ 的数据处理工具,用于合并 Corobot 数据(基于 lerobotv2.1),增加传感器数据和参数文件支持。
功能:将多个单条 Corobot 数据合并为整体结构。
- 功能介绍
- 合并数据成CoRobot
- 设置已合并标记
- 将CoRobot转换成Robotics
- 安装依赖
pip install -r requirements.txt
- 程序入口
python main.py
- Python 版本: 3.10-3.12
- 依赖包: 见
requirements.txt
pip install -r requirements.txtpython main.py 每个单条数据(如 水果收纳_测试采集任务11CopyCopy_276)包含以下目录:
水果收纳_测试采集任务11CopyCopy_276/
├── 水果收纳_测试采集任务11CopyCopy_276_6151/
│ ├── data/
│ │ └── chunk-000/
│ │ └── episode_000000.parquet
│ ├── depth/
│ │ └── chunk-000/
│ │ ├── observation.images.image_depth_left/
│ │ │ └── episode_000000.avi
│ │ ├── observation.images.image_depth_right/
│ │ │ └── episode_000000.avi
│ │ ├── observation.images.image_depth_top/
│ │ │ └── episode_000000.avi
│ ├── meta/
│ │ ├── common_record.json
│ │ ├── episodes.jsonl
│ │ ├── episodes_stats.jsonl
│ │ ├── info.json
│ │ ├── op_dataid.jsonl
│ │ ├── robot_Ervs4vKu9bG_realman.json
│ │ └── tasks.jsonl
│ └── videos/
│ └── chunk-000/
│ ├── observation.images.image_left/
│ │ └── episode_000000.mp4
│ ├── observation.images.image_right/
│ │ └── episode_000000.mp4
│ └── observation.images.image_top/
│ └── episode_000000.mp4
├── 水果收纳_测试采集任务11CopyCopy_276_6152/
│ └── (类似结构...)
└── merge_tag.txt
合并后的数据目录如下:
水果收纳_测试采集任务11CopyCopy_276/
├── data/
│ └── chunk-000/
│ ├── episode_000000.parquet
│ ├── episode_000001.parquet
│ └── episode_000002.parquet
├── depth/
│ └── chunk-000/
│ ├── observation.images.image_depth_left/
│ │ ├── episode_000000.avi
│ │ ├── episode_000001.avi
│ │ └── episode_000002.avi
│ └── (其他深度图像...)
├── meta/
│ ├── common_record.json
│ ├── episodes.jsonl
│ ├── episodes_stats.jsonl
│ ├── info.json
│ ├── op_dataid.jsonl
│ ├── robot_Ervs4vKu9bG_realman.json
│ └── tasks.jsonl
└── videos/
└── chunk-000/
├── observation.images.image_left/
│ ├── episode_000000.mp4
│ ├── episode_000001.mp4
│ └── episode_000002.mp4
└── (其他视频...)
-
合并逻辑
- 将所有单条数据的
data/*.parquet、depth/*.avi、videos/*.mp4按文件名合并到统一目录。 meta/下的 JSON 文件需处理冲突(如info.json合并字段)。
- 将所有单条数据的
-
依赖工具
- 使用
pandas处理结构化数据(如episodes.jsonl)。 - 使用
shutil复制非结构化文件(如视频/图像)。
- 使用