Recherche et apprentissage des robots · FEUILLE DE ROUTE DU SCÉNARIO

Construire un ensemble de données de perception et une étude d'évaluation

Organisez la détection, l'étalonnage, les étiquettes et l'évaluation en attente pour une tâche de perception robotique limitée.

Révisé 27 octobre 2026 · Apprentissage éditorial et accompagnement de projets. Professionnel signifie profondeur du projet, et non qualification accréditée.

LA DESTINATION

Ce que vous produirez

Une fiche d'ensemble de données, un évaluateur reproductible et un rapport sur les limites. Rendre les données réutilisables et leurs limites visibles.

Avant de commencer

Connaissances de départ

  • Python de base, tableaux et traitement d'images.
  • Comprenez la différence entre une observation par capteur et la vérité terrain.

Équipement & environnement

Commencez avec des données existantes sous licence et une scène contrôlée. Capturez les personnes identifiables uniquement dans le cadre d’un processus de consentement et de gouvernance approprié.

Pas de délai de réalisation fixe : utilisez les portes de preuves ci-dessous pour décider quand avancer. Les liens vers les ressources ouvrent l'entrée du répertoire botstest ; consultez la documentation de son éditeur pour connaître la version et la configuration exactes.

01

Débutant

Définir les observations et les étiquettes

Connectez une question de perception à des annotations mesurables.

Comment fonctionne cette étape

Les étiquettes de perception représentent une interprétation des observations spécifique à une tâche. Définissez ce qui ne peut être observé avec autant de précision que ce qui est visible.

Travailler sur un exemple

Exercice d'étude illustratif · rédigé par botstest

Pour un exercice de pose d'objet connu, comparez une vue complète, une vue partielle et un cadre avec une profondeur invalide. Décidez quels cas peuvent prendre en charge l’étiquette prévue et lesquels nécessitent un état inconnu ou révisé.

  1. Définir l'observation et la quantité cible.
  2. Écrivez des règles d’ambiguïté et d’occlusion.
  3. Auditez un petit échantillon avec un autre annotateur.
Si ça va mal

Un objet inobservable n’est pas nécessairement un exemple négatif ; garder la visibilité séparée des étiquettes de catégorie.

Base de référence : Estimation de la pose géométrique. L'exemple et la procédure pas à pas sont des applications éditoriales de la source.

Apprenez dans cet ordre

  1. Définitions des tâches de détection, de pose et de géométrie
  2. Propriétés intrinsèques de la caméra, conventions de trame et horodatages
  3. Provenance de l'étiquette, ambiguïté et autorisations
Lisez, puis postulez

Russ Tedrake · MIT · Chapitre du cours

Estimation de la pose géométrique

Lire : Commencez par les caméras, les observations de profondeur, les retours manquants et les vues partielles avant les méthodes d'enregistrement.

Utilisez les hypothèses de détection pour identifier les cas inobservables avant d’étiqueter les données ou de faire confiance à une estimation géométrique.

Appliquez-le : Étiquetez les observations manquantes, masquées ou en dehors du modèle géométrique choisi.

Mettez-le en pratique

  1. Inspectez une petite image ou un échantillon de nuage de points et ses étiquettes.
  2. Écrivez des règles d'annotation pour les cas difficiles et inobservables.
Produire ceci

Un dictionnaire de données, un guide d'annotation et un exemple d'audit.

Prêt pour la prochaine étape quand…

Ressources pour cette étape

Open3D →

Inspectez les nuages de points et les résultats du traitement géométrique avant de les utiliser dans un pipeline de perception.

opencv · opencv →

Étudiez le traitement de l’image et les outils liés à la caméra à travers sa documentation de projet en amont.

HOT3D →

Inspectez les observations d’objets manuels, les annotations et les hypothèses d’évaluation pour une étude de perception ciblée.

02

Intermédiaire

Construire une évaluation résistante aux fuites

Mesurez le comportement du modèle sur une distribution significativement maintenue.

Comment fonctionne cette étape

Les images d'une même session peuvent partager des dépendances cachées. Divisé selon l'affirmation de généralisation plutôt que par commodité.

Travailler sur un exemple

Exercice d'étude illustratif · rédigé par botstest

Si l'objectif est la performance des nouvelles sessions de capture, conservez des sessions entières ensemble. Vérifiez les images quasi-dupliquées et les objets répétés avant d'utiliser une répartition aléatoire qui peut distribuer des preuves presque identiques sur les partitions.

  1. Choisissez la variante retenue prévue.
  2. Créez un manifeste fractionné reproductible.
  3. Signaler les erreurs par scène et condition d’observation.
Si ça va mal

Des résultats d’évaluation étonnamment excellents devraient déclencher un audit de fuite avant une affirmation de modèle plus solide.

Base de référence : Validation croisée : évaluation des performances de l'estimateur. L'exemple et la procédure pas à pas sont des applications éditoriales de la source.

Apprenez dans cet ordre

  1. Divisions de scène, d'objet et de session
  2. Qualité de l'étalonnage et alignement du capteur
  3. Définitions d'erreurs de précision/rappel ou adaptées à la tâche
Lisez, puis postulez

scikit-learn developers · Guide pratique

Validation croisée : évaluation des performances de l'estimateur

Lire : Lisez la discussion d'évaluation retenue et la stratégie de répartition adaptée à vos dépendances de données.

Utilisez des divisions tenant compte des dépendances pour protéger les preuves retenues contre les décisions de formation et de réglage.

Appliquez-le : Créez des divisions au niveau de la session de capture ou de l'objet et inspectez un échantillon délibérément presque dupliqué.

Mettez-le en pratique

  1. Divisé par session de capture ou par objet là où la tâche l'exige.
  2. Comparez une ligne de base simple sur des observations normales, occluses et décalées.
Produire ceci

Un bloc-notes de répartition d'ensemble de données versionné et d'évaluation de base.

Prêt pour la prochaine étape quand…

Ressources pour cette étape

BridgeData V2 →

Inspectez un ensemble de données de manipulation et ses conditions de collecte avant de concevoir des divisions de formation et d’évaluation.

DROID →

Étudiez un flux de travail de collecte de données de manipulation et ses hypothèses de mise en œuvre et d'environnement.

apriltag · AprilRobotics →

Explorez la détection des repères et posez des observations avec une géométrie de marqueur connue et un étalonnage de la caméra.

03

Professionnel

Publier un ensemble de données avec une portée honnête

Rendre les données réutilisables et leurs limites visibles.

Comment fonctionne cette étape

Un ensemble de données réutilisables explique comment les observations brutes sont devenues des échantillons diffusés. Préservez la provenance, les conventions et les limites des données.

Travailler sur un exemple

Exercice d'étude illustratif · rédigé par botstest

Sélectionnez un épisode ou une image publié et reconstruisez sa session de capture, son calibrage, son traitement et sa décision d'étiquetage. Demandez à un collègue de reproduire l’évaluation en utilisant uniquement les métadonnées publiées.

  1. Rédigez un dictionnaire de données et une note sur les autorisations.
  2. Décisions de traitement des versions et d’annotation.
  3. Publier l'évaluateur et les limites de distribution.
Si ça va mal

Un dossier d'ensemble de données avec des transformations sans nom et des étiquettes non documentées ne peut pas prendre en charge une réutilisation fiable.

Base de référence : LeRobotDataset v3.0. L'exemple et la procédure pas à pas sont des applications éditoriales de la source.

Apprenez dans cet ordre

  1. Documentation des ensembles de données et droits d'utilisation
  2. Rapports de distribution de capteurs et de scènes
  3. Confiance du modèle, dérive et conséquences en aval
Lisez, puis postulez

Hugging Face · LeRobot · Documentation de référence

LeRobotDataset v3.0

Lire : Inspectez la structure de l'ensemble de données et les métadonnées avant de modifier ou de combiner des épisodes.

Utilisez la structure des données pour rendre les épisodes, les observations, les actions et la provenance du traitement inspectables.

Appliquez-le : Publiez l'organisation, les versions et la provenance des données afin qu'un autre chercheur puisse reconstruire un épisode.

Mettez-le en pratique

  1. Préparez une carte de données avec les détails de la collecte, du traitement et du fractionnement.
  2. Demandez à un deuxième chercheur de reproduire l’évaluation à partir des métadonnées publiées.
Produire ceci

Une fiche d'ensemble de données, un évaluateur reproductible et un rapport sur les limites.

Prêt pour la prochaine étape quand…

Ressources pour cette étape

Open X-Embodiment →

Examinez les données de démonstration multi-modes de réalisation, les métadonnées, les licences et les conventions d'action.

Objaverse →

Explorez les actifs d'objets avec des vérifications de provenance et de licence avant de les inclure dans la simulation.

Rerun →

Visualisez les observations spatiales et comparez-les avec les résultats du modèle et de la trajectoire.

Pièges courants

  • Diviser aléatoirement les images vidéo adjacentes et appeler le résultat en généralisation.
  • Utiliser des données rendues ou vidéo humaines comme s'il s'agissait d'une vérité terrain sur l'action d'un robot.

Où aller ensuite

S'étendre à la manipulation ou à l'inspection industrielle avec le même contrat de données et d'évaluation.

Explorer d'autres recherche chemins →