Pesquisa e aprendizagem de robôs · ROTEIRO DO CENÁRIO

Construa um conjunto de dados de percepção e um estudo de avaliação

Organize detecção, calibração, rótulos e avaliação realizada para uma tarefa limitada de percepção robótica.

Revisado 27 de Outubro de 2026 · Aprendizagem editorial e orientação de projetos. Profissional significa profundidade do projeto, não uma qualificação credenciada.

O DESTINO

O que você vai produzir

Um cartão de conjunto de dados, avaliador reproduzível e relatório de limitações. Torne os dados reutilizáveis ​​e suas limitações visíveis.

Antes de começar

Iniciando conhecimento

  • Python básico, arrays e processamento de imagens.
  • Entenda a diferença entre uma observação de sensor e uma verdade fundamental.

Equipamento & meio ambiente

Comece com dados existentes licenciados e uma cena controlada. Capture pessoas identificáveis ​​apenas sob um processo apropriado de consentimento e governança.

Sem tempo de conclusão fixo: use os portões de evidências abaixo para decidir quando avançar. Os links de recursos abrem a entrada do diretório botstest; verifique a documentação do editor para obter a versão e configuração exatas.

01

Iniciante

Definir observações e rótulos

Conecte uma questão de percepção a anotações mensuráveis.

Como funciona esta etapa

Os rótulos de percepção representam uma interpretação das observações específica da tarefa. Defina o que não pode ser observado com tanto cuidado quanto o que é visível.

Trabalhe com um exemplo

Exercício de estudo ilustrativo · escrito por botstest

Para um exercício de pose de objeto conhecido, compare uma visualização completa, uma visualização parcial e um quadro com profundidade inválida. Decida quais casos podem suportar o rótulo pretendido e quais exigem um estado desconhecido ou de revisão.

  1. Defina a observação e a quantidade alvo.
  2. Escreva regras para ambiguidade e oclusão.
  3. Audite uma pequena amostra com outro anotador.
Se der errado

Um objeto inobservável não é necessariamente um exemplo negativo; mantenha a visibilidade separada dos rótulos das categorias.

Base de referência: Estimativa de pose geométrica. O exemplo e o passo a passo são aplicações editoriais da fonte.

Aprenda nesta ordem

  1. Definições de tarefas de detecção, pose e geometria
  2. Intrínsecos da câmera, convenções de quadro e carimbos de data/hora
  3. Proveniência, ambigüidade e permissões do rótulo
Leia e aplique

Russ Tedrake · MIT · Capítulo do curso

Estimativa de pose geométrica

Leia: Comece com câmeras, observações de profundidade, retornos perdidos e visualizações parciais antes dos métodos de registro.

Use as suposições de detecção para identificar casos não observáveis antes de rotular os dados ou confiar em uma estimativa geométrica.

Aplique: Identifique quais observações estão faltando, ocluídas ou fora do modelo geométrico escolhido.

Coloque em prática

  1. Inspecione uma pequena imagem ou amostra de nuvem de pontos e seus rótulos.
  2. Escreva regras de anotação para casos difíceis e não observáveis.
Produza isso

Um dicionário de dados, guia de anotação e auditoria de amostra.

Pronto para a próxima etapa quando…

Recursos para esta etapa

Open3D →

Inspecione nuvens de pontos e resultados de processamento de geometria antes de usá-los em um pipeline de percepção.

opencv · opencv →

Estude o processamento de imagens e ferramentas relacionadas à câmera por meio da documentação do projeto upstream.

HOT3D →

Inspecione observações de objetos manuais, anotações e suposições de avaliação para um estudo de percepção focado.

02

Intermediário

Construir avaliação resistente a vazamentos

Meça o comportamento do modelo em uma distribuição significativamente mantida.

Como funciona esta etapa

Imagens da mesma sessão podem compartilhar dependências ocultas. Divida de acordo com a afirmação de generalização e não de conveniência.

Trabalhe com um exemplo

Exercício de estudo ilustrativo · escrito por botstest

Se a declaração for desempenho em novas sessões de captura, mantenha sessões inteiras juntas. Verifique quadros quase duplicados e objetos repetidos antes de usar uma divisão aleatória que possa distribuir evidências quase idênticas entre partições.

  1. Escolha a variação mantida pretendida.
  2. Crie um manifesto dividido reproduzível.
  3. Relate erros por cena e condição de observação.
Se der errado

Resultados de avaliação inesperadamente excelentes deveriam desencadear uma auditoria de vazamento antes de uma afirmação de modelo mais forte.

Base de referência: Validação cruzada: avaliando o desempenho do estimador. O exemplo e o passo a passo são aplicações editoriais da fonte.

Aprenda nesta ordem

  1. Divisões de cena, objeto e sessão
  2. Qualidade de calibração e alinhamento do sensor
  3. Definições de erro de precisão/recall ou apropriadas à tarefa
Leia e aplique

scikit-learn developers · Guia prático

Validação cruzada: avaliando o desempenho do estimador

Leia: Leia a discussão de avaliação prolongada e a estratégia de divisão apropriada às suas dependências de dados.

Use divisões com reconhecimento de dependência para proteger as evidências mantidas contra decisões de treinamento e ajuste.

Aplique: Crie sessões de captura ou divisões em nível de objeto e inspecione uma amostra deliberadamente quase duplicada.

Coloque em prática

  1. Dividido por sessão de captura ou objeto onde a tarefa exigir.
  2. Compare uma linha de base simples em observações normais, ocluídas e deslocadas.
Produza isso

Um caderno de avaliação de linha de base e divisão de conjunto de dados versionado.

Pronto para a próxima etapa quando…

Recursos para esta etapa

BridgeData V2 →

Inspecione um conjunto de dados de manipulação e suas condições de coleta antes de projetar divisões de treinamento e avaliação.

DROID →

Estude um fluxo de trabalho de coleta de dados de manipulação e sua incorporação e suposições ambientais.

apriltag · AprilRobotics →

Explore a detecção fiducial e faça observações de pose com geometria de marcador conhecida e calibração de câmera.

03

Profissional

Libere um conjunto de dados com um escopo honesto

Torne os dados reutilizáveis e suas limitações visíveis.

Como funciona esta etapa

Um conjunto de dados reutilizável explica como as observações brutas se tornaram amostras liberadas. Preserve a proveniência, as convenções e as limitações dos dados.

Trabalhe com um exemplo

Exercício de estudo ilustrativo · escrito por botstest

Selecione um episódio ou imagem lançada e reconstrua sua sessão de captura, calibração, processamento e decisão de rótulo. Peça a um colega para reproduzir a avaliação utilizando apenas os metadados publicados.

  1. Escreva um dicionário de dados e uma nota de permissões.
  2. Processamento de versão e decisões de anotação.
  3. Publique o avaliador e os limites de distribuição.
Se der errado

Uma pasta de conjunto de dados com transformações sem nome e rótulos não documentados não pode suportar reutilização confiável.

Base de referência: LeRobotDataset v3.0. O exemplo e o passo a passo são aplicações editoriais da fonte.

Aprenda nesta ordem

  1. Documentação do conjunto de dados e direitos de uso
  2. Relatórios de distribuição de sensores e cenas
  3. Confiança do modelo, desvio e consequências a jusante
Leia e aplique

Hugging Face · LeRobot · Documentação de referência

LeRobotDataset v3.0

Leia: Inspecione a estrutura e os metadados do conjunto de dados antes de modificar ou combinar episódios.

Use a estrutura de dados para tornar inspecionáveis episódios, observações, ações e proveniência de processamento.

Aplique: Publique a organização dos dados, versões e proveniência para que outro pesquisador possa reconstruir um episódio.

Coloque em prática

  1. Prepare um cartão de dados com detalhes de coleta, processamento e divisão.
  2. Peça a um segundo pesquisador que reproduza a avaliação dos metadados divulgados.
Produza isso

Um cartão de conjunto de dados, avaliador reproduzível e relatório de limitações.

Pronto para a próxima etapa quando…

Recursos para esta etapa

Open X-Embodiment →

Examine dados de demonstração de múltiplas modalidades, metadados, licenças e convenções de ação.

Objaverse →

Explore ativos de objetos com verificações de procedência e licença antes de incluí-los na simulação.

Rerun →

Visualize observações espaciais e compare-as com resultados de modelos e trajetórias.

Armadilhas comuns

  • Dividir aleatoriamente quadros de vídeo adjacentes e chamar a generalização do resultado.
  • Usando dados renderizados ou de vídeo humano como se fossem fatos reais da ação do robô.

Para onde ir a seguir

Estender para manipulação ou inspeção industrial com os mesmos dados e contrato de avaliação.

Explorar outros pesquisa caminhos →