Analyse du mouvement dans les vidéos et Suivi d objets

Transcription

1 Analyse du mouvement dans les vidéos et Suivi d objets Aurélie Bugeau Enseirb-Matmeca, IPB Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 1 / 45

2 Introduction Vidéo Séquence d images Chaque image pourrait être traitée indépendamment Pourquoi l analyse de vidéo? Cohérence temporelle Temps de calcul Mouvement : information supplémentaire Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 2 / 45

3 Introduction Que peut on faire? Calculer le mouvement Détecter les objets en mouvement Segmentation de mouvement Suivre les objets Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 3 / 45

4 Détection des objets en mouvement Plan Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 4 / 45

5 Détection des objets en mouvement Détection des objets en mouvement 1. (quels pixels ont changé) 2. Extraction des objets à partir de la carte de mouvement Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 5 / 45

6 Détection des objets en mouvement Objectif : identifier dans chaque image quels pixels ont bougé i.e. quels pixels appartiennent à des objets mobiles Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 6 / 45

7 Détection des objets en mouvement Objectif : identifier dans chaque image quels pixels ont bougé i.e. quels pixels appartiennent à des objets mobiles Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 7 / 45

8 Détection des objets en mouvement Détection des objets en mouvement Identifier dans chaque image quels pixels ont bougé ou J(x, y, t) = I(x, y, t) I(x, y, t 1) J(x, y, t) = I(x, y, t) I ref (x, y, t) Si J(x, y, t) 0 alors le pixel a bougé Sinon pas de mouvement. Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 8 / 45

9 Détection des objets en mouvement Identifier dans chaque image quels pixels ont bougé J(x, y, t) = I(x, y, t) I ref (x, y, t) Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 9 / 45

10 Détection des objets en mouvement Détection des objets en mouvement Identifier dans chaque image quels pixels ont bougé J(x, y, t) = I(x, y, t) I(x, y, t 1) Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 10 / 45

11 Détection des objets en mouvement Détection des objets en mouvement Identifier dans chaque image quels pixels ont bougé ou J(x, y, t) = I(x, y, t) I(x, y, t 1) J(x, y, t) = I(x, y, t) I ref (x, y, t) Si J(x, y, t) 0 alors le pixel a bougé Sinon pas de mouvement. En pratique, utilisation d un seuil (Si J(x, y, t) < τ). Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 11 / 45

12 Détection des objets en mouvement Identifier dans chaque image quels pixels ont bougé J(x, y, t) = I(x, y, t) I ref (x, y, t) τ = 0 τ = 20 τ = 50 τ = 100 Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 12 / 45

13 Détection des objets en mouvement Limitation : difficulté du choix du seuil, de la fréquence D(n) = I(x, y, t + n) I(x, y, t) Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 13 / 45

14 Détection des objets en mouvement Utilisation de trois images : Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 14 / 45

15 Détection des objets en mouvement Contraintes (sans seuil) Caméra fixe Illumination constante Environnement contrôlé Capteur parfait Contraintes (avec seuil) Caméra bougeant lentement Faible variation d éclairement Bruits de capteur Environnement non contrôlé nécessité d estimer le mouvement ou d apprendre le fond Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 15 / 45

16 Détection des objets en mouvement Soustraction de fond Différence d images limitée à des séquences simples Estimation statistique en chaque pixel Moyenne arithmétique des n derniéres images (coûteux) Moyenne récursive (M(x, y, t) = αi(x, y, t) + (1 α)m(x, y, t 1)) Modèle gaussien ou GMM (variance et moyenne récursive) C. Stauffer and E. Grimson, "Adaptive Background Mixture Models for Real-time Tracking," CVPR, Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 16 / 45

17 Détection des objets en mouvement Soustraction de fond 1 1. Source : Massimo Piccardi Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 17 / 45

18 Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement 1. Extraction des composantes connexes, suppression des pixels parasites 2. Etiquetage des composantes connexes Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 18 / 45

19 Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Extraction des objets à partir de la carte de mouvement Extraction des composantes connexes Opérateurs morphologiques (érosion, dilatation) Erosion : supprime les pixels isolés Dilatation : renforce les groupes denses de pixels Ouverture morphologique : érosion puis dilatation Fermeture morphologique : dilatation puis érosion Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 19 / 45

20 Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Opérateurs morphologiques Erosion Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 20 / 45

21 Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Opérateurs morphologiques Dilatation Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 21 / 45

22 Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement Détection des objets en mouvement Extraction des objets à partir de la carte de mouvement 1. Extraction des composantes connexes, suppression des pixels parasites 2. Etiquetage des composantes connexes Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 22 / 45

23 Flot optique Plan Détection des objets en mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 23 / 45

24 Flot optique Flot optique Flot optique = Champ de déplacement Hypothèse de conservation de l intensité : I(x, y, t) = I(x + δ x, y + δ y, t 1) Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 24 / 45

25 Flot optique Flot optique Block matching Equation du flot optique (ECMA : équation de contrainte du mouvement apparent) I(x, y, t) = I(x + δ x, y + δ y, t + δt) I(x, y, t) + δi δi δi.δx +.δy + δx δy δt.δt (Taylor) δi δx.δx δt + δi δy.δx δt + δi δt = 0 I.v + δi δt = 0 Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 25 / 45

26 Flot optique Flot optique I.v + δi δt = 0 Lucas & Kanade Champ de mouvement constant sur des petites régions v = arg min [ I(m, t).v + I t (m, t)] 2 v p Ω Résolution par moindres carrés Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 26 / 45

27 Segmentation de mouvement Plan Détection des objets en mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 27 / 45

28 Segmentation de mouvement Segmentation de mouvement Aurélie Bugeau (Enseirb-Matmeca, IPB) Analyse des vidéos 28 / 45

29 Segmentation de mouvement Suivi d objets dans des vidéos Aurélie Bugeau Enseirb, IPB Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 29 / 45

30 Introduction Introduction Suivi temporel, de points, d objets segmentés ou de boîtes englobants des objets. Suivi temporel À partir des positions de l objet dans les images précédentes, trouver la position de l objet dans la nouvelle image 2 2. Source : Alain Boucher - IFI Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 30 / 45

31 Introduction Introduction Suivi temporel, de points, d objets segmentés ou de boîtes englobants des objets. Difficultés Zoom Occultations Changement d apparence Mouvement de la caméra Objets non rigides Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 31 / 45

32 Introduction Introduction 3 catégories : 1. Detect-before-track 2. Suivi basé sur les distributions 3. Segmentation dynamique Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 32 / 45

33 Detect-before-track Plan Détection des objets en mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 33 / 45

34 Detect-before-track Detect-before-track Mise en correspondance de l objet suivi à t 1 avec les objets détectés à l instant t 3 Critères d appariement Visuels : taille, couleur, forme... Spatiaux : distance entre centres Source : Rémi Mégret Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 34 / 45

35 Detect-before-track Block Matching 4 4. Source : Alain Boucher - IFI Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 35 / 45

36 Detect-before-track Utilisation du mouvement Mouvement permet de prédire la nouvelle position de l objet 5 Prédiction Flot optique Vitesse constante, accélération constante... Appariement Recherche dans un voisinage autour de la prédiction Méthodes de filtrage 5. Source : Elise Arnaud Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 36 / 45

37 Méthodes de filtrage Detect-before-track 6 2 étapes 1. Prédiction 2. Correction à l aide d une mesure 6. Source : Alain Boucher - IFI Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 37 / 45

38 Méthodes de filtrage Detect-before-track 2 étapes 1. Prédiction 2. Correction à l aide d un mesure Erreurs de prédiction et de mesures 7 7. Source : Alain Boucher - IFI Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 38 / 45

39 Detect-before-track Avantages/Inconvénients + Peut gérer l entrée et la sortie d objets dans la scène + Suivi robuste si les détections sont de bonne qualité + Utilisation du mouvement : gestion des occultations - Dépend beaucoup des détections Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 39 / 45

40 Suivi basé sur les distributions Plan Détection des objets en mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 40 / 45

41 Suivi basé sur les distributions Suivi basé sur les distributions Meilleure position correspond à la position pour laquelle la distribution des pixels est la plus proche de celle de référence 8 (poids élevé pour les pixels correspondant au modèle de couleur) 8. Robert Collins Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 41 / 45

42 Suivi basé sur les distributions Suivi basé sur les distributions En général distribution de couleur 9 9. Robert Collins Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 42 / 45

43 Suivi basé sur les distributions Avantages/Inconvénients + Suivi rapide et robuste dans des vidéos couleurs - Ne gère pas l entrée et la sortie de nouveaux objets - Sensible aux changements d illumination - Boîtes englobantes seulement Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 43 / 45

44 Segmentation dynamique Plan Détection des objets en mouvement Flot optique Segmentation de mouvement Detect-before-track Suivi basé sur les distributions Segmentation dynamique Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 44 / 45

45 Segmentation dynamique Segmentation dynamique Faire évoluer le contour obtenu à l instant précédent vers les contours de l image courante. 10 Utilisation des contours actifs 10. Kristen Grauman Aurélie Bugeau (Enseirb, IPB) Analyse des vidéos 45 / 45