Sequential Topic Models for Mining Recurrent Activities and their Relationships: Application to long term video recordings

Transcription

1 Sequential Topic Models for Mining Recurrent Activities and their Relationships: Application to long term video recordings THÈSE N O 5469 (2012) PRÉSENTÉE le 30 août 2012 À LA FACULTÉ DES SCIENCES ET TECHNIQUES DE L'INGÉNIEUR LABORATOIRE DE L'IDIAP PROGRAMME DOCTORAL EN GÉNIE ÉLECTRIQUE ÉCOLE POLYTECHNIQUE FÉDÉRALE DE LAUSANNE POUR L'OBTENTION DU GRADE DE DOCTEUR ÈS SCIENCES PAR Jagannadan Varadarajan acceptée sur proposition du jury: Prof. P. Fua, président du jury Dr J.-M. Odobez, directeur de thèse Prof. P. Frossard, rapporteur Prof. S. Gong, rapporteur Prof. B. Schiele, rapporteur Suisse 2012

2 i Abstract In this thesis, we address the analysis of activities from long term data logs with an emphasis on video recordings. Starting from simple words from video, we progressively build methods to infer higher level scene semantics. The main strategies used to achieve this are: the use of simple lowlevel visual features that can be readily extracted, and of probabilistic topic models that come with powerful learning and inference tools. In the initial part of the thesis, we investigate the use of a simple topic model called Probabilistic Latent Semantic Analysis (PLSA) for video scene analysis. By quantizing location, optical flow direction and foreground blob size into words, and considering short video clips as documents, we discover topics from PLSA that represent recurrent activities in the scene. We then demonstrate how the topics can be used to analyze the scene activities, segment the scene into homogeneous activity regions and detect abnormalities. The topics from PLSA have no temporal structure and hence do not represent activities well. To address this issue, we develop a novel sequential topic model called Probabilistic Latent Sequential Motifs (PLSM) which automatically discovers sequential patterns called motifs that include temporal information from videos. To address the problem of observations caused by multiple activities in the scene, the PLSM formulation uses explicit random variables to represent time at different levels: at a higher level to determine when a motif starts in the video, and at a lower level to know the order of words within the motif. Using a sparsity constraint on the event start times, and MAP priors on the temporal axis of the motifs, we designed an inference algorithm. When applied to surveillance videos, the model captures motifs that resemble trajectories. The model provides more information than PLSA, giving clues about when and where an activity starts, when it ends and how it is executed. As in many unsupervised topic models, deciding the most appropriate number of topics is a difficult problem. To address this, we reformulate PLSM using principles of Bayesian non-parametrics. The new method called Hierarchical Dirichlet Latent Sequential Motifs (HDLSM) uses Dirichlet processes at multiple levels to select a suitable number of motifs and identify their occurrences in the data. The final objective is to analyze how events in a scene are organized. At a global level, a scene can be thought of as undergoing a sequence of phases, each with distinct characteristics. At a more local level, the individual activities can exhibit dependencies that are possibly causal in nature. Following this, we propose a new graphical model called Mixed Event Relationship (MER) model, that incorporates the learning of both local rules and global states simultaneously from a binary event matrix. Learning these scene semantics is achieved using an iterative Gibbs sampling procedure. While the global scene states recover traffic cycles, the local rules provide information about single and multi-object activity interactions. We validate the proposed methods with elaborate experiments on nine different challenging datasets with a wide variety of activity content. The results prove the general applicability of the different methods proposed in this thesis. We believe that they can have wider applications on data coming from sensor logs of other modalities too.

3 ii Keywords: video, activity, scene segmentation, abnormality, event detection, event relationships, multi-camera, sequential, motifs, pattern recognition, data mining, unsupervised, probabilistic topics models, gibbs sampling PLSA, LDA, PLSM, DP, HDP, HDLSM, MER.

4 iii Résumé Dans ce manuscrit, nous nous intéressons à l analyse d activités à partir de longs enregistrements avec un intérêt particulier pour les données vidéo. Partant de simples mots extraits de vidéos, nous proposons des méthodes pour obtenir une compréhension de plus haut niveau de la sémantique de la scène observée. Les principales stratégies utilisées pour cela sont : l utilisation de descripteurs visuels de bas niveau et la proposition de modèles probabilistes avec les outils d apprentissage et d inférence associés. Dans la première partie de cette thèse, nous abordons l utilisation d un topic model simple appelé Probabilistic Latent Semantic Analysis (PLSA) pour l analyse de scène vidéo. En quantifiant la localisation, la direction du flux optique et la taille de l objet de premier plan pour en faire des mots, et en considérant de courts clips vidéos comme des documents, nous découvrons des topics à l aide de PLSA qui représentent les activités récurrentes dans la scène. Nous montrons ensuite comment les topics extraits peuvent être utilisés pour analyser les activités présentes dans la scène, segmenter la scène en régions d activité homogènes et détecter des anomalies. Les topics extraits par PLSA n ont pas de structure temporelle et ne représentent donc pas efficacement les activités. Pour traiter ce problème, nous développons un nouveau topic model séquentiel appelé Probabilistic Latent Sequential Motifs (PLSM) qui permet de découvrir de manière automatique des topics séquentiels appelés motifs qui capturent l information temporelle des vidéos. Pour faire face au problème du mélange des observations issues d objets différents de la scène, la formulation du modèle PLSM fait appel à des variables aléatoires explicites pour représenter le temps à plusieurs échelles : à un haut niveau pour déterminer le début d un motif et à un niveau plus bas pour expliciter l ordre d apparition des observations dans le motif. En utilisant une contrainte d éparsité sur les instants de début des événements et des a priori sur la dimension temporelle des motifs, nous proposons un algorithme d inférence. Appliqué à des scènes vidéos, le modèle capture des motifs assimilables à des trajectoires. Le modèle fournit plus d information que PLSA, donnant une information sur le début et la fin des activités et sur la façon dont elles sont exécutées. Comme pour de nombreux topic models non supervisés, il est difficile de décider du nombre approprié de motifs à retenir. Pour cela, nous reformulons le modèle PLSM en utilisant les principes bayésiens non paramétriques. La nouvelle méthode appelée Hierarchical Dirichlet Latent Sequential Motifs (HDLSM) utilise des processus de Dirichlet à plusieurs niveaux pour sélectionner le nombre adéquat de motifs et identifier leurs occurrences dans les données. Notre objectif final est d analyser comment les événements sont organisés dans une scène. À un niveau global, une scène peut être vue comme une séquence de phases, chaque phase ayant des caractéristiques propres. Â un niveau plus local, les activités individuelles peuvent exhiber des dépendances qui peuvent łtre de nature causale. En conséquence, nous proposons un nouveau modèle graphique appelé Mixed Event Relationship (MER) qui comprend l apprentissage simultané de règles locales et d états globaux à partir d une matrice binaire d événements. L apprentissage de la sémantique de la scène se fait à l aide d une procédure d échantillonnage de Gibbs itérative. Alors que les états globaux correspondent aux cycles de traffic, les règles locales fournissent de

5 iv l information à propos d interactions entre activités impliquant possiblement plusieurs objets. Nous validons les méthodes proposées par des expériences sur neuf jeux de données complexes contenant une grande variété d activités. Les résultats prouvent l applicabilité générale des différentes méthodes proposées dans ce manuscrit. Nous pensons qu elles peuvent avoir des champs d applications plus larges sur des données issues d enregistrements de capteurs d autres modalités. Mots-clés : vidéo, activité, segmentation de scène, anomalies, détection d événement, relations entre événements, multi-caméras, séquentiel, motifs, reconnaissance de motifs, fouille de données, non supervisée, topic models probabilistes, échantillonnage de Gibbs, PLSA, LDA, PLSM, DP, HDP, HDLSM, MER.

6 Contents 1 Introduction Motivation Challenges Terminology Objectives and Approach Contributions and Thesis Organization Literature review Video representation Background subtraction Optical flow and motion detection Spatio-temporal features Object trajectories Tracklets Vocabulary design Learning Methods in activity modeling Supervised activity modeling Unsupervised activity modeling Probabilistic Topic Models Temporal modeling with PTMs Model Selection Inferring scene semantics Performance Evaluation Summary Datasets and Features Datasets Outdoor traffic scenes Metro indoor scenes Data from micro-phone arrays

7 2 CONTENTS 3.2 Feature extraction Summary Activity Analysis Using PLSA Introducing PLSA Geometric Interpretation and relation to other models PLSA Inference Activity patterns and scene segmentation Activity patterns Scene segmentation Abnormality detection Abnormality measures Results and discussion Summary Probabilistic Latent Sequential Motifs Probabilistic Latent Sequential Motif Model Notation and model overview Generative Process Model inference Likelihood optimization with sparsity constraint Maximum a-posterior Estimation (MAP) Model Selection Experiments on synthetic data Data and experimental protocol Results Application to video scene activity analysis Activity word and temporal document construction Motif representation Video Scene Analysis Results Experimental details PLSM motifs and activities Event detection Activity prediction Audio Scene Analysis with Microphone array Conclusion Mixed Event Relationship Model Introduction Model and Inference Characteristics of activity data

8 CONTENTS Building the model Generative Process Model Inference Experimental setup Results Global rules Local rules Numerical evaluation on a prediction task Conclusion Conclusions and Future work Conclusions Limitations and Future work Appendices 119 A Parameter estimation for PLSM 119 B Hierarchical Dirichlet Latent Sequential Motifs 123 B.1 Approach Overview B.2 Proposed Model B.2.1 Background on Dirichlet Processes (DP) B.2.2 Base of the Proposed Model B.3 PLSM vs HDLSM C Parameter estimation for MER model 131 D Bayesian Statistics 137 Curriculum Vitae 151