Charles BOUVEYRON Docteur en Mathématiques appliquées Maître de Conférences (section CNU 26) Université Paris 1 Panthéon-Sorbonne Contacts Né le 12/01/1979 Nationalité française E-mail : charles.bouveyron@univ-paris1.fr Web : http://samos.univ-paris1.fr/-charles-bouveyron- SAMOS, Université Paris 1 (Panthéon-Sorbonne) 90 rue de Tolbiac 75634 Paris Cedex 13 - France Tél : +33 (0)1 44 07 87 05 Fax : +33 (0)1 44 07 87 04 Diplômes 2003-2006 Doctorat de Mathématiques appliquées, spécialité Statistique Titre : Modélisation et classification des données de grande dimension Directeurs : Cordelia Schmid et Stéphane Girard Date et lieu de soutenance : 28 septembre 2006, Grenoble Appréciation «Très Bien» 1, Université Joseph Fourier, Grenoble, France 2002-2003 Master de Recherche (DEA) en Mathématiques appliquées Mention «Assez-bien», Université Joseph Fourier, Grenoble, France 2001-2002 Master Professionnel (DESS) en Mathématiques appliquées Mention «Bien», Université Claude Bernard, Lyon, France Expérience professionnelle 2007-... Maître de Conférences en Mathématiques Appliquées Equipe SAMOS-MATISSE, Centre d Economie de la Sorbonne Université Paris 1 Phanthéon-Sorbonne, Paris, France 2006-2007 Chercheur post-doctorant en Statistique Dpt. of Mathematics & Statistics, Acadia University, Canada Thème de recherche : apprentissage statistique sur données structurées 2003-2006 Doctorant en Mathématiques appliquées, spécialité Statistique Equipe SMS du Laboratoire de Modélisation et de Calcul, Grenoble, France Equipes Lear et Mistis de l INRIA Rhône-Alpes, Grenoble, France Thème de recherche : Classification des données de grande dimension 1 L université Joseph Fourier ne décerne plus de mentions pour le diplôme du doctorat depuis 2002. 1
Enseignements 2007-... Maître de Conférences à l université Paris 1 (Panthéon-Sorbonne) Techniques quantitatives et Statistique appliquée, Cours, M2 R ERHPS Analyse des données et Data Mining, Cours, M2 Pro MIAGE Statistique et applications en R, Cours, M2 Pro TIDE Analyse des données, Cours et TD, M1 MAEF Algorithmie en langage C, Cours et TD, L1 MASS Introduction au langage C, TD, L1 MASS 2004-2006 Moniteur à l université Grenoble 2 (Pierre Mendès France) Logiciels de statistique, Cours et TP, L3 Statistique inférentielle, TD, L3 Mathématiques générales, TD, L1 2003-2004 Vacataire à l université Grenoble 1 (Joseph Fourier) Méthodes Statistiques pour la Biologie, TP, L2 Analyse et Algèbre Linéaire, TD, L1 Encadrement de la recherche 2008-2011 Encadrement de la thèse de doctorat de Camille Brunet Sujet : Reconnaissance de formes appliquée au diagnostic cytologique Bourse MENRT, Laboratoire IBISC, Université d Evry Co-encadrement avec V. Vigneron, Université d Evry 2008 Encadrement du stage de Master de Camille Brunet Sujet : Reconnaissance de formes appliquée au diagnostic cytologique Avril septembre 2008, Equipe SAMOS, Université Paris 1 Co-encadrement avec V. Vigneron, Université d Evry 2006 Encadrement du stage de Recherche de Juho Kannala (Finlande) Sujet : High-dimensional data clustering for object recognition Janvier mars 2006, Projet Mistis, INRIA Rhône-Alpes Co-encadrement avec C. Schmid, INRIA Rhône-Alpes 2005 Encadrement du stage de Master de Anwuli Echenim Sujet : Etude des modèles à orientations communes de l HDDA Mai juin 2005, Projet Mistis, INRIA Rhône-Alpes Co-encadrement avec S. Girard, INRIA Rhône-Alpes Responsabilités scientifiques 2009 Organisation du Colloquium «Statistique pour l analyse de l image» 22 23 janvier 2009, Université Paris 1 (Panthéon-Sorbonne) Co-organisé avec V. Vigneron, Laboratoire IBISC, Université d Evry 2
2005-... Évaluation d articles pour 4 journaux scientifiques internationaux Canadian Journal of Statistics (depuis 2009) Statistics and Computing (depuis 2008) Journal of Machine Learning Research (depuis 2007) IEEE Transactions on Pattern Analysis and Machine Intelligence (depuis 2005) Projets et contrats de recherche 2008-... Contrat de recherche avec l entreprise NOVACYT Sujet : Reconnaissance de formes appliquée au diagnostic cytologique avec V. Vigneron et C. Brunet, Laboratoire IBISC, Université d Evry 2008-2010 Porteur d une action scientifique de l université Paris 1 Sujet : Apprentissage statistique à partir de données complexes Budget : 15 000 Euros sur 2 années Responsabilités administratives 2007-... Administrateur informatique de l équipe SAMOS Installation et administration des machines Linux Correspondant de l équipe auprès du Service Informatique de l Université 2003-2006 Administrateur informatique du projet Mistis, INRIA Installation et administration des machines du projet (Linux) Correspondant du projet auprès des Moyens Informatiques de l INRIA 2003-2006 Administrateur web du projet MoviStar ACI du ministère de la Recherche Adresse du site : http://lear.inrialpes.fr/movistar/ Thèmes de recherche Classification des données de grande dimension La classification des données de grande dimension est devenu un problème récurent dans de nombreux domaines scientifiques mais qui reste difficile car les performances des méthodes d apprentissage souffrent dans les espaces de grande dimension du phénomène dit du fléau de la dimension. Ce phénomène est dû au fait que la taille de l échantillon est souvent petite devant le nombre de paramètres à estimer, qui est fonction de la dimension de l espace. Nous proposons donc une modélisation gaussienne adaptée aux données de grande dimension pour la classification. Nous faisons l hypothèse que les données de grande dimension vivent dans des sous-espaces qui peuvent être différents et dont la dimension intrinsèque est inférieure à la dimension de l espace. Nous supposons également que les densités des classes sont normales multivariées. Nous proposons en outre de travailler, pour chaque classe indépendamment, dans son espace propre et de supposer que la matrice de covariance de la classe est bloc-diagonale et ne possède qued i + 1 valeurs propres différentes. Cela implique que les données de la classe vivent dans un sous-espace de dimensiond i <pet que la variance en dehors de ce sous-espace est constante et correspond au bruit d acquisition des 3
données. Cette modélisation donne naissance à une nouvelle méthode de discrimination, nommée Analyse Discriminante de Haute Dimension (HDDA), et une nouvelle méthode de classification automatique basée sur l algorithme d estimation EM, nommée Clustering des Données de Haute Dimension (HDDC). Classification robuste et faiblement supervisée En classification supervisée, la supervision humaine est requise pour associer des labels aux observations d un jeu d apprentissage qui sont ensuite utilisés pour construire un classifieur. Cependant, dans de nombreuses applications, la supervision humaine peut s avérer être imprécise, difficile ou coûteuse. Dans de telles situations, les classifieurs supervisés peuvent être fortement destabilisés et produire des décisions instables. Pour pallier ce problème, nous proposons une méthode de classification robuste au bruit sur les labels qui se base sur un modèle de mélange. L idée de la méthode proposée est de confronter une modélisation non supervisée des données avec l information de supervision portée par les labels afin de détecter des inconsistences. La méthode est ensuite capable de construire un classifieur robuste prenant en compte les inconsistences détectées. Nous montrons également que cette approche peut être étendue à la classification faiblement supervisée dans laquelle la supervision est fournie par des informations faibles ou vagues. Apprentissage adaptatif en régression Le but de la régression est d identifier une relation entre une variable réponse Y et une ou plusieurs variables explicatives X en utilisant un échantillon d apprentissage. Une des hypothèses principales pour pouvoir faire de la prédiction sur un nouvel échantillon est que le modèle de régression Y = f(x) + ǫ est toujours valide. Cependant, cette hypothèse n est pas toujours vérifiée dans la pratique. En effet, si l on considère le cas d une compagnie d assurance spécialiste du marché parisien qui souhaite s implanter à Londres, il est peu probable qu elle puisse utiliser directement ses modèles de prédiction adaptés au marché parisien. Toutefois, il est naturel de penser que le modèle parisien pourrait être adapté au marché londonien à moindre frais sans que la compagnie ait à construire entièrement un nouveau modèle. Pour ces raisons, nous souhaitons proposer d adapter le modèle de régression initial au nouvel échantillon en estimant une transformation entre la fonction de régression initiale f(x) et la nouvellef (X). Dans un travail préliminaire, nous avons considérer une application de notre approche à la modélisation du marché immobilier dans différentes villes de États-Unis et les premiers résultats sont très encourageants. Classification de données structurées Dans de nombreux problèmes, comme par exemple en analyse d images ou en classification d e-mails, les données sont à la fois de grande dimension et corrélées (spatialement ou temporellement). Nous nous sommes donc proposé d adapter les outils de classification classiques basés sur le modèle de mélange gaussien afin qu ils puissent traiter ce type de données. Dans un travail préliminaire, nous avons tout d abord combiné une modélisation gaussienne adaptée aux données de grande dimension avec une modélisation des relations entre les données basée sur les champs de Markov cachés. Une application de cette approche à la reconnaissance de textures a donné des résultats très encourageants. D autre part, nous investigons la possibilité d utiliser un modèle d espace latent de grande dimension pour faciliter la visualisation et le clustering de données issues d un réseau social. En particulier, nous utilisons un critère bayésien pour rechercher la dimension de l espace latent qui soit la meilleure pour représenter et classer de telles données. L application de cette approche à des données de communications e-mails a donné des résultats prometteurs qui permettent une interprétation aisée des données. 4
Application à l analyse de l image Nous nous efforçons d appliquer les résultats théoriques obtenus dans les thèmes d études détaillés ci-dessus à l analyse de l image qui est un domaine où la statistique joue un rôle important depuis quelques années. Nous nous sommes tout d abord intéressés au problème de la reconnaissance d objets dans des images naturelles qui un de problème les plus difficiles en vision par ordinateur. La difficulté de cette tâche est dûe au fait que, d une part, les données sont de grande dimension (en général supérieure à 100) et, d autre part, l annotation manuelle des données d apprentissage n est pas possible vue le nombre d images et d objets existants. Nous avons donc proposer une approche faiblement supervisée dans laquelle chaque objet est modélisé comme étant composé de parties. Pour celà, nous modélisons la densité de la classe comme étant un mélange de parties discriminantes de l objet et de parties non-discriminantes (qui appartiennent au fond). Nous combinons ensuite les méthodes de classification en grande dimension et de classification faiblement supervisée pour apprendre un modèle discriminant de chaque objet et nous pouvons ainsi reconnaître dans une nouvelle image chacun des objets appris. Nous nous sommes intéressés plus récemment au diagnostic cytologique en imagerie bio-médicale qui a pour ambition de détecter précocément le cancer du col de l utérus à partir d images cellulaires provenant d un frottis. Un traitement préliminaire extrait de chaque image toutes les cellules dont les propriétés morphologiques et texturelles sont extraites. Sur la base de ces caractéristiques, nous combinons des méthodes de classification supervisée avec des techniques de sélcetion de variables pour discriminer les cellules «normales»des cellules «anormales»caractérisant un possible cancer du col de l utérus. Ce travail est réalisé en partenariat avec l entreprise NOVACYT spécialiste du tri cellulaire. Publications Articles de journaux avec comité de lecture ou chapitres de livres (4) [1] C. Bouveyron & S. Girard, Robust supervised classification with mixture models : Learning from data with uncertain labels, Pattern Recognition, à paraitre, 2009. [2] C. Bouveyron, S. Girard & C. Schmid, High-Dimensional Data Clustering, Computational Statistics and Data Analysis, vol. 52 (1), pp. 502-519, 2007. [3] C. Bouveyron, S. Girard & C. Schmid, High Dimensional Discriminant Analysis, Communications in Statistics : Theory and Methods, vol. 36 (14), pp. 2607-2623, 2007. [4] C. Bouveyron, S. Girard & C. Schmid, Class-Specific Subspace Discriminant Analysis for High-Dimensional Data, In Lecture Notes in Computer Science n 3940, pp. 139-150, Springer-Verlag, 2006. Pré-publications (1) [5] C. Bouveyron & J. Jacques, Adaptive linear models in regression, Preprint HAL n 00305987, Equipe SAMOS, Université Paris 1 Panthéon-Sorbonne, July, 2008. Communications invitées (3) [6] C. Bouveyron, Classification robuste et apprentissage faiblement supervisé, Colloquium "Statistiques pour l analyse d images" (Statim 09), Paris, France, January 2009. [7] C. Bouveyron, Classification of complex data with model-based techniques, 1st joint meeting of the Statistical Society of Canada and the Société Française de Statistique, Ottawa, Canada, 2008. 5
[8] C. Bouveyron, An overview on high-dimensional data classification with model-based techniques, 8th International Conference on Operations Research, Havana, Cuba, 2008. Conférences internationales avec comité de lecture (14) [9] C. Bouveyron & C. Brunet, Clustering in Fisher discriminative subspaces, 13th International Conference on Applied Stochastic Models and Data Analysis, Vilnius, Lithuania, June 2009. [10] C. Bouveyron, Weakly-supervised classification with mixture models for cervical cancer detection, 10th International Work-Conference on Artificial Neural Networks (IWANN 09), Salamanca, Spain, June 2009. [11] C. Bouveyron, S. Girard & M. Olteanu, Supervised classification of categorical data with uncertain labels for DNA barcoding, 11th European Symposium on Artificial Neural Networks, Bruges, Belgium, April 2009. [12] C. Bouveyron, C. Brunet & V. Vigneron, Classification of high-dimensional data for cervical cancer detection, 11th European Symposium on Artificial Neural Networks, Bruges, Belgium, April 2009. [13] T. Alexandrov & C. Bouveyron, High Dimensional Discriminant Analysis of MALDI imaging mass spectrometry data, 11th International Federation of Classification Societies Conference, Dresden, Germany, March 2009. [14] C. Bouveyron & S. Girard, Robust supervised classification with Gaussian mixtures : learning from data with uncertain labels, 18th International Conference on Computational Statistics, pp. 129-136, Porto, Portugal, 2008. [15] C. Bouveyron & J. Jacques, Adaptive linear models in regression for the modeling of housing market in different U.S. cities, Computational Methods for Modeling and Learning in Social and Human Sciences, Créteil, France, 2008. [16] C. Bouveyron & J. Jacques, Adaptative linear models for regression, 1st joint meeting of the Statistical Society of Canada and the Société Française de Statistique, Ottawa, Canada, 2008. [17] C. Bouveyron & H. Chipman, Visualization and classification of graph-structured data : the case of the Enron dataset, 20th International Joint Conference on Neural Networks, pp. 1506-1511, Orlando, Floride, 2007. [18] C. Bouveyron, J. Kannala, C. Schmid & S. Girard. Object Localization by Subspace clustering of Local Descriptors. 5th Indian Conference on Computer Vision, Graphics and Image Processing, pp. 457-467, Madurai, India, 2006. [19] C. Bouveyron, S. Girard & C. Schmid, High Dimensional Data Clustering, 17th International Conference on Computational Statistics, pp. 812-820, Rome, Italie, 2006. [20] C. Bouveyron, S. Girard & C. Schmid, High Dimensional Discriminant Analysis, 11th International Conference on Applied Stochastic Models and Data Analysis, pp. 526-534, Brest, France, 2005. [21] C. Bouveyron, S. Girard & C. Schmid, Classification of High Dimensional Data : High Dimensional Discriminant Analysis, Workshop on Subspace, Latent Structure and Feature Selection techniques, Bohinj, Slovénie, 2005. [22] C. Bouveyron, S. Girard & C. Schmid, Dimension Reduction and Classification Methods for Object Recognition in Vision, 5th French-Danish Workshop on Spatial Statistics and Image Analysis in Biology, pp. 109-113, St-Pierre de Chartreuse, France, 2004. 6
Conférences nationales avec comité de lecture (6) [23] C. Bouveyron & J. Jacques, Modèles adaptatifs pour les mélanges de régressions, 41èmes Journées de Statistique de la Société Française de Statistique, Bordeaux, France, 2009. [24] C. Bouveyron & C. Brunet, Classication automatique dans les sous-espaces discriminants de Fisher, 41èmes Journées de Statistique de la Société Française de Statistique, Bordeaux, France, 2009. [25] J. Blanchet & C. Bouveyron, Modèle markovien caché pour la classification supervisée de données de grande dimension spatialement corrélées, 38èmes Journées de Statistique de la Société Française de Statistique, Clamart, France, 2006. [26] C. Bouveyron, S. Girard & C. Schmid, Classification des données de grande dimension : application à la vision par ordinateur, 2èmes Rencontres Inter-Associations (RIA 2006) sur la classification et ses applications, pp. 24-25, Lyon, France, 2006. [27] C. Bouveyron, S. Girard & C. Schmid, Une nouvelle méthode de classification pour la reconnaissance de formes, 20e colloque GRETSI sur le traitement du signal et des images, pp. 711-714, Louvain-la-Neuve, Belgique, 2005. [28] C. Bouveyron, S. Girard & C. Schmid, Une méthode de classification des données de grande dimension, 37e Journées de Statistique de la Société Française de Statistique, Pau, France, 2005. Thèses et mémoires (3) [29] C. Bouveyron, Modélisation et classification des données de grande dimension : application à l analyse d images, Thèse de Doctorat, Université Grenoble 1, 2006. [30] C. Bouveyron, Dépliage du ruban cortical à partir d images obtenues en IRMf, Mémoire de DEA de Mathématiques appliquées, Unité Mixte Inserm - UJF 594, Université Grenoble 1, 2003. [31] C. Bouveyron, Traitement des Images d IRMf évenementielle, Mémoire de DESS de Mathématiques appliquées, Inserm Unité 280, Université Lyon 1, 2002. Logiciels (4) [32] C. Bouveyron & J. Jacques, Adaptive linear models for regression (AdaptReg), paquet pour le logiciel R implantant les modèles linéaires adaptatifs pour la régression. [33] C. Bouveyron & H. Chipman, Learning with Latent Networks (LLN), paquet pour le logiciel R regroupant des fonctions d apprentissage pour des données structurées. [34] C. Bouveyron, High-Dimensional Data Classification Toolbox, boite à outils pour Matlab regroupant des méthodes statistiques de classification des données de grande dimension. [35] G. Bouchard & C. Bouveyron, StatLearn Toolbox, boite à outils pour Matlab regroupant des méthodes classiques d apprentissage statistique. Séminaires (9) [36] C. Bouveyron, Mixmod 2.1 : analyse discriminante pour données en grande dimension, 2ème rencontre Mixmod, Université Lille 1, Lille, 2008. [37] C. Bouveyron, Classification de données complexes par méthodes génératives, Séminaire de Probabilités et Statistiques, Département de Mathématiques, Université Paris-Sud 11, Orsay, 2008. 7
[38] C. Bouveyron, Modèles de mélange gaussien pour la classification des données de grande dimension, Séminaire de Mathématiques des systèmes complexes, Université Paris 1, Paris, 2007. [39] C. Bouveyron, High Dimensional Data Classification, Dpt. of Mathematics & Statisctics, Acadia University, Wolfville, Canada, 2006. [40] C. Bouveyron, Modèles de mélange gaussien pour la classification des données de grande dimension et application à l analyse d image, séminaire SMS-LabSad-Mistis, Université Grenoble 1, Grenoble, 2006. [41] C. Bouveyron, Class-Specific Subspace Clustering for Object Recognition, IDIAP, Martigny, Suisse, 2006. [42] C. Bouveyron, Classification des données de haute dimension et applications en vision par ordinateur, Panorama des Recherches Incitatives en STIC, Bordeaux, 2005. [43] C. Bouveyron, Méthodes statistiques pour la reconnaissance d objets, INSERM Unité 594, Grenoble, 2004. [44] C. Bouveyron, Réduction de dimension pour la reconnaissance de formes, Journée des Thésards de Mathématiques Appliquées, Université Grenoble 1, Grenoble, 2003. Autres informations Logiciels scientifiques : Matlab, Octave, R. Langages de programmation : C et C++. Utilisation et administration des systèmes Linux (Fedora, OpenSuse). Développement des logiciels libres Kde Image Menu (KIM) et Kde Video Menu (KVM) de traitement de l image et de la video. Sports : course à pied, escalade, ski, randonnée et vélo. Pratique de la photographie. 8