Fusion de la DCT-PCA et la DCT-RLDA pour la Reconnaissance de Visages

Transcription

1 Fusion de la DC-PCA et la DC-RLDA pour la Reconnaissance de Visages Messaoud Bengherabi, Lamia Mezai, Farid Harizi, Abderrazak Guessoum 2, Mohamed Cheriet 3 Centre de Développement des echnologies Avancées Division Architecture des Systèmes et Multimédia Cité 20 Aout, BP, Baba Hassen, Alger bengherabi@yahoo.com, l_mezai@yahoo.fr, harizihourizi@yahoo.fr 2 Université Saad Dahlab de Blida Laboratoire raitement de signal et d imagerie Route De Soumaa BP 270 BLIDA, Algérie guessouma@hotmail.com 3 École des echnologies Supérieur Laboratoire d Imagerie, de Vision et d Intelligence Artificielle 00, Rue Notre-Dame Ouest, Montréal (Québec) H3C K3 Canada mohamed.cheriet@gpa.etsmtl.ca Résumé Dans cet article, nous proposons la fusion en score de deux méthodes de reconnaissance de visage à savoir l analyse en composantes principales (PCA) et l analyse discriminante linéaire régularisée (R-LDA) et ce dans le domaine DC. Des expériences ont été effectuées sur la base de données ORL indique que l'utilisation des techniques de normalisation tel que Min-Max et somme suivie d'une stratégie simple de fusion (somme simple, append, la somme pondérée) confirme les avantages de l'approche proposée en termes de taux d'identification et temps de traitement. Mots clés Analyse en composantes principales (PCA, l analyse discriminante linéaire (LDA), l analyse discriminante linéaire régularisée (R-LDA), reconnaissance de visage, transformée en cosinus discrète bidimensionnelle (2D-DC). Introduction et motivation La biométrie est une discipline qui vise à établir l'identité d'une personne en mesurant l une de ses caractéristiques physiques. La reconnaissance de visages, qui tient une place centrale en biométrie, est une tâche particulièrement difficile et généralement considérée comme un problème ouvert. Elle possède de nombreuses applications dans les domaines de sécurité informatique, de multimédia et aussi en sciences cognitives.

2 2 M. Bengherabi et al. Plusieurs algorithmes de reconnaissance de visage ont été proposés ces dernières années [], chacun repose sur une représentation particulière du visage. Nous pouvons identifier deux types d'approches: l approche globale dans laquelle l'image du visage est considéré comme un vecteur de caractéristique, et l approche locale qui consiste à appliquer des transformations à des endroits spécifiques de l image tel que les coins des yeux, de la bouche, le nez,...etc. L analyse en composantes principales (PCA) est l une des méthodes les plus utilisées dans la reconnaissance de visages, elle a été proposée par M. A. urk et M. P. Pentland [2]. Dans l'identification de visage basée sur la PCA, les images de visage 2D sont transformées en vecteurs colonnes D. Le calcul de la matrice de covariance à base de ces vecteurs est difficile à cause de la grande taille des vecteurs D et le nombre important d'échantillons d apprentissage. En général, le calcul des vecteurs propres d'une grande matrice de covariance prend beaucoup de temps. L analyse discriminante linéaire (LDA) est née des travaux de Belhumeur et al. en 997 [3]. La LDA effectue une véritable séparation de classe et cela en minimisant les variations entre les images d un même individu tout en maximisant les variations entre les images d individus différents. Néanmoins, lorsque le nombre d individus est inférieur à la résolution de l image, il est difficile d appliquer la LDA qui peut faire apparaître des matrices de dispersions singulières. Afin de contourner ce problème, certains algorithmes basés sur la LDA ont été proposées [4;5], le plus connu est la RLDA (Regularized LDA) [5]. La réduction de dimensionnalité employant la PCA ou la LDA nécessite un temps prohibitif lorsque la dimension et le nombre d'échantillons d apprentissage sont importants. Pour cette raison, la réduction de la complexité informatique est fortement exigée. Pour cela, la transformée en cosinus discrète (DC) a été utilisée dans l'identification de visages pour la réduction de dimension [6]. Dans [7], il a été prouvé expérimentalement que la PCA et la LDA peuvent être appliquées sur un nombre réduits de coefficients DC pour réaliser une meilleure reconnaissance avec un gain en temps de calcul et en espace mémoire. Afin d'améliorer le taux de reconnaissance de la PCA et LDA, leur fusion est proposée par G. L. Marcialis et F. Roli en 2002 [8], ils ont remarqué que la LDA et la PCA ne sont pas corrélées car la LDA génère un espace propre significativement différent de la PCA. Les expériences effectuées dans [8] montrent que la fusion de la LDA et de la PCA ont donné de bons résultats. Dans cet article, nous proposons la fusion en score de la DC-PCA et la DC-RLDA. Les méthodes DC-PCA et DC-RLDA sont utilisés au lieu de la PCA et la RLDA, respectivement, afin de réduire le temps d'exécution et d'avoir une meilleure performance. Le reste de cet article est organisé comme suit. La section 2 présente les techniques : PCA, LDA, DC-PCA et DC-RLDA. La section 3 aborde la fusion de la DC-PCA et la DC-RLDA. La section 4 présenté les résultats expérimentaux. Enfin, la section 5 conclue ce papier et donne les perspectives de ce travail. 2 Vue d'ensemble des algorithmes de reconnaissance de visages basés sur la PCA, RLDA 2. Algorithme de reconnaissance de visages basé sur la PCA L idée principale de l algorithme PCA consiste à exprimer nos M images de départ selon une base de vecteurs orthogonaux particuliers (vecteurs propres). Ceci est effectué comme suit :

3 3 ransformer chaque image d apprentissage en vecteur colonne, et concaténer tous les vecteurs d apprentissage pour former une matrice X. Ajuster les données d apprentissage par rapport à la moyenne µ. X = X μ () Calculer la matrice de covariance G = X X (2) Déterminer la matrice des vecteurs propres W ordonnée suivant la matrice des valeurs propres Λ, elle-même triée par ordre décroissant, en résolvant l'équation suivante : GW = ΛW (3) Projeter toutes les images d apprentissage par la matrice W comme suit : Y = W X (4) ransformer chaque image test en vecteur colonne, puis utiliser Eq. (4) pour obtenir le modèle p, puis une mesure de similarité peut être utilisée pour la classification. Afin de mesurer la similarité entre deux vecteurs, nous avons utilisé la distance de Minkowski d'ordre p : p n p L p = xi y i (5) i = el que X = (x,..., x n ) et Y = (y,..., y n ). Dans nos expériences, nous avons utilisé deux distances dérivées de la distance de Minkowski, la première obtenue par p= appelée la distance de Manhattan (L) et la deuxième obtenue par p=2 et appelée la distance euclidienne (L2). 2.2 Algorithme de reconnaissance de visages basé sur la RLDA L'idée de base de la RLDA est de trouver une transformation linéaire qui permet de séparer entre les classes après leurs projections. De plus, la matrice X qui contient les images d apprentissage est composée de C classes et dans chaque classe, on a mi individus. La RLDA est appliqué comme suit : Exprimer la matrice de dispersion inter-classes S B comme suit : Avec : μ i = x j est la moyenne de la i éme classe. mi j i B Φb.Φb S = (6) [ Φ,...,Φ ], Φ = m ( μ μ) Φb = b, b,c b,i i i (7) M μ = xi = mcμc est la moyenne de toutes les classes. M i= M c Déterminer les d vecteurs propres de Φb.Φ b désignés par E d = [ e,..., ed ], où d C-. Calculer les d vecteurs propres U d de S B correspondant aux d plus grandes valeurs propres (Λ b ) par:

4 4 M. Bengherabi et al. U d = ΦbEd, Λ B = U d S BU d (8) 2 Poser H U d Λ = B. Déterminer les vecteurs propres de H S wh notés par P = [ p ],..., p d. S w est la matrice de dispersion intra-classe définie comme: C mi Sw = ( x j μ i )( x j μi ) (9) i= j= Choisir les D vecteur propres important de P (D d). La matrice de projection W est calculée comme suit: 2 W = HP D ( η I + Λw ) (0) Où : I : matrice identité, 0 η : paramètre de régularisation, généralement pris à η=0-4. Projeter les images d apprentissage comme suit : Y = W X () ransformer chaque image test en vecteur colonne, puis utiliser Eq. () pour obtenir p, puis une mesure de similarité peut être utilisée pour la classification 2.3 La PCA et la RLDA dans le domaine DC La complexité de calcul engendrée par la PCA et la RLDA particulièrement quand la résolution des images et la taille de l échantillon d apprentissage sont tous deux grandes, a fait que les chercheurs ont pensé à intégrer une étape qui pourrait diminuer le temps de calcul pour parvenir à un vrai système de reconnaissance de visage, car le temps de réponse est très important dans ce cas. L une des solutions est d utiliser le vecteur de coefficient 2D-DC [7] de l image au lieu d utiliser le vecteur image lui-même (figure ). Figure : Extraction de caractéristiques dans la DC-PCA et la DC-RLDA

5 5 3 L approche proposée Dans cette section, nous présentons notre méthodologie de fusion en score de deux approches de reconnaissance du visage à savoir : la DC-PCA et la DC-RLDA. La figure 2 montre le schéma de la méthode proposée. Il est composé des étapes suivantes: Modélisation des visages basée par les approches : DC-PCA et DC-RLDA; Calcul des vecteurs de distance D DC-PCA et D DC-RLDA de tous les M visages de la base de visages Normalisation des vecteurs de distance Combinaisons des vecteurs de distance suivant une règle de fusion. Figure 2 : Fusion en score de la DC-PCA et DC-RLDA 3. Stratégie de fusion Comme on peut le constater, les deux méthodes DC-PCA et DC-LDA ont la même structure de score. On a un vecteur de taille p qui contient les paramètres correspondant au visage test à reconnaitre et une matrice des modèles Y de taille (p, M) tel que M représente le nombre de visages d apprentissage utilisés, chaque colonne de Y est un vecteur modèle d un individu (classe) de la base. La comparaison entre Y et se fait alors en calculant les distances entre avec chaque colonne de Y, ainsi on disposera d un vecteur de distances D(d,,d M ) de taille M qui représentera les scores à fusionner. 3.2 Normalisation des scores Etant donné que les scores obtenus des différentes techniques de reconnaissance sont hétérogènes, la normalisation de score est indispensable avant de les combiner. Dans ce travail nous avons utilisé deux techniques normalisation Min-Max et Somme. On note le vecteur de distance par d,..., D = d,..., d. D = ( ), et son vecteur normalisé par ( ) d M n n Mn

6 6 M. Bengherabi et al MIN-MAX Cette méthode range les scores dans l intervalle [0,], avec D max et D min sont respectivement le maximum et le minimum de l ensemble D [9], le score normalisé D n est donné par: D Dmin Dn = (2) Dmax Dmin Somme Dans cette méthode, on divise chaque valeur du vecteur par la somme de ses valeurs. D D n = (3) M di i= 3.3 echniques de fusion Soient DDC PCA et DDC RLDA les vecteurs de distance obtenu par la DC-PCA et la DC- RLDA respectivement. ( d,..., d M ) DC RLDA ( d,..., d ) DDC RLDA = (4) DDC RLDA = M (5) Après la normalisation des vecteurs de distances, nous utilisons les méthodes de combinaison des deux vecteurs résultants DDC PCAn et DDC RLDAn («n» est assigné à la normalisation) afin de trouver le vecteur fusionné D. Nous avons utilisé trois méthodes : Fusion 3.3. Somme Simple Dans ce cas, D Fusion est égale à la moyenne des deux vecteurs de distance [9] DDC PCAn et D DC RLDAn. Nous choisissons la classe correspondante à la valeur minimale de D Fusion. ( d + d ) 2,..., ( d + d ) 2) DFusion = n n Mn Mn (6) Append Dans cette méthode, nous regroupons les deux vecteurs DDC PCAn et DDC RLDAn dans un seul vecteur D Fusion comme suit [9], puis nous choisissons la classe correspondante à la valeur minimale de D Fusion : D = DC PCA, d DC RLDA,...,d Fusion d,..., d (7) n Mn n Mn Somme Pondérée Dans ce cas, nous attribuons un poids w à chaque méthode (DC-PCA et DC-RLDA) basé sur leur taux de reconnaissance. Ainsi, le vecteur D Fusion est calculé comme suit [9] : DFusion = ( w.d + w.d,...,w.d w. d ) (26) DC PCA n n Mn + Mn wdc PCA et wdc RLDA sont les poids associés à chaque méthode DC-PCA et DC-RLDA respectivement. Ils sont calculés comme suit :

7 7 w = (8) Afin de calculer wdc RLDA, nous remplaçons DC PCA par DC RLDA dans Eq (8). DC PCA et DC RLDA sont les taux de reconnaissance des techniques DC-PCA et DC-RLDA respectivement. 3.4 Analyse de la diversité des scores Pour avoir une idée sur le degré d amélioration que peut apporter la fusion aux systèmes de reconnaissance, on mesure leur degré de diversité en effectuant des tests sur chaque classificateur séparément et voir la relation entre leurs réponses c'est-à-dire est ce qu il donne les mêmes résultats, ou bien des résultats totalement différents. Pour cela, on a besoin de calculer le Q statistique [0] des approches à fusionner. Etant donné deux classifieurs i et j, on calcule le Q statistique comme suit: N N N N Q, j = i N N + N (9) N el que : N 00 nombre de mêmes fausses réponses données par les deux classificateurs. N nombre de mêmes bonnes réponses données par les deux classificateurs. N 0 et N 0 nombre de réponses mal classifiées par l un d eux et correctement classifiés par l autre. Q i,j varie entre - et. De plus, si le Q i,j est proche de, les classificateurs sont concurrents, quand il est proche de 0, ils sont complémentaires. Le Q statistique entre la PCA, RLDA, DC-PCA et DC-RLDA sont indiqués dans la able. Nous devons mentionner que ces tests ont été effectués sur la base de données de visages ORL (Olivetti Research Laboratory) [] qui sera décrite dans la section suivante. Nous concluons de la able que la meilleure amélioration de la performance peut être obtenue par la fusion de la DC-PCA et de la DC-RLDA. Ainsi, nous sommes motivés par cette vu la performance individuelle de chacune des deux méthodes et leur faible coût de calcul. able : Le Q statistique entre les différentes approches Distance Entre PCA et RLDA Entre DC-PCA et DC-RLDA L

8 8 M. Bengherabi et al. 4 Experimentation et implementation 4. Application developée Pour une intégration possible du module de reconnaissance de visage proposé dans un système biométrique complet, nous avons développé une interface graphique sous Visual C++.NE. Dans laquelle l utilisateur peut choisir l une des méthodes de normalisation et de fusion pour faire des tests sous différentes conditions. Le logiciel développé est présenté dans la figure 3. Figure 3 : Logiciel développé, (a) Identification 4.2 Experimentation et discussion outes les expériences ont été réalisées sur un Pentium III avec,73 GHz et une RAM de 52 Mo. La base de visage ORL (Olivetti Research Laboratory) [] est utilisée pour effectuer des tests. Elle contient 400 images de 40 individus, pour chaque personne, nous avons 0 images de taille 2 92 pixels. Pour certains individus, les images ont été capturées à des moments différents. Les expressions faciales et les apparences faciales varient aussi. Cinq images d une même personne de la base ORL sont présentées dans la figure 4.

9 9 Figure 4 : Cinq images d une même personne de la base ORL. Dans cette expérience, nous avons choisi aléatoirement cinq images par personne pour l apprentissage, et les images restantes pour le test. Ainsi, le nombre total des images d apprentissage et de test est de 200 pour les deux. Ce test est répété dix fois. Nous avons calculé le taux de reconnaissance moyen de chaque méthode : DC-PCA, DC-RLDA et leur fusion. La able 2 montre le taux de reconnaissance des méthodes : PCA, RLDA, DC-PCA et DC- RLDA. Nous remarquons que les méthodes utilisant la DC donnent de meilleures performances. La able 3 illustre la comparaison entre la PCA+RLDA et la DC-PCA+DC-RLDA. Nous pouvons mentionner que la fusion de la DC-PCA avec la DC-RLDA est meilleure que celle de la PCA avec RLDA. Le meilleur taux de reconnaissance de la DC-PCA+DC-RLDA est de 96,75%. De plus, nous pouvons conclure des tables 2 et 3 que la fusion de la DC-PCA et DC-RLDA améliore les performances en la comparant à chaque technique prise individuellement. La fusion qui donne les meilleures performances est la normalisation min-max avec la règle de fusion Somme pondérée et cela en utilisant la norme L 2. Le tableau 4 présente le temps d apprentissage et d identification (nombre d image d apprentissage et d identification est égale à 200), les temps sont calculés avec le logiciel développé sous Visual C++.net. Nous remarquons que le DC réduit considérablement le temps d apprentissage et d identification. able 2 : Meilleurs taux de reconnaissance des méthodes : PCA, RLDA, DC-PCA et DC-RLDA Distance PCA DC-PCA RLDA DC-RLDA L (7coef) (5coef) L (2coef) (7coef) able 3 : Comparaison entre la fusion de la PCA+RLDA et la DC-PCA+DC-RLDA Normalisation Distance MIN-MAX Somme Somme Simple PCA+RLDA Append Somme pondérée DC-PCA+DC-RLDA Somme Simple Append Somme pondérée L L L L

10 0 M. Bengherabi et al. able 4 : emps d apprentissage et d identification emps PCA DC-PCA (5coeff) LDA DC-RLDA (5coeff) PCA+RLDA DC-PCA + DC-RLDA Apprentissage 08 s 9, s 35 s 3,9 s 35 s 3 s Identification 5,4 s 0,9 s,5 s 0,4 s 6,7 s s 5 Conclusion Dans cet article, nous avons présenté la fusion en score de deux techniques de reconnaissance de visage à savoir la DC-PCA avec la DC-RLDA. L avantage majeur de la DC est qu elle permet de réduire l information redondante et peut être utilisé comme une étape d extraction de caractéristiques. Ainsi, la complexité de calcul de la PCA et la RLDA est significativement réduite. De plus, la RLDA a l avantage de séparer les classes entre elles, et elle est efficace pour la réduction de la dimension. Les résultats expérimentaux montrent que la fusion de la DC-PCA avec la DC-RLDA donne de bonne performance comparée à chaque technique prise individuellement en termes de taux de reconnaissance et temps de calcul. Comme perspective, nous proposons de tester la robustesse de la fusion en changement l environnement d éclairage et aussi sur d autres bases de visages References [] W. Zhao, R. Chellappa, P. J. Phillips, A. Rosenfeld, Face Recognition: A Literature Survey, CM Computing Surveys, 2003, pp [2] M. urk, A. Pentland, Eigenfaces for Recognition, Journal of Cognitive Neurosicence, Vol. 3, No., 99, pp [3] J. Lu, K. N. Plataniotis, A. N. Venetsanopoulos, Face recognition using LDA-based algorithms, IEEE rans., Neural Networks, vol.4, pp , January [4] L.-F. Chen, H.-Y. M. Liao, M.-. Ko, J.-C. Lin and G.-J. Yu, A new LDA-based face recognition system which can solve the small samle size problem, Pattern Recognition, vol. 33(0), pp , [5] J. Lu, K. N. Plataniotis, A. N. Venetsanopoulos, Regularized D-LDA for Face Recognition, IEEE International Conference on Acoustics Speech and Signal Processing, 2003, Vol 3, pp [6] Z. M. Hafed and Martin D. Levin, Face Recognition Using the Discrete Cosine ransform, International Journal of Computer Vision, 43(3), 200, pp [7] W. Chen, M. J. Er and S. Wu, PCA and LDA in DC domain, Pattern Recognition Letters, Volume 26, Issue 5, 2005, pp [8] G.L. Marcialis and F. Roli, Fusion of LDA and PCA for Face Recognition, Proceedings of the Workshop on Machine Vision and Perception, 8 th Workshop of the Italian Association for Artificial Intelligence (AIIA'02). [9] R. Snelick, U. Uludag, A. Mink, M. Indovina and A. Jain, Large Scale Evaluation of Multimodal Biometric Authentication Using State-of-the-Art Systems, IEEE ransactions on Pattern Analysis and Machine Intelligence, Vol. 27, No. 3, Mar 2005, pp [0] C.A.Shipp and L.I.Kuncheva. Relationships between combination methods and measures of diversity in combining classifiers, Information Fusion, 3:35 48, [] ORL, 992. he ORL face database at the A& (Olivetti) Research Laboratory. Available from: <