Classfcaton des mages des dattes par SVM : contrbuton à l améloraton du processus de tr Djeffal Abdelhamd 1, Regueb Salah 1, Babahenn Mohamed Chaouk 1,Taleb Ahmed Abdelmalk 2, 1 Département d Informatque, Laboratore LESIA, Unversté Mohamed Khder BP 145, Bskra, Algére 2 IUT GE2I, Laboratore LAMIH, Unversté de Valencennes, France Abdelhamd_Djeffal@yahoo.fr, chaouk.babahenn@gmal.com, Abdelmalk.Taleb- Ahmed@unv-valencennes.fr Résumé. Nous proposons, dans ce traval, un système de classfcaton automatque des dattes basé sur la technque d apprentssage statstque dte Support Vector Machnes. Ce système est utlsé pour le tr automatque des dattes dans les usnes de condtonnement des dattes dans la régon de Bskra. Le système analyse les mages des dattes acquses par une caméra et construt une base de caractérstques. La méthode SVM utlse cette base pour rechercher des hyperplans séparant les dfférents types de dattes dans l espace de caractérstques. Ces hyperplans servront comme moyen pour classer les nouvelles mages. Les Résultats obtenus démontrent la pussance de la méthode SVM pour la classfcaton des mages des dattes et valdent le système proposé. Mots clés :Classfcaton d mage, sélecton des dattes, support vector machne. 1. Introducton Dans la régon de Bskra stuée au sud est de l Algére, et connue par sa producton des dattes, pluseurs usnes souffrent du problème de la sélecton manuelle des dattes, qu est très lente, marquée de son mprécson, et son coût élevé, ce qu nflue sur la qualté du produt fnal. Les dattes sont collectées chaque automne des palmeraes et transférées vers les usnes pour leur tr et emballage afn de les préparer à la vente dans le marché local ou leur exportaton vers l Europe. La sélecton des dattes, une fos automatsée, peut contrbuer effcacement dans l améloraton de leur producton en augmentant la vtesse de leur préparaton et la qualté du produt fnal fourn au consommateur. L objectf de notre traval est d automatser cette tache en se basant sur un système d magere numérque utlsant la classfcaton supervsée. Une étude mnuteuse en se basant sur des recherches menés par des centres de recherche en agronome de la régon, et avec la collaboraton des ndustrels et des agrculteurs concernés, nous a perms de détermner les caractérstques vsuelles les plus mportantes des dattes qu peuvent être utlsées pour leur classfcaton. Dans le système proposé, les caractérstques vsuelles d une datte sont extrates de son mage 159
en utlsant des technques de segmentaton connues [4, 5]. Ces caractérstques sont enregstrées dans une matrce avec leurs classes correspondantes afn de les utlser pour apprendre un modèle de décson qu pourra guder la sélecton des nouvelles mages. L apprentssage est effectué par la méthode SVM, ntrodute au début des années 90 par Vladmr Vapnk et qu connaît jusqu à nous jours un très grand succès dans la reconnassance des formes [1, 3]. Elle repose sur une théore solde d apprentssage statstque qu vse à trouver des hyperplans séparant les données dans un espace appropré des caractérstques. Ce paper présente une contrbuton pour l optmsaton du processus de sélecton des dattes. Dans la lttérature, unquement des solutons purement mécanques basées sur le pods des dattes sont proposées en Emrats et Arabe Saoudte [13, 14], dont les résultats sont très fables. Des solutons proposées par Compac [15] pour le tr d autres produts tel que les pommes, les pommes de terres, les tomates sont basées la couleur, le volume et les taches donnés par l utlsateur. Le système proposé utlse l apprentssage des qualtés à partr des échantllons choss par un expert pour construre des modèles de décson. Les résultats en termes de taux de reconnassance sont satsfasants en les comparants aux taux obtenus dans d autres applcatons de classfcaton d mages [4, 11]. 2. Schéma général du système Le système que nous proposons se base sur les éléments suvants (Fg 1): Un convoyeur qu permet de fare défler les dattes sous une caméra numérque. Une caméra numérque qu prend les mages des dattes et les envoe vers l ordnateur. Un ordnateur qu reçot les mages, les analyse et prend la décson pour commander un système d agullage, Un système d agullage à la fn du convoyeur permettant son orentaton vers une destnaton selon la décson prse par l ordnateur. Fg 1. Schéma général du système La parte convoyeur, caméra et système d agullage n est pas tratéé en détal dans ce traval et elle peut être l objet de nouvelles recherches, autant plus, pluseurs systèmes 160
smlares exstent en ndustre et peuvent être utlsés [14]. Dans ce traval, on s ntéresse, plus, au problème de classfcaton des dattes et l apprentssage, c'est-àdre depus l entrée de l mage au logcel sur l ordnateur jusqu'à trouver une décson par ce logcel sur l ordnateur. En effet le logcel est composé de deux partes : parte d apprentssage et parte de sélecton (d utlsaton). L étape d extracton des caractérstques est commune entre les deux partes : Le système proposé capture l mage d une datte pour l utlser, selon le cas, dans l un des deux modes : apprentssage ou classfcaton. En mode apprentssage, le logcel reçot les mages d une classe donnée l une après l autre, chaque mage est tratée et ses caractérstques essentelles sont extrates (Fg 2) et stockées dans une table de vecteurs avec le lbellé de la classe. Une fos l acquston des mages de toutes les classes termnée, le logcel utlse la méthode SVM pour trouver un modèle de décson qu permette de ben dstnguer les types les uns des autres et enregstre ce modèle pour l utlser lors de la sélecton. En mode sélecton, les caractérstques de l mage en queston sont extrates pus exposées au modèle utlsé pour détermner son type. Le type détecté est utlsé pour commander le système d agullage afn d orenter la datte vers la bonne drecton c'est-à-dre la classer dans la bonne classe. Classes Prétratements Extracton des caractérstques Vecteur de caractérstques Apprentssage Constructon d une base d apprentssage Sélecton Classfcaton par SVM Apprentssage par SVM Modèle de décson Classe Fg 2. Etapes du logcel 161
3. Extracton des caractérstques On commence, dans la phase d apprentssage, par le tratement des mages, l extracton de leurs caractérstques, pus l enregstrement de ces caractérstques avec les classes correspondantes dans une base de données. Dans ce traval, nous avons utlsé des mages de dattes prses dans une usne de la régon. Les mages sont convertes en nveaux de grs et fltrées pour élmner les bruts éventuels dus à l envronnement d acquston [9, 5]. Une smple reconnassance de forme est réalsée dans le but de reconnaître la datte et la dstnguer de l arrère plan. Une fos la datte localsée les dfférentes caractérstques sont calculées. En se basant sur des recherches de l INRAA [12] et selon la norme CEE-ONU DDP-08 concernant la commercalsaton et le contrôle de la qualté commercale des dattes entères et des ntervews avec des concernés du domane (agrculteurs, agronomes) de la régon de Bskra, nous avons pu conclure que les caractérstques les plus mportantes qu permettent de dstnguer le type d une datte d un autre sont : 1. Le calbre : représenté par le volume, la largeur et la longueur de la datte. On calcule premèrement le centre de gravté de la datte dans l mage et ses deux axes longtudnal et transversal, pus on calcule sa longueur et largeur mesurées en nombre de pxels pus on calcule son volume en nombre de pxels consttuant la datte, 2. La couleur : représentée par la couleur moyenne des pxels de la datte, 3. L homogénété de la datte: représenté par le pourcentage des tâches calculé à base du nombre de pxels s écartant plus de deux écarts type de la couleur moyenne. Les nformatons extrates représentent un vecteur de caractérstques de la datte (Fg 3). Fg 3. Extracton des vecteurs de caractérstques Support vector machnes (SVM) [3, 6, 8, 10] Parm les méthodes à noyaux, nsprées de la théore statstque de l apprentssage de Vladmr Vapnk, les SVM consttuent la forme la plus connue. SVM est une méthode de classfcaton bnare par apprentssage supervsé, son but est de trouver un classfcateur qu sépare les données d apprentssage et maxmser la dstance entre deux classes. 162
Fg 4. Exemple de marge maxmale Dans un espace de n attrbuts (dmensons) des données, le séparateur recherché est appelé hyperplan. Dans le schéma de la fgure 4, on détermne un hyperplan qu sépare les deux ensembles de ponts (données). Les ponts les plus proches, qu seuls sont utlsés pour la détermnaton de l hyperplan, sont appelés vecteurs de support. Il est évdent qu l exste une multtude d hyperplans valdes mas la proprété remarquable des SVM est que cet hyperplan dot être le plus lon possble des vecteurs supports. Le chox dot, donc, maxmser la «marge» entre l hyperplan et les exemples d apprentssage. Ce qu représente un problème de programmaton quadratque convexe à contrantes lnéares et qu peut être résolu en ntrodusant les multplcateurs de Lagrange : n 1 max 1 2,0 c; n j 1 y y x x y 0 j j j d' où (1) N w 1 y x N 1 y et f ( x) Sgn 0 1 * y x x b 4.1. Cas non lnéarement séparable : Souvent, les données d apprentssage ne sont pas lnéarement séparables (Fg 5) c'est-à-dre qu un hyperplan séparateur n exste pas. Dans ce cas la méthode SVM fat recours à un changement d espace pour aller à un nouvel espace où les données son lnéarement séparables : 163
Fg 5. Changement d espace dans le cas non lnéarement séparable Dans ce cas la foncton de décson devent : f n * x Sgn y x x b 1 (2) Et le problème et sa soluton ne dépendent que du produt scalare <(x), (x)> où représente la transformaton d espace utlsée. Pour faclter les calculs, au leu de chosr la transformaton non-lnéare, on chost une foncton réelle k(x, x) appelée foncton noyau. Lorsque k est ben chose, on n'a pas beson de calculer la représentaton des exemples dans cet espace pour calculer. Pluseurs noyaux sont utlsés dans la lttérature tel que le noyau lnéare k(x, x ) = x, x, le noyau Gaussen k(x, x ) = Exp(- x - x 2 ) 2 2, etc. 4.2 SVM multclasses [7, 1] La méthode SVM qu on a vu jusqu à mantenant ne concerne que le cas b-classes. Dans le cas où les données appartennent à pluseurs classes (>2), deux solutons sont prncpalement utlsées: Une contre reste (1vsR): On calcule pour chaque classe un hyperplan la séparant des autres. Lors de la phase de sélecton, on prend la classe maxmsant la foncton de décson (Fg 6.a). Une contre une (1vs1): On calcule pour chaque classe les hyperplans la séparant de chaque autre classe. Dans la phase de sélecton, on prend la classe qu maxmse le nombre d appartenances par rapport aux autres classes (Fg 6.b). 164
a b Fg 6. Méthodes: une contre une, une contre reste 5. Apprentssage et sélecton La méthode SVM travalle sur la base des caractérstques et essaye de trouver un modèle de décson. L algorthme SVM utlsé c SMO [2] (Sequental Mnmal Optmzaton) exge que la base utlsée sot normalsée entre -1 et +1, pour cela, l est nécessare de convertr les valeurs de tous les vecteurs dans l'ntervalle [-1, +1]. On calcule alors le maxmum et le mnmum de chaque attrbut pour les enregstrer et les utlser dans la phase de sélecton. Le module SVM génère alors une foncton de décson pour chaque classe à partr de la base des caractérstques normalsées. Dans la méthode une contre reste utlsée, on prend pour chaque classe la table normalsée et on met les valeurs de cette classe à +1 et toutes les autres à -1 pus on appelle le module SVM pour générer les paramètres de décson pour cette classe. Les paramètres générés par SVM pour chaque classe sont : les dfférents de 0, les b et les vecteurs des caractérstques normalsés correspondants aux dfférents de 0, c'est-à-dre les vecteurs supports. Le modèle de décson global obtenu content en plus des paramètres des classes: les maxmums et les mnmums des cnq caractérstques, le noyau utlsé, les paramètres du noyau et les lbellés des classes. Dans la phase de sélecton, on prend une mage en entrée et on extrat ses caractérstques de la même manère que lors de l apprentssage, pus on applque, selon la méthode une contre reste, pour chaque classe du modèle la foncton de décson qu donne une valeur réelle : la datte appartent à la classe qu maxmse la foncton de décson. 165
6. Tests et Résultats 6.1. Données utlsées Pour tester notre système, nous avons prs des mages d une usne de la régon de Bskra qu travalle sur sx qualtés dfférentes de dattes. Dans la table 1, sont présentées les classes utlsées pour les tests ans que le nombre d échantllons et un exemple avec les valeurs du vecteur de caractérstques extrats : Table 1. Exemple de chaque qualté de dattes utlsées Classe Nb Exmples Standard 107 Fraza 92 Pett frut Standard Pett frut Fraza 44 40 Taché 30 Boufarwa 40 Image Exemple Vecteur (Lng, Lrg, Vol, Coul, Homog) (34.06, 15, 1571, 4.77, 106) (29.15, 13, 1320, 7.21, 110) (24.19, 12, 867, 6.8, 156) (21.59, 11.18, 684, 10.95, 95) (28.35, 13, 1135, 19.11, 80) (32.56, 16.12, 1537, 7.89, 112) 6.2. Chox des paramètres Le premer paramètre à chosr est le noyau utlsé. Selon la plupart des références notamment [4, 11] le noyau Gaussen est celu le plus précs. Dans ce traval c est le noyau utlsé, d autres études seront menées pour comparer les dfférents noyaux dans le cas des mages des dates. Le noyau Gassen tel qu l est défnt utlse deux paramètres C et : k xx 2 2 ( x, x') e 2 (3) Ces paramètres sont choss d une façon emprque après pluseurs essas sur les échantllons de la table 1. Le résultat de ces essas est que les paramètres C et qu donnent les melleurs résultats sont C=100 et =0.5. Les fgures suvantes montrent graphquement ce constat: 166
Fg 7. Chox des paramètres C et du noyau Gaussen Après l'apprentssage du modèle on l'a testé sur les mêmes exemples utlsés par l'apprentssage le taux de reconnassance état de 98.85%. Pour les nouveaux exemples qu n'appartennent pas à la base d'apprentssage la matrce de confuson suvante montre les résultats obtenus sur dx mages de chacune des sx qualtés déjà ctées: Table 2. Table de confuson des résultats obtenus Fraza Pett St Pett Fr Boufarwa Taché Standard Fraza 4 0 0 4 0 2 Pett St 0 7 3 0 0 0 Pett Fr 0 2 8 0 0 0 Boufarwa 5 0 0 3 1 1 Taché 2 0 0 0 7 1 Standard 1 0 0 2 1 6 Le tableau montre que dans la plupart des cas le taux est de 60 à 80%. Les cas de ms classfcatons remarquées (5 pour Boufarwa et 4 pour Fraza) sont dus à la grande ressemblance entre les deux classes. Ces résultats sont promoteurs en les comparants aux résultats obtenus par la sélecton manuelle qu sont pratquement fables et très lents. 7. Concluson et travaux futurs Dans ce paper, une méthode de sélecton automatque du frut de dattes est proposée, elle se base sur la classfcaton de leurs mages par la méthode support vector machne. On a premèrement étudé les dattes et leurs caractérstques vsuelles qu peuvent être utlsées pour leur dentfcaton en se basant sur des recherches dans ce sujet. On a ensute mplémenté le module SVM et choss d une façon emprque ses 167
bons paramètres. Le système proposé peut amélorer le processus de sélecton dans les usnes de condtonnement des dattes. Dans la sute de ce traval, nous essayerons d utlser les mages des dfférentes faces d une datte pour construre son vecteur de caractérstques plus précs ans que d autres mesures tel que le pods. Nous essayerons auss de comparer les deux méthodes 1v1 et 1vR de la méthode SVM et étuder l utlsaton d autres noyaux. Enfn, Le système peut être utlsé auss pour le tr d autres fruts tel que les pommes, les oranges,...etc. 8. Bblographe 1. D. Anguta, S. Rdella, and D. Sterp. "A New Method for Multclass Support Vector Machnes". Proc. IEEE Int. Jont Conf. on Neural Networks, Budapest, Hungary, (2004). 2. J. C. Platt. "Fast tranng of support vector machnes usng sequental mnmal optmzaton". In B.Schölkopf, C. J. C.Burges, and A.J. Smola, edtors, Advances n Kernel Methods Support Vector Learnng, pages 185-208.Edton The MIT Press, (1999). 3. L.Wang, "Support Vector Machnes: Theory and Applcatons", Sprnger 2005 4. Le Wang, Xuchun L, Png Xue, and Kap Luk Chan, "A Novel Framework for SVM-based Image Retreval on Larger Databases", 13th annual ACM Internatonal Conference on Multmeda (ACMMM), 2005. 5. Le Zhang, Fuzong Ln, Bo Zhang, "Support vector machne learnng for mage retreval", Tsnghua Unversty, Bejng, 2001 6. N. Crstann and J. Shawe-Taylor. "Introducton to Support Vector Machnes and other kernel-based learnng methods". Cambrdge Unversty Press, Unted Kngdom, (2000). 7. S. Har-Peled, D. Roth, and D. Zmak. "Constrant Classfcaton for multclass classfcaton and rankng". Proc. Advances n Neural Informaton Processng Systems 15, pp. 785-792, (2003). 8. S.Abe, "Support Vector Machnes for Pattern Classfcaton", Sprnger 2005. 9. Smon Tong, Edward Chang,"Support vector machne actve learnng for mage retreval", Proceedngs of the nnth ACM nternatonal conference on Multmeda, Vol 9, Pages: 107 118, 2001 10. V. N. Vapnk, "Statstcal learnng theory", Edton Wley, New York, (1998). 11. Gdudu Anthony, Hulley Gregg and Marwala Tshldz, "Image Classfcaton Usng SVMs: One-aganst-One Vs One-aganst-All", Proccedngs of the 28th Asan Conference on Remote Sensng, Nov 2007 12. S. ACOURENE, M. TAMA et B. TALEB, " Caractérsaton, évaluaton de la qualté de la datte et dentfcaton des cultvars rares de palmer datter de la régon des Zbans", Staton INRAA Sd-mehd Touggourt, Algére, 1997 13. www.kngdomdates.com 14. www.alradh.com.sa 15. www.compacsort.com 168