9 Nature & Technology Applcaton du système mmuntare artfcel ordnare et améloré pour la reconnassance des caractères artfcels Hba Khell a, Abdelkader Benyettou a a Laboratore Sgnal Image Parole SIMPA-, Unversté des Scences et Technologe d Oran, BP 1505El M naouer, Oran, Algére Résumé Cet artcle trate la reconnassance des caractères artfcels par les systèmes mmuntares artfcels. Nous défnssons le système mmuntare bologque, sa smulaton artfcelle, ses algorthmes d apprentssage et leur applcaton à la reconnassance des caractères artfcels. Nous présentons également le système mmuntare artfcel améloré applqué au même domane. En concluson, nous montrons l mpact de l améloraton selon les deux crtères : le nombre de cellules B générées et le taux de reconnassance. Mots clés: Système mmuntare naturel, Système mmuntare artfcel, Antgène, Antcorps, B mémore, Reconnassance des caractères artfcels. 1. Introducton La reconnassance des formes est une dscplne vaste de l ntellgence artfcelle. Elle couvre dfférents domanes tels que la reconnassance des vsages, les emprentes, la parole, l écrture etc. Ces domanes font appel à pluseurs méthodes et approches telles que les réseaux de neurones, les algorthmes évolutonnares, les algorthmes génétques, etc. Le système mmuntare artfcel est une autre approche qu peut être applquée à la reconnassance des formes [1] [2] [3] [4] [5], mas auss à la robotque [6], la détecton des ntrusons dans les réseaux nformatques [7], l apprentssage machne [8] etc. Les fonctons du système mmuntare artfcel s nsprent du système mmuntare naturel, notamment en ce qu concerne : les cellules responsables de la réponse ans que la réponse mmuntare. Ces facteurs peuvent contrbuer à la constructon d un système proportonnellement complet destné à la reconnassance des formes. Le présent traval est une applcaton de l approche mmuntare artfcelle dans le cadre de la reconnassance de l écrture, et plus précsément les caractères artfcels. L AIRS (Artfcal Immune Recognton System) est une méthode nsprée du système mmuntare bologque orenté reconnassance des formes proposée par A. Watkns en 2001 [9] à l unversté de Mssssp. Une améloraton en a été fate en 2004 par A. Watkns, J. Tmms et L. Boggess [10] en optmsant le nombre de cellules B générées par apprentssage. Le SIA est une méthode d apprentssage dstrbué ntrodute par A. Watkns à l unversté de Kent en 2005 [11]. Dans ce paper, nous commençons par une présentaton du système mmuntare naturel et les types de réponse mmuntare. La deuxème parte est une représentaton d une smulaton artfcelle des systèmes mmuntares avec une explcaton des phases d apprentssage. Un prototype d apprentssage a été réalsé en se basant sur une base de données de caractères. Une étude comparatve est montrée pour dédure les avantages de l approche amélorée par rapport à l approche d orgne. 2. Le système mmuntare naturel Le système mmuntare bologque consttue une arme contre des ntrus dans un corps donné. Pour ce fare, l exste pluseurs cellules qu contrbuent à élmner ces ntrus nommé antgènes. Ces cellules partcpent pour ce qu on appelle une réponse mmuntare bologque. On dstngue deux types prncpaux d mmunté naturelle : une nnée et une acquse. 2.1. L mmunté nnée L mmunté nnée est une mmunté élémentare qu est adaptée seulement à un certan nombre très rédut d antgènes. On trouve ce type d mmunté chez les nouveaux nés qu ne sont pas encore vaccnés. Une mmunté non adaptatve pour longtemps peut condure à Revue «Nature et Technologe». n 02/Janver 2010. Pages 9 à 13
10 Revue «Nature & Technologe» n 02/Janver 2010 des nfectons et à la mort car le corps n est pas encore ben protégé contre les antgènes de l envronnement [7]. 2.2. L mmunté acquse L mmunté acquse est une mmunté à mémore (réponse secondare), qu se développe lors de l apparton du même antgène dans le même système mmuntare pour la deuxème fos ou plus, et qu engendre le développement et la génératon des cellules B mémore pour ce type d antgène déà rencontré (mémorsé) dans le système. Cette réponse est plus rapde que celle nnée [7]. Une réponse mmuntare engendre une augmentaton de la température du corps, ce qu explque que les cellules B développées sont en tran de lutter contre les antgènes ntroduts dans l organe human. La réponse mmuntare prmare est plus lente mas elle garde les nformatons du passage des antgènes dans le système. Il paraît ntéressant de s nsprer de ce phénomène de mémorsaton pour une reconnassance artfcelle des formes. 3. Le système mmuntare artfcel Le système mmuntare naturel est assez complqué pour qu une smulaton artfcelle sot réalsée d une façon complète. Par contre, dans [9] l auteur a réuss à smuler les fonctons les plus pertnentes dans un système mmuntare bologque pour que l artfcel hérte le maxmum des fonctonnaltés naturelles dans le domane de la reconnassance des formes. Les acteurs mportants entrant dans un système mmuntare artfcel sont les antgènes, les antcorps et les cellules B mémore. Dans la secton qu sut nous présenterons l algorthme d apprentssage qu mettra en œuvre ces acteurs. 4. L algorthme d apprentssage du système mmuntare artfcel Le présent algorthme est nspré des travaux de A. Watkns [9] [12] [13] [14] nommé AIRS pour la reconnassance des formes. Tout d abord, l antgène représente l ensemble d apprentssage dont l aura beson pour le déroulement du programme, et le résultat d apprentssage est l ensemble d antcorps (cellules B mémore) qu seront utlsés pour la phase de test (les nouveaux antgènes ntroduts dans le système). L apprentssage du système mmuntare artfcel se déroule en quatre étapes, chaque sorte est une ntroducton à l étape suvante. Les étapes sont détallées dans les ponts qu suvent: 4.1. Etape d ntalsaton Dans cette étape, l s agt d acquérr les données d apprentssage (antgènes), ces données seront normalsées et tout vecteur caractérstque aura des valeurs de l ntervalle [0, 1]. Un seul d affnté est calculé à partr de cet ensemble d antgènes, qu représente l affnté moyenne entre tous les antgènes deux à deux. Le seul d affnté est calculé selon la formule (1) : n n affnté( ag, ag ) = 1 = + 1 seul _ d ' affnté = n( n 1) 2 (1) ag et ag Avec : deux antgènes et a f f n t é ( a, b ) retourne la dstance eucldenne normalsée entre ag et ag. Dans la phase suvante, une ntalsaton de l ensemble des cellules mémores (antcorps) et de la populaton des ARB 1 (Artfcal Recognton Ball), est applquée à partr de l ensemble des antgènes par trage aléatore des exemples. 4.2. Etape d dentfcaton des cellules B et génératon des ARBs Une fos que l ntalsaton est achevée, cette étape aura leu pour chaque nouvel antgène ntrodut. Une cellule mémore est sélectonnée de l ensemble enter de cellules B est nommée, cette dernère est trée de telle sorte qu elle ressemble 2 le plus a l antgène en cours de tratement (la plus grande valeur de stmulaton) selon la formule (2) = arg m ax stm u la to n ( a g, ) M Cag. c Une fos que la cellule est sélectonnée, elle sera utlsée pour générer les nouveaux ARBs (clones). Cet ensemble sera addtonné à l ensemble total des ARBs généré par l ensemble des antgènes préalablement tratés. Le nombre de clones de la cellule selon la formule (3): (2) est lmté nombre _ de _ clones = hyper _ clonal _ rate * clonal _ rate * stmulaton (, ag ) en_ cours 1 Le ARBs est un magasn de cellules B rédut, dont chaque ARB content des nformatons sur la cellule B (antcorps, ressource, classe). 2 La ressemblance est calculée par la formule de stmulaton : stmulaton( ag, ) = 1 affnté( ag, ) (3)
Applcaton du système mmuntare artfcel ordnare et améloré pour la reconnassance des caractères artfcels 11 Notons que chaque ARB généré par selon l algorthme de mutaton décrt dans [9]. m a t c h 4.3. Compétton des ressources et développement des cellules mémore canddates est muté Cette parte se base sur les résultats de la précédente, elle complète les nformatons des ARBs générés en calculant les ressources selon (4) pour chaque antcorps avec l antgène en cours de tratement. Ces ressources sont mses à our durant l apprentssage, et chaque ARB n ayant pas de ressources sera supprmé de l ensemble des ARBs [9]. r e s s o u r c e s = s t m u l a t o n ( a g, a n t c o r p s ) * c l o n a l _ r a te (4) Les partes 4.2 et 4.3 seront exécutés pour un antgène donné usqu à ce que la condton s S e u l _ d ' a ffn té sot vérfée, avec AB ab. stm s = = 1 AB, ab AB (5) Une fos que la condton précédente n est pas vérfée on peut dre que nous avons pu avor un ensemble d ARBs optmal pour les ntrodure dans 4.4. 4.4. Introducton des cellules mémore Cette étape consste à chosr parm les ARBs la cellule canddate qu convent le plus à l antgène ; en d autres termes celle qu le reconnasse meux que m atch. La cellule canddate sera addtonnée à l ensemble des cellules mémore seulement s elle retourne une stmulaton plus élevée que la cellule de avec l antgène en cours de tratement. Dans le cas contrare, la cellule m atch sera retrée de cellules mémore seulement s sa stmulaton entre la cellule canddate avec ne dépasse pas le seul d affnté[9]. 5. Les caractères artfcels La base de données est un ensemble de caractères dfférents dont chacun est représenté dans dfférents fchers et chaque fcher représente les coordonnées cartésennes du caractère en cours. Voc l exemple (fg. 1) d un caractère qu est délmté par un ensemble de ponts du plan cartésen. Fg.1 Exemple de caractère artfcel Pour lancer l apprentssage, nous avons chos un corpus d apprentssage de tros caractères (A, C et D) dont chacun content 100 exemples. L ensemble de test est consttué de 500 exemples pour chaque caractère. La table 1 montre la dstrbuton des exemples. Table 1 Nombre d exemples du corpus d apprentssage et de test Tran 6. Mse en œuvre Test A 100 500 C 100 500 D 100 500 Pour la mse en œuvre de notre applcaton, nous avons prs le corpus d apprentssage de tros caractères donné dans la table 1, dont l représente les antgènes, et le but est d attendre en sorte un ensemble d antcorps qu seront utlsés pour la phase de test. Selon la table 1, on remarque ben que l ensemble d apprentssage est plus pett que l ensemble de test, cette partcularté caractérse ce type de système par rapport aux autres systèmes de la reconnassance des formes. Cette partcularté est trée du prncpe bologque de vaccnaton, qu est l ntroducton de pette quantté d antgènes. L apprentssage nécesste de poser certans paramètres d apprentssage, ces paramètres seront représentés dans la table 2 :
12 Revue «Nature & Technologe» n 02/Janver 2010 Table 2 Paramètres d apprentssage Paramètres Sgnfcaton Plage de hyper_clonal_rate 6.1. Résultats et dscussons Le logcel d apprentssage est établ à l ade du complateur C++ sous l envronnement Lnux Mandrva, déroulé dans une machne Pentum 4 doté d un processeur de fréquence 2.4 GHz et d une RAM de 512 Mo. Prenant en compte des paramètres ndqués dans la table 2, l apprentssage est déroulé pour 50 tératons sur tout l ensemble d apprentssage. Les cellules B générés sont ndquées dans la table 3 et l évoluton de ces cellules par tératon est montrée dans la fgure 2. Table 3 B générées après l apprentssage A 446 C 121 D 330 500 400 300 200 100 0 Taux maxmal de clonage B générées au bout de la 50éme tératon 1 6 11 16 21 2 31 3 41 4 51 I t é r a t ons valeurs Fg. 2 Evoluton des cellules B Enter 25 clonal_rate Taux moyen de clonage Enter 15 mémores A méore C mémore D Valeurs mutate_rate Probablté de mutaton Réel [0, 1] 0.0001 Nous remarquons que les cellules B du caractère A sont les plus générées par rapport à C et D, cette dfférence est dû à l mportante varablté des formes de A par rapport à la varablté des formes C et D. (antgène) à une classe de telle sorte qu l se rapproche le plus des antcorps de cette classe en terme de dstance. La méthode KMeans offre ce prncpe ; on calcule pour chaque classe de cellules B un centroîde qu sera utlsé pour calculer l affnté avec l antgène à classer : la classe qu donne la plus fable affnté sera celle sélectonnée pour cet antgène. 6.3. Résultats de classfcaton Se basant sur le prncpe de classfcaton explqué auparavant, les résultats de classfcaton obtenus sont satsfasants, la table 4 est une récaptulaton des résultats de cette expérence. Table 4 Résultats de classfcaton B Test %Test Apprentssage %Apprentssage A 446 500 100 100 100 C 121 500 66.73 100 67 D 330 500 100 100 100 88.91 89 Dans la parte suvante nous allons applquer l améloraton apportée par A. Watkns, J. Tmms et L. Boggess [10] sur l algorthme d apprentssage des systèmes mmuntares artfcels. 7. Le système mmuntare améloré Cet algorthme est presque dentque au précèdent ; le changement opéré a été au nveau de la mutaton et la compétton des ressources. En effet, dans la mutaton, les auteurs ont ntrodut la noton de stmulaton entre l antcorps et l antgène en cours de tratement. Il en est de même pour la compétton des ressources qu prend en compte seulement les antcorps de même classe que l antgène [10] [14]. L'apprentssage s est déroulé dans les mêmes condtons logcelles et matérelles que celle de l expérence précédente, l en est de même pour les paramètres d apprentssage qu sont les mêmes que ceux de la table 2. Les cellules B générées sont montrées dans la table 5, leur évoluton est llustrée dans la fgure 3. 6.2. Classfcaton Dans cette phase de test, nous allons utlser les cellules B générées pour pouvor classfer les nouveaux antgènes. Le prncpe est de pouvor affecter un échantllon test
Applcaton du système mmuntare artfcel ordnare et améloré pour la reconnassance des caractères artfcels 13 Table 5 B générées après l apprentssage Table 6 400 350 300 250 200 150 100 50 0 Résultats de classfcaton B générées au bout de la 50éme tératon A 356 C 62 D 77 1 4 7 10 13 16 19 22 25 28 31 34 37 40 43 46 49 I t ér at ons Fg 3 Evoluton des cellules B A 355 500 100 100 100 C 61 500 67.13 100 100 D 76 500 100 100 100 89.04 100 mémor e A mémor e C mémor e D B Test %Test Apprentssage %Apprentssage Selon les résultats de classfcaton obtenus par l apprentssage du système mmuntare améloré, on remarque ben que nous avons obtenu une améloraton de 0,134% sur la reconnassance des caractères de test et de 11% sur l ensemble d apprentssage avec une réducton mportante du nombre de cellules B générées dans la phase d apprentssage. Cela veut dre que le système mmuntare améloré est 13 fos plus précs que l AIRS dans ces expérences applquées. 8. Concluson Fnalement, on peut dre que l AIRS est un outl pussant dans la reconnassance des formes. Nous avons vu auss que le système mmuntare améloré a un mpact satsfasant sur le temps d exécuton, le nombre de cellules B générées ans que sur le taux de reconnassance. d apprentssage, en prenant l exemple des algorthmes génétques. Ce qu fera l obet d un prochan traval. Références [1] Deneche A. (2006). Approches bos nsprées pour la reconnassance de formes, Thèse de Magster de l unversté Mentour, Constantne, Algére. [2] Deneche A., Meshoul S., Batouche M. (2005). Une approche hybrde pour la reconnassance de formes en utlsant un Système Immuntare Artfcel, Procédng des Journées d'nformatque graphque, Algére [3] Emle P. (2006). Organsaton du system mmuntare Feln. Thèse doctorat vétérnare, Ecole natonale de Lyon. Lyon [4] Goodman D., Boggess L., Watkns A. (2002). Artfcal mmune systelassfcaton of multple class problems. Journal Intellgent Engneerng Systems Through Artfcal Neural. [5] Secker A., Fretas A., Tmms J. (2003). AISEC : an Artfcal Immune System for E-mal Classfcaton. Journal IEEE Evolutonary Computaton ECE 2003 pp 131-138. [6] Jun J. H., Lee D. W., Sm K. B., (1999), Realzaton of cooperatve and Swarm Behavor n Dstrbuted Autonomous Robotc Systems Usng Artfcal Immune System. Procédng IEEE, conférence Man and Cybernetcs. [7] Km J., Bently P. (2001), Towards an artfcal mmune system for network ntruson detecton : an nvestgaton of clonal selecton wth a negatve selecton operator, Procédng de la conférence Congress on Evolutonary Computaton. [8] Tmms J., (2000), Artfcal Immune Systems: A novel data analyss technque nspred by the mmune network theory, PhD, Département d nformatque, unversté de Wales UK [9] Watkns A. (2001). AIRS : A resource lmted artfcal mmune classfer. Thèse de l unversté de Mssssp du département d nformatque. Mssssp. [10] Watkns A., Tmms J., Boggess L. (2004). Artfcal mmune recognton system (AIRS) : an mmune nspred supervsed learnng algorthm. Journal de l acédeme Kluwer Genetc Programmng and Evolvable Machnes. pp 291-317 [11] Watkns A., (2005), Explotng mmunologcal metaphors n the development of seral, parallel, and dstrbuted learnng algorthms, PhD de l unversté de Kent. [12] Watkns A., Boggess L. (2002a). A New Classfer Based on Resources Lmted Artfcal Immune Systems. Procédng congress de Evolutonary Computaton, IEEE World Congress on Computatonal Intellgence held en Honolulu, pp 1546-1551. IEEE. USA. [13] Watkns A., Boggess L. (2002b). A Resource Lmted Artfcal Immune System. Journal IEEE World Congress on Computatonal Intellgence help n Honolulu, USA pp 926-931. [14] Watkns A., Tmms J. (2002). Artfcal Immune Recognton System (AIRS): Revsons and Refnements. 1ére Conférence nternatonnal du Système mmuntare artfcel ICARIS 2002, pp 173-181, Unversté de Kent à Canterbury. L ntégraton des AIRS dans d autres méthodes d optmsaton pourrat apporter de melleurs résultats en fasant le chox sur les melleurs paramètres