APPRENTISSAGE ARTIFICIEL («Mache-Learg») Fabe Moutarde Cetre de Robotque (CAOR) MINES ParsTech (Ecole des Mes de Pars) Fabe.Moutarde@mes-parstech.fr http://perso.mes-parstech.fr/fabe.moutarde Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 U domae terdscplare STATISTIQUES, aalyse de doées INTELLIGENCE ARTIFICIELLE OPTIMISATION AUTOMATIQUE, commade, robotque Appretssage Artfcel VISION Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 2
APPRENTISSAGE ARTIFICIEL «Capacté d u système à amélorer ses performaces va des teractos avec so evroemet» Ue des famlles essetelles de techques pour l Itellgece Artfcelle (IA) : permet cocepto et/ou adaptato automatsée du modèle et/ou du comportemet d agets «tellgets» Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 3 Recoassace de caractères 3 3 Exemples troductfs Comportemet d u «robot» autoome 6 6 Système de recoassace de chffres Navgato «à vue» optmsat accomplssemet d ue tâche (e.g., collecter de la «ourrture») Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 4 2
Noto d aget tellget Modèle gééral pour l IA : «aget tellget» AGENT seseurs? "actoeurs " percepto "acto" ENVIRONNEMENT NOTES :. «acto» à compredre AU SENS LARGE (par exemple ça peut être «fourr u dagostc») 2. Boucle Aget/Evroemet pas écessaremet fermée Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 5 Spécfcté de l appretssage Cocepto et/ou adaptato de l aget par aalyse automatsée (gééralemet statstque) de so evroemet, et/ou du résultat de so acto das celu-c. Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 6 3
Exemple typque d appretssage Aget «prédcteur» hstorque PREDICTEUR prédcto doées exteres Performace vsée : mmser erreur de prédcto Moye ms e œuvre : utlser des doées expérmetales pour trouver u modèle prédcto=f(hstorque, doées exteres) le plus correct possble Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 7 Typologe de l appretssage «Capacté d u système à amélorer ses performaces va des teractos avec so evroemet» Quel «système»? types de modèle (Ad hoc? Issu d ue famlle partculère de foctos mathématques [tq sples, arbre de décso, réseau de euroes, arbre d expresso, mache à oyau ]?) Quelles «teractos avec l evroemet»? appretssage «hors-lge» v.s. «e-lge» appretssage «supervsé» ou o, «par reforcemet» Quelles «performaces»? focto de coût, objectf, crtère mplcte, Commet amélorer? type d algorthme (gradet, résoluto exacte problème quadratque, heurstque, ) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 8 4
5 Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 9 Paradgme d appretssage Chaque paradgme se caractérse par : U modèle, le plus souvet paramétrque + Ue faço d téragr avec l evroemet + Ue «focto de coût» à mmser (sauf exceptos) + U algorthme pour adapter le modèle, e utlsat les doées ssues de l evroemet, de faço à optmser la focto de coût Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 0 Exemple trval : régresso léare par modres carrés Modèle : drote y=ax+b (2 paramètres a et b) Iteracto : collecte préalable de pots (x,y ) 2 Focto de coût : somme des carrés des écarts à la drote K= (y -a.x -b) 2 Algorthme : résoluto drecte (ou tératve) du système léare y y x b a x x x 2
Nombreux paradgmes Régresso léare par modre carrés Algo ID3 ou CART pour arbres de décso Méthodes probablstes Rétropropagato du gradet sur réseau euroal à couches Cartes topologques de Kohoe Support Vector Maches Boostg de classfeurs fables Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 Prcpaux types d algorthmes Résoluto système léare (régresso, Kalma, ) Algos classques d optmsato Descete de gradet, gradet cojugué, Optmsato sous cotrate Heurstques dverses : Algo d auto-orgasato o supervsée de Kohoe Algorthmes évolutostes (GA, GP, ) «coloes de fourms» (At Coloy Optmzato) Optmsato par Essam Partculare (OEP) Reforcemet (Q-learg, ) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 2 6
sorte APPRENTISSAGE SUPERVISÉ : régresso et classfcato Evroemet «exemples» de type (etrée,sorte) AGENT? etrée = percepto sorte adéquate («désrée») Régresso Classfcato (approxmato) (y = «étquettes») etrée = posto pot etrée pots = exemples courbe = régresso sorte désrée = classe ( =-,+=+) Focto étquette=f(x) (et frotère de séparato) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 3 Appretssage supervsé Exemples etrée-sorte (x,y ), (x 2,y 2 ),, (x, y ) H famlle de modèles mathématques Hyper-paramètres pour l algorthme d appretssage ALGORITHME D APPRENTISSAGE hh Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 5 7
Typologe des algos de classfcato Par aaloge Plus Proches Vos (PPV) Par combaso de tests élémetares : Arborescece Arbre de Décso Bares (ADB) Vote podéré boostg (dopage) Par approche probablste (avec hypothèses sur dstrbuto des classes) méthodes bayésees Par mmsato de l erreur (descete de gradet, etc..) Réseaux de euroes (MLP), etc Par maxmsato de la «marge» Support Vector Maches (SVM) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 4 Noto de «perte» et les dverses erreurs d appretssage Mesure de la qualté du modèle h : E(h)=E( L(h(x),y) ) où L(h(x),y) est la «focto de perte» gééralemet = h(x)-y 2 Dvers optma possbles h * optmum «absolu» = argm h (E(h)) h * H optmum das H = argm hh (E(h)) h * H, optm. ds H avec ex. = argm hh (E (h)) où E (h)=/n (L(h(x ),y )) E(h * H,)-E(h * )=[E(h * H, )-E(h * H)]+[E(h * H)-E(h * )] Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 6 8
APPRENTISSAGE SUPERVISÉ : défto formelle «APPRENDRE = INFERER/INDUIRE + GENERALISER» Etat doé u esemble f d exemples (x,y ), (x 2,y 2 ),, (x, y ), où x d vecteurs d etrée, et y s sortes désrées (foures par le «supervseur»), trouver ue focto h qu «approxme et gééralse au meux» la focto sous-jacete f telle que y =f(x )+brut but = mmser erreur de gééralsato E ge = h(x)-f(x) 2 p(x)dx (où p(x)=dstrb. de proba de x) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 7 Erreur emprque et VC-dmeso E pratque, seule est mesurable l erreur emprque sur les exemples d appretssage : E emp = ( h(x )-y 2 )/ Travaux de Vapk et théore de la «régularsato» mmser E emp (h) sur ue famlle H mmsera auss E ge s H est de VC-dmeso fe VC-dmeso : talle maxmum d u échatllo S telle que pour toute dchotome de S, l exste hh la réalsat (e gros, la «complexté» de la famlle H) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 8 9
Focto de coût et terme de régularsato Plus pécsémet Vapk a motré que : Proba(max hh E ge (h) E emp (h) ) < G(,,) où =b d ex. et =VC-dm, et G décroît s / augmete pour être certa de be mmser E ge e rédusat E emp, l faut ue VC-dm d autat plus pette que est pett ue approche possble : mmser C=E emp + (h) où (h) péalse les h «trop complexes» ( réducto de la VC-dm «effectve») Prcpe smlare au «rasor d Ockham»!! ( «pourquo fare complqué s o peut fare smple?») Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 9 QUELQUES REFERENCES SUR L APPRENTISSAGE ARTIFICIEL Appretssage artfcel : cocepts et algorthmes, A. Coruéjols, L. Mclet & Y. Kodratoff, Eyrolles, 2002. Patter recogto ad Mache-Learg, Chrstopher M. Bshop, Sprger, 2006. Itroduto to Data Mg, P.N. Ta, M. Stebach & V. Kumar, AddsoWeasley, 2006. Mache Learg, Thomas Mtchell, McGraw-Hll Scece/Egeerg/Math, 997. Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 48 0