APPRENTISSAGE ARTIFICIEL («Machine-Learning»)

Transcription

1 APPRENTISSAGE ARTIFICIEL («Mache-Learg») Fabe Moutarde Cetre de Robotque (CAOR) MINES ParsTech (Ecole des Mes de Pars) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 U domae terdscplare STATISTIQUES, aalyse de doées INTELLIGENCE ARTIFICIELLE OPTIMISATION AUTOMATIQUE, commade, robotque Appretssage Artfcel VISION Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 2

2 APPRENTISSAGE ARTIFICIEL «Capacté d u système à amélorer ses performaces va des teractos avec so evroemet» Ue des famlles essetelles de techques pour l Itellgece Artfcelle (IA) : permet cocepto et/ou adaptato automatsée du modèle et/ou du comportemet d agets «tellgets» Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Recoassace de caractères 3 3 Exemples troductfs Comportemet d u «robot» autoome 6 6 Système de recoassace de chffres Navgato «à vue» optmsat accomplssemet d ue tâche (e.g., collecter de la «ourrture») Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

3 Noto d aget tellget Modèle gééral pour l IA : «aget tellget» AGENT seseurs? "actoeurs " percepto "acto" ENVIRONNEMENT NOTES :. «acto» à compredre AU SENS LARGE (par exemple ça peut être «fourr u dagostc») 2. Boucle Aget/Evroemet pas écessaremet fermée Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Spécfcté de l appretssage Cocepto et/ou adaptato de l aget par aalyse automatsée (gééralemet statstque) de so evroemet, et/ou du résultat de so acto das celu-c. Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

4 Exemple typque d appretssage Aget «prédcteur» hstorque PREDICTEUR prédcto doées exteres Performace vsée : mmser erreur de prédcto Moye ms e œuvre : utlser des doées expérmetales pour trouver u modèle prédcto=f(hstorque, doées exteres) le plus correct possble Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Typologe de l appretssage «Capacté d u système à amélorer ses performaces va des teractos avec so evroemet» Quel «système»? types de modèle (Ad hoc? Issu d ue famlle partculère de foctos mathématques [tq sples, arbre de décso, réseau de euroes, arbre d expresso, mache à oyau ]?) Quelles «teractos avec l evroemet»? appretssage «hors-lge» v.s. «e-lge» appretssage «supervsé» ou o, «par reforcemet» Quelles «performaces»? focto de coût, objectf, crtère mplcte, Commet amélorer? type d algorthme (gradet, résoluto exacte problème quadratque, heurstque, ) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

5 5 Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Paradgme d appretssage Chaque paradgme se caractérse par : U modèle, le plus souvet paramétrque + Ue faço d téragr avec l evroemet + Ue «focto de coût» à mmser (sauf exceptos) + U algorthme pour adapter le modèle, e utlsat les doées ssues de l evroemet, de faço à optmser la focto de coût Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Exemple trval : régresso léare par modres carrés Modèle : drote y=ax+b (2 paramètres a et b) Iteracto : collecte préalable de pots (x,y ) 2 Focto de coût : somme des carrés des écarts à la drote K= (y -a.x -b) 2 Algorthme : résoluto drecte (ou tératve) du système léare y y x b a x x x 2

6 Nombreux paradgmes Régresso léare par modre carrés Algo ID3 ou CART pour arbres de décso Méthodes probablstes Rétropropagato du gradet sur réseau euroal à couches Cartes topologques de Kohoe Support Vector Maches Boostg de classfeurs fables Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma 205 Prcpaux types d algorthmes Résoluto système léare (régresso, Kalma, ) Algos classques d optmsato Descete de gradet, gradet cojugué, Optmsato sous cotrate Heurstques dverses : Algo d auto-orgasato o supervsée de Kohoe Algorthmes évolutostes (GA, GP, ) «coloes de fourms» (At Coloy Optmzato) Optmsato par Essam Partculare (OEP) Reforcemet (Q-learg, ) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

7 sorte APPRENTISSAGE SUPERVISÉ : régresso et classfcato Evroemet «exemples» de type (etrée,sorte) AGENT? etrée = percepto sorte adéquate («désrée») Régresso Classfcato (approxmato) (y = «étquettes») etrée = posto pot etrée pots = exemples courbe = régresso sorte désrée = classe ( =-,+=+) Focto étquette=f(x) (et frotère de séparato) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Appretssage supervsé Exemples etrée-sorte (x,y ), (x 2,y 2 ),, (x, y ) H famlle de modèles mathématques Hyper-paramètres pour l algorthme d appretssage ALGORITHME D APPRENTISSAGE hh Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

8 Typologe des algos de classfcato Par aaloge Plus Proches Vos (PPV) Par combaso de tests élémetares : Arborescece Arbre de Décso Bares (ADB) Vote podéré boostg (dopage) Par approche probablste (avec hypothèses sur dstrbuto des classes) méthodes bayésees Par mmsato de l erreur (descete de gradet, etc..) Réseaux de euroes (MLP), etc Par maxmsato de la «marge» Support Vector Maches (SVM) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Noto de «perte» et les dverses erreurs d appretssage Mesure de la qualté du modèle h : E(h)=E( L(h(x),y) ) où L(h(x),y) est la «focto de perte» gééralemet = h(x)-y 2 Dvers optma possbles h * optmum «absolu» = argm h (E(h)) h * H optmum das H = argm hh (E(h)) h * H, optm. ds H avec ex. = argm hh (E (h)) où E (h)=/n (L(h(x ),y )) E(h * H,)-E(h * )=[E(h * H, )-E(h * H)]+[E(h * H)-E(h * )] Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

9 APPRENTISSAGE SUPERVISÉ : défto formelle «APPRENDRE = INFERER/INDUIRE + GENERALISER» Etat doé u esemble f d exemples (x,y ), (x 2,y 2 ),, (x, y ), où x d vecteurs d etrée, et y s sortes désrées (foures par le «supervseur»), trouver ue focto h qu «approxme et gééralse au meux» la focto sous-jacete f telle que y =f(x )+brut but = mmser erreur de gééralsato E ge = h(x)-f(x) 2 p(x)dx (où p(x)=dstrb. de proba de x) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma Erreur emprque et VC-dmeso E pratque, seule est mesurable l erreur emprque sur les exemples d appretssage : E emp = ( h(x )-y 2 )/ Travaux de Vapk et théore de la «régularsato» mmser E emp (h) sur ue famlle H mmsera auss E ge s H est de VC-dmeso fe VC-dmeso : talle maxmum d u échatllo S telle que pour toute dchotome de S, l exste hh la réalsat (e gros, la «complexté» de la famlle H) Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma

10 Focto de coût et terme de régularsato Plus pécsémet Vapk a motré que : Proba(max hh E ge (h) E emp (h) ) < G(,,) où =b d ex. et =VC-dm, et G décroît s / augmete pour être certa de be mmser E ge e rédusat E emp, l faut ue VC-dm d autat plus pette que est pett ue approche possble : mmser C=E emp + (h) où (h) péalse les h «trop complexes» ( réducto de la VC-dm «effectve») Prcpe smlare au «rasor d Ockham»!! ( «pourquo fare complqué s o peut fare smple?») Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma QUELQUES REFERENCES SUR L APPRENTISSAGE ARTIFICIEL Appretssage artfcel : cocepts et algorthmes, A. Coruéjols, L. Mclet & Y. Kodratoff, Eyrolles, Patter recogto ad Mache-Learg, Chrstopher M. Bshop, Sprger, Itroduto to Data Mg, P.N. Ta, M. Stebach & V. Kumar, AddsoWeasley, Mache Learg, Thomas Mtchell, McGraw-Hll Scece/Egeerg/Math, 997. Appretssage artfcel («Mache-Learg») Fabe Moutarde, CAOR, MINES ParsTech ma