AIC-Automtistion vncée, intelligence rtiicielle et cognitique 6. Commnde neuronle Jen-Dniel Dessimoz HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 AIC-Automtistion vncée, intelligence rtiicielle et cognitique Contenu Introduction Notion de modèle ; métrique pour le tritement d inormtion et pour l cognitique Choix d une structure de commnde Intelligence rtiicielle Commnde à logique loue Commnde multimodle Commnde à lgorithme génétique Robots mobiles utonomes Conclusion HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 2
Contenu des Exposés et exercices Notion de modèle ; métrique pour le tritement d inormtion et pour l cognitique Choix d une structure de commnde Intelligence rtiicielle Commnde à logique loue Commnde multimodle Commnde à lgorithme génétique Robots mobiles utonomes Réserve et contrôle continu (TE, corr.) 4p 2p 2p 2p 2p 2p 2p 4p 6p HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 3 Trvux de lbortoire ssociés Estimtion de grndeurs cognitives (essis en simultion vec progrmmes d évitement d obstcles) Test d intelligence rtiicielle selon Turing et utilistion d Eliz Commnde à logique loue Commnde à lgorithme génétique Commnde multimodle Robot mobile utonome AIC- AIC-2 AIC-3 AIC-4 AIC-5 AIC-6 AIC-7 Sur demnde, l étudint peut échnger l une des mnipultions ci-dessus pr un utre sujet (c. mnipultions LRA) HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 4 2
AIC-Automtistion vncée, intelligence rtiicielle et cognitique Contenu Notion de modèle ; métrique pour le tritement d inormtion et pour l cognitique Choix d une structure de commnde Intelligence rtiicielle Commnde à logique loue Commnde multimodle Commnde à lgorithme génétique Robots mobiles utonomes Conclusion HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 5 AIC-Automtistion vncée, intelligence rtiicielle et cognitique Contenu Déinitions Neurone de Hopield Loi de Hebb Générlistion Exemple: commnde d un pendule inversé Autres réseux HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 6 3
Réseux de neurones - exemple reiner vert ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 7 l l Réseux de neurones - déinitions Conçus à l origine pr les biologistes pour étudier le cerveu humin L idée est de modéliser l entité de bse du cerveu humin, le neurone, puis d en ssembler plusieurs in de se rpprocher du risonnement humin Un neurone comporte n liisons d entrées Chque entrée est pondérée pr un cteur w j L sortie y est une onction de l somme pondérée des entrées, près déclge d un certin seuil thêt HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 8 4
Réseux de neurones - exemple vert reiner ccélérer s = n i= w i * x i HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 9 Réseux de neurones - exemple vert reiner ccélérer s = n i= w i * x i HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 5
Réseux de neurones - exemple vert *+* = neurone le plus cti reiner ccélérer s = n i= w i * x i HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 Réseux de neurones - exemple vert * + * = reiner neurone le plus cti ccélérer s = n i= w i * x i HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 2 6
On peut envisger diverses onctions Chque entrée (dont le niveu peut-être booléen ou sclire) se voit multipliée pr le poids de l liison qu elle trverse (synpse) Ce produit élémentire v ensuite gonler l somme générle qui s opère dns le neurone: s = n i= w i * x i l l l Les neurones sont en générl multiples, côte-àcôte, ormnt insi une couche Ils sont cscdbles On en générl 2 à 3 couches HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 3 X W INPUT X2 W2 Y=(xi, wi, ) θ Y OUTPUT Xn Wn X W INPUT X2 W2 Y=(xi, wi, ) θ Y OUTPUT s = n w i i = x i Xn Wn 2 θ HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 4 7
Réseux de neurones Loi de Hebb Pour l pprentissge, l loi de Hebb consiste à ugmenter le poids des liisons ctives ux deux bouts w ij = w ij + α HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 5 Réseux de neurones - exemple vert reiner ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 6 8
Réseux de neurones - exemple vert reiner ccélérer Si le est, reiner HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 7 Réseux de neurones - exemple vert liison ctive ux deux bouts: + reiner ccélérer Si le est, reiner HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 8 9
Réseux de neurones - exemple vert reiner ccélérer Si le est, reiner Si le vert, ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 9 Réseux de neurones - exemple vert 2 reiner ccélérer Si le est, reiner Si le vert, ccélérer Si le est, reiner HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 2
Réseux de neurones - Générlistion Un réseu répond ussi à des conigurtions «non pprises». (Avec plus ou moins de succès.) vert reiner ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 2 Réseux de neurones - exemple Générlistion: Un réseu répond ussi à des conigurtions «non pprises» vert 2 2 reiner ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 22
Réseux de neurones - exemple Générlistion: Un réseu répond ussi à des conigurtions «non pprises», mis sns grntie vert reiner résultt incertin ccélérer HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 23 X W X2 W2 W2 Xn INPUT X2 Wn W2 Y OUTPUT X22 W22 W22 X2n W2n HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 24 2
HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 25 Méthodes non-conventionnelles pour l commnde de processus Vitesse ngulire Position ngulire Commnde de processus Cournt moteur Les réseux de neurones HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 26 3
θ θ dθ θ θ dθ dθ n W Wn i Wn+ Wn+m W, W,i Wn,i Wn+,i i C Ci Ci θ mg Cournt M Wn+m,i Ck dθ n k Wn+m,k HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 27 W, θ θ dθ dθ n W,i Wn,i Wn+,i Wn+m,i Wn+m,k i k Ci Ck C Cournt - deuxième couche - ou neurone le plus cti HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 28 4
HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 29 Extrits de code Simultion d un blncier void UpdteBlncier(/*lot Cournt, lot &Thet, lot &dthet, lot &ddthet*/) { ddthet=36/lm*g*sin(thet/8*pi)+3*cournt; dthet=.99*dthet+ddthet*dt; Thet=Thet+dThet*dt; t=t+dt; return; } HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 3 5
Extrits de code Structure /* / Entrée *) (* (vr) *) (* / (\) *) (* Neurone *) (* / \ (/) *) (* réseu (vr) *) (* \ \ Entrée N *) (* Neurone *) (* */ HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 3 Extrits de code Processus principl void CommndeNeuronle(lot T, lot dt, lot &Co) { i(t> 8) T=T-36; i(t<-8) T=T+36; int ITh, IdTh, IMx; Single2Index( T, ThMin, ThMx, NEntreesPrVr, ITh); Single2Index( dt, dthmin, dthmx, NEntreesPrVr, IdTh); EvlutionDuReseu (ITh, IdTh); RechercheDuNeuroneLePlusActi(IMx); Form->Edit->Text=IntToStr(IMx) ; i(imx>) { ReConversionFormt(IMx, Co ); IMxOld=IMx; } else { IMx=IMxOld; } } HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 32 6
Fig. Mître pour génértion d exemples en vue de l pprentissge HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 33 Extrits des données Exemples pour pprentissge Thet dthet Cournt -8. 795.92 234. -8. 836.73 234. -8. 877.55 234. -8. 98.37 234. -8. 959.8 234. -8.. 234. -72.65 -. 95.98-72.65-959.8 95.98-72.65-98.37 95.98-72.65-877.55 95.98-72.65-836.73 95.98-72.65-795.92 95.98-72.65-755. 95.98-72.65-74.29 95.98 HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 34 7
Extrits de code Processus d pprentissge Loi de Hebb: renorcement des liisons ctives u deux bouts, selon les exemples ournis void ModiPoids(NReseu &N, int i, int j, int k) { // N: No du neurone; // i: No de l vrible; // k: No de l entrée ctive lot PoidsTemp; PoidsTemp=N[i-].Poids[(j)*NEntreesPrVr+k]; PoidsTemp = PoidsTemp + lph; N[i-].Poids[(j)*NEntreesPrVr+k]=PoidsTemp; } HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 35 Extrits des données Exemples de réseu Neurone No.......................... 5. 5. 5.............................................. 5. 6. 6. 5....................... HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 36 8
Extrits de code Evlution du réseu Pour chque neurone: somme pondérée des entrées (ici, toujours deux entrées non nulles: ith et idth ) void EvlutionDuReseu(tIndex ITh, tindex IdTh) {int i; or(i=;i<=nneurones;i++) ReseuNeurone[i-].Sortie = ReseuNeurone[i-].Poids[ITh-] + ReseuNeurone[i- ].Poids[NEntreesPrVr+IdTh-]; } void RechercheDuNeuroneLePlusActi(int &IMx) { int i; lot s=; IMx=; or(i=;i<=nneurones;i++) i(s<reseuneurone[i-].sortie) {s=reseuneurone[i-].sortie; IMx=i; } // end or et i } HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 37 Autres réseux de neurones Le réseu ormé de neurones du type de Hopield et utilisnt l loi d pprentissge de Hebb est le plus ondmentl, mis il y existe ussi d utres types de réseux neuronux, spécilisés, itértis, vec boucles internes: Réseu à rétropropgtion: nous vons ici plusieurs couches. Les poids sont d bord tous déinis u hsrd, puis, vec une sorte de générlistion de l loi de Hebb, sur l bse de chque exemple ourni, les coeicients sont renorcés en cs de succès ou u contrire diminués, en cs d échec. Réseu de Kohonen: les liisons sont itértivement dptées de çon à ce que des liisons voisines en entrée ctivent églement des neurones voisins en sortie Réseu à compétition-coopértion: des liisons trnsversles entre neurone renorcent ou u contrire inhibent les neurones voisins Réseu de Hérult-Jutten: ce réseu prticulier permet le découplge de signux priori mélngés (diphonie) HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 38 9
Autres réseux de neurones Rétropropgtion de 2 HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 39 Autres réseux de neurones Rétropropgtion 2 de 2 «hidden lyer» HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 4 2
Autres réseux de neurones Kohonen de 2 http://membres.lycos.r/jbouzereu/kohonen.html HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 4 Autres réseux de neurones Kohonen 2 de 2 http://jbouzereu.ree.r/kohonen.html HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 42 2
Autres réseux de neurones Hérult-Jutten de 3 Contexte: diphonie SOMA: SIMULATEURS DE RÉSEAUX DE NEURONES cours COMETT-Neurl Résumé et mis en pge pr EINEV/JDZ (voir clsseur u lbo pour l édition complète originle pr LAMI/EPFL) Signux, mélnge et séprtion: HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 43 Autres réseux de neurones Hérult-Jutten 2 de 3 http://www.iris.r/videos/hdr/gribonvl/hdr27.pd HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 44 22
Autres réseux de neurones Hérult-Jutten 3 de 3 http://www.iris.r/videos/hdr/gribonvl/hdr27.pd HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 45 Autres réseux de neurones Compétition/Coopértion Crte colorée pr relxtion: SOMA: SIMULATEURS DE RÉSEAUX DE NEURONES cours COMETT-Neurl Résumé et mis en pge pr EINEV/JDZ (voir clsseur u lbo pour l édition complète originle pr LAMI/EPFL) HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 46 23
Conclusion Un neurone du type de Hopield it l somme pondérée des entrées L loi de Hebb permet d pprendre, en ugmentnt le poids des liisons connectnt entrée et neurone Un réseu de neurones est nturellement cpble de «générliser» Un réseu neuronl peut servir à commnder un système, comme notmment démontré pr l ppliction du pendule inversé Une iblesse, c est l diiculté de pouvoir démontrer l eiccité et l ibilité d un réseu Peut-être utile dns certines «niches» (progrmmtion implicite pr exemple) mis n est évidemment ps comprble en perormnces et possibilités à un ordinteur ordinire, progrmmé de çon cournte HESSO.HEIG-VD, J.-D. Dessimoz, 23.3.2 47 24