INTELLIGENCE ARTIFICIELLE

Transcription

1 Systèmes Intelligents INTRODUCTION A L INFORMATIQUE INTELLIGENCE ARTIFICIELLE Jerzy KORCZAK jjk@dptinfo.ustrasbg.fr Artificial Intelligence is the study of the computations that make it possible to perceive, reason, and act [P.Winston] the engineering goal of AI is to solve realworld problems the scientific goal : models of KR, theoryof reasoning, Systèmes intelligents : machines adaptatives apprentissage à partir d exemples, observations et découverte acquisition et extraction de connaissances aide pour résoudre des problèmes difficiles aide aux experts à la découverte aide à la décision : conseil et explications 2 Tests d intelligence : estce possible? A reallifeturing test: An interviewer (sitting in a separate room) asks a series of questions that are randomly directed to either a computer or a person. Based on the answers, the interviewer must distinguish which of the two has answered the question. If the interviewer is not able to distinguish between them, then the computer is intelligent. Prix de Loebner Prize ($,) et M. Minsky Les échecs : Deep Blue vs G.Kasparow 3.5 : jeuxpossibles 2 mlnpositions analysées par seconde opening book & extended book Des PERCEPTRON aux systèmes intelligents hybrides Systèmes autoadaptatifs Perceptron [Rosenblatt,958], Adaline [Widrow, 962] Le premier joueur artificiel : Checkers[Samuel, 963] Systèmes orientés aux tâches: DENDRAL, MYCIN, AQVAL [97 ] Représentation de connaissances : frames [Minsky, 975] MultilayerPerceptron, GBR, Kohonen map, [Rumelhart, 985] Evolution artificielle [Holland, Goldberg, 989] Apprentissage multistratégique[michalski, 99] KDD, fouille de données, agents intelligents [995 ] Websémantique, authentication biométrique [998 ] Robots intelligents, «maisons intelligents», La communauté IA ne tendent d évaluer des programmes par leur résultats, mais par la complexité interne des algorithmes. 3 4 Parcours d un graphe : Puissance4 Le but du jeu est de former un alignement de quatre jetons avant son adversaire. AlphaBeta est un algorithme dérivé de MinMax Algorithmes de parcours Recherche en profondeur d abord (DFS) et en largeur (BFS) Hill Climbing (descente de gradient) Recherche heuristique : BestFirst search en profondeur ordonnée, en faisceau, du meilleur premier Algorithme A*, IDA*, SMA* Recherche concurrentielle : jeux MINMAX, elagage???, approfondissement progressif Propriétés Complétude Complexité en temps Complexité en espace Optimalité 5 6

2 Algorithme A* Idée : minimiser le coût total f(n) du chemin passant par le nœud n f(n) = d(déjà parcouru) + d(à parcourir) = g(n) + h(n) Parcours d une espace de recherche : jeu Quatro Description 6 pièces différentes ayant chacune 4 caractéristiques : claire ou foncée ronde ou carrée haute ou basse pleine ou creuse Un plateau de 6 cases. But du jeu : créer sur le plateau de jeu un alignement de 4 piè ces ayant au moins une caractéristique commune Sousestimation h(n)?n h(n) <= h*(n) avec h*(n) = coût réel depuis n au but Variantes de A* IDA* =>A* avec approfondissment itératif (étend tous les nœuds à l intérieur d un contour délimité par la valeur courante de flimite) SMA* => A* avec gestion de mémoire 7 8 Quatro: Construction de l arbre par MinMax Méthode proposée par Morgenstern et von Neumann 945 Première phase construction de l arbre recenser tous les coups possibles à jouer le choix de la position le choix de la pièce à donner à son adversaire. générer les plateaux en jouant l ensemble des coups légaux. se positionner sur chacun des plateaux générés et alterner les coups amis des coups ennemis jusqu'à ce que l on atteigne la profondeur souhaitée. Ami Ennemi Représentation de connaissances et du raisonnement Logique de proposition peut_marie_sophie? male? célibataire? riche? intelligent Logique du Premier Ordre language Prolog grandparent (X,Y):= parent(x,z), parent (Z,Y) Schemata et frames Arbres, graphes, réseaux Chromosomes Relations Ami Eval Représentations orientée objet L arbre complet contiendrai 6! *5! = 2.73 * 25 plateaux 9 Représentation de connaissances et du raisonnement Règles d inférence : règle du modusponens{p, (P? Q)}? Exemple : P : [(La situation autour de Microsoft est nébuleuse)] (P? Q): [Quand la situation devient nébuleuse autour d'une compagnie inscrite en bourse, les investisseurs sont sans pitié] (Q) [(Les investisseurs sont sans pitié) : Microsoft (voit) sa capitalisation fondre de 25 milliards US] Autres règles : modustolens {(P? Q),? Q}?? P syllogisme {(P? Q), (Q? R)}? (P? R) Q Système expert L'indépendance entre la base de connaissances et le moteur d'inférences est un élément essentiel des systèmes experts. Base de connaissances Base de faits Moteur d inférences Interface 2 2

3 Méthodes d apprentissage automatique Arbres de décisions : algorithmes TDIDT (ID3, C4.5) Couverture Progressive : AQ, CN2, Découverte de Concepts : CLUSTER, COBWEB, UNIMEM, Instance Based Learning : IBL ExplanantionBased Learning : EITHER Cas d études Réseaux de neurones Simulation d une fonction Découverte de concepts à partir d images et bases de données Authentification biométrique Apprentissage à partir de cas : Julia, Prolabo, Radix, Broadway Apprentissage par renforcement Réseaux de neurones artificiels : MLP, RBF, Kohonen, recurrent nets, Algorithmes génétiques : Genitor, GAGS, ACT Systèmes hybrides : KBANN, AGWIN, Samarah, GAAQ, Clementine, Intelligent Miner, Market Miner Evolution artificielle Régression symbolique Aide à décision boursière Art artificielle 3 4 Réseaux neuronaux Fonctionnement d un neurone Les fondements biologiques influx nerveux soma axone cortex : neurones neurone : ~ 4 entrées synapse X X 2 X 3 w w 2 w i? Fonction d activation F? Y Y 2 dendrites Entrées w k? x i *w i Y 3 Sorties? 5 6 Rétropropagation du gradient Exemple : Rétropropagation du gradient (GBP) Apprentissage x x 2 x 3 x n Vecteur d entrée y y 2 y 3 y m y d y d2 y d3 y dm X Y (X,Y) f(net k )=/(+e net k) net j =? w ij o i o j =f(net j ) W ij = X,5,5? k =(t k o k )f (net k ) f (net k )=o k (o k ) w jk (t+)=w jk (t)+?? k o j Y 7 8 3

4 Exemple : Rétropropagation du gradient (GBP) Apprentissage Exemple : Rétropropagation du gradient (GBP) X Y (X,Y),5?????? z =(.5)*,5*(.5)= W ij = =,25 w zx (t+)=+,*,25*= =,25,5 h z X Y,8,9,, 2,76 3,29 4,95,9,9 4,95,98 7, 7,? h =f (net j )?? k w kj x =,5*(,5)*,25*,625=,95 w hx =+,*,95*=,95 y X Y 9 2 Axone : Exemple [ GND : Growing Neural Gas 2 22 Découverte de classes par réseaux de neurones à partir d images satelitaires Optimisation d une fonction HyperEllipses Composition classiques Colorée Classification Perceptron Expert HyperEllipses orientables (5 classes) (5 classes)

5 Classifieurs génétiques Classification évolutive d images de télédétection Démo CE p Algorithme génétique ai Message {xi } Classifieur «Végétation» Image classifiée Classifieur «Immeuble» Données sources 25 Classifieur «Ombre» 26 Evolution artificielle : Aide à la décision boursière Une illustration simple Modèle de «trading expert» : un sousensemble de règles financi ères Règles boursi ères de l'analyse technique [W.Colby et T. Meyers, J. Murphy] SI conditions sont atteintes ALORS décision L expert débute avec le capital initial C? n Pt + + m Chaque jour l expert gén ère une des trois positions : "Acheter", "Vendre" ou «Garder". Qualité de l expert= F(Gains ou pertes, risque) 27 Représentation génétique des experts 28 Règles financières : Moyenne mobile Peugeot Chaque expert est encodé sous forme d'une chaîne binaire, un chr omosome : R R2 R3 R4 R5 R6 R 7 R8 R9 R R Les gènes représentent des règles à exécuter. Les décisions sont générées selon les conditions spécifiées :?"Vendre" ; le système prévoit que le prix de l'action va descendre,?"acheter", le système prévoit que le prix va augmenter.?"ne Rien Faire" la position neutre Règle : 29 Acheter : quand MM croise les cours à la hausse Vendre : quand MM croise les cours à la baisse 3 5

6 Projet iberealtime Internet BourseExperts Agent Technology Expert Discovery anddatabase Connections Consulting and simulations each 5 sec Time series provider Time series aggregation each min Database Quotes Experts Clients Oracle ias server Supervisor Expert Generator 3 32 Introduction à la programmation génétique J. R. Koza, Genetic Programming: On the Programming of Computers by Means of Natural Selection, MIT Press 996. PG : la construction de programmes en utilisant les concepts d évolution artificielle Représentation d un programme : un arbre syntaxique (+ (* A B) (/ (+C 5) ( D 2.5) )) A * B / C 5 D 2.5 Concepts Cycle de la PG Génération d un programme Texte de programme Compilation Opérateurs génétiques : création, croisement, mutation, sélection Fonction fitness Primitives de programme : Ensemble F de fonctions, (*,+, AND, ) Ensemble T de terminaux (vars, const, ) Programme exéc. Résultats Exécution 34 Art Évolutive : Système EVA strasbg.fr Perspectives Développement des applications de systèmes hybrides perception, vision, interface intelligent, NL IA distribuée, agents intelligents Systèmes d extraction de connaissances data warehouses, multimedia, Web sémantique, immunologie artificielle Biometrie authentification, reconnaissance, interface Hardware systems silicon retinas, robotique, nomadisme, mobiles embarqués