Les problématiques de l apprentissage statistique

Transcription

1 Les problématiques de l apprentissage statistique Des neuro-sciences à l intelligence "artificielle" Manuel Samuelides, Professeur à l ISAE manuel.samuelides@isae.fr

2 Plan de l exposé 1 Emergence des systèmes intelligents 2 3

3 Une question quantitative? Cerveau humain : opérations logiques par seconde 1970: ordinateur 10 7 opérations logiques par seconde 2005: PC opérations logiques par seconde Les superordinateurs ont dépassé ce niveau. Sont-ils intelligents pour autant? Comment les programmer? Qu est ce que l intelligence?

4 Le test de Turing Un homme ne peut discriminer par la discussion (questionsréponses) avec l interlocuteur si celui-ci est une machine ou si celui-ci est humain.

5 Le problème du perceptron Base de données: A + R n, A R n Le problème d apprentissage est dit linéairement séparable s il existe φ R n tel que x A +, (φ x) > 0, x A, (φ x) < 0 Algorithme adaptatif du perceptron (Rosenblatt 1957 Cornell Aéronautique) φ n+1 = φ n ± x n+1 Théorème du perceptron: L algorithme du perceptron se termine sur une solution si le problème d apprentissage est linéairement séparable. Et si le problème n est pas linéairement séparable? (Minsky 1969).Extinction provisoire du perceptron

6 Les systèmes à base de règles Base de faits (propositions qui sont vraies ou fausses) Base de règles (relation entre faits liant prémisses et conclusions) Moteur d inférence capable de résoudre des problèmes en cherchant des règles applicables au problème. Exemple célèbre: Mycin: système de diagnostic médical automatique Problème: La plupart des faits sur lesquels s appuient les décisons "intelligentes" sont des faits ocmplexes où les énoncés sont statistiquement vérifiés. Apparaît en reconnaissance de la parole ou en vision, la nécessité d un prétraitement statistique

7 Apprentissage adaptatif L intelligence est la capacité d adaptation, d apprentissage. Ce ne sont pas des connaissances qu il faut extraire des faits et implanter dans le système mais la capacité d apprentissage. L apprentissage doit être permanent et adaptatif car l environnement est changeant

8 Outline 1 Emergence des systèmes intelligents 2 3

9 Description du neurone Le neurone est activé quand la somme des potentiels synaptiques (excitateurs, inhibiteurs) dépasse un certain seuil L activation est transmise par l axone aux neurones suivants du réseau. Le modèle est: p x i = φ( w ij x j + w i0 ) j=1

10 Codage binaire ou analogique En fait l état du neurone est binaire (φ Heaviside, Mais la fréquence d activation du neurone est généralement élevée (rétroactions) et la variable significative dans bien des cas est la féquence d activation On considère généralement des réseaux artificiels où l état du neurone est analogique et des fonctions d activation sigmoides φ(y) = 1 1+e y φ est dérivable et φ (x) = φ(x)(1 φ(x))

11 La règle de Hebb et l apprentissage synaptique Le comportement du réseau est dicté par les synapses (poids w ij dans le modèle mathématique). Il existe des preuves expérimentales montrant que l apprentissage s effectue par la modification des poids synaptiques. La règle de Hebb consiste à définir l apprentissage comme le renforcement du poids de la synapse reliant deux neurones s activant de façon synchrone. La machine de Hopfield (1982) qui applique la règle de Hebb n est pas très efficace. Elle a été rapidement supplantée par le perceptron multi-couche.

12 Outline 1 Emergence des systèmes intelligents 2 3

13 Perceptron multi-couche et règle delta

14 Problématique de l apprentissage supervisé Soit E R p l espace des entrées, F l espace des sorties et W l espace des paramètres du système. Un système d apprentissage est une application Φ : (x, w) E W Φ(x, w) F On se donne une base d apprentissage, c est à dire un sous-ensemble fini {(x i, y i ) E F} i=1...n et une fonction coût, par exemple C(y, ŷ) = y ŷ 2 On cherche à résoudre min w n i=1 Φ(x i, w) y i 2 Il s agit d un problème d optimisation: Si F est fini, il s agit d un problème de classification (exemple lecture d un texte, reconnaissance de la parole) Si F est un sous-ensemble régulier, il s agit d un problème de régression (non linéaire si Φ n est pas linéaire en w)

15 Algorithmes d apprentissage supervisé L algorithme d apprentissage le plus classique est l algorithme de descente de gradient n w n+1 = w n + h n w Φ(x i, w n )(y i Φ(x i, w n )) i=1 Cet algorithme est lent et converge trop facilement vers des minima locaux On peut le rendre adaptatif est le régulariser (rétro-proagation du gradient avec momentum) w n+1 = w n +h n w Φ(x n, w n )(y n Φ(x n, w n ))+η n (w n w n 1 ) On peut l accélérer en utilisant des algorithmes de quasi-newton (BFGS) On peut le régulariser en utilisant des pénalisations de w 2 (Levenberg-Marquard)

16 Outline 1 Emergence des systèmes intelligents 2 3

17 Problématique statistique Si on cherchait à apprendre par coeur la base d apprentissage, on choisirait l espace des paramètres le plus complexe possible pour minimiser l erreur d apprentissage n i=1 Φ(x i, w) y i 2. Problème Etant donné une loi de probabilité P sur E F, on cherche min w y Φ(x, w) 2 dp(x, y) à partir de la donnée d un échantillon de taille n {(x i, y i )} de P qui constitue la base d apprentissage. La qualité de l apprentissage sera mesurée sur un autre échantillon {(x j, y j )} de P qui constituera la base de test.

18 Le compromis biais-variance On cherche w W tel que x Φ(x, w) approche au mieux x E P (Y X = x) Plus W est grand, plus faible est le biais Biais = min w E P (Y X =.) Φ(., w) Plus W est grand, plus grande est la variance de l estimation de ŵ et donc de Φ(., ŵ) Le compromis biais-variance est trouvé soit par des estimations théoriques, soit par l estimation pratique de l erreur de généralisation sur une base de test. Selon le problème physique, une architecture de modèle ou une autre est la plus efficace en terme de compromis biais-variance. Les principales architectures sont: régression linéaire, perceptron multi-couche, machine à vecteur support (ou à noyau).

19 Outline 1 Emergence des systèmes intelligents 2 3

20 Statistique non paramétrique On effectue des mesures dont l ensemble constitue l échantillon Sans hypothèse de type sur la loi de probabilité comment la reconstruire? La loi empirique et l histogramme sont trop irréguliers surtout en petite taille d échantillon.

21 Les fenêtres de Parzen Objectif: régulariser l histogramme Etaler chaque donnée sur une fenêtre de Parzen dont la largeur décrôit avec la taille de l échantillon en 1/ N.

22 Outline 1 Emergence des systèmes intelligents 2 3

23 Analyse en composantes principales (PCA) Le but: Déterminer les facteurs principaux de variabilité d un échantillon L intérêt principal: réduire la dimension d un espace d attributs La technique: recherche des axes principaux d inertie Diagonaliser la matrice de covariance (symétrique, de type postive) Classer les valeurs propres en ordre décroissant Retenir les premières valeurs propres et expliciter le projecteur sur le sous-espace propre Exemple: L école imaginaire: déterminer le "bon élève" et "le littéraire" avec les résultats de 10 matières exemple wiki)

24 Outline 1 Emergence des systèmes intelligents 2 3

25 Classification automatique Problème Classification automatique: chercher un sous-ensemble F de k prototypes dans un espace d attributs normé E qui déterminent la classification Φ F (x) = arg min y F y x Le critère de minimisation de l approximation d un individu par son prototype (LSE: least square error): min F E x Φ F(x) 2 dp(x) La condition de k-moyennes: j = 1...k, y j = xdp(x Φ F (x) = y j ) L algorithme itératif des k-moyennes: à partir de F n (initialisé par tirage aléatoire) On calcule la projection Φ Fn sur le plus proche prototype On recalcule les k-moyennes de cette projection: j = 1..k, y n+1 j = xdp(x Φ Fn (x) = yj n )