CONSOLIDATION MNÉSIQUE PAR ATTRACTEURS AUTO-GÉNÉRÉS

Dimension: px

Commencer à balayer dès la page:

Download "CONSOLIDATION MNÉSIQUE PAR ATTRACTEURS AUTO-GÉNÉRÉS"

Chantal Pagé
il y a 6 ans
Total affichages :

1 Journées NeuroSTIC 2016 CONSOLIDATION MNÉSIQUE PAR ATTRACTEURS AUTO-GÉNÉRÉS Stéphane Rousset, Laboratoire de Psychologie et Neurocognition Recherches réalisées en collaboration avec Bernard Ans et Serban Musca

2 L OUBLI CATASTROPHIQUE Définition : Oubli dramatique des exemples antérieurement appris lors de l apprentissage de nouveaux exemples Cause : Caractéristique intrinsèque des réseaux à mémorisation distribué Prévalence du problème dans la littérature : Extrêmement faible La solution semble en effet exister : Cognition Artificielle : Rafraîchissement avec les anciens exemples, si besoin Cognition Naturelle : Se restreindre à des réseaux localistes ou des exemples orthogona Rafraîchissement du cortex par l hippocampe, McClelland et al. (19 (problème de la consolidation à long terme?)

3 AUTO-RAFRAÎCHISSEMENT PAR PSEUDO-EXEMPLES Problème : 0n ne dispose pas des exemples passés Solution : A chaque instant le réseau peut auto-générer une pseudo base qui représente l ensemble de son passé Principe : (Robins, 1995) - Prendre au sérieux le fait qu un réseau est simplement une fonct de traitement dont les paramètres sont les synapses - Un réseau qui a appris est donc une fonction que l on peut échantillonner à partir de valeurs aléatoires (bruit) Processus de création de Pseudo- exemples - Calculer la sortie à partir d un bruit aléatoire en entrée - Cette sortie sera le résultat de la fonction de traitement L association entrée - sortie est ainsi un pseudo exemple

4 AUTO-RAFRAÎCHISSEMENT PAR PSEUDO-EXEMPLES SB1 B1 Y, SB1, Y..SBn X, B1, X..Bn Soit une nouvelle association X Y à apprendre Phase 1 Création d une pseudo-base B1 SB1 ; B2 SB2. Bn SBn Phase 2 Apprentissage de la pseudo-base et de X Y en interlacé B1 SB1 ; X Y ; B2 SB2 ; X Y. Bn SBn

5 UNE BASE DE PSEUDO-EXEMPLES INFINIE : RÉSEAU DUAL Phase A: Copie des poids de connexion vers un réseau secondaire COPIE DES POIDS Phase B: Apprentissage de nouveaux exemples conjointement avec un pseudo-rafraîchissement La copie de poids nécessite que le réseau secondaire possède la même structure et est peu neuromimétique.

6 UNE BASE DE PSEUDO-EXEMPLES INFINIE : RÉSEAU DUAL Principe : Faire apprendre les Pseudo-Exemples à un second réseau Etape 1: Transfert de la fonction vers un réseau secondaire Etape 2: Apprentissage de nouveaux exemples conjointement avec un pseudo-rafraîchissement Les deux réseaux n ont alors pas nécessairement la même architecture interne.

7 entrée POINTS ATTRACTEURS & REVERBERATION Les réseaux doivent systématiquement comporter une partie auto-associative. Contrainte «Psychologie Cognitive» - Implémentation de la familiarité perceptive Intérêt pour les pseudoexemples - Permet de converger vers des attracteurs par un processus de réverbération

8 Erreur auto-association entrée POINTS ATTRACTEURS & REVERBERATION Pour l autoassociation, les exemples appris constituent des points attracteurs dans l espace des entrées possibles 0 Axe Similarité des entrées

9 Erreur auto-association entrée POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées

10 Erreur auto-association POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées Bruit

11 Erreur auto-association POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées bruit

12 Erreur Adaptation auto-association error POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées Sortie produite après R1

13 Erreur auto-association POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées Réverbération de la sortie produite en R1

14 Erreur auto-association POINTS ATTRACTEURS & REVERBERATION Dynamique des attracteurs sur l ensemble d un réseau (principal ou secondaire) 0 Axe Similarité des entrées Nouvelle sortie produite en R2

15 Erreur auto-association POINTS ATTRACTEURS & REVERBERATION Mais l idée est peut être tout simplement inapplicable en condition réelles Dimensionnalité des entrées : Tout bruit d entrée à une très forte probabilité d être extrêmement loin d un point appris 0 Axe Similarité des entrées Courbe d erreur : La courbe d erreur est très loin d être régulière dans un réseau à couche intermédiaires non linéaires

16 entrée RÉSUMÉ SUR L ARCHITECTURE Net 1 Net 2

17 RÉDUCTION DE L OUBLI CATASTROPHIQUE Cas d école (MacCloskey, 1989) Importance du processus de réverbération Courbe en «U» : Restructuration pour satisfaire les deux familles de contraintes

18 TRANSFERT DE CONNAISSANCE EN APPRENTISSAGE SÉQUENTIEL Objectif : Etudier l apprentissage séquentiel de deux problèmes structurés ( transfert?) Méthode : Choix de la structure additive (contrôle expérimental plus que réalisme psychologique) Apprentissage de 916 items (base A) correspondant soit à : une addition décimale (e.g., = 53) une opération Max (e.g., 07 Max 46 = 47) Au cours de l apprentissage de 229 items (base B) d addition octale (e.g., = 65 ), test de généralisation sur 687 items d addition octale non appris Etude de trois cas [ pour le cas compatible (décimal) et non compatible (Max)] - Apprentissage de B seul (tabula rasa) - Apprentissage simultané de A et B - Apprentissage séquentiel de A puis B avec pseudo-rafraîchissement et processus de réverbération

19 CODAGE DE L'ADDITION Nb cells= Codage : = 5 3 en décimal [(000) (111)] + [(100) (110)] = [(101) (011)] et [01].

20 OUBLI AU COURS DE L'APPRENTISSAGE D'UNE BASE D'ADDITIONS OCTALES

21 GÉNÉRALISATION AU COURS DE L'APPRENTISSAGE D'UNE BASE D'ADDITIONS OCTALES

22 GÉNÉRALISATION AU COURS DE L'APPRENTISSAGE D'UNE BASE D'ADDITIONS OCTALES

23 GÉNÉRALISATION AU COURS DE L'APPRENTISSAGE D'UNE BASE D'ADDITIONS OCTALES

24 GÉNÉRALISATION AU COURS DE L'APPRENTISSAGE D'UNE BASE D'ADDITIONS OCTALES

25 RÉSISTANCE AUX LÉSIONS Suppression de 5/40 cellules en couche cachée

26 Intercaler des pseudo exemple dans l apprentissage peut-il poser problème? LE CAS DES RNN

27 S(0), S(1),..., S(t-1), S(t), S(t +1),... Net 1 H(t) Net 2 S(t-1) H(t-1)

28 SECOND ORDER CONDITIONAL SEQUENCES SOC = ABCADCDBACBDA (B)C A (D)C D (A)C B

29 APPRENTISSAGE DE SÉQUENCE

30 APPRENTISSAGE DE SÉQUENCE

31 FLEXIBILITÉ DU MODE D INTERLACAGE

32 ET L HUMAIN? Apprentissage de 4 séquences : [W-5-N-G -P], [Z-H-5-R-B], [X-G-8-C-J][Q-L-R-K- 8] (sans auto-répétition, min d apprentissage) Puis apprentissage d une séquence [S-T-D-B-8-L-J-F-V] Et test des anciennes séquences a chaque apprentissage de la nouvelle séquence

33 APPRENTISAGE DE SÉQUENCE

34 UNE FORME SPÉCIFIQUE D INFORMATION? Net 2 Net 1 Pseudo-Examples ( PE ) Exemples rééls

35 Liste 2 Contrôle (non appris) Liste 1 ource (appris) Exemples appris par Net 1

36 Pseudo-Exemples

37 FILTRAGE DES PSEUDO - EXEMPLES - Net 1 apprend les 53 exemples sources. - Puis génère pseudo exemples - Ces pseudo exemples sont filtrés suivant 3 règles 1) Chaque pseudo exemple doit être plus similaire à un exemple contrôle qu à un exemple source 2)La similarité entre le prototype des pseudo exemples est plus forte avec le prototype des exemples contrôle qu avec le prototype des exemples source 3) Le RMS entre deux pseudo exemple doit être supérieur à 0,15 La base de 3000 pseudo exemples apprise par Net2 et le sujet humain ressemblera plus aux exemples contrôle (non appris par net 1) qu aux exem source (appris par net 1)

38 Simulation

39 ET L HUMAIN? Présentation incidente des 3000 Pseudo Exemples ressemblant plus aux contrôles lors d une tâche de détection

40 ET L HUMAIN? Présentation des 3000 Pseudo Exemples ressemblant plus aux contrôles lors d une tâche incidente Test A : Dextérité Perceptive

41 EXPÉRIENCE DEXTÉRITÉ

42 ET L HUMAIN? Présentation des 3000 Pseudo Exemples ressemblant plus aux contrôles lors d une tâche incidente Test A : Dextérité Perceptive Test B : confirmation par une tache de reconnaissance - Apprentissage explicite de formes de même type (cibles) - Reconnaissance de ces cibles parmi des exemples non vus contrôle (non appris par Net 1) et sources (appris par Net 1)

43 EXPÉRIENCE RECONNAISSANCE

44 CONCLUSION La consolidation par attracteurs autogénérés semble être un processus flexible permettant de réduire l oubli catastrophique. Il semble exister des similitudes spécifiques entre le fonctionnement cognitif et les propriétés des réseaux distribués.

Documents pareils

Le Focus Group. - Bases de données, personnes ayant déjà participé à des expériences et acceptant de participer à des études ultérieures.

Le Focus Group. - Bases de données, personnes ayant déjà participé à des expériences et acceptant de participer à des études ultérieures. Le Focus Group I. Définition «Le Focus groupe est une discussion de groupe ouverte, organisée dans le but de cerner un sujet ou une série de questions pertinents (Kitzinger, Markova, & Kalampalikis, 2004).