Apprentissage automatique bio-inspiré et vision par ordinateur

Transcription

1 Apprentissage automatique bio-inspiré et vision par ordinateur Etudiant : Kalifou Traoré Licence 3 Entrepise : IRCICA - CRIStAL - FOX Durée : 5 mois Supervisé par : Mr. Marius Bilasco & Jean Martinet

2 Plan Présentation de l'équipe de recherche Présentation des activités menées : I. Contexte et objectif du stage II. Introduction au sujet III. Etat de l'art dans le prétraitrement de l'image et réseaux neuronaux IV. Phase de conception V. Bilan de la mission VI. Conclusion 2

3 Présentation de l'équipe de recherche 3

4 Fox Fouille et indexation de documents complexes et multimedia - FOX Directeur : Mr. Jean Martinet, MCF à l Institut universitaire de technologie de Lille Tuteur : Mr. Marius Bilasco, MCF à l Université de Lille 1, membre permanent 4 membres permanents & 8 membres non-permanents 2 Doctorants 4

5 Fox Savoir-faire développés dans la vision par ordinateur Emotions Foule 5 Regard

6 Présentation des activités menées 6

7 I/ Contexte et objectif du stage : S'inscrire dans la tendance des systèmes «bio-inspirés» plus réalistes, plus performants Apporter un nouvel outils pour la détection de formes à FOX Etudier une nouvelle génération de systèmes d'apprentissage automatique (Réseaux neuronaux à STDP) 7

8 I/ Contexte et objectif du stage : Applications à fort potentiel industriel et scientifique Véhicules autonomes Moteurs de recherche - Web - Big Data 8 Imagerie médicale

9 II/ Introduction au sujet : Constituants élémentaires et formalisme: le neurone et la synapse Les réseaux neuronaux artificiels : assemblages de constituants - utilité : Apprentissage par expérience - un célèbre modèle : «Multi-layer Perceptron» (1957, Frank Rosenblatt ) 9

10 II/ Introduction au sujet : Le modèle «bio-inspiré» : «Spike-Timing Dependant Plasticity», ou plasticité temporelle : - une synapse est renforcée lorsque le neurone pré-synaptique emet un spike avant le neurone post-synaptique. Elle est affaiblie dans le cas contraire. - information envoyée sous forme de courant électrique : que représente une image? - modèle plus proche du vivant : promet de bonnes performances. 10

11 III/ Etat de l'art dans le prétraitement de l'image et les réseaux STDP Documentation approfondie sur les méthodes actuelles Utilité : comprendre la caractérisation d'une images en spikes Plusieurs critères pour s'orienter : Tâche accomplie par le réseau présenté Données en entrée Couches de pré-traitement Présence de couches avec plasticité STDP Protocole de stimulation 11

12 III/ Etat de l'art dans le prétraitement de l'image et les réseaux STDP Etape crutiale : comparer des approches, Etape coûteuse en temps Découverte de notions incontournables : Mécanisme «One-Winner-take-all» : compétition interneurones, mémoire individuelle, inhibition latérale Apprentissage automatique : données similaires, groupe homogène; données différentes, groupes distincts Protocoles d emission de spikes : comment envoyer l'information dans le réseau Notions en neurosciences (modèle HMAX) 12

13 III/ Etat de l'art dans le prétraitement de l'image et les réseaux STDP Le modèle HMAX : combinaison de ces notions, et immitation du cortex visuel (Riesenhuber & Poggio, Nature Neuroscience, 1999) S1 : filtre sensible aux contours et orientations C1 : système d échantillonnage sur S1 S2 : couche avec plasticité STDP reliée à C1 + «One-Winner-Take-All» C2 : couche de neurones prototypes, récupère la réponse maximale de S2 Output : classifieur (Masquelier T, Thorpe SJ, 2007) 13

14 IV/ Conception de réseaux neuronaux : Outils & matériel Brian Simulator CBCL Face Database : Entrainement et tests 14

15 IV/ Conception de réseaux neuronaux : 15

16 IV/ Conception de réseaux neuronaux : Exemples de fonctionnalités conçus : Inhibition latérale Combinaison de réponses 17

17 IV/ Conception de réseaux neuronaux : Inhibition latérale C C C C dt = 5*ms Inbition latérale «appliquée à un visage» Durée de simulation = 50 ms Durée de réfraction inhibitoire = 2 ms 18

18 Combinaisons des réponses C2 S2 S1 C1 19

19 V/ Bilan de la mission Quelques difficultés : Faible expertise de l'équipe de recherche sur le sujet autonomie Bilan positif : Objectif atteint : caractériser les images pour l'apprentissage Fonctionnalités supplémentaires nécéssaires à reconstituer HMAX «validées visuellement» Vers une future mission : Corriger les erreurs pour une phase d'apprentissage fonctionelle Développer des méthodes de validations rigoureuses 21

20 III/ Conclusion Grande opportunité de découvrir le machine learning & concepts de l intelligence artificielle Découverte du monde de la recherche: comprendre le lien étroit entre l innovation et la recherche, et leur intérêt Experience humaine : persévérance, concentration, autonomie & communication Contribution au développement d'un savoir-faire dans la detection de forme avec STDP Contribution à renforcer une base de documentation sur l aspect de l apprentissage automatique traité 22