(2ÈME ÉDITION) Antoine Cornuéjols et Laurent Miclet. Editions Eyrolles, 2009 Version du 9 décembre 2009

Dimension: px

Commencer à balayer dès la page:

Download "(2ÈME ÉDITION) Antoine Cornuéjols et Laurent Miclet. Editions Eyrolles, 2009 Version du 9 décembre 2009"

Juliette Lacroix
il y a 6 ans
Total affichages :

1 i L APPRENTISSAGE ARTIFICIEL CONCEPTS ET ALGORITHMES. (2ÈME ÉDITION) Antoine Cornuéjols et Laurent Miclet Editions Eyrolles, 2009 Version du 9 décembre 2009

2 ii

3 Table des matières Table des matières iii Avant-propos ix Quelques applications de l apprentissage artificiel x Quelques définitions de base x Deux champs industriels de l apprentissage artificiels : la reconnaissance des formes et la fouille de données xi Les caractéristiques de l apprentissage artificiel xiii Trois exemples d apprentissage xiv Organisation et plan de l ouvrage xvii Guide de lecture xix Notations xxv I Les Fondements de l Apprentissage 1 1 De l apprentissage naturel à l apprentissage artificiel 3 1 L apprentissage artificiel Deux exemples : apprendre à jouer, apprendre à lire Deux approches : la cybernétique et les sciences cognitives Les concepts de base de l apprentissage L induction comme un jeu entre espaces Retour sur l organisation de l ouvrage Première approche théorique de l induction 37 1 Poser un problème d apprentissage Approches bayésiennes et approche directe pour décider Le critère inductif Analyse du principe de Minimisation du Risque Empirique Le lien entre le passé et le futur et le no-free-lunch theorem Notes historiques et bibliographiques

4 iv Table des matières 3 L environnement méthodologique de l apprentissage 81 1 L espace des données d apprentissage L espace des hypothèses d apprentissage Les protocoles d apprentissage L évaluation de l apprentissage La comparaison des méthodes d apprentissage Autres problèmes pratiques II Apprentissage par Exploration Induction et relation d ordre : l espace des versions Les concepts de base La structuration de l espace des hypothèses La construction de l espace des versions La représentation des connaissances par un treillis de Galois La programmation logique inductive La programmation logique inductive : le cadre général La logique des prédicats et les programmes logiques : terminologie La structuration de l espace des hypothèses en logique des prédicats L exploration de l espace des hypothèses Deux exemples de systèmes de PLI La probabilisation de la PLI Les domaines d application de la PLI Les chantiers de la PLI Reformulation, transfert de connaissances et apprentissage par analogie L apprentissage en présence de théorie L apprentissage par examen de preuve (EBL) Abstraction et reformulation des connaissances Changement de repère, raisonnement par analogie et RaPC L apprentissage par proportion analogique Bilan L inférence grammaticale Définitions et notations Les protocoles de l inférence : quelques résultats théoriques L espace de recherche de l inférence régulière L inférence régulière sans échantillon négatif L inférence régulière sous contrôle d un échantillon négatif L inférence de grammaires algébriques L inférence d automates probabilistes Quelques approches complémentaires

5 Table des matières v 8 Apprentissage par évolution simulée Trois espaces au lieu de deux Un modèle formel simplifié de l évolution Les algorithmes génétiques Les stratégies d évolution La programmation génétique La coévolution III Apprentissage par Optimisation L apprentissage de modèles linéaires Introduction Régression linéaire Séparatrices linéaires Modèles linéaires par morceaux et combinaisons de modèles locaux La recherche des facteurs pertinents L apprentissage de réseaux connexionnistes Les différents éléments d un réseau connexionniste L architecture multicouche L algorithme d apprentissage Quelques résultats théoriques sur les réseaux connexionnistes Comment choisir l architecture d un réseau? Les réseaux à architecture profonde Réseaux et régime dynamique : le «Reservoir Computing» L apprentissage de réseaux bayésiens Les modèles graphiques Les réseaux d inférence bayésiens Les inférences dans les réseaux bayésiens L apprentissage des réseaux bayésiens L inférence de relations causales Applications Quelques logiciels L apprentissage de modèles de Markov cachés Les modèles de Markov observables Les modèles de Markov cachés (Hmm) Les Hmm comme règles de classification de séquences L évaluation de la probabilité d observation Le calcul du chemin optimal : l algorithme de Viterbi L apprentissage Approfondissements Applications Apprentissage par inférence d arbres Les arbres de décision Les arbres de régression

6 vi Table des matières IV Apprentissage par approximation et interpolation Méthodes à noyaux Trois voies vers les méthodes à noyau Philosophie des méthodes à noyaux Les Séparatrices à Vaste Marge (SVM) Autres types d induction avec fonctions noyau Ingénierie des fonctions noyau Les méthodes à noyaux en pratique Bilan et perspectives L apprentissage bayésien et son approximation L apprentissage bayésien Les méthodes paramétriques Les méthodes non paramétriques Les méthodes semi paramétriques L apprentissage de réflexes par renforcement Description du problème Si tout est connu : l utilité de la fonction d utilité L apprentissage des fonctions d utilité quand l environnement est connu Sans modèle du monde : la méthode de Monte-Carlo La méthode des différences temporelles La généralisation dans l apprentissage par renforcement Contrôle optimal par recherche arborescente et algorithme UCT Le cas des environnements partiellement observables Exemples d application Bilan et perspectives V Au delà de l apprentissage supervisé Apprentissage de combinaisons d experts Principes des méthodes par combinaison Le vote de plusieurs classificateurs Les codes correcteurs de classes Le boosting d un algorithme d apprentissage Le bagging L apprentissage en cascade (cascading) La classification non supervisée et la fouille de données Introduction Les méthodes de classification fondées sur les distances Les méthodes de classification par des modèles probabilistes Méthodes spectrales de catégorisation La classification de données symboliques La fouille de données Les analyses en composantes

7 Table des matières vii 19 L apprentissage semi-supervisé Présentation Les modèles génératifs : apprentissage dans l espace joint X Y L auto-apprentissage Le co-apprentissage L utilisation d hypothèses fondamentales sur les données Quelques directions pour l apprentissage semi-supervisé Conclusion Vers de nouvelles tâches et de nouvelles questions Apprentissage actif Apprentissages en-ligne, incrémental et par transferts Apprentissage à partir de flux de données Apprentissage de sorties structurées Apprentissage pour le filtrage collaboratif Analyse de l induction : approfondissements et ouvertures Généralisation de l analyse du principe MRE Principes inductifs contrôlant l espace des hypothèses Prise en compte de l algorithme d apprentissage dans la théorie Autres types d analyses VI Annexes techniques Annexes techniques Exemples de fonctions de perte en induction Le calcul de l intervalle de confiance de l estimation de la probabilité d une règle de classification Estimation d une densité de probabilité en un point L estimation des paramètres d une distribution gaussienne Pourquoi et comment la règle du PPV converge-t elle? Pourquoi la règle de décision bayésienne est-elle optimale? Apprentissage par Estimation-Maximisation Optimisation par descente de gradient La rétropropagation du gradient de l erreur L analyse de l induction de Vapnik L induction par compression d information Bibliographie 763 Index 795

Documents pareils

4.2 Unités d enseignement du M1

88 CHAPITRE 4. DESCRIPTION DES UNITÉS D ENSEIGNEMENT 4.2 Unités d enseignement du M1 Tous les cours sont de 6 ECTS. Modélisation, optimisation et complexité des algorithmes (code RCP106) Objectif : Présenter