Problème de la compression/ dilation du temps. Exercice arbres de décision. Modèle de Markov cachée Hidden Markov Model (HMM)

Dimension: px

Commencer à balayer dès la page:

Download "Problème de la compression/ dilation du temps. Exercice arbres de décision. Modèle de Markov cachée Hidden Markov Model (HMM)"

Michel Normand
il y a 6 ans
Total affichages :

1 Modèle de Markov cachée Hidden Markov Model (HMM) 2 Exercice arbres de décision Construire l arbre de décision à partir des données suivantes en utilisant l algorithme ID3. Présence Interaction avec le prof Mange à Noël Réussite Régulière Pose des questions Dinde Oui Régulière Ne pose pas de questions Canard Non Absence Pose des questions Dinde Non Régulière Pose des questions Canard Oui Régulière Ne pose pas de questions Dinde Non Régulière Ne pose pas de questions Canard Oui Source: Rappel: Entropie ( S) = c i= p i log 2 p i Gain( S, A) = Entropie( S) v Valeurs ( A) Sv Entropie( Sv) S Problème de la compression/ dilation du temps 3

2 Topologies typiques 4 Comment estimer les probabilités associés à la machine à états finis? 5 Modèle de Markov Un processus de Markov est un processus stochastique possédant la propriété de Markov La prédiction du future, sachant le présent, est pas plus précise si des informations supplémentaire concernant le passé deviennent disponibles. Séquence d observations O = {q, q 2,..., q T } Modèle du premier ordre P(q t = j q t = i, q t = k,...) = P(q t = j q t = i) 6 Ref: 2

3 Modèle de Markov Typiquement représenté par une machine à états finis 0.4 P (q ) S (q 3) N (q 2) Probabilités de transition: a, a,2 a,3 A = a 2, a 2,2 a 2,3 = " a 3, a 3,2 a 3,3 % " Probabilités initales: = [ p(q ), p(q 2 ), p(q 3 )] % 7 Balles dans des urnes p(rouge) = b () p(vert) = b (2) p(bleu) = b (3) p( jaune) = b (4) p(rouge) = b 2 () p(vert) = b 2 (2) p(bleu) = b 2 (3) p( jaune) = b 2 (4) p(rouge) = b 3 () p(vert) = b 3 (2) p(bleu) = b 3 (3) p( jaune) = b 3 (4) N urnes et balles de différentes couleurs Un génie joue une partie: Il choisit une urne au hasard. Il choisit une balle au hasard d une urne. Il prend en note la couleur de la balle comme étant une observation. Il retourne la balle dans l urne. Il répète l opération et génère une séquence d observations de couleurs. 8 Simple HMM à états discrets Probabilité d observation (3 couleurs) " 0.4 % 0.3 q q q " % Correspond à un simple HMM Probabilité de l état initial: probabilité de la sélection étant à l urne i Probabilité d observation: probabilité de choisir une couleur n sachant qu elle provienne de l urne i Probabilité de transition: probabilité de choisir une couleur de l urne i étant donné que le choix précédent provenait de l urne j " 0.6 % États (3 urnes) 9 3

4 Définition d un HMM N: nombre d états dans le modèle États: État au temps t: T: nombre d observations/trames Symboles d observations: O= { o, o2, o3, L, ot } Observation au temps t: Distribution de prob. de transition d états: Transition entre l état s i au temps t et l état s j au temps t+: Ensemble de toutes les transitions d états: 0 Définition d un HMM Distribution de prob. d observation o k à l état j: bj( k) = P( ok qt = sj) j N, k T Ensemble de toutes les observations: Distribution des états initiaux: Ensemble de tous les états initiaux: Un HMM est décrit par: Génération des observations. Choisir un état initial à partir de la distribution des états initiaux 2. Pour t = à T. Choisir o t en fonction de la probabilité d observation d un symbole à l état i : 2. Faire une transition à un nouvel état en fonction de la probabilité de transition d états 2 4

5 Représentation sous forme de treillis des HMM Chaque noeud du treillis est l événement où une observation o t est générée alors que le modèle occupait l état s i 3 3 Problèmes de base des HMM. Évaluation:. Problème: calculer la probabilité d observation de la séquence d observations étant donnée un HMM: 2. Solution: Forward Algorithm 2. Décodage:. Problème: trouver la séquence d états qui maximise la séquence d observations 2. Solution: Viterbi Algorithm 3. Entraînement:. Problème: ajuster les paramètres du modèle HMM afin de maximiser la probabilité de générer une séquence d observations à partir de données d entraînement 2. Solution: Forward-Backward Algorithm 4 Évaluation doit être évaluée pour toutes les séquences d états Q={q,q 2,,q T } possibles: p(o ) = p(o,q ) = p(o Q, )p(q ) Q p(o Q, ) = b q (o ) b q2 (o 2 ) b qt (o T ) Q p(q ) = " q a q q 2 a q2 q 3...a qt q T Avec T observations et N états dans le modèle: N T séquences d états possibles Approximativement T*N T opérations requises 5

6 Exemple: Pile ou face avec deux pièces de monnaie O={Face,Pile,Pile} " p( face) = p(pile) = % q 0 q États p(états) p(fpp États) Résultat q 0,q 0,q 0 **=0.25 **= q 0,q 0,q **=0.25 **0.6= q 0,q,q 0 **=0.25 *0.6*= q 0,q,q **=0.25 *0.6*0.6= q,q 0,q 0 **= **= q,q 0,q **= **0.6= q,q,q 0 **= *0.6*= q,q,q **= *0.6*0.6= " p( face) = 0.4 p(pile) = 0.6 % 6 P(FPP) : Forward Algorithm Une approche plus efficace pour évaluer Définissons. comme étant la probabilité d observations o à o t avec la séquence d états qui se termine à l état q t =s i pour l HMM 7. Initialisation: 2. Induction: 3. Terminaison: Avec T observations et N états, ceci requiert environ N 2 T opérations 8 6

7 Forward Algorithm o t o t+ j s j α Nj 9 " p( face) = p(pile) = % q 0 q " p( face) = 0.4 p(pile) = 0.6 % Face Pile Pile q 0 * * * q *0.4 *0.2 *0.25 *0.4 * *0.2 * Backward Algorithm Une approche efficace pour évaluer direction inverse dans la Définissons comme étant la probabilité d observations o t+ à o T avec la séquence d états qui se termine à l état q t =s i pour l HMM 2 7

8 o t+,o t+2,,o M Initialisation: Induction: Terminaison: Avec T observations et N états, ceci requiert environ N 2 T opérations " p( face) = p(pile) = % q 0 q " p( face) = 0.4 p(pile) = 0.6 % Face Pile Pile 0.36 ** *0.4* **5 5 **.0.0 **5 *0.6*5 **.0 *0.6* *0.6*.0.0 *0.6*5 q 0 q 24 8

9 3 Problèmes de base des HMM. Évaluation: Problème: calculer la probabilité d observation de la séquence d observation étant donnée un HMM: Solution: Forward Algorithm 2. Décodage: Problème: trouver la séquence d état qui maximise la séquence d observations Solution: Viterbi Algorithm 3. Entraînement: Problème: ajuster les paramètres du modèle HMM afin de maximiser la probabilité de générer une séquence d observation à partir de données d entraînement Solution: Forward-Backward Algorithm 25 Problème de décodage: chercher la séquence optimale d états Critère d optimalité: choisir la séquence d états qui maximize la probabilité en utilisant l algorithme de Viterbi 26 Problème de décodage: chercher les séquences optimales d états Définissons comme étant la probabilité conjointe des observations o à o t et la séquence d états q q 2 q 3 q t se terminant à l état q t =s i étant donné l HMM Nous pouvons montrer par induction que: 27 9

10 28 Algorithme de Viterbi Cumuler les probabilités de chemins maxima: Garder la trace des meilleures séquences : 29 Exemple Viterbi = " % " A = % ' C =.737 ' G =.737 ' ' T = ' q 0 q Séquence d observation: GGCACTGAA - " A =.737 % ' C = ' G = ' ' T =.737 ' G G C A C T G A A q q Séquence : q q q q 2 q 2 q 2 q 2 q 2 q Source :Exemple de Didier Gonze adapter de Borodovsky Ekisheva (2006), p

11 3 Problèmes de base des HMM. Évaluation: Problème: calculer la probabilité d observation de la séquence d observation étant donnée un HMM: Solution: Forward Algorithm 2. Décodage: Problème: trouver la séquence d état qui maximise la séquence d observations Solution: Viterbi Algorithm 3. Entraînement: Problème: ajuster les paramètres du modèle HMM afin de maximiser la probabilité de générer une séquence d observation à partir de données d entraînement Solution: Forward-Backward Algorithm 3 Entraînement des HMM Consiste à entraîner les paramètres du modèle HMM afin de maximiser la probabilité L entraînement se fait avec l algorithme Forward- Backward qui est aussi appelé l algorithme Baum-Welch 32 Algorithme Forward-Backward Soit un modèle HMM initial,, estimons un nouvel ensemble de paramètres du modèle de telle sorte que Utilisons les probabilités forward pour ce faire; et backward Et l algorithme d expectation-maximization: EM Algorithm 33

12 Réestimation des paramètres Définissons comme la probabilité d être à l état s i au temps t et à l état s j au temps t+ étant donné le modèle et la séquence d observations O Réestimation des paramètres Définissons de nouvelles probabilités a posteriori à partir de Nombre de transitions à partir de s i : Exprimée en fréquence relative Nombre de transitions de s i à s j : Exprimée en fréquence relative Nous allons utiliser ces probabilités pour ré-estimer les paramètres HMM 36 2

13 Réestimation des paramètres Probabilité des états initiaux: Probabilités de transition: Probabilités d observations 37 Réestimation des paramètres 38 3

Documents pareils

Capacité d un canal Second Théorème de Shannon. Théorie de l information 1/34

Capacité d un canal Second Théorème de Shannon Théorie de l information 1/34 Plan du cours 1. Canaux discrets sans mémoire, exemples ; 2. Capacité ; 3. Canaux symétriques ; 4. Codage de canal ; 5. Second