CHAINE DE MARKOV CM CHAINE DE MARKOV

Transcription

1 CHAE DE MARKOV CM { X ; } CHAE DE MARKOV ue sue de varables aléaores aya le même esemble des éas E {E, E,, E m } X représee l éa au emps. O suppose la propréé de Markov : P X E P X / X E, X 0 0 E / X E,..., X E E O suppose auss la propréé d homogééé : P X E / X E a dépeda de O déf la marce des probablés de rasos : M [ a ],,..., m

2 O représee la chaîe par u graphe : Esemble de sommes E {E, E,, Em} Esemble des arcs déf par : { E E / a > 0} Exemple Chaîe ergodque. ous les éas so récurres 4 3 Exemple Eas rasores Eas récurres Exemple

3 Probablés des éas O oe par p p,..., p,..., p k la able défssa les probablés des éas au emps : p Pr ob{ X E } O a alors : p + p M La probablé d avor observer ue séquece d éas : E, E,..., E,..., E Es égale à : 0 p E a a k... a... a k k+ Probablé de l éa al Probablés de rasos E 0 Géérao d ue séquece d éas par ue chaîe de Markov La chaîe de Markov peu êre cosdérée comme u gééraeur de séqueces de logueur varable L : alsao : a, a...,, a S E E... E... E 0 k L es la réalsao de la varable X 0 do la able de probablé es p X 0 E 0. Géérao de l éléme E k E k es la réalsao de la varable codoelle PX?/X - E k- do la réparo de probablé es la able : O a alors : p S P X 0 E a a... a 0 0 L L 3

4 CHAE DE MARKOV CACHEE CMC Exemple Exemple : O dspose de 3 ures coea des boules blaches, ores e grses das des proporos dfférees. O oe par PB/u, P/u, PG/u les probablés de rer ue boule blache, or ou grse de l ure u,,3. U opéraeur vsble chos, à des sas régulers, ue ure e re ue boule de cee ure e aoce la couleur. S l chos ures l aocera à u observaeur la séquece des couleurs rés oée O. As, au emps, l opéraeur chos ue ure u e re ue boule de couleur o de cee ure. O suppose que le rage d ue boule au emps es dépeda du rage de la boule au emps -. 4

5 Exemple sue O fa l hypohèse que l opéraeur chos la séquece des ures suva u modèle d ue chaîe de Markov aya pour paramères {Π, A} e do les éas so les ures. Cee chaîe sera de cachée pusque l opéraeur es vsble. As : La séquece U u u.u sera de la séquece des éas cachée car vsble e elle es géérée par la chaîe de Markov cachée. la séquece O o o.o sera de la séquece des observaos qu sera aocée à l observaeur. CMC : défo M : le ombre des symboles observables. : le ombre des éas cachées. V{v,v,,v M } : l esemble des symboles observables. Q{q,q,,q } : l esemble des éas cachées. Π[π ] : la able de probablés de l éa al de la CM. A[a ] : marce des probablés de raso de la CM. B[b v k ] : marce M avec b v k Pv k /q probablé de l émsso de l éa v k par l éa q. : alle d ue séquece d observaos. oao : les paramères du modèle sero oés par : λπ, A, B 5

6 Géérao d ue séquece d observaos Ue séquece d observaos O o o o es géérée de la maère suvae :. Chosr u éa al selo la dsrbuo Π.. Fare, so l dce de l éa au emps. 3. Chosr o selo la able de probablé de l émsso de l éa la able de probablé b. 4. Chosr l éa + selo les probablés de rasos a + Fare +. q [ ] 5. S < alors reourer à l éape 3 so F. La séquece sera de la séquece des éas cachées. ros problèmes Problème : Ea doé la séquece d observaos O o o o e le modèle de paramère λπ,a,b, comme calculer PO /λ? Problème : Ea doé la séquece d observaos O o o o comme chosr la séquece des éas sous-acees e qu es opmal suva u cera crère? Problème 3 : Comme auser les paramères λπ,a,b af de maxmser PO /λ? 6

7 Problème Calcule de PO /λ Ue maère mmédae pour calculer cee probablé es d éumérer oues le séqueces d éas possbles e de calculer : p O p O, p Avec : P Séqueces # a a 3... a p O /, b o b o... b o Chaîe de Markov dépedace des observaos D où P O,# b o a b o a 3... a b o Mas cee formule es rès coûeuse e emps de calcule. Ordre de calcule Calcule de PO /λ Méhode Forward O calcule α Po o o, q /λ Observaos parelles Calcule de α. α π o pour,,. Pour,,,- e pour,, & # ' + $ ' a b o + % 7

8 8 Calcule de PO /λ Méhode Backward + + o b a O calcule β Po + o + o / q,λ Calcule de α. β pour,,. Pour -,, e pour,,, Observaos parelles Calcule de po /λ # O p / # $ b O p / O P # $ $ % O a : Pour ou

9 Problème : Décodage Déermao de la séquece cachée «opmale» rouver la séquece des éas cachées qu explque au meux» la séquece des observaos. Déermer : Or p argmax p / O, O p, O / p O / Déermer arg max p, O / Algorhme de Verb Problème : Algorhme de Verb O déf :... # # max p... #, o... o,, o / La séquece des observaos qu maxmse la probablé d avor observé : les observaos usqu au emps - l éa au emps l observao au emps Par défo : b o 9

10 Problème : Algorhme de Verb Eape : pour,, δ π b o e Ψ 0 Eape : pour fare Eape 3 : F o re $ % Max # & Arg [% ' a] b o max[ % a ] * $ p Max[ % ] & & # * Arg max[ % ] & & Eape 4 : recosuo de la séquece Pour -,, * * + + ' Problème 3 Déermao des paramères Ea doé u modèle e ue séquece d observao, modfer les paramères du modèle af de reprodure au meux les observaos. O déf : # ab o + + p, # m m... m La probablé de passer de l éa q à l éa q au emps... p, Probablé d êre à l éa q au emps 0

11 Problème 3 Déermao des paramères # Représee la fréquece relave des rasos à ravers l éa q p, Représee la fréquece relave des rasos de l éa q à l éa q Algorhme aˆ ˆ Problème 3 Déermao des paramères - alser les paramères λ 0 Π 0,A 0,B 0 - Répéer l éape érave suvae Les paramères couras λπ,a,b permee de calculer les ouveaux paramères ˆ ˆ, Â, Bˆ par :.. p, 3. bˆ v k { ; o v } k