Statistique pour la bio-informatique Séance Decembre 2003 Chaînes de Markov cachées. 1 Chaînes de Markov cachées et applications

Transcription

1 Statistique pour la bio-informatique Séance Decembre 2003 Chaînes de Markov cachées 1 Chaînes de Markov cachées et applications Les modèles à données latentes (ou manquantes ou cachées) constituent des outils puissants pour modéliser des systèmes dont la dynamique effectue des transitions entre différents états impossible à observer directement Dans une chaîne de Markov cachée, les différents états d un système peuvent être caractérisés par un nombre fini de valeurs On passe alors de l état s i à l état s j avec la probabilité p si,s j lors d une transition Dans chaque état, le système est susceptible émettre un symbole o pris dans un alphabet O fini (O pour observable) La probabilité d émission du symbole o peut dépendre de l état s Nous la notons q s,o Les algorithmes dédiés aux chaînes de Markov cachées sont des algorithmes d estimation statistique Etant donnée une suite d observations de longueur T, o 1,, o T, ils ont pour objectif typique d estimer la suite d états s 1,, s n la plus probable Pour cela, il faudra ajuster correctement les paramètres du modèles P = (p si,s j ) et Q = (q so ) à partir d un ensemble de n séquences dont les états sont connus Le premier objectif est généralement rempli par l algorithme de Viterbi Le second objectif est rempli par l algorithme EM, dont la version spécifique aux CMC s appelle algorithme de Baum-Welch 11 Applications Les applications des CMC (ou d autres modèles à structure latente comme les réseaux de neurones) sont très nombreuses en bio-informatique Nous illustrons cette approche à l aide de l exemple classique la recherche de gènes que nous simplifierons à l extrême (cf logiciel genscan de Burge et Karlin, 1997) 12 Algorithmique des chaînes de Markov cachées Dans cette section, nous notons S l ensemble des états cachés et S t la chaîne associée s 1, s 2 S, p s1,s 2 = P(S t+1 = s 2 S t = s 1 ) 1

2 Nous notons π la loi initiale de la chaîne π s = P(S 1 = s) Nous notons O l ensemble des états observables Conditionnellement à S t = s, la donnée X t est donc issue de la loi o O, P(X t = o S t = s) = q s,o Ayant observé une séquence de longueur T, o 1,, o T, la vraisemblance du paramètre multidimensionnel θ = (π, P, Q) est égale à L(θ) = P(o 1,, o T ; θ) 121 Algorithme forward La vraisemblance L(θ) correspond à la vraisemblance incomplète d un modèle à données manquantes L(θ) = P(o 1,, o T s 1,, s T ; Q) P(s 1,, s T ; (π, P )) s 1,,s T Précisement, nous avons L(θ) = s 1,,s T π s1 q s1,o 1 p s1,s 2 q s2,o 2 p st 1,s T q st,o T Cette formule suggère un algorithme de calcul naïf, dont la complexité de l ordre O(T (#S) T ) rendrait le coût rapidement prohibitif La solution provient d un algorithme de programmation dynamique Il repose sur le calcul de la grandeur α t (s) = P(o 1,, o t, S t = s) Cette grandeur représente la probabilité d observer o 1,, o t avec l état au temps t, S t = s Proposition 11 Algorithme forward Soit o 1,, o T une suite d observations provenant d une CMC Posons α 1 (s) = π s q s,o1 2

3 α t (s t ) = s β t (s t ) = s et, pour tout t = 2,, T, s t S, α t 1 (s)p s,st q st,o t Nous avons L(θ) = s S α T (s) L algorithme de calcul associé est de complexité de l ordre de O(T (#S) 2 ) Démonstration De manière un peu moins naturelle, mais complètement équivalente, nous pouvons considérer une variable qui remonte le sens du temps Cette variable est appelée variable backward β t (s) = P(o t+1,, o T S t = s) Cette grandeur représente la probabilité d observer o T,, o t+1 conditionnellement à S t = s Proposition 12 Algorithme backward provenant d une CMC Posons Soit o 1,, o T une suite d observations β T (s) = 1 et, pour tout t = 1,, T 1, s t S, β t+1 (s)p st,sq s,ot+1 Nous avons L(θ) = s S π s β 1 (s)q s,o1 L algorithme de calcul associé est de complexité de l ordre de O(T (#S) 2 ) Démonstration 3

4 122 Algorithme de Viterbi L algorithme de Viterbi permet de calculer la suite d états cachés la plus probable vu les observations o 1,, o T s 1,, s T = arg max P(o 1,, o T s 1,, s T ; θ) Notons que la valeur max est appelée score de Viterbi On l obtient formellement en remplaçant la somme par le maximum dans l expression de la vraisemblance incomplète L(θ) Rechercher le maximum de manière naïvement énumérative conduit à un algorithme de complexité exponentiellement croissante en la longueur des observations (O(T (#S) T ) ) Comme dans la section précédente, nous pouvons construire un algorithme complexité quadratique O(T (#S) 2 ) Cet algorithme, dit algorithme de Viterbi s obtient simplement en remplaçant la somme par le max Proposition 13 Algorithme de Viterbi Soit o 1,, o T une suite d observations provenant d une CMC Posons v 1 (s) = π s q s,o1 et, pour tout t = 2,, n, Nous avons s t S, et, pour tout t = T 1,, 1, v t (s t ) = max{v t 1 (s)p s,st q st,ot } s s T = arg max v T (s) s s t = arg max{v t (s)p s,s s t+1 } Démonstration 123 Exercices Exercice 1 On pose γ t (s) = P(S t = s o 1,, o T ; θ) 4

5 Montrer que γ t (s) = α t(s)β t (s) L(θ) Exercice 2 On pose s 1, s 2 S, n t (s 1, s 2 ) = P(S t = s 1 ; S t+1 = s 2 o 1,, o T ; θ) Montrer que et s 1, s 2 S, n t (s 1, s 2 ) = α t(s 1 )p s1,s 2 q s2,o t+1 β t+1 (s), L(θ) γ t (s) = s 2 n t (s, s 2 ) 124 Algorithme de Baum-Welch L algorithme de Baum-Welch est un algorithme d estimation itératif dérivé de l algorithme EM Plutôt que de détailler les calculs (fastidieux) conduisant aux itérations, nous tentons d en expliquer les aspects intuitifs Afin d estimer le paramètre du modèle θ = (π, P, Q) nous disposons pour l estimation de n séquences de longueur T Notons O i les séquences observées, et S (i) les séquences cachées Les valeurs initiales S 1 sont choisies de manière arbitraire Etant données des valeurs initiales de π, P, et Q, nous pouvons calculer une première estimation de π une première estimation de P et une première estimation de Q π(s) = 1 n E[#{i ; Si 1 = s} {O (i) }], p s,s = E[N s,s {O(i) }] E[N s {O (i) }] q s,o = E[N s(o) {O (i) }] E[N s {O (i) }] Dans ces équations, N s,s est le nombre de fois où l état s est suivi de l état s N s,s = # {i, t ; S i t = s; S i t+1 = s }, 5

6 N s est le nombre de fois où l état s apparaît N s = # {i, t ; S i t = s}, et N s (o) est le nombre de fois où l état s génère l observation o N s (o) = # {i, t ; S i t = s; O i t = o} Les espérances précédentes peuvent être facilement calculées en terme des variables forward et backward lorsque l on introduit les variables indicatrices des événements que l on cherche à compter On obtient π(s) = 1 n n i=1 γ (i) 1 (s), et p s,s = n i=1 T 1 s n i=1 t=1 n(i) t (s, s ) T 1 t=1 n(i) t (s, s ) Pour calculer l espérance E[N s (o) {O (i) }], il suffit de sommer sur les observations ayant donné un symbole o n i=1 t;o q s,o = (i) t =o s n (i) t (s, s ) n T 1 s i=1 t=1 n(i) t (s, s ) 6