Traitement Automatique des Langues pour les Systèmes d'information. Désambiguisation morpho-syntaxique

Transcription

1 Langues pour les Systèmes d'information Désambiguisation morpho-syntaxique Nathalie Friburger Jean-Yves Antoine

2 Plan Processus stochastiques Modèle de Markov caché (HMM) Algorithme de Viterbi Etiquetage morpho-syntaxique Langues pour les SI 2 / 25

3 Plan Processus stochastiques Modèle de Markov caché (HMM) Algorithme de Viterbi Etiquetage morpho-syntaxique Langues pour les SI 3 / 25

4 Processus stochastiques Processus aléatoire : Espace probabilisé des évènements : (Ω, A, P) Séquence, suite, série, ensemble ordonné Indexation d'évènements dans T = R, R +, N Peut-être mesuré en : Continu : variables aléatoires Discret : variables aléatoires états (symboles) Stochastique : Indexation dans le temps (instant, date, indice) Réalisation d'un processus stochastique : Variable aléatoire : Y(ω, t) Notation sur N : Y(ω, t) = Y t (ω) = Y t Langues pour les SI 4 / 25

5 Processus stochastiques Quelques processus stochastiques : Répétitions indépendantes d'une même expérience : Lancer «pile ou face» n fois : Avoir «pile» à l'instant t : p Probabilité de k «piles» après n tirages (binomiale) : C n k p k q n-q Loi de probabilité dépendante du temps : Durée de vie d'un composant électronique : Probabilité qu'il soit HS au jour j : 1 e -λj Loi de probabilité dépendante des événement précédents : Tirer (sans remise) n fois dans un chapeau des tickets parmi T, dont g gagnants : Probabilité d'avoir k tickets gagnants : C gk C T-g n-k /C T n... Langues pour les SI 5 / 25

6 Processus stochastiques Processus stochastique, une variable aléatoire : Discrète ou continue Plus ou moins dépendante de paramètres (Ω) Plus ou moins dépendante du temps (T) Estimation : Déterminer les paramètres qui modélisent le mieux le processus selon les dépendances et la loi de probabilité Prédiction : Évaluer la probabilité de la prochaine valeur pour la variable étant donné les paramètres du modèle et l'historique : P( Y t = y Y t-1 = y t-1, Y t-2 = y t-2, Y 0 = y 0 )? Langues pour les SI 6 / 25

7 Plan Processus stochastiques Modèle de Markov caché (HMM) Algorithme de Viterbi Etiquetage morpho-syntaxique Langues pour les SI 7 / 25

8 Modèle de Markov caché (HMM) Processus markovien : Processus stochastique Une variable ne dépend que du présent, pas du passé Utile en physique statistique, théorie de l'information... Chaîne de Markov (1913) : Succession des lettres dans «Eugène Onéguine» Temps discret, espace discret : (Y t = y t N, y N) La probabilité d'une variable ne dépend que de celle la précédant dans le temps : P(Y t = y Y t-1 = y t-1, Y t-2 = y t-t... Y 0 = y 0 ) = P(Y t = y Y t-1 = y t-1 ) Pas de «mémoire», et «homogène» (ne dépend pas de t) Langues pour les SI 8 / 25

9 Désambiguisation morpho-syntaxique Modèle de Markov caché (HMM) Modélisation par chaîne de Markov : Modèle «graphique» Variable états Probabilités (matrice) de transitions, par ex. : Appel Agenda 0.1 Veille SMS 0.3 Appel Agenda SMS Veille Appel Agenda SMS Veille Langues pour les SI 9 / 25

10 Modèle de Markov caché (HMM) Modèle de Markov caché : Hidden Markov Model (HMM) (Baum, 1965) Modélisation d'un processus stochastique «génératif» : État du système : non connu Connaissance pour chaque état des probabilités comme état initial, de transition entre états et de génération de symboles Observations sur ce qu'a «généré» le système????? A D F C L Applications : physique, reconnaissance de parole, traitement du langage, bio-informatique, finance, etc. Langues pour les SI 10 / 25

11 Modèle de Markov caché (HMM) Exemple sur le smartphone : On ne connaît pas l'usage à un instant t du smartphone Mais on observe que l'utilisateur réalise sur l'écran tactile du smartphone majoritairement l'un des contacts suivants : Aucun contact (A) Ponctuel unique (PU) Ponctuel multitouch (PM) Long unique (LU) Long multitouch (LM) Appel Agenda SMS Veille A PU PM LU LM Enfin, on connaît la probabilité, dans chaque état, de réaliser chacun des contacts Langues pour les SI 11 / 25

12 Modèle de Markov caché (HMM) Problématique : Étant donné une suite de symboles générés, quelle est la suite d'états (cachés) la plus probable?????? A PU PM A LM Y (états) X (observations) Par ex. : P(Veille, Appel, SMS, Veille, Agenda)? P(Veille, SMS, SMS, Veille, Appel)? P(Veille, Appel, Veille, Veille, Veille)? Langues pour les SI 12 / 25

13 Modèle de Markov caché (HMM) Formalisation, soit le HMM (A, B, π) tel que : Ensemble d'états : { s 1, s 2... s n } Vecteur de probabilité d'états initiaux : π = { p i = p(y 0 = s i ) } Matrice de probabilités de transitions : A = { a i,j = p(y t = s j Y t-1 = s i ) } (Σ i a i,j = 1) Ensemble d'observables : { o 1, o 2... o k } Matrice de probabilités d'observations : B = { b i,l = p(x t = o l Y t = s i ) ) (Σ i b i,j = 1) Langues pour les SI 13 / 25

14 Modèle de Markov caché (HMM) Probabilité d'observations : Indépendance des transitions d'états : P(Y 1 = s t(1), Y 2 = y t(2)... Y n = s t(n) ) = π t(1) *a t(1),t(2) * * a t(n-1),t(n) Indépendance des observations sachant les états : P(X 1 = o u(1), X 2 = o u(2)... X n = o u(n) Y 1 = s t(1), Y 2 = s t(2)... Y t = s t(n) ) = b t(1),u(1) *b t(2),u(2) b t(n),u(n) On en déduit (Bayes) : P(X 1 = o u(1), X 2 = o u(2)... X n = o u(n) ) = Σ t() π t(1) *b t(1),u(1) *a t(1),t(2) *b t(2),u(2) *a t(2),t(3) b t(n-1),u(n-1) *a t(n-1),t(n) *b t(n),u(n) Estimation des paramètres du modèle à partir d'observation par l'algorithme de Viterbi / Forward Backward (Baum Welch) Langues pour les SI 14 / 25

15 Plan Processus stochastiques Modèle de Markov caché (HMM) Algorithme de Viterbi Etiquetage morpho-syntaxique Langues pour les SI 15 / 25

16 Algorithme de Viterbi Objectif : trouver la séquence d'états la plus probable étant donné un HMM et une séquence d'observation : max t() [P(Y 1 = s t(1)... Y n = s t(n) X 1 = o u(1)... X n = o u(n) )] Complexité : Pour t observations, sur un HMM à s états, le nombre de séquences d'états possibles est s t Par ex. pour le smartphone, avec la séquence (A, PU, PM, A, LM), 4 5 = 1024 solutions à examiner... Programmation dynamique : Construction incrémentale de la solution la plus probable Tire parti de la chaîne de Markov Langues pour les SI 16 / 25

17 Algorithme de Viterbi La séquence la plus probable dépend de t et de la séquence la plus probable à t - 1 Appel Appel Appel Appel Appel Agenda Agenda Agenda Agenda Agenda SMS SMS SMS SMS SMS Veille Veille Veille Veille Veille A PU PM A LM Y (états) X (observations) Langues pour les SI 17 / 25

18 Algorithme de Viterbi On parcourt les observations (o u(1), o u(2)... o u(n) ) et on stocke pour chaque instant : La meilleure probabilité d'atteindre chaque état : α 0 (i) = π i *b i,u(1) α t (j) = max i [α t-i (j)*a i,j ]*b j,u(t) L'état précédent qui a donné la meilleure probabilité d'arriver à un état donné : Ψ t (j) = { i t. q. α t-1 (i)*a i,j = max k [α t-1 (k)*a k,j ] Ainsi on ne conserve pas en mémoire les chemins qui ne conduisent pas aux meilleures probabilités Possibilité de plus d'élaguer l'arbre de recherche Langues pour les SI 18 / 25

19 Algorithme de Viterbi Par ex. : Observation A : α 0 (Appel) = 0.25*0.1 = α 0 (Agenda) = 0.25*0.1 = α 0 (SMS) = 0.25*0.1 = α 0 (Veille) = 0.25*0.5 = Observation PU : α 1 (Appel) = max (0.025*0.2, 0.025*0.3, 0.025*0.3, 0.125*0.4)*0.4 = 0.02 (Ψ 1 (Appel) = Veille ) α 1 (Agenda)= max (0.025*0.1, 0.025*0.1, 0.025*0.2, 0.1*0.125)*0.2 = (Ψ 1 (Agenda) = Veille ) α 1 (SMS) = max (0.025*0.3, 0.025*0.1, 0.025*0.3, 0.125*0.4)* = 0.01 (Ψ 1 (Agenda) = Veille ) Langues pour les SI 19 / 25

20 Algorithme de Viterbi Modélisation du problème : Processus stochastique Observations mais pas de connaissance des états Connaissance des probabilités : Initiales De Transitions De génération de symboles Problème adapté pour un modèle de Markov caché Prédiction par l'algorithme de Viterbi : Fournit la solution optimale pour les paramètres du modèle Sans fouiller tout l'espace de recherche (prog. dynamique) Langues pour les SI 20 / 25

21 Plan Processus stochastiques Modèle de Markov caché (HMM) Algorithme de Viterbi Etiquetage morpho-syntaxique Langues pour les SI 21 / 25

22 Etiquetage morpho-syntaxique Catégorie morpho-syntaxique (MS) : catégorie grammaticale des mots Déterminant Nom Verbe Adjectif Adverbe Préposition... rôle du mot dans la phrase? Utile pour analyser le langage (chunking, syntaxe, RI, etc) Problème : les mots sont ambigus (avions, brise, porte...) Langues pour les SI 22 / 25

23 Etiquetage morpho-syntaxique Par ex. : «La petite brise la glace» DET ADJ NOM PRO VER DET NOM VER DET NOM Dans la majorité des cas, la phrase n'est pas ambiguë, mais certains mots le sont : Je porte le sac à dos Elle a fermé la porte. Les avions décollent Nous avions beaucoup mangé. Le «rôle» du token détermine sa catégorie MS : Fortement dépendante de la catégorie MS précédente Pas besoin de traitements sur le sens / la sémantique Langues pour les SI 23 / 25

24 Etiquetage morpho-syntaxique Modèle de Markov bien adapté : Etats : catégories MS (NOM, VER, PREP...) Probabilités initiales : début par une catégorie MS : P(Y 0 = DET) = 0.3 Transitions : probabilités que deux catégorie MS se suivent P(Y i = NOM Y i-1 = DET) = 0.6 P(Y i = ADJ Y i-1 = DET) = 0.4 P(Y i = NOM Y i-1 = ADJ) = 0.8 Observations : probabilités d'avoir un token par état : P(X i = avions Y i = NOM) = 0.02 P(X i = porte Y i = VER) = 0.01 Langues pour les SI 24 / 25

25 Etiquetage morpho-syntaxique Modèle «génératif» du langage pour la tâche d'étiquetage MS : DET ADJ??? Le petit train a roulé Y (états) X (observations) Deux étapes : Apprentissage du modèle par estimation des paramètres optimaux (Baum Welch) sur un corpus déjà étiquetté Prédiction d'étiqeuttage sur d'autres textes (tokenisés) à l'aide du modèle paramétré et de l'algorithme de Viterbi Langues pour les SI 25 / 25