RI translinguistique 1. Problème 2. Approches

Transcription

1 RI translinguistique 1. Problème la RI Translinguistique (RIT) tente de surmonter la barrière de langue entre les requêtes d'usager et les documents. Dans la vie réelle, un usager qui soumet une requête en français pourrait aussi être intéressé par des documents en anglais, allemand, etc. S'il utilise un système de RI monolingue, il devrait soumettre plusieurs requêtes dans les langues concernées. C'est d'une part lourd à utiliser, et d'autre part impossible pour certains usagers qui ne maîtrisent pas une langue étrangère, mais s'intéresse quand même à obtenir des documents dans cette langue (par exemple, les gens qui font la veille des produits ou des technologies). À la limite, si l'usager ne peut pas comprendre le document dans une langue, il aura toujours la possibilité de faire traduire par un système de traduction automatique ou par un traducteur humain. La RIT vise à fournir des outils pour permettre aux usagers de trouver des documents dans une langue différente de la langue de requête. On distingue la recherche translinguistique (d'une langue à une autre) et la RI multilingue (d'une langue à plusieurs autres). Dans le premier cas, il faut traduire soit les documents, soit la requête pour que la requête devienne comparable avec les documents. Dans le deuxième cas, il faut en plus s'occuper des combinaison des résultats en différentes langues afin de produire une seule liste de réponse ordonnée. Donc, il y a un problème de fusion des résultats. 2. Approches D'abord, on peut traduire la requête ou on peut traduire les documents. L'avantage de la première méthode est qu'elle est assez souple. L'usager peut indiquer la langue qu'il s'intéresse, et le système traduit dans cette langue. De plus, la longue de la requête est généralement courte. Sa traduction est donc très rapide. L'inconvénient est que la requête ne fournit pas assez d'information contextuelle pour déterminer comment traduire les mots dans la requête. Sur le Web, les requêtes ont une longueur moins de 2 mots. Il est donc très difficile de déterminer la traduction correcte, surtout dans le cas des mots ambigus. La deuxième approche a justement l'avantage d'avoir plus d'informations contextuelles pour déterminer la traduction correcte. C'est au moins l'intuition qu'on a. Cependant, étant donnée le volume des documents, cette traduction prend longtemps. De plus, il est difficile de prévoir en quelle langue l'usager va interroger ces documents. Ainsi, virtuellement, il faut traduire les documents dans toutes les langues possibles. Cela va grandement augmenter le volume de stockage. Mais par ce fait d'avoir une traduction des documents, l'utilisateur pourra avoir une version traduite en sa langue directement. Il y a eu des tests sur la performance des deux approches, et il ne semble pas dégager une grande différence entre les deux. Pour la traduction de requête (ou de documents), on peut procéder notamment de 3 façons: - utiliser un dictionnaire bilingue - utiliser un système de traduction automatique - utiliser des textes parallèles 1. La première approche utilise les mots de traduction stockés dans un dictionnaire bilingue pour créer une traduction. L'approche la plus simple consiste à utiliser tous les mots de traduction pour traduire un mot source.

2 Une approche un peu plus évoluée consiste à attribuer un poids à ces mots de traduction. Ce poids peut être déterminé selon le nombre de mots de traduction (1/n où n est le nimbre de traductions), selon leur fréquence dans la langue (plus un mot est fréquent, plus il est la traduction probable). 2. L'utilisation d'un système de traduction automatique (TA) semble idéale pour la RIT. Malheureusement, la qualité de la TA se laisse à désirer. Le résultat de cette traduction n'est pas toujours idéal. De plus, certains traitements sophistiqués dans la TA s'avère non nécessaire ou indésirable. Par exemple, le choix d'un mot unique pour mettre dans la traduction. En effet, il est possible d'avoir plusieurs mots possibles pour exprimer un sens. Si le système TA sait que plusieurs mots sont équivalents, pourquoi doit-il choisir un seul? S'il laisse tous les mots possibles, on aurait naturellement l'effet d'expansion de requête qui élargira le champ de recherche. Si au contraire, le système ne sais pas comment choisir entre deux mots différents et qu'il se force à prendre un des deux, il y a un grand risque qu'il faut une erreur. De plus, il y a beaucoup de traitement pour arranger la phrase de sortie pour qu'elle soit grammaticale, bien structurée. Mais cet effort ne sera pas utile pour la RI basée sur les mots clés. 3. L'utilisation des textes parallèles peut être vue comme un remplacement aux deux précédent ou un complément. Une paire de texte parallèle signifie un texte en langue source et un autre texte (sa traduction) en langue cible. Il y a eu deux idées testées. La première consiste à utiliser la RI pour trouver, pour une requête donnée, un sous-ensemble de textes dans la langue de la requête. On utilise ensuite les textes parallèles de ces textes trouvés pour constituer une "traduction". Cette traduction est constitué des mots clés les plus importants parmi ces textes en langue cible. On peut même juste utiliser le vecteur centroïde de ces textes comme le vecteur de la requête traduite. Cette requête traduite sera utilisée pour chercher les documents dans la vraie collection en langue cible. La deuxième idée consiste à extraire un modèle de traduction à partir de ces textes parallèles. Ce modèle de traduction reflète les relation de traduction entre les mots de deux langues. L'idée de base est la suivante: plus un mot en langue cible co-occure avec un mot source dans les textes parallèles (l'un dans le texte en langue cource, et l'autre dans le texte en langue cible), plus il y a une relation de traduction entre les deux mots. Plus de détails sont fournies en bas. 3. Entraînement des modèles de traduction Si on utilise juste les co-occurrences dans les textes parallèles, un mot peut être traduit par beaucoup de mots (virtuellement tous les mots qui apparaissent dans le texte cible). Pour restreindre cette correspondance de traduction, on tente de réduire la portée de traduction. La meilleure portée qu'on peut utiliser est la phrase, car c'est facile de reconnaître des phrases, et qu'en générale, il y a une relation de traduction assez stricte entre les phrases - en générale, les gens traduisent phrase par phrase. Ainsi la première tâche est de faire l'alignement des phrases, c'est-à-dire de identifier pour chaque phrase source sa traduction en langue cible. Il y a l'alignement du type 1:1, n:n, ou n:0. La plupart d'alignements sont du type 1:1. n:n signifie qu'un block de plusieurs phrases est traduit par un block de plusieurs phrase, et qu'il n'est pas possible de séparer ces block en phrases et de créer une correspondance de traduction entre ces phrases. Le type n:0 veut dire que les n phrases n'ont pas de traduction (omission ou dans le sens inverse,

3 ajout). Pour l'entraînement d'un modèle de traduction, on choisit en général à utiliser la portion 1:1, car c'est la portion la plus précise. Méthodes d'alignement de phrases La méthode la plus classique consiste à utiliser la longueur de phrase. L'idée est que une phrase de traduction doit avoir une longueur comparable à la phrase source. Ce critère se combine avec le critère d'ordre des phrases - les phrases de traduction sont (en générale) dans le même ordre que les phrases sources. Ces deux critères sont combinés dans la programmation dynamique qui tente de trouver le meilleur ensemble d'alignements de phrases, de telle manière que la correspondance de traduction selon les deux critères sera la plus forte. L'algorithme le plus connu est sans doute celui de Gale & Church. Il utilise le nombre de caractères pour mesurer la longue de phrase. Un algorithme similaire par Charniak utilise le nombre de mots comme longueur. On observe qu'on n'utilise aucune connaissance linguistique dans ces méthodes. En pratique, quand on veux déterminer si une phrase est la traduction de l'autre, on examine généralement le contenu des phrases (les mots) pour voir si les mots se traduisent. L'algorithme par Simard, Foster & Isabelle considère la notion de "cognate" pour tenir compte des traductions possibles entre les mots. Cognate désigne les mots dont les racines sont identiques. On observe que dans les langues européennes, les racines de mots sont souvent les mêmes. Ainsi, danns un algorithme amélioré, ils compte le nombre de cognates (les mots commençant par les même 4 caractères). Plus il y a des cognates entre deux phrases, plus ces deux phrases ont la chance d'être la traduction l'une de l'autre. Dans la même veine, on peut aussi utiliser un dictionnaire bilingue pour déterminer le nombre de mots de traduction identifiables par le dictionnaire. Plus on trouve ces mots de traduction identifiables, plus les phrases ont une chance d'être parallèle. Dans une série de tests récents, nous avons constaté que l'utilisation d'un dictionnaire bilingue améliore grandement la qualité d'alignement de phrases. Entraînement d'un modèle Ici, on ne parle que l'entraînement d'un modèle 1 d'ibm. Dans ce modèle, on suppose que n'importe quel mots dans la phrase cible a autant de chance d'être la traduction d'un mot de la phrase source. Autrement dit, on ne considère ni la position de mot, ni la structure (ou le contexte) dans lequel le mot apparaît. L'entraînement d'un tel modèle se fait par les étapes suivantes: - Pour une paire de mots s, t (source et cible), on estime une probabilité de traduction initial P(t s) selon leur co-occurrences dans les phrases parallèles. - On utilise l'algorithme EM (Expectation Maximization) pour maximiser la probabilité de correspondance entre les phrases parallèles. C'est un processus itératif. Pour le modèle 1 en particulier, il est prouvé qu'il y a juste un point optimum. Ainsi, après un certain nombre d'itérations, on peut atteindre ou se rapprocher suffisamment ce point optimum. - Le résultat des deux étapes précédentes est un ensemble de probabilité P(s t) (ou un tableau). De la même façon, on peut aussi estimer P(s t).

4 Utilisation du modèle pour la RIT Il y a quelques variantes dans l'utilisation d'un modèle ainsi entraîné. Soit une requête en langue source Q s. On peut faire une traduction "mot à mot", c'est-à-dire d'identifier les traductions les plus probables pour chaque mot de la requête. Par exemple, on peut déterminer les 3 mots de traduction les plus probable pour chaque mot source. Il est aussi possible de faire une traduction globale, c'est-à-dire de faire une traduction mot à mot, et ensuite, on regroupe les probabilités pour les mêmes mots. Par exemple, si deux mots sources peuvent être traduits par le mot A, avec différentes probabilités, alors, on peut dire que la probabilité de A pour les deux mots est la somme des deux probabilités. De cette façon, on peut considérer le fait de traduction "conjointes". Parmi les traductions pour une requête, on peut finalement choisir les plus forts (par exemple, les 30 premiers). Ces mots choisis constituent la "traduction" de la requête source. 4. Comparaisons Il y a plusieurs comparaisons entre les 3 méthodes. Il est démontré qu'une méthode simpliste basée sur un dictionnaire bilingue ne fonctionne pas bien. En général, la performance de RIT est environ 50% de celle de la RI monolingue. Cependant, si on ajoute d'autres éléments dans cette méthode, par exemple, un modèle de langue pour choisir les meilleurs mots de traduction, la performance peut être grandement augmenté, et atteindre le même niveau que la RI monolingue. La performance de la RIT en utilisant la TA se situe généralement à % de celle de monolingue. La performance de RIT en utilisant seulement le modèle de traduction se situe à 60-80% de celle de monolingue. Mais si on combine cette approche avec un dictionnaire, la performance devient comparable à celle utilisant la TA. Finalement, il est intéressant de combiner différentes approches dans la traduction. Chaque méthode a ses points forts et faibles. - Dictionnaire bilingue: les traductions sont correctes, mais très ambiguës. En plus, il y a le problème de couverture (seulement une partie de traductions possibles sont stockées). - TA: Stratégie sophistique pour le choix de mots, souvent bénéfique pour choisir le bon mot. Mais il y a le problème de la disponibilité pour beaucoup de langue "mineures". Développement très coûteux. - Textes parallèles: Il y a des méthodes automatiques pour construire des modèles peu coûteux. Il a besoin des textes parallèles. La traduction a un effet d'expansion de requête. Cependant, les mots retenus ne sont pas forcément des mot de traduction, mais souvent des mots reliés. 5. RI multilingue Le problème supplémentaire est de combiner les résultats des recherches dans différentes langues. Cela veut répondre à la question: comment ordonner deux documents en deux langues différentes qu'on a trouvé séparément? Les stratégies suivantes ont été testées: - utiliser les similarité des documents: plus la similarité est forte, plus le document est classé en haut. Mais cela pose des problèmes si les similarités de différents ensembles ne sont pas comparables - utiliser le rang des documents. Ça veut dire qu'un document de rang 1 dans un ensemble sera classé plus haut dans la liste finale que tous les documents de rang 2. - Prendre à tour de rôle dans chaque ensemble un certain nombre de document. Par exemple, on prend 2 document dans l'ensemble 1, ensuite 1 document dans l'ensemble 2, ensuite 2

5 document dans l'ensemble 1, puis 1 document dans l'ensemble 2, etc. Cette stratégie est basée sur l'hypothèse que l'ensemble 1 est deux fois meilleur que l'ensemble 2. - Déterminer une probabilité de pertinence pour une position donnée dans chaque ensemble, en utilisant des données d'entraînement - les jugements de pertinences précédentes pour d'autres requêtes.