CommentWatcher. plateforme Web open-source pour analyser les discussions sur des forums en ligne. Marian-Andrei RIZOIU

Transcription

1 CommentWatcher plateforme Web open-source pour analyser les discussions sur des forums en ligne Marian-Andrei RIZOIU 2ème octobre 2013 BLEND 2013 Lyon, France

2 Contexte Laboratoire ERIC Université Lumière Sciences Humaines et Sociales Sociologie, Psychologie, Linguistique, Histoire, etc.) Projets de recherche multidisciplinaire Identifier des patrons à partir des textes mortuaires (historiens) Analyser des débats publiques : forums en ligne et média traditionnel (sciences sociales) Discoures sur la médecine nucléaire: évolution diachronique et diastratique (linguistes) Evolution de l'images des politiciens et des entreprises à travers le média social (sciences politiques) Détecter des rôles sociaux dans des réseaux sociaux enferré à partir des discussions sur des forum en ligne (Technicolor) 2

3 Les données : Une collection de textes en langage naturel, souvent issus de l'internet. Les défis : grands volumes de données ; besoin de résumer les «idées» principales : les thématiques besoin d'analyser comment les utilisateurs interagissent par rapport à l'information textuelle (diffusion de l information, réseaux sociaux). 3

4 Une solution issue du data mining : Extraire les thématiques des discussions Associer à ces thématiques des noms compréhensibles pour les humains Analyser le réseau social en ligne des utilisateurs qui discutent Dimension appliquée : Demande très forte de la part de chercheurs, surtout dans le domaine des Sciences Humaines et Sociales (Sociologie, Psychologie, Linguistique, Histoire, etc.) Solution implémentée dans une plateforme d'analyse des discussion sur des forums en ligne CommentWatcher 4

5 Le contexte du travail - les forums de discussion Nom d'utilisateur Date du message Difficultés : La plupart des outils ne traitent pas l'aspect réseau social des données forum Popularité (infos supplémentaires) [AME12, GUI13] Manque de jeux de données issues de forums Structure des sites qui change constamment Problème de licence sur le contenu des forums Relation structurelle (réponds à) 5

6 Objectif général : deux types d'utilisateurs l analyste des forums : comprendre les discussions entre les utilisateurs et leurs thématiques le chercheur : construire des jeux de données forums, analyser les évolutions des thématiques de discussion Notre proposition : CommentWatcher Plateforme Web opensource (GPLv3) 4 tâches : Récupération des données à partir d'internet Extraction de thématiques Visualisation de thématiques comme un nuage d'expressions et l'évolution temporelle Visualisation du réseau social sous-jacent 6

7 Module I. Récupération des données Récupérer le texte des discussion sur des forum en ligne, ainsi que des méta-données sur les utilisateurs et leur relations (e.g., pseudo, nom, date, qui répond à qui etc.) Méta-parseur, indépendant de la structure des pages web Support pour de nouveaux sites via des fichiers de définition Recherche des forums supportés via une requête, en utilisant l'api Bing Téléchargement «en masse» des forums 7

8 Module II. Extraction des thématiques Extraire les thématiques de discussions, à partir d'un sous-ensemble de documents, en utilisant des algorithmes issues de data mining. 3 algorithmes supportés : Topical Ngrams (suite Mallet [MCC02]) CKP [RIZ10] Dynamic Topic Models [BLE06] (en développement) ---> Partitions: ----> Cluster 0 [101]: > Cluster 1 [90]: > Cluster 2 [128]:... texte_ > Cluster 3 [192]:... texte_81... Result - Cluster description: -> Centroid[0]: "jours fériés" -> Centroid[1]: "travailler plus pour gagner plus" -> Centroid[2]: "commémoration" -> Centroid[3]: "histoire de france" Exemple de sortie du logiciel d'extraction de thématiques, inclus dans CommentWatcher 8

9 Module III. Visualiseurs Nuage d'expressions pour chaque thématique Évolution temporelle par forum et par site Évolution de la popularité d'une thématique Réseau social modélisé comme un multigraphe Nœuds : les utilisateurs ; Arcs : les messages associés à des thématiques Basé sur la relation de citation 9

10 Vidéo Site de Présentation : lyon2.fr/commentwatcher 10

11 plateforme Web opensource parseur facilement adaptable aux changements de structure des sites visualiseurs qui permettent la compréhension rapide des thématiques de discussion et la structure du réseau social sous-jacent Développements futurs extraction de thématiques temporelles et visualisation adaptée intégration du calcul des mesures pour les réseaux sociaux évoluer la visualisation côté client (applet) vers une visualisation côté serveur intégrer l'évaluation de la cohésion sémantique des thématiques [MUS11] 11

12 Équipe de développement Développeur principal Développeurs Mouhamadou Bamba Kane (Master 2) Brian Ampwera (Master 1 DMKM) Cyril Briquet (Master 1 Informatique) Nikolay Anokhin (Master 1 DMKM) Projets de recherche ImagiWeb CRTT-ERIC ERIC-ELICO Conversession Supervision, Julien Velcin, Adrien Guille Je vous remercie pour votre attention! Site de présentation : lyon2.fr/commentwatcher Installation publique : lyon2.fr:8080/commentwatcher

13 Bibliographie [AME12] S. Amer Yahia, S. Anjum, A. Ghenai, A. Siddique, S. Abbar, S. Madden, A. Marcus, and M. El Haddad. Maqsa: a system for social analytics on news. In SIGMOD 12, pages , [GUI13] A. Guille, C. Favre, H. Hacid, and D. Zighed. Sondy: An open source platform for social dynamics mining and analysis. In SIGMOD 13, [MCC02] A. K. McCallum. Mallet: A machine learning for language toolkit [RIZ10] M. A. Rizoiu, J. Velcin, and J. H. Chauchat. Regrouper les données textuelles et nommer les groupes à l aide des classes recouvrantes. In EGC 10, page 561, [BLE06] David M Blei and John D Lafferty. Dynamic topic models. In Proceedings of the 23rd international conference on Machine learning, pages ACM, [MUS11] Claudiu Musat, Julien Velcin, Stefan Trausan Matu and Marian Andrei Rizoiu. Improving topic evaluation using conceptual knowledge. In International Joint Conference on Artificial Intelligence, Proceedings of the Twenty Second, volume 3 of IJCAI 2011, pages AAAI Press, 2011.