Faculté Polytechnique

Transcription

1 Faculté Polytechnique Séminaire 2012 Le chercheur peut-il se fier aux volumétries indiquées par les moteurs de recherche commerciaux? Dr Ir Robert Viseur Brest, mai 2012

2 Contexte (1/2) Point de départ : Démarrage d'une recherche nécessitant une mesure de la popularité d'entreprises, de marques, de produits sur Internet, utilisant les APIs de moteurs de recherche. Constat : problèmes dans les volumétries des résultats de recherche (testé avec Google). Question : Peut-on se fier aux volumétries estimées par les moteurs de recherche? Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 2

3 Contexte (2/2) Intérêt? Littérature professionnelle encourageant l'usage des APIs. De nombreuses recherches utilisent les résultats issus des moteurs de recherches commerciaux. Usages variés : traitement de la langue, analyse des sentiments (texte), analyse des performances des entreprises, évaluation automatique de la qualité de revues ou d'articles, etc. Cadre théorique existant : Webométrie : étude quantitative des phénomènes relatifs au Web (voir notamment Thelwall). Exemple d'éléments étudiés : classements et volumétries. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 3

4 Points forts et points faibles des moteurs commerciaux (1/2) Points forts : Index de grande taille. Richesse de la syntaxe d'interrogation (opérateurs). Points faibles : Secret des algorithmes de classements. Existence d'associations préférentielles entre sites commerciaux et moteurs de recherche. Biais géographiques. Interdiction des requêtes automatiques. Obligation de passer par des APIs. Passage progressif vers un modèle payant (pour tous les moteurs). Diverses restrictions d'utilisation (utilisation des données, trafic maximum autorisé, etc.). Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 4

5 Points forts et points faibles des moteurs commerciaux (2/2) Points faibles (suite) : Évolutions dans le temps. Exemple : Yahoo! nouvel algorithme de classement, évolution de la syntaxe disponible, passage au modèle payant, etc. Alternatives : Utilisation d'une méthode de prédiction des volumétries. Création d'index spécialisés (ex.: technologies libres comme Lucene, SolR, etc.). Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 5

6 Problème de la volumétrie Volumétrie : nombre de résultats estimé pour chaque requête. Les problèmes connus : Instabilité dans le temps (répétition de requêtes). Différences entre le nombre estimé dans la WUI et le nombre estimé dans l'api. Manque flagrant de fiabilité pour certaines requêtes. Exemple : «link:» sous Google. Obsolescence rapide des études pratiques compte tenu de la vitesse d'évolution des APIs (et plus largement des moteurs de recherche). Voir notamment : Mayr et Tosques, 2005 ; McCown et Nelson, Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 6

7 Hypothèses Trois hypothèses testées : 1. Les requêtes complexes, ou booléennes, donnent des résultats conformes à la théorie des ensembles. 2. La volumétrie donnée par l'api est différente de la volumétrie donnée par la WUI. 3. La volumétrie donnée par l'api n'est pas proportionnelle à la volumétrie donnée par la WUI. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 7

8 Méthodologie Hypothèse 1 : Les rapports q1 et q2 doivent tendre vers 1. Hypothèse 2 : Rapports des volumétries (WUI et API). Hypothèse 3 : Corrélation entre volumétries (WUI et API) Au total : 120 requêtes. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 8

9 Résultats : Hypothèse 1 Rapport entre les nombres de résultats obtenus et attendus dans le cas de requêtes booléennes. Résultats : Bing : ok ; Google : nok. Remarques : Interprétation de l'opérateur AND dans Google? Attention à l'écriture de l'opérateur OR (vs or)! Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 9

10 Résultats : Hypothèse 2 Rapport entre nombre de résultats estimés. Résultats : Nombre de résultats envoyés par l'api << WUI (Google). Phénomène de «Danse» sous Bing? Comptabilisation différente dans Bing et Google? Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 10

11 Résultats : Hypothèse 3 Corrélations entre nombre de résultats estimés. Résultats : Corrélations globalement fortes pour Google. Différence entre requêtes simples et composées? Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 11

12 Discussion Apport : Confirmation globale des résultats de recherche antérieurs. Mise en évidence de nouveaux problèmes liés aux requêtes composées. Bing : Meilleure fiabilité générale comparé à Google. Phénomène de «Danse»? Google : Index de tailles différentes entre API et WUI (McCown et Nelson, 2007)? Différentes méthodes de comptabilisation des pages similaires ou dupliquées? Différences explicables par le mécanisme d'analyse des requêtes entrées par les utilisateurs (ex. : Cutts, 2010)? Recommandations (si API nécessaire): Privilégier Bing (pour le moment...). Analyse préalable des données extraites par API avant utilisation. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 12

13 Perspectives Déjà fait : Fonctionnement de la dernière API Google? Comparable à l'ancienne API. Influence du ciblage géographique sur les volumétries. Comportement différent pour Google si ciblage géographique (Web français vs Web mondial). A faire : Tests sur Yahoo! (après basculement sur technologie Microsoft) Tests sur des moteurs de recherche spécialisés (ex. : Google News). Mise en œuvre de jeux de données plus importants. Remarque : Mise à jour : annonce du passage de Bing au modèle payant. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 13

14 Merci pour votre attention. Des questions? Cette présentation est diffusée sous licence CC-BY-ND. Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 14

15 Contact Dr Ir Robert Viseur UMONS, Faculté Polytechnique Rue de Houdain, 9 B-7000 Mons Mail : robert.viseur@umons.ac.be Guideur CETIC Rue des Frères Wright, 29/3 B-6041 Charleroi Mail : robert.viseur@cetic.be Plus d'infos : Université de Mons Dr Ir R. Viseur FPMs : Service d'économie et de Management de l'innovation 15