Les analyses statistiques de données textuelles. 5. Les questions ouvertes

Transcription

1 Les analyses statistiques de données textuelles 5. Les questions ouvertes Ludovic Lebart CNRS - ENST 1

2 Les domaines d application du Text Mining WEB Presse Articles Scientifiques, abstracts (Information Retrieval) Recherche documentaire Questions ouvertes Entrevue non-directive, Discours, Rapports Lettres de réclamations 2

3 Questions ouvertes : Quand? Pour réduire le temps d interview: Les questions ouvertes sont moins coûteuses en matière de temps d interview, et génèrent moins de fatigue et de tension (cas des listes d items volumineuses) Pour recueillir une information spontanée par nature Exemples Marketing (souvenir d une publicité) 3

4 Questions ouvertes : Quand? Pour confirmer ou comprendre la réponse à une question fermée La question : «pourquoi?» Les explications concernant une réponse déjà donnée doivent nécessairement être spontanées Pour obtenir des informations a priori non comparables ( Environnement, habitudes alimentaires) 4

5 Questions ouvertes: inconvénients, avantages INCONVENIENTS Coût Complexité Spécificité AVANTAGES Vitesse Liberté Spécificité Comparaisons ouvert - fermé 5

6 Un exemple : Enquête sur le devenir des personnes issus du RMI Question fermée préalable: Avez-vous eu des contacts, depuis janvier 1997, avec 1) la CAF, 2) l assistante sociale, 3) L ANPE, 4) la mairie ou la préfecture. Question ouverte: Si oui, pouvez vous dire, en quelques mots, comment ces contacts se sont passés. (Pour l enquêteur: si les relations sont jugées difficiles, demandez pourquoi). Une autre question ouverte s adresse à l ensemble des répondants. Elle a pour libellé: Question ouverte: Souhaitez-vous ajouter, en quelques mots, des informations qui vous paraissent importantes et que notre entretien n a pas permis de recueillir, sur votre situation, ou vos perspectives par rapport au RMI ou à la sortie du RMI. 6

7 Exemples (réponses partielles, question Q2): "on mange pomme de terre plus oeufs, ce qui est néfaste pour ma santé (diabète plus cholestérol) car pas cher et ça me fait grossir." "la loi est mal faite, mon fils de 16 ans a fait un coup et c'est moi qui doit payer 7000f et pas mon ex (père de l'enfant) alors que la garde est 50-50, on me met tout sur le dos." Exemple de style direct (Q2): "C'est bien de venir nous voir. ça prouve qu'on pense à moi, heureusement qu'il y a le RMI mais je préférerais un salaire, on se sent humilié. pas à mon aise de demander, j'espère travailler un peu avant l'âge de la retraite." "Je préfère ne rien dire." 7

8 Exemple de style indirect simple (Q2): "l'épouse de l'enquêté compte assiéger la mairie tous les mois jusqu'à obtention de quelque chose pour son mari." Exemples de passage du style direct au style indirect dans une même réponse "c'est dégueulasse qu'on me demande de rembourser le RMI car avec le peu que j'ai cela n'est pas possible. En effet la CAF réclame à l'allocataire le remboursement du RMI de juillet 97 en raison de sa non inscription a l'anpe ( elle ignorait que l'inscription était obligatoire). l'allocataire s'est depuis inscrite a l'anpe mais cependant elle doit rembourser 1300 frs a raison de 200 frs par mois." "Faut arrêter cela. faut arrêter cela. Mme ne m'en dit pas plus malgré un bouillonnement expressif. Après avoir ferme le dossier, Mme me fait part de ses sentiments, à 28 ans, un ami qui connaît le chômage, le désir d'enfant." "On se sent isolée»; fin de l'entretien en larmes."

9 Le post-codage des réponses libres (principaux inconvénients) Biais du Codeur Il s ajoute aux biais de l interview (interprétation, décisions délicates) Alteration de la forme : l information sur le ton et la forme sont détruites, voire altérées. Problèmes des réponses complexes, évasives. Le codage est alors inutilisable. Problèmes des réponses rares, éliminées a priori. 9

10 exemple (textes anglais) Question ouverte : "What is the single most important thing in life for you?" Suivie par la relance : "What other things are very important to you?". Question incluses dans une enquête internationale auprès de sept pays (Japon, France, Allemagne, Italie, Hollande, U K, USA) vers 1990 (Hayashi et al., 1992). L exemple concerne le volet anglais de l enquête (taille d échantillon : 1043). 10

11 Exemple 1, suite Le bilan de la première phase de codage numérique est : Pour 1043 réponses, il y a occurrences (tokens), avec mots distincts (types). Si l on ne retient que les mots apparaissant au moins 16 fois, il reste occurrences de ces mots (tokens), avec 135 mots distincts (types). Attention aux polysémies de word et de mot 11

12 Exemples de réponses à la question Life GenderEduc.Age Responses happiness in people around me, contented family, would make me happy my own time, not dictated by other people freedom of choice as to what I do in my leisure time I suppose work firm, my work, which is my dad's firm just the memory of my last husband well-being of my handicapped son my wife, she gave me courage to carry on even in the bad times my sons, my kids are very important to me, being on my own, I am responsible for their education job, being a teacher I love my job, for the well-being of the children 12

13 Le Text Mining et l analyse multidimensionnelle des textes Paradigme initial (Benzécri, 1970): - Extraire des unités statistiques des textes - Appliquer les outils de visualisation aux tables lexicales Evolution et diversification des techniques et des approches 13

14 Le Text Mining et l analyse multidimensionnelle des textes Paradigme initial (Benzécri, 1970): - Extraire des unités statistiques des textes - Appliquer les outils de visualisation aux tables lexicales Evolution et diversification des techniques et des approches 14

15 Unités Statistiques extraites des textes CORPUS Textes Phrases ou réponses Segments ou quasi-segments Mots (formes graphiques) ou lemmes Caractères 15

16 Unités statistiques sélectionnées Mots apparaissant au moins 16 fois (ordre alphabétique) dans les 1043 réponses à la question ouverte mot fréquence mot fréquence mot fréquence I 248 go 19 of 312 I'm 22 going 26 on 59 a 298 good 303 other 33 able 55 grandchildren 30 others 17 about 31 happiness 227 our 29 after 26 happy 137 out 34 all 86 have 99 own 16 and 504 having 70 peace 77 anything 19 health 609 people 61 are 65 healthy 45 really 28 16

17 Exemple (suite) Le même questionnaire contient aussi des questions fermées (parmi lesquelles, les caractéristiques socio-démographiques des répondants). Pour cet exemple, on considérera une partition des répondant en 9 catégories obtenues en croisant l âge (3 catégories) avec le niveau d éducation (3 catégories). 17

18 Exemple d une table lexicale - Première partition: 3 catégories d âge - moins de 30 ans [noté -30], - entre 30 ans et 55 ans [noté -55] - plus de 55 ans [noté + 55]. - Seconde partition: 3 niveaux d éducation - niveau bas [noté L], - Moyen [noté M], - niveau haut [noté H] 18

19 Exemple d une table lexicale Listage partiel d une table lexicale croisant 135 mots apparaissant au moins 16 fois avec 9 catégories âge-education L-30 L-55 L+55 M-30 M-55 M+55 H-30 H-55 H+55 I I'm a able about after all and anything

20 Le Text Mining et l analyse multidimensionnelle des textes Paradigme initial (Benzécri, 1970): - Extraire des unités statistiques des textes - Appliquer les outils de visualisation aux tables lexicales Evolution et diversification des techniques et des approches 20

21 - Appliquer les outils de visualisation aux tables lexicales Analyses en axes principaux (Composantes principales, correspondances) Classification (clustering) des mots et des textes (Classification hiérarchique, partitions, cartes de Kohonen) 21

22 22 security mind kids peace leisure freedom standard house time contentment children welfare church son general family happiness employment world daughter dog wife are from very should me help if them for music work education love satisf. job future friends money think comfortably have keep going anything would day more and be not well I to you comfortable much car things out go can E3-AGE2 E1-AGE2 E2-AGE3 E2-AGE2 E1-AGE3 E2-AGE1 E1-AGE1 E3-AGE1 E3-AGE3 Correspondance Mots - Catégories

23 p eace of m ind E3-AGE3 p eace in the world w elfare of m y fam ily E2-AGE3 E2-AGE2 happiness, good health E3-AGE2 E1-AGE2 law and order Projections de Segments en éléments illustratifs a nice home a good standard of living I don't know having enough money to live E1-AGE3 E2-AGE1 a good job E1-AGE1 can't think of anything else f riends and fam ily E3-AGE1 23

24 Kohonen map (partiel) 24

25 Sélection des unités caractéristiques et des réponses modales Unités caractéristiques (mots, segments, lemmes) «Réponses ou phrases modales» 25

26 Mot %W %glob fr.w fr glob Valeur test H-30 = -30 * haut Mots caractéristiques 1 friends do want being job having things wife health H+55 = +55 * haut 1 mind welfare peace

27 Réponses modales Categorie 7 moins de 30 ans, haut niveau d éducation friends, friends, my homelife being content having enough money to do what you want to do, within reason, having good friends, having a fulfilling job to do, having some idea of what you want to do and the freedom to choose, protection of the environment to have good friends around having a good job, living in a good area, having lots of freedom to do the things you want to do.93-4 good living education, good job, money Categorie 9 plus de 55 ans, haut niveau d éducation.97-1 togetherness, peace of mind, good health, religion, no.64-2 not to die, peace of mind, don't like people living envious of each other.63-3 peace of mind good health, happiness, enough money to keep a standard of living.38-4 welfare of my family work, satisfaction, good health, travel 27

28 28

29 29

30 Stratégies de traitement Groupement a priori (tables lexicales) Juxtaposition de tables Partition instrumentale, noyaux factuels Analyse directe de la table clairsemée individuelle 30

31 Rappel: Diversification du Bootstrap: Ambiguité des fréquences: fréquence statistique versus «fréquence linguistique» Enquête par sondage (fréquence statistique) Questions fermées questions ouvertes Textes (frequence linguistique) 31

32 Fin de la section 5 32