Inférence et décision statistiques

Transcription

1 Aurelio Mattei Inférence et décision statistiques Théorie et application à la gestion des affaires Lausanne

2 ii AVANT-PROPOS Ce manuel est le fruit de plus de dix ans d enseignement de la statistique à l Ecole des HEC de l Université de Lausanne Les étudiants en sciences économiques ne sont pas très portés à suivre des développements mathématiques abstraits Nous avons alors essayé de présenter les méthodes statistiques en prenant des exemples pratiques et en renonçant aux démonstrations trop compliquées Les nombreux exercices qui figurent à la fin de chaque chapitre illustrent les applications dans la gestion des affaires et permettent de contrôler la compréhension des méthodes statistiques présentées dans ce manuel Les méthodes statistiques pourraient faire l objet de plusieurs manuels Nous avons choisi de nous limiter à l inférence et à la décision statistiques Par rapport à la matière traditionnelle d un cours d introduction à la statistique pour les économistes, nous avons décidé de ne pas parler de la statistique descriptive, qui est supposée connue, et de nous arrêter aux tests non paramétriques Par ailleurs, nous pensons que l analyse de la variance, les techniques de régression et l analyse des séries temporelles, y compris les techniques de prévision, doivent faire l objet d un ouvrage séparé L auteur de tout manuel s est naturellement inspiré des ouvrages classiques publiés sur le sujet La bibliographie donne la liste des livres que nous avons consultés Nous avons aussi trouvé dans les nombreux manuels destinés aux étudiants en sciences économiques l inspiration pour les exercices qui figurent à la fin de chaque chapitre Comme l origine de ces problèmes est souvent difficile à déterminer, nous avons renoncé à indiquer explicitement la source éventuelle de notre inspiration Nous exprimons ici toute notre gratitude aux auteurs de ces manuels Nous tenons enfin à remercier notre Collègue, le professeur Antonio Gualtierotti, qui a bien voulu lire le manuscrit et nous faire part de ses observations très pertinentes Dans cette troisième édition, nous avons ajouté un nouveau chapitre consacré aux tests non paramétriques D autre part, quelques erreurs typographiques qui étaient restées dans la deuxième édition ont été corrigées

3 iii TABLE DES MATIÈRES Chapitre 1 INTRODUCTION 1 Chapitre 2 THÉORIE DES PROBABILITÉS 4 1 Définition 4 2 Description de l espace d échantillonnage d un phénomène aléatoire 6 3 Opérations sur les événements 7 4 Définition axiomatique de la probabilité 9 5 Théorie de base des probabilités 11 6 Eventualités également probables (ou équiprobables) 12 7 Probabilités conditionnelles 15 8 Evénements indépendants et dépendants 18 9 Formule de Bayes Probabilités subjectives et méthodes bayesiennes 20 Exercices 22 Chapitre 3 DISTRIBUTIONS DE PROBABILITÉ 29 1 Introduction 29 2 Distributions discrètes et continues 30 3 La distribution binomiale 33 4 La distribution normale 38 5 Espérance mathématique 44 6 Probabilité jointe 48 7 La distribution de Poisson 52 8 La distribution exponentielle 55 9 Autres distributions 56 1 La distribution hypergéométrique 56 2 La distribution binomiale négative 58 3 Autres distributions 58 Exercices 60 Chapitre 4 INTRODUCTION AUX MÉTHODES BAYESIENNES 73 1 Introduction 73 2 La table des payoff ou de gain brut 74 1 Le critère du maximin ou critère pessimiste 74 2 Le critère du maximax ou critère optimiste 74 3 Le critère du regret 74

4 iv 4 Le critère de Laplace 74 5 Le critère du maximum de vraisemblance 75 6 Le critère de la valeur espérée 75 3 Méthodes bayesiennes avec distribution a priori discrète 77 4 Perte implicite en deux parties 79 5 Diagramme de décision 82 Exercices 85 Chapitre 5 THÉORIE DE L ÉCHANTILLONNAGE 93 1 Introduction: population et échantillon 93 2 Echantillon aléatoire simple 93 3 Distribution d échantillonnage de la moyenne 95 4 La loi des grands nombres 99 5 Théorème limite central Cas d une petite population 103 Exercices 104 Chapitre 6 THÉORIE STATISTIQUE DE L ESTIMATION Introduction Estimateur centré ou sans biais Estimateur à variance minimale et estimateur efficace Estimateurs convergents Le maximum de vraisemblance Estimation ponctuelle et par intervalle 115 A Estimation ponctuelle 115 B Grandeur de l échantillon 116 C Intervalle de confiance Distribution et intervalle de confiance de la différence de deux moyennes Estimation des paramètres d une population Estimation de la moyenne lorsque l écart-type de la population est inconnu, cas de petits échantillons Les techniques de sondage Echantillonnage et méthodes bayesiennes 135 A Probabilité conditionnelle discrète 135 B Probabilité conditionnelle continue 137 Exercices 141

5 v Chapitre 7 TESTS D HYPOTHÈSES Introduction Types d erreur Test de la moyenne Test de la différence de deux moyennes Autres tests Méthode pour petits échantillons Test du rapport des vraisemblances Courbe caractéristique Puissance d un test Méthodes bayesiennes et région critique 172 Exercices 175 Chapitre 8 TEST χ Introduction χ 2 simple Tables de contingence Distribution de la variance de l échantillon 189 Exercices 193 Chapitre 9 TESTS NON PARAMÉTRIQUES Introduction Le test des signes Le test de Mann-Whitney Le test des séquences Le test de la corrélation des rangs Le test de Kolmogorov-Smirnov 205 Exercices 206 Appendice 208 Annexe I 218 Annexe II 237 Bibliographie sommaire 245 Index alphabétique 247

6 1 Chapitre I INTRODUCTION Dans les affaires, comme dans beaucoup d autres domaines, il faut souvent prendre des décisions sans avoir une parfaite connaissance du phénomène en question Cette incertitude peut être due à plusieurs raisons: 1) l événement a lieu dans le futur Par exemple, on ne peut pas savoir la quantité d un nouveau produit qu on pourra vendre; 2) il est trop coûteux de recueillir toutes les informations nécessaires Par exemple, il serait trop dispendieux d analyser toutes les bouteilles d une livraison de vin valaisan afin de déterminer sa qualité; 3) on peut obtenir l information voulue mais il est alors trop tard pour pouvoir l utiliser et il faut par conséquent se contenter d une information partielle Par exemple, on peut connaître la durée de vie des ampoules électriques en mesurant pendant combien de temps elles vont brûler Toutefois, on ne peut pas procéder de cette manière avec toutes les ampoules d une livraison puisqu on ne peut pas vendre des ampoules brûlées Comme il faut se contenter de données incomplètes, il est très important de savoir utiliser ces informations afin d obtenir les renseignements les plus exacts possibles du phénomène en question Les informations dont on dispose le plus souvent sont le résultat de l analyse d un échantillon Prenons les trois exemples donnés ci-dessus: 1) Afin de déterminer la quantité d un nouveau produit qu on va pouvoir vendre, on peut prendre un échantillon de consommateurs potentiels et leur demander s ils ont l intention d acheter le produit 2) On peut estimer la qualité du vin en analysant un échantillon de bouteilles 3) La durée de vie des ampoules peut être mesurée en testant un échantillon d ampoules L objet principal de cet ouvrage est l étude des méthodes permettant d obtenir les informations désirées en utilisant les résultats d un échantillon Dans les entreprises, la théorie statistique fut tout d abord utilisée pour le contrôle de la qualité des produits en réalisant ainsi des épargnes considérables Ces succès conduisirent à l introduction des méthodes statistiques dans d autres secteurs de l entreprise afin d atteindre une plus grande efficacité L utilisation toujours plus fréquente de la statistique a été facilitée par les énormes possibilités de collecte et de stockage de données dont on dispose aujourd hui grâce à l informatique On peut dire que la statistique s intéresse à des données obtenues en prenant des échantillons d un certain phénomène En utilisant ces données on tire des conclusions

7 2 Chapitre I: Introduction en ce qui concerne le phénomène en question La collecte, l analyse et l interprétation des données entrent dans le domaine de la statistique Au début, la statistique n était que la comptabilité de l Etat (pensez au recensement) et c est d ailleurs de cette activité qu elle tire son nom Ensuite, grâce surtout à l utilisation du calcul des probabilités, elle est devenue tout autre chose qu une simple méthode d enregistrement de résultats numériques Elle est utilisée aujourd hui en physique, en biologie comme en économie et en science politique (pensez aux sondages de l opinion publique) On pourrait définir la statistique comme la technologie de la méthode scientifique En effet, une théorie n est valable que si elle est conforme aux faits observés et la statistique est la méthode qui permet de vérifier cette conformité Prenons l exemple de la consommation d essence La théorie économique nous dit que le prix (avec un effet négatif) et le revenu (avec un effet positif) sont deux variables explicatives de la demande d essence Toutefois, même si l on ajoute d autres variables spécifiques à ce bien, il restera toujours une partie de la consommation qu on ne pourra pas expliquer et qui sera due au hasard Par conséquent, les ventes d essence observées ne représentent qu un échantillon de toutes les décisions que les consommateurs peuvent prendre à ce sujet Pour tester la théorie économique, on doit alors utiliser les méthodes statistiques Il y a plusieurs branches de la statistique: 1) la collecte des données; 2) la description (par exemple la moyenne et l écart-type); 3) l inférence ou induction statistique (détermination des propriétés d une population à l aide d un échantillon); 4) la décision et l interprétation statistiques La partie de la statistique qui s occupe des deux premiers points est appelée la statistique descriptive Dans cet ouvrage on s intéressera à l estimation des propriétés des populations et aux tests d hypothèses sur ces populations On traitera ainsi les points 3 et 4 Les résultats d une analyse statistique sont souvent utilisés pour prendre des décisions en tenant compte de toute une série de facteurs que le statisticien ne connaît pas Récemment, une théorie statistique de la décision a été développée en partant d un critère basé sur l espérance mathématique et en utilisant le théorème de Bayes Cette approche, qui tient aussi compte d informations a priori basées souvent sur des probabilités subjectives, est appelée la méthode bayesienne ou théorie moderne de la décision L approche utilisant uniquement les informations objectives est appelée la méthode classique Dans cet ouvrage on exposera les deux méthodes et on montrera les différences qui existent Sauf indication contraire, les méthodes présentées sont celles classiques Voici un exemple de l application des méthodes statistiques Une horlogerie désire connaître la précision d une nouvelle montre qu on lui propose Elle choisit au hasard

8 Chapitre I: Introduction 3 quelques montres et, en utilisant les méthodes statistiques, elle trouve que les écarts sont inférieurs à une seconde par mois avec une probabilité de 95% Bien sûr, elle pourrait tester toutes les montres et calculer l écart moyen Cette méthode est toutefois trop coûteuse et il faut normalement se contenter d un petit nombre de données C est précisément dans ces situations qu on a besoin des méthodes statistiques de manière à pouvoir tirer des conclusions valables Comme nous l avons dit ci-dessus, il s agit de déterminer les propriétés d une population en utilisant un échantillon Il convient alors de définir ces deux termes Un échantillon est une série d observations prises d une certaine source afin d obtenir des informations concernant la source La source elle-même est appelée la population ou l univers Il s agit de la totalité des éléments dont on désire obtenir des informations On peut par conséquent dire que le rôle fondamental de la statistique est celui de tirer des conclusions sur des populations au moyen d échantillons La conclusion basée sur un échantillon ne peut pas être obtenue avec une complète certitude On doit parler de conclusion probable Il faut par conséquent connaître la théorie des probabilités afin d apprécier la portée de ces renseignements

9 4 Chapitre II: Théorie des probabilités Chapitre II THÉORIE DES PROBABILITÉS 1 Définition La théorie des probabilités est l étude de modèles mathématiques de phénomènes aléatoires Beaucoup de phénomènes, tels que la densité des conversations téléphoniques, le maintien d un certain standard de qualité ou le nombre d accidents de travail sont des phénomènes aléatoires dans le sens suivant: Un phénomène aléatoire est un phénomène empirique caractérisé par la propriété que son observation, sous un certain nombre de conditions, ne donne pas toujours le même résultat mais plutôt différents résultats, avec toutefois une régularité statistique Par régularité statistique on entend qu il existe des nombres entre 0 et 1 qui représentent la fréquence relative avec laquelle les différents résultats possibles peuvent être observés dans une série d observations des réalisations indépendantes du phénomène Un événement aléatoire est un événement dont la fréquence relative de réalisation, dans une très longue série d observations de situations (choisies au hasard) dans lesquelles le phénomène peut se produire, approche une limite stable lorsque le nombre d observations tend vers l infini La valeur limite de la fréquence relative est appelée la probabilité de l événement aléatoire (Définition statistique ou fréquentiste de la probabilité) Exemples 1) Prenons le cas des personnes utilisant la voiture-restaurant d un train Il est impossible de savoir à l avance si un voyageur utilise la voiture-restaurant Cependant, si l on observe un grand nombre de voyageurs, on peut déterminer la proportion de ceux qui iront dans la voiture-restaurant Si cette proportion reste essentiellement la même d une semaine à l autre, alors on peut supposer que l utilisation de la voiturerestaurant est un phénomène aléatoire et l événement qu un voyageur X va dans la voiture-restaurant, un événement aléatoire 2) Un exemple typique de phénomène aléatoire est le tirage de la Loterie suisse à numéros Jusqu au mois de mars 1979 on mettait 40 boules numérotées (de 1 à 40) dans une machine, qui les remuait bien, et on tirait 7 numéros Dans le Tableau I (voir page suivante) on a reporté les fréquences pour différents tirages Par exemple, le numéro 1 est sorti 16 fois pendant les 100 premiers tirages, 43 fois pendant les 200 premiers tirages (fréquence: (43/200)=0215), etc

10 Chapitre II: Théorie des probabilités 5 Tableau I Fréquence des numéros de la Loterie suisse à numéros (1 tirage = 7 numéros) nombre de tirages nombre de tirages nombre de tirages nombre de tirages fréquence théorique: 7/40 = 0175 [ ( ) ( 39 6 / 40 ) 7 ] Fréquence du premier numéro tiré (Fréquence théorique: 1/40 = 0025) Nombre de tirages

11 6 Chapitre II: Théorie des probabilités Il est impossible de savoir quels sont les numéros tirés lors d un certain tirage Toutefois, il y a des choses qu on peut dire Si tous les numéros ont la même chance d être tirés, on doit arriver à une fréquence de (7/40)=0175 lorsque le nombre d observations tend vers l infini Ici nous n avons que 475 observations car ensuite on a mis dans la machine 42 boules Néanmoins, on constate que les fréquences empiriques tendent lentement vers la valeur théorique de 0175 On peut par conséquent penser que la proportion 7/40 a une signification réelle pour cette expérience aléatoire (ou épreuve) Ceci revient à dire que: (a) extraire un numéro est un phénomène aléatoire; (b) tirer le numéro 1 est un événement aléatoire La fréquence du premier numéro tiré est encore très loin de la valeur théorique pour les chiffres 1, 2 et 3 On peut se demander s il n y a pas un effet quelconque qui influence ces fréquences Ceci montre la difficulté d obtenir un tirage purement aléatoire La théorie des probabilités est formulée aujourd hui d une manière axiomatique On commence par certains concepts non définis On énonce ensuite les propriétés que ces concepts possèdent Ces énonciations sont appelées les axiomes de la théorie En utilisant la méthode de déduction logique on obtient certaines propositions appelées théorèmes Ces propositions représentent des conclusions sur des phénomènes réels dès qu on est disposé à admettre que les phénomènes réels possèdent les propriétés postulées par les axiomes On arrive ainsi à un modèle mathématique du phénomène aléatoire Une théorie mathématique axiomatique est appelée un modèle dès qu on donne une règle pour traduire les propositions de la théorie mathématique en propositions sur des phénomènes réels 2 Description de l espace d échantillonnage d un phénomène aléatoire On formule des postulats concernant un phénomène aléatoire en utilisant la notion d espace d échantillonnage d un phénomène aléatoire L espace d échantillonnage est l espace des descriptions de tous les résultats possibles du phénomène Un espace est un ensemble complet dans le sens que seulement les objets de l ensemble sont considérés Exemple Supposons qu on jette une pièce de monnaie trois fois (ou trois pièces une fois) L espace d échantillonnage peut être représenté de la manière suivante: S = {(FFF),(FFP),(FPF),(PFF),(FPP),(PFP),(PPF),(PPP)} (F = face; P = pile)

12 Chapitre II: Théorie des probabilités 7 La théorie des probabilités ne peut pas donner des règles pour la construction de l espace d échantillonnage Il s agit précisément d un de ces concepts indéfinis discutés ci-dessus Les considérations avec lesquelles on choisit l espace d une manière correcte sont une partie de l art d appliquer la théorie mathématique des probabilités à l étude de phénomènes réels Un événement est un sous-ensemble de l espace S L espace S est lui aussi un événement, c est l événement certain (ou certitude) Un exemple d événement est le fait que la première pièce donne face ou bien qu il y a au moins deux fois pile, etc On peut exécuter sur les événements des opérations algébriques similaires à l addition et à la multiplication avec des nombres ordinaires 3 OPERATIONS SUR LES EVENEMENTS On utilise la théorie des ensembles pour décrire l algèbre des événements Soit un événement E On dira que l événement que E n arrive pas est le complément de E et on écrira Ē Ce dernier événement comprend toutes les descriptions de S qui ne sont pas dans E Le cas de deux événements E et F qui arrivent en même temps sera appelé l intersection (ou produit logique) de E et F On écrit E F ou EF Le cas où au moins l un des deux événements E et F arrive est la réunion (ou somme logique) et on écrit E F On peut donner une représentation graphique de ces opérations en utilisant le diagramme de Venn Représentons l espace d échantillonnage S par un rectangle et les événements E et F par des cercles Nous avons alors: E Ē E F a) E b) E F E F E F c) E F d) E F =

13 8 Chapitre II: Théorie des probabilités Exemple On tire une boule d une urne contenant 12 boules numérotées de 1 à 12 Soit E = {1,2,3,4,5,6} et F = {4,5,6,7,8,9} On a alors: S = {1,2,3,4,5,6,7,8,9,10,11,12}, Ē = {7,8,9,10,11,12}, E F = {4,5,6}, E F = {1,2,3,4,5,6,7,8,9} Un événement E est appelé un sous-événement de F si le fait que E arrive implique que F se produit aussi On écrit E F Exemple Soit E l événement que le consommateur d un certain produit est vaudois, F l événement que le consommateur est suisse On a E F Deux événements sont égaux si et seulement si E F et F E On définit l événement impossible comme l événement qui ne peut pas arriver et on écrit Par exemple, dans la figure d) ci-dessus F E = Dans la théorie des ensembles est appelé l ensemble vide L événement impossible est le complément de l événement certain: S = On a aussi E Ē = Deux événements qui ne peuvent pas arriver en même temps sont appelés mutuellement exclusifs Si E et F sont mutuellement exclusifs on a E F = Parmi les plus importantes propriétés algébriques de la réunion et de l intersection de deux événements on a: (1) loi commutative: E F = F E ; E F = F E (2) loi associative: E (F G) = (E F) G ; E (F G) = (E F) G (3) loi distributive: E (F G) = (E F) (E G) ; E (F G) = (E F) (E G) (4) loi d idempotence: E E = E ; E E = E Une propriété moins évidente des opérations sur les événements est donnée par les lois de Morgan: E F = Ē F ; E F = Ē F Exercices Montrez que: (1) l événement que E ou F arrive (mais pas les deux) est: (E F) (Ē F) (2) E =, E = E ; (F E) (F Ē) = F (3) E F = F (E F) = E (F Ē) (4) E F = E F = E ; E F = F (5) (F E) (F Ē) = ; E (F Ē) =

14 Chapitre II: Théorie des probabilités 9 4 Définition axiomatique de la probabilité On peut maintenant formuler les postulats d un modèle mathématique d un phénomène aléatoire La probabilité sera définie comme une fonction d événements dans un espace d échantillonnage Dans la discussion heuristique qu on avait faite sur les probabilités, on avait adopté l interprétation fréquentiste de la probabilité selon laquelle la probabilité d un événement E (qu on dénote P(E)) est un nombre qui peut être connu seulement par une expérience consistant en une très longue série d observations d épreuves indépendantes Il s ensuit qu une définition mathématique de la probabilité d un événement ne peut pas nous donner la valeur de P(E) pour un événement particulier E Une théorie mathématique de la probabilité s occupe des propriétés de la probabilité d un événement considéré comme une fonction définie sur tous les événements Définition Soit une situation aléatoire décrite par un espace d échantillonnage S La probabilité est une fonction P() qui, pour tout événement E, attribue un nombre non négatif qu on écrit P(E) et qu on appelle la probabilité de l événement E La fonction de probabilité doit satisfaire les axiomes suivants: Axiome 1: P(E) 0 pour tout événement E Axiome 2: P(S) = 1 pour l événement certain S Axiome 3: P(E F) = P(E) + P(F) si E F =, c est-à-dire si les deux événements sont mutuellement exclusifs Evidemment, les propriétés définies par ces axiomes constituent un énoncé formel de quelques propriétés des nombres P(E) et P(F) interprétés comme fréquences relatives de la réalisation des événements E et F dans une très longue série d expériences du phénomène en question Nous allons maintenant montrer comment, en partant de ces axiomes, on peut dériver quelques propriétés importantes des probabilités: (1) P( ) = 0 Comme S = et S = S on a: P(S) = P(S ) = P(S) + P( ) P( ) = 0 (2) P(F Ē) = P(F) P(F E) Comme (F E) (F Ē) = et (F E) (F Ē) = F on a: P(F) = P(F E) + P(F Ē) P(F Ē) = P(F) P(F E) (3) P(Ē) = 1 P(E)

15 10 Chapitre II: Théorie des probabilités Soit F = S dans (2) Comme S Ē = Ē et S E = E on a: P(Ē) = P(S) P(E) P(Ē) = 1 P(E) (4) Théorème de l addition des probabilités (ou des probabilités totales) La probabilité de la réunion E F de deux événements E et F quelconques est: P(E F) = P(E) + P(F) P(E F) En effet, comme E F = E (F Ē) et E (F Ē) =, on a: P(E F) = P(E) + P(F Ē) = P(E) + P(F) P(E F) Exemple On choisit au hasard une carte d une série de 9 cartes numérotées de 1 à 9 Quelle est la probabilité que le numéro de la carte soit: (a) un multiple de 3; (b) un nombre pair; (c) un multiple de 3 ou un nombre pair S = {1,2,3,4,5,6,7,8,9}, P(1) = P(2) = = P(9) = 1/9 Soit E = multiple de 3, F = nombre pair On obtient: (a) P(E) = 3/9 ; (b) P(F) = 4/9 ; (c) P(E F) = 3/9 + 4/9 1/9 = 2/3 (5) P(E) P(F) si E F Comme P(F Ē) = P(F) P(E F) et E F = E puisque E F, on a: P(F Ē) = P(F) P(E) D autre part, P(F Ē) 0 et alors: P(E) P(F) Par conséquent, pour tout événement E on a: 0 P(E) 1 puisque P(E) 0 et E S = P(E) 1

16 Chapitre II: Théorie des probabilités 11 5 Théorie de base des probabilités En partant des axiomes, nous avons obtenu quelques propriétés des probabilités, en particulier la formule de la réunion de deux événements Il faut maintenant examiner le problème du calcul de la probabilité d un événement E Lorsque l espace d échantillonnage est fini, on peut utiliser la formule suivante pour le calcul de la probabilité Soit S = {D 1,D 2,,D N } l espace d échantillonnage où les D i sont les descriptions des N résultats possibles du phénomène L événement {D i } est appelé un événement simple puisqu il contient une seule description Les différents événements {D i } sont mutuellement exclusifs par définition Soit maintenant l événement E suivant: E = {D 1,D 2,,D K } K N La probabilité P(E) est alors: Exemple P(E) = P({D 1 }) + P({D 2 }) + + P({D K }) Une urne contient des boules blanches et rouges On tire deux boules Quelle est la probabilité que la première boule retirée soit blanche? La description de l espace d échantillonnage est la suivante: S = {(B,B),(B,R),(R,B),(R,R)} (B= boule blanche, R = boule rouge) Les probabilités des différents événements simples sont: x (B,B) (B,R) (R,B) (R,R) P({x}) 6/15 4/15 4/15 1/15 (Nous verrons ci-dessous comment on attribue ces probabilités Ici nous avons le cas d un tirage sans remise de deux boules d une urne qui contient 2 boules rouges et 4 boules blanches Les 6 boules ont la même chance d être retirées Toutefois, il y a plus de boules blanches que de boules rouges et ceci conduit aux probabilités données ci-dessus) L événement que la première boule retirée soit blanche est: E = {(B,B),(B,R)} et alors P(E) = 6/15 + 4/15 = 2/3

17 12 Chapitre II: Théorie des probabilités 6 Eventualités également probables (ou équiprobables) Il arrive souvent que toutes les éventualités ont la même chance de se produire Dans ce cas on a: S = {D 1,D 2,,D N } P({D 1 }) = P({D 2 }) = = P({D N }) = 1/N où N est le nombre d événements Dans ce cas le calcul de la probabilité d un événement se réduit au calcul de la grandeur de l événement La probabilité de E est égale au rapport de la grandeur de E (le nombre d éléments de E) avec celle de S Si N() dénote la grandeur d un événement, on a alors: P(E) = N(E) N(S) et ceci correspond à la définition classique de la probabilité Il suffit alors de compter le nombre d éléments dans l espace d échantillonnage Ce calcul est facilité par les résultats de l analyse combinatoire que nous allons maintenant examiner Soit une urne avec M boules distinctes Avec ces boules on forme un échantillon de grandeur n On peut envisager plusieurs possibilités: (A) Permutations sans répétition Lorsqu on forme un échantillon en prenant des boules dans l urne (ou n importe quel objet d une population) sans les remettre après avoir noté la caractéristique, on parle de tirage exhaustif ou sans remise (ou répétition) On peut former un échantillon sans remise de et M(M 1)(M 2) [M (n 1)] manières différentes En effet, il y a M résultats possibles pour la première boule, M-1 pour la deuxième (puisque la première n a pas été remise dans l urne) et ainsi de suite En utilisant la factorielle x!, définie ainsi: x! = 123(x 1)x on peut écrire la permutation sans répétition de la manière suivante: M(M 1) (M n + 1) = M! (M n)!

18 Chapitre II: Théorie des probabilités 13 Cette expression doit être valable aussi lorsque n = M; on définit alors 0! = 1 On parle souvent d arrangements lorsque n < M : A n M = M! (M n)! et de permutations au sens strict lorsque n = M Lorsque n = M on a le nombre de permutations de M objets qui est égal à M! Par exemple, les lettres HEC peuvent être disposées en 3! = 6 manières différentes Si des objets sont identiques, comme par exemple les deux E et les 3 R dans ER- REUR, les permutations au sens strict sont obtenues en divisant M! par le nombre de répétitions Dans le cas d ERREUR on a alors permutations Exemple 6! 3!2! = 60 Une urne contient 4 boules numérotées de 1 à 4 Quelle est la probabilité qu en retirant 3 boules on obtient une somme égale à 9 si les boules ne sont pas remises dans l urne (tirage exhaustif)? 4! Les échantillons possibles de grandeur 3 sont (4 3)! = 24 Ceci donne la valeur du dénominateur (N(S)) D autre part, on peut obtenir 9 en tirant les boules et les permutations de ces chiffres sont 3! = 6 La probabilité recherchée est alors 6/24 = 025 (B) Permutations avec répétition Dans ce cas on parle de tirage non exhaustif Si les boules sont remises dans l urne, les permutations possibles sont: MM M = M n Exemples (1) Dans l exemple de l espace d échantillonnage d une pièce de monnaie jetée trois fois (voir section 2) on avait 8 résultats différents Ce nombre correspond aux permutations avec répétition de deux lettres (P pour pile et F pour face); en effet 2 3 = 8 (2) Si, dans l exemple ci-dessus, les boules sont remises dans l urne, on obtient 4 3 = 64 échantillons possibles Une somme égale à 9 peut être obtenue avec 2 3 4, et Les permutations possibles sont 6, 3, 1 La probabilité est alors 10/64 = 5/32

19 14 Chapitre II: Théorie des probabilités (C) Combinaisons sans répétition Si l on s intéresse uniquement aux objets choisis (par exemple les chiffres sur les boules) sans égard à leur ordre de réalisation, on a une combinaison Une permutation peut être obtenue en prenant n objets et en les disposant dans un certain ordre Pour une combinaison on a seulement le premier pas Par conséquent, les permutations sont obtenues en prenant les combinaisons d objets et en les disposant de toutes les manières possibles Si C dénote les combinaisons, on a les permutations suivantes: M! Cn! = (M n)! et alors les combinaisons sont: Exemples C n M = ( ) M = n M! n! (M n)! (1) Les sous-ensembles de grandeur n formés en partant d un ensemble M sont ( M n ) (2) Un joueur de bridge peut obtenir ( 52 13) = mains différentes Les quantités ( M n ) sont appelées les coefficients binomiaux à cause de leur rôle dans le théorème du binôme: (a + b) M = ( M n ) a M n b n Par définition, ( M n ) = 0 pour n < 0 ou n > M Les coefficients binomiaux peuvent être calculés en utilisant le triangle de Pascal: Les chiffres de chaque ligne sont obtenus en faisant la somme des deux chiffres adjacents de la ligne supérieure (par exemple, 4 = 1 + 3) On ajoute ensuite le chiffre 1 au début et à la fin de chaque ligne Lorsque a et b sont égaux à 1, le théorème du binôme donne le nombre d événements pouvant être formés dans un espace de grandeur M ( inclus)

20 Chapitre II: Théorie des probabilités 15 (D) Combinaisons avec répétition Lorsque le tirage est non exhaustif on a ( M+n 1 n ) combinaisons Le tableau suivant réunit les différentes formules examinées: permutations combinaisons sans répétition M! (M n)! ( M n ) avec répétition M n ( M+n 1 n ) 7 PROBABILITES CONDITIONNELLES Il arrive souvent de devoir résoudre un problème du type suivant: une boîte contient 100 ampoules électriques dont 5 sont défectueuses On retire une ampoule et elle est défectueuse Quelle est la probabilité qu une deuxième ampoule retirée soit elle aussi défectueuse Il s agit donc d une réévaluation de la probabilité compte tenu de l information supplémentaire disponible Ces problèmes sont résolus en étudiant les probabilités conditionnelles Soit deux événements A et B, la probabilité conditionnelle de l événement B, étant donné l événement A, est la probabilité que B arrive, étant donné que A s est produit Cette probabilité conditionnelle sera désignée par P(B/A) Comme A est arrivé, il faut considérer uniquement les résultats qui correspondent à cet événement L espace d échantillonnage est alors réduit aux événements dans A A B La probabilité que B arrive, étant donné que A s est produit, est alors: P(B/A) = P(A B) P(A) P(A) 0

21 16 Chapitre II: Théorie des probabilités Exemple On jette deux dés Quelle est la probabilité que la somme des points soit 7 si l on sait qu on a eu au moins 3 points dans chaque dé? Les différents résultats possibles lorsqu on jette deux dés sont: A B Soit A l événement que les deux dés ont donné au moins 3 points chacun et B l événement que le total des points est 7 Nous avons alors P(A B) = 2/36 ; P(A) = 16/36 P(B/A) = 2/36 16/36 = 2/16 Il convient de relever que la chance d avoir un total de 7 points est plus petite lorsque l on sait que les deux dés ont donné au moins 3 points (3/24 au lieu de 4/24) En multipliant l expression de la probabilité conditionnelle par P(A) on obtient la règle de multiplication des probabilités (ou des probabilités composées): P(A B) = P(A)P(B/A) Exemples (1) Quelle est la probabilité d obtenir deux boules rouges lors d un tirage exhaustif de deux boules d une boîte contenant 3 boules rouges, 2 boules blanches et 1 boule noire? Soit A l événement que la première boule soit rouge et B l événement que la deuxième soit rouge On a alors: P(A) = 3/6 ; P(B/A) = 2/5 ; P(A B) = (3/6)(2/5) = 1/5 (2) Nous pouvons maintenant calculer les probabilités données dans l exemple de la section 5 On avait dit qu il s agissait d un tirage exhaustif de deux boules d une urne contenant 4 boules blanches et 2 boules rouges Les probabilités sont: P({B,B}) = (4/6)(3/5) = 6/15 ; P({B,R}) = (4/6)(2/5) = 4/15 P({R,B}) = (2/6)(4/5) = 4/15 ; P({R,R}) = (2/6)(1/5) = 1/15

22 Chapitre II: Théorie des probabilités 17 Beaucoup de problèmes, consistant en expériences à plusieurs étages, peuvent être facilement résolus en utilisant un diagramme séquentiel appelé l arbre des probabilités Exemple Soit une boîte contenant 3 boules rouges, 2 boules blanches et 1 boule noire Les différents résultats possibles lors d un tirage sans remise de deux boules sont: 2/5 rouge (3/6) (2/5) = 1/5 3/6 rouge 2/5 blanche (3/6) (2/5) = 1/5 1/5 noire (3/6) (1/5) = 1/10 3/5 rouge (2/6) (3/5) = 1/5 2/6 blanche 1/5 blanche (2/6) (1/5) = 1/15 1/5 noire (2/6) (1/5) = 1/15 1/6 noire 3/5 rouge (1/6) (3/5) = 1/10 2/5 blanche (1/6) (2/5) = 1/15 Ainsi, la probabilité d avoir deux boules blanches est (2/6)(1/5) = 1/15; la probabilité que la deuxième boule soit noire est 1/10 + 1/15 = 1/6; la probabilité que la deuxième boule soit noire étant donné que la première est blanche est 1/5; la probabilité d avoir deux boules de la même couleur est 1/5 + 1/15 = 4/15; etc Comme B = (B A) (B Ā) et (B A) (B Ā) =, on a: P(B) = P(B/A)P(A) + P(B/Ā)P(Ā) Exemple Dans le tirage examiné ci-dessus, quelle est la probabilité que la deuxième boule soit blanche? Soit A l événement que la première boule est blanche et B celui que la deuxième boule est blanche On obtient: P(B/A) = 1/5 ; P(A) = 2/6 ; P(B/Ā) = 2/5 ; P(Ā) = 4/6 ; P(B) = (1/5)(2/6) + (2/5)(4/6) = 1/3

23 18 Chapitre II: Théorie des probabilités 8 Evénements indépendants et dépendants Deux événements A et B sont indépendants du point de vue statistique si la probabilité conditionnelle de B, étant donné A, est égale à la probabilité non conditionnelle de B Formellement, la définition est la suivante: Soit A et B deux événements définis dans le même espace de probabilité On dit que B est statistiquement indépendant de A si P(B/A) = P(B) En utilisant la formule de la probabilité conditionnelle on obtient alors la règle de multiplication pour deux événements statistiquement indépendants: P(A B) = P(A)P(B) Exemple Lorsqu on jette un dé deux fois, quelle est la probabilité d avoir deux 4? A B A= premier dé 4 ; B= deuxième dé 4 ; P(A) = 1/6 ; P(B) = 6/36 P(B/A) = 1/6 = P(B) P(A B) = P(A)P(B) = (1/6)(1/6) = 1/36 Soit A l événement que le premier numéro soit 4 et B celui que la somme soit un nombre impair La probabilité que la somme soit un nombre impair et le premier numéro soit 4 est: P(A) = 1/6 ; P(B) = 18/36 P(B/A) = 3/6 = P(B) ; P(A B) = (1/6)(3/6) = 1/12 Il ne faut pas confondre deux événements statistiquement indépendants avec deux événements mutuellement exclusifs Si deux événements mutuellement exclusifs ont des probabilités positives, il est impossible qu ils soient statistiquement indépendants En effet: P(A B) P(A B) = 0 = P(B/A) = P(B) P(A)

24 Chapitre II: Théorie des probabilités 19 9 Formule de Bayes Une utilisation importante de la notion de probabilité conditionnelle est donnée par la formule de Bayes Soit C 1 et C 2 deux événements ayant une probabilité positive, mutuellement exclusifs et tels que leur réunion donne l événement certain S (C 1 C 2 = S) Soit B un événement quelconque Comme B = (B C 1 ) (B C 2 ), on obtient: P(B) = P(B/C 1 )P(C 1 ) + P(B/C 2 )P(C 2 ) Ce résultat peut être généralisé comme suit: P(B) = P(B/C 1 )P(C 1 ) + P(B/C 2 )P(C 2 ) + + P(B/C n )P(C n ) avec C 1 C 2 C n = S Une conséquence intéressante de ce résultat est la formule de Bayes qui a aussi conduit à des spéculations philosophiques et a été la source de beaucoup de controverses Soient C 1,C 2,,C n des événements mutuellement exclusifs et tels que leur réunion donne l événement certain S Soit B un événement dont on connaît les probabilités conditionnelles P(B/C i ) et les probabilités absolues P(C i ) (i = 1,2,,n) On peut calculer la probabilité conditionnelle inverse P(C i /B) de chaque événement C i en utilisant la formule: P(C i /B) = P(B C i) P(B) = P(B/C i )P(C i ) n j=1 P(B/C j)p(c j ) Cette relation a été découverte par le philosophe anglais Thomas Bayes et elle porte aujourd hui son nom Si les événements C i sont appelés causes, alors la formule de Bayes peut être utilisée pour calculer la probabilité que l événement B est le résultat de la cause C i et ceci a conduit aux controverses mentionnées ci-dessus La difficulté principale dans l application de la formule de Bayes est due au fait que les probabilités absolues P(C i ) sont rarement connues Exemple Une première boîte contient 2 boules blanches et 1 boule rouge Une deuxième boîte contient 1 boule blanche et 3 boules rouges On choisit au hasard une boîte et on tire une boule Si la boule est blanche, quelle est la probabilité qu elle vient de la première boîte? Soit C 1 l événement qu on choisit la première boîte, C 2 celui qu on choisit la deuxième boîte et B l événement que la boule tirée est blanche On a alors: P(B/C 1 ) = 2/3 ; P(B/C 2 ) = 1/4 ; P(C 1 ) = P(C 2 ) = 1/2

25 20 Chapitre II: Théorie des probabilités P(C 1 /B) = (2/3)(1/2) (2/3)(1/2) + (1/4)(1/2) = 8/11 Les applications pratiques de la formule de Bayes seront présentées dans la section suivante et lorsqu on analysera le problème de la décision statistique La formule de Bayes sera utilisée pour calculer les probabilités a posteriori 10 Probabilités subjectives et méthodes bayesiennes L utilisation des méthodes statistiques exige le calcul des probabilités élémentaires Dans la pratique, il est souvent difficile de calculer ces probabilités puisqu on n a pas assez d expérience du phénomène en question Il faut alors se contenter d approximations Dans ces cas, l efficacité du modèle mathématique dépend des connaissances qu on a de la situation réelle Même si on ne peut pas calculer la probabilité d une manière objective, en faisant le rapport des cas favorables sur les cas possibles, on possède souvent des informations qui permettent de se faire une idée des chances qu un événement arrive Il s agit de probabilités subjectives en ce sens qu elles ne sont pas calculées comme indiqué jusqu à présent De plus, lorsqu on obtient de nouvelles informations ces probabilités sont révisées en utilisant la formule de Bayes Cette approche est par conséquent appelée la méthode bayesienne Exemple La construction d un tronçon d autoroute a été mise au concours Un entrepreneur estime qu il a le 80% de chances d obtenir le contrat bien qu il ne soit pas domicilié dans le canton chargé de cette construction Cette valeur de 08 est une probabilité subjective Acheter des machines en prévision de ce travail peut être très risqué si l on se base uniquement sur cette impression Supposons alors que l entrepreneur se renseigne auprès du service des autoroutes Il apprend que dans le passé il y a eu 500 offres soumises à ce service dont 110 par des entreprises non domiciliées dans le canton Parmi les 100 contrats signés, 10 concernent des entreprises non domiciliées Cette information est utilisée pour réviser la probabilité initiale qui est appelée probabilité a priori puisqu elle est obtenue avant de disposer d informations supplémentaires La probabilité révisée est appelée probabilité a posteriori Soient les probabilités suivantes: P(N D/C) = probabilité que l entreprise ne soit pas domiciliée, étant donné qu elle a obtenu le contrat; P(N D/P C) = probabilité que l entreprise ne soit pas domiciliée, étant donné qu elle n a pas obtenu le contrat; P(C) = probabilité (subjective) d obtenir le contrat; P(PC) = probabilité (subjective) de ne pas obtenir le contrat; P(C/N D) = probabilité d obtenir le contrat, étant donné que l entreprise n est pas domiciliée dans le canton (probabilité recherchée); P(ND/C) = 10/100 ; P(ND/PC) = (110 10)/( ) = 100/400

26 Chapitre II: Théorie des probabilités 21 P(C) = 08 ; P(PC) = 02 P(C)P(ND/C) P(C/ND) = P(C)P(ND/C) + P(PC)P(ND/PC) = = 062 On peut effectuer ce calcul en utilisant le tableau suivant: probabilité états a priori conditionnelle jointe a posteriori (1) (2) (3) (4)=(2) x (3) (5)=(4)/ (4) C PC On pourrait se demander s il ne vaut pas mieux se fier uniquement au résultat obtenu par l information supplémentaire, qui est objective, au lieu de prendre en considération aussi les probabilités subjectives La question est controversée Il y a deux écoles de statisticiens L école classique estime qu il faut se baser uniquement sur des informations objectives Par contre, l école bayesienne fait remarquer que de toute manière les probabilités subjectives seront implicitement considérées par l entrepreneur lorsqu il devra prendre la décision finale et alors il vaut mieux les intégrer directement dans le calcul de la probabilité a posteriori Dans l exemple ci-dessus, les informations supplémentaires donnent une probabilité de 10/110 qui est trop faible, compte tenu des impressions de l entrepreneur Ces impressions peuvent être basées sur certains avantages techniques que son entreprise possède et il convient d en tenir compte Si les probabilités a priori sont très bonnes il n est pas judicieux de ne pas les prendre en considération La méthode bayesienne offre une méthode qui permet d intégrer les informations a priori On reviendra plus tard sur ces problèmes

27 22 Chapitre II: Théorie des probabilités Exercices 1) Montrer que: P(A B C) = P(A)+P(B)+P(C) P(A B) P(A C) P(B C)+P(A B C) P(A B) P(A) P(A B) P(A) + P(B) 2) En utilisant P(A), P(B) et P(A B) exprimer: (a) la probabilité que, des deux événements A et B, exactement k se produisent (pour k=0,1,2) (b) au moins k des événements A et B se produisent (pour k=0,1,2) (c) au maximum k des événements A et B se produisent (pour k=0,1,2) (d) A se produit et B ne se produit pas 3) Une étude des 1000 personnes abonnées au Bulletin HEC révèle les résultats suivants: 525 ont une licence HEC 470 sont des personnes mariées 312 sont des femmes 147 sont des personnes mariées ayant une licence HEC 86 sont des femmes mariées 42 sont des licenciées HEC 25 sont des femmes mariées ayant une licence HEC Montrer que ces chiffres ne peuvent pas être exacts 4) Trois livres de français et trois livres d anglais (tous différents) sont placés au hasard sur un rayon d une bibliothèque Quelle est la probabilité que les livres de chacune de ces langues soient placés les uns à côté des autres? 5) Une compagnie pétrolière exécute un forage dans la Mer du Nord et un autre en Méditerranée La chance de trouver du pétrole en Mer du Nord est de 08 tandis qu en Méditerranée elle est de 06 Quelle est la probabilité qu un seul des deux forages conduise à la découverte de pétrole? 6) Un institut de sondage effectue une enquête sur la lecture de trois périodiques Voici les pourcentages des réponses affirmatives aux questions suivantes: (a) Lisez-vous le périodique A? 56% (b) Lisez-vous le périodique B? 33% (c) Lisez-vous le périodique C? 27% (d) Lisez-vous les périodiques A et B? 7% (e) Lisez-vous les périodiques B et C? 8% (f) Lisez-vous les périodiques A et C? 11%

28 Chapitre II: Théorie des probabilités 23 (g) Lisez-vous les périodiques A, B et C? 2% Indiquer le pourcentage de personnes qui ne lisent aucun de ces trois périodiques 7) De combien de manières les cinq membres du conseil d administration d une société peuvent-ils s asseoir autour d une table ronde? 8) Un automobiliste A parque sa voiture devant un immeuble où il y a 10 places réservées Toutes les voitures sont sur une ligne et la sienne ne se trouve pas aux deux extrémités A son retour il y a encore 5 voitures parquées Quelle est la probabilité que les deux places à côté de la voiture de A soient libres? 9) Deux chasseurs aperçoivent simultanément un pigeon et tirent en même temps La probabilité que le premier chasseur tue le pigeon est de 1/5, celle que le second fasse de même est de 3/4 Quelle est la probabilité que le pigeon soit tué? 10) Une boîte contient 7 pièces détachées dont 2 en aluminium et 5 en cuivre Une autre boîte contient 3 pièces en aluminium et 2 en cuivre On choisit l une des boîtes au hasard On tire une pièce de la boîte et on la met dans l autre boîte On tire ensuite une pièce de la seconde boîte Calculer la probabilité que les deux pièces ainsi tirées soient du même métal 11) Combien de mots de quatre lettres peut-on former avec les lettres du mot examen? 12) On a jeté deux pièces de monnaie Quelle est la probabilité que le résultat soit deux faces si on sait qu il y a eu au moins une face? 13) Deux numéros de téléphone sont choisis au hasard Quelle est la probabilité que le dernier chiffre des deux numéros soit le même? 14) Quatre personnes prennent l ascenseur au niveau 1 d un immeuble, afin de monter aux niveaux supérieurs (2-5) La probabilité qu une personne s arrête à un étage donné est la même pour tous les étages Calculer la probabilité que les personnes s arrêtent à des étages différents en supposant que leurs décisions soient indépendantes 15) Une société spécialisée dans l achat et la vente de matières premières pense qu il y a 60% de chance que le prix du café augmente Avant de conclure un important contrat d achat, elle regarde les prévisions d un journal spécialisé La qualité de ces prévisions peut être jugée en regardant les résultats dans le passé Dans 80% des cas le journal a correctement prévu l évolution lorsqu il y a eu une augmentation des prix, tandis qu une diminution des prix n a été correctement prévue que dans 55% des cas Il n y a jamais eu de cas où les prix n aient pas varié Si le journal prévoit une augmentation des prix, quelle est la probabilité a posteriori que le prix du café augmente?

29 24 Chapitre II: Théorie des probabilités 16) On a observé pendant 1000 jours les cours des actions de deux sociétés Les résultats sont rassemblés dans le tableau de contingence suivant: action B action A où + indique que le cours a augmenté, 0 qu il n a pas changé et - qu il a diminué Le nombre 312 indique par exemple qu il y a eu 312 jours où les cours des deux actions ont augmenté Quelle est la probabilité que le cours de l action B augmente étant donné que celui de l action A reste inchangé? 17) Une entreprise emploie 60% d hommes et 40% de femmes Le 40% des hommes et le 60% des femmes gagnent moins que Fr par mois Si le salaire d une personne employée par l entreprise est inférieur à Fr, quelle est la probabilité qu il s agisse d une femme? 18) Une boîte A contient dix pièces détachées dont trois sont défectueuses Une boîte B contient vingt pièces détachées, dont deux sont défectueuses On tire au hasard une pièce détachée de chaque boîte Si l une de ces pièces est défectueuse et si l autre ne l est pas, quelle est la probabilité que la pièce défectueuse provienne de la boîte A? 19) Lorsqu une machine est correctement réglée, elle produit, en moyenne, 2% de pièces défectueuses S il y a des fautes de réglage on obtient 6% de pièces défectueuses La probabilité d une faute de réglage est de 04 Avant de commencer une nouvelle série de pièces, on prend au hasard une pièce pour la contrôler Si on trouve qu elle est défectueuse, quelle est la probabilité que la machine soit correctement réglée? 20) Dans une cave on a des bouteilles de vin rouge sec, de vin rouge doux, de vin blanc sec et de jus de raisin On sait que 35% des bouteilles contiennent du vin sec, 60% du vin rouge et 15% du jus de raisin Si l on prend une bouteille au hasard, quelle est la probabilité que: (a) elle contienne du vin rouge sec? (b) elle contienne du vin blanc, étant donné qu il s agit d une bouteille de vin? 21) Une usine possède trois machines qui produisent respectivement 60%, 30% et 10% du nombre total de pièces fabriquées Le pourcentage de pièces défectueuses produites par chaque machine est respectivement de 1%, 2% et 3% On choisit au hasard une pièce fabriquée par ces machines et on constate qu elle est défectueuse Quelle est la probabilité que cette pièce ait été fabriquée par la troisième machine?