Probabilités sur un univers dénombrable

Probabilités sur un univers dénombrable 1. Espaces probabilisés dénombrables...p.1 Définition de la dénombrabilité. Expérience aléatoire sur un univers dénombrable. Événements, union et intersection d'une infinité d'événements. Système complet d'événements. Définition d'une probabilité sur un univers dénombrable. 2. Indépendance et conditionnement...p.3 Probabilité conditionnelle, formule des probabilités composées. Formule des probabilités totales. Formule de Bayes. Indépendance de deux événements. Indépendance mutuelle d'une famille finie d'événements. 1. Espaces probabilisés dénombrables Définition de la dénombrabilité -------------- Un ensemble est dit dénombrable s'il peut s'écrire en extension sous la forme {x n }. Exemples : N est dénombrable car N= {n } Z est dénombrable car Z= { ( 1) n n+1 2 } L'ensemble des nombres décimaux est dénombrable. L'ensemble des nombres rationnels est dénombrable. En revanche l'intervalle [0;1] n'est pas dénombrable. Expérience aléatoire sur un univers dénombrable Une expérience aléatoire sur un univers dénombrable est une expérience dont : on connaît les issues possibles : l'ensemble des issues, appelé univers et noté Ω est dénombrable. on ne sait pas, avant la réalisation de l'expérience, laquelle des issues sera obtenue. Exemple : l'expérience consistant à construire un «mot» à partir des lettres 'A 'et 'B' se terminant par '.'. L'univers est constitué des «mots» Ω= {'.' ;' A.' ;' B.' ;' AA.' ; ' AB.' ; BB.' ; ' AAA.' ;' AAB.' ; ' ABA.' ; } L'univers Ω est donc de cardinal infini car la longueur du mot obtenu peut être arbitrairement grande. Cependant Ω est dénombrable car il est possible de trier les mots selon leur longueur (les mots de n lettres étant placés du rang 2 n+1 au rang 2 n+2 1 ) puis selon l'ordre alphabétique. Exemple de code Python permettant d'obtenir les mots constitués de 5 lettres ou moins. 1 L=['.'] 2 for k in range(5): 3 LA=['A'+mot for mot in L[2**k-1:]] 4 LB=['B'+mot for mot in L[2**k-1:]] 5 L=L+LA+LB 6 print(l) ['.', 'A.', 'B.', 'AA.', 'AB.', 'BA.', 'BB.', 'AAA.', 'AAB.', 'ABA.', 'ABB.', 'BAA.', 'BAB.', 'BBA.', 'BBB.', 'AAAA.', 'AAAB.', 'AABA.', 'AABB.', 'ABAA.', 'ABAB.', 'ABBA.', 'ABBB.', 'BAAA.', 'BAAB.', 'BABA.', 'BABB.', 'BBAA.', 'BBAB.', 'BBBA.', 'BBBB.', 'AAAAA.', 'AAAAB.', 'AAABA.', 'AAABB.', 'AABAA.', 'AABAB.', 'AABBA.', 'AABBB.', 'ABAAA.', 'ABAAB.', 'ABABA.', 'ABABB.', 'ABBAA.', 'ABBAB.', 'ABBBA.', 'ABBBB.', 'BAAAA.', 'BAAAB.', 'BAABA.', 'BAABB.', 'BABAA.', 'BABAB.', 'BABBA.', 'BABBB.', 'BBAAA.', 'BBAAB.', 'BBABA.', 'BBABB.', 'BBBAA.', 'BBBAB.', 'BBBBA.', 'BBBBB.'] Définition d'un événement Soit Ω un univers dénombrable. Toute partie de Ω est un événement. Ainsi tout événement est dénombrable mais peut être de cardinal fini ou non. On note P (Ω) l'ensemble des événements de Ω. Exemple : Pour l'expérience précédente, «obtenir un mot de 4 lettres» est un événement de cardinal «obtenir un mot ayant exactement quatre A» est un événement de cardinal Si Ω est infini et dénombrable, alors P (Ω) est infini mais non-dénombrable. Probabilités sur un univers dénombrable 1/7 pycreach.free.fr - TSI2

A Dans la suite de ce cours, l'univers Ω est considéré fini ou, infini et dénombrable. Union et intersection d'une infinité d'événements Soit Ω un univers dénombrable et (A i ) une suite de P (Ω). La réunion des événements (A i ) est constituée des issues appartenant au moins à l'un des événements A i : A i ={ω Ω, ω A i } L'intersection des événements (A i ) est constituée des issues appartenant à tous les événements A i : A i ={ω Ω,ω A i } } Remarques : A i = A i = Exemples : Soit, pour, l'événement L i : «obtenir un mot de i lettres» L 0 = L 1 = { } L 2 = L 3 = L 4 = Alors L i... L i =... Soit, pour, l'événement A i : «obtenir un mot contenant exactement i fois la lettre 'A'» A 0 = A 1 = { 2 = A 3 = A 4 = Alors A i... Définition d'un système complet d'événements A i =... Soit Ω un univers dénombrable, I un ensemble fini ou I=N et (A i ) i I une suite (finie ou dénombrable) de P (Ω). (A i ) i I est un système complet d'événements si et seulement si il est constitué d'événements deux à deux incompatibles dont et la réunion est Ω. i.e. { (i ; j ) I 2, i j A i A j = i I A i =Ω Remarques : il est évident que A i Ω. Ainsi Ω A i suffit à prouver que A i =Ω. Si Ω est fini alors tout système complet d'événements est fini. Si Ω est infini et dénombrable alors un système complet d'événements peut être fini ou infini dénombrable. Si (A i ) i I est une suite d'événements deux à deux disjoints alors en lui ajoutant l'événement A i on obtient un i I système complet d'événements. Exemple : Soit, pour, l'événement A i : «obtenir un mot de i lettres»... Définition d'une probabilité sur un univers dénombrable Soit Ω un univers dénombrable. P est une probabilité sur Ω si et seulement si {P :P (Ω ) [0;1 ] P (Ω)=1 (A k ) k N suite de P (Ω ) telle que ( (i ; j) N 2,i j A i A j = ), P( A k N k) = P (A k ) Une probabilité P sur un univers infini dénombrable Ω={ω i } est entièrement déterminée par la donnée de (P ( ω i) ) suite de [0;1 ] (probabilité de chaque issue) telles que P ( ω i )=1. i=0 Si les événements A, B et C ne sont pas deux à deux disjoints alors P ( A B C ) P (A )+P (B )+P( C) P ( A B C ) Une probabilité sur un univers infini et dénombrable ne peut pas être uniforme. Exemple : en choisissant les lettres successivement avec des probabilités constantes, la lettre 'A' avec une probabilité 0,1, la lettre 'B' avec une probabilité 0,2 et le caractère '.' avec une probabilité 0,7. Exemple de simulation de 1000 expériences aléatoires suivant se protocole. Probabilités sur un univers dénombrable 2/7 pycreach.free.fr - TSI2

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 import numpy as np def experience(): mot=np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] while mot[-1]!='.': mot=mot+np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] return mot def frequences(l): n=len(l) F=[[L.pop(),1/n]] while len(l)>0: evenement=l.pop() i=0 long=len(evenement) while i<len(f) and (len(f[i][0])<long or (len(f[i][0])==long and F[i][0]<evenement)) : i=i+1 if i==len(f): F.append([evenement,1/n]) elif F[i][0]==evenement: F[i][1]=round(F[i][1]+1/n,3) else : F.insert(i,[evenement,1/n]) return F L=[experience() for k in range(1000)] print(frequences(l)) [['.', 0.687], ['A.', 0.086], ['B.', 0.14], ['AA.', 0.006], ['AB.', 0.015], ['BA.', 0.01], ['BB.', 0.03], ['AAA.', 0.001], ['AAB.', 0.001], ['ABB.', 0.001], ['BAB.', 0.004], ['BBA.', 0.001], ['BBB.', 0.007], ['ABAA.', 0.001], ['ABBA.', 0.001], ['ABBB.', 0.001], ['BAAA.', 0.001], ['BABA.', 0.001], ['BABB.', 0.001], ['BBAB.', 0.001], ['AAABA.', 0.001], ['AABBA.', 0.001], ['ABABB.', 0.001], ['BAAABB.', 0.001]] On peut alors calculer les probabilités de certains événements : P('A.')=... P('B.')=... P('AA.')=... P('AB.)=... P('BA.')=... P('BB.')=... P('BAAABB.')=... Remarque : l'univers associé à cette expérience aléatoire contient des «mots» de longueur infinie (et n'est pas dénombrable!) car ne jamais obtenir le caractère '.' est possible. Cependant cet événement est de probabilité nulle car (1 0,7 ) n =0. lim n 2. Indépendance et conditionnement Définition des probabilités conditionnelles Soient A et B deux événements tels que P ( B) 0. L'application La probabilité conditionnelle de A sachant B est P (A B)= P(A B ) P (B ) P B : P (Ω ) [0;1] A P (A B ) P( B ) est une probabilité sur Ω appelée probabilité conditionnelle sachant B. Exemple : Soit B : «obtenir un mot de quatre lettres» et A : «obtenir un mot contenant exactement trois 'A'» Probabilités sur un univers dénombrable 3/7 pycreach.free.fr - TSI2

Exemple de simulation : 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 import numpy as np def experience(): mot=np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] while mot[-1]!='.': mot=mot+np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] return mot def frequences_conditionnelles(a,b,n): nbre_de_b=0 nbre_de_a_et_b=0 nbre_de_a_et_nonb=0 for k in range(n): expe=experience() if B(expe): nbre_de_b=nbre_de_b+1 if A(expe): nbre_de_a_et_b=nbre_de_a_et_b+1 else: if A(expe): nbre_de_a_et_nonb=nbre_de_a_et_nonb+1 return(nbre_de_a_et_b/nbre_de_b,1-nbre_de_a_et_b/nbre_de_b,nbre_de_a_et_nonb/(n-nbre_de_b),1-nbre_de_a_et_nonb/(n-nbre_de_b)) (0.09964093357271095, 0.900359066427289, 0.0011735365988556259, 0.9988264634011443) Formule des probabilités composées Soient n événements A 1 tels que A n ) 0. A n )=P(A 1 ) P(A 2 A 1 ) P (A 3 )) P (A n A n 1 )) n i.e. P ( k=1 n Ak) = k =1 P ( A k ( i=1 k 1 Ai)) Remarque : dans un arbre probabiliste, cette propriété s'énonce : «la probabilité d'une feuille est égale au produit des probabilités des branches menant à cette feuille». Démonstration : soit n événements A 1 tels que A n ) 0 soit, pour k 2; n, HR(k) : «A k )= ) P (A 2 A 1 ) P (A 3 )) P (A k A k 1 ))» Probabilités sur un univers dénombrable 4/7 pycreach.free.fr - TSI2

Initialisation : (A 1 A n ) A 1 donc A n ) ) ainsi ) 0 donc P (A 2 A 1 )= P(A A 1 2) ) D'où )= ) P (A 2 A 1 ). Ainsi HR (2 ) est vérifiée. Hérédité : soit k 2; n 1. Supposons HR (k ) vérifiée. (A 1 A n ) (A 1 A k ) donc A n ) A k ) donc A k ) 0. Donc P (A k +1 A k ))= P (A A 1 k +1) A k ) Ainsi A k+1 )= A k ) P (A k+1 A k )) D'après HR (k ), on a donc A k+1 )= ) P (A 2 A 1 ) P(A 3 )) P(A k A k 1 )) P (A k+1 A k )) Donc HR (k +1 ) est vérifiée. Exemple : Soit A 1 l'événement «obtenir un mot de cinq lettres» A 2 l'événement «obtenir au moins un A» A 3 l'événement «obtenir au moins un B» Formule des probabilités totales Soient (A k ) k N un système complet d'événements et B un événement quelconque. La série numérique P (B A n ) est convergente et sa somme est égale à P ( B). i.e. P ( B)= P (B A k ) Si de plus chaque événement A k a une probabilité non nulle alors P ( B)= (P (Ak ) P (B A k )) Démonstration : Soit (A k ) k N un système complet d'événements de probabilités non nulles et B un événement quelconque : B=B Ω=B ( A k k N ) = (B A k) k N et pour (i ; j) N 2 tel que i j, (B A i ) (B A j ) A i A j = Donc, puisque P est une probabilité sur Ω, P ( B)= P (B A k ). Probabilités sur un univers dénombrable 5/7 pycreach.free.fr - TSI2

Exemple : Soit L i : «obtenir un mot de i lettres» et A : «obtenir exactement trois 'A'». (L i ) forme un système complet d'événements et, P (L i )=0,3 i 0, 7 D'après la formule des probabilités totales : P ( A )= i=0... P ( A )= 7 4 6 Exemple de simulation Python : 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 0.001754 import numpy as np P (L i ) P Li (A ) or pour i<3, P Li (A )= pour i 3, P Li (A )= def experience(): mot=np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] while mot[-1]!='.': mot=mot+np.random.choice(['a','b','.'],1,p=[0.1,0.2,0.7])[0] return mot def frequences_evenement(a,n): nbre_de_a=0 for k in range(n): expe=experience() if A(expe): nbre_de_a=nbre_de_a+1 return(nbre_de_a/n) print(frequences_evenement(lambda x:sum(int(car=='a') for car in x)==3,1000000)) Extension de la formule des probabilités totales Soient (A k ) k N une suite d'événements deux à deux incompatibles telle que P (A k )=1 et B un événement quelconque. La série numérique P (B A n ) est convergente et sa somme est égale à P ( B). i.e. P ( B)= P (B A k ) Démonstration : k N, (B A k ) A k donc P (B A k ) P (A k ) D'après le critère de majoration pour les séries à termes positifs, puisque la série P (A n ) est convergente, la série P (B A n ) est convergente. Soit C= A k alors C et (A k ) k N forment un système complet d'événements de Ω k N Donc d'après la formule des probabilités totales précédente : P ( B)=P (B C )+ P (B A k ) De plus P étant une probabilité : P (Ω )=P (C )+ P (A k ) Ainsi, si P (A k )=1 alors P (C )=0. Or (B C) C donc P ( B C) P (C ) d'où P ( B C)=0. On a alors, P ( B)= Formule de Bayes P (B A k ). Soient deux événements A et B. Si P ( A ) 0 et P ( B) 0 alors, P (A B)= P(B A ) P (A ) P (B ) Probabilités sur un univers dénombrable 6/7 pycreach.free.fr - TSI2

Remarque : si P ( A B) 0 alors P ( A ) 0, P ( B) 0 et (P (A B)=P (B A ) P (A )=P ( B)). Démonstration : si P ( B) 0 alors P (A B)= P(A B ) P (B ) Si P ( A ) 0 alors P ( A B)=P (A ) P (B A ) Donc Exemple : Soit B : «obtenir un mot de quatre lettres» et A : «obtenir un mot contenant exactement trois 'A'» Définition de l'indépendance de deux événements Soient deux événements A et B. A et B sont indépendants si et seulement si P ( A B)=P ( A ) P ( B) Ne pas confondre indépendants et incompatibles. Deux événements sont indépendants et incompatibles si et seulement si... La relation d'indépendance n'est pas transitive : A et B indépendants et B et C indépendants n'implique pas que A et C sont indépendants. Exemple, on choisit au hasard un nombre dans 1; 24 selon une probabilité uniforme. On envisage les événements suivants : A : «le résultat est un multiple de 2» B : «le résultat est un multiple de 3» C : «le résultat est un multiple de 4» P(A)=... P(B)=... P(C)=... P ( A C )= P ( B C )= Caractérisation de l'indépendance utilisant le conditionnement Soient deux événements A et B. { P (B )=0 et P( A B )=0 A et B sont indépendants si et seulement si ou P (B ) 0 et P (A B)=P ( A ) Démonstration : P ( A B)=P ( A ) P (B) {P (B )=0 et P( A B)=0 ou P (B ) 0 et P (A )= P (A B) P(B) Définition de l'indépendance mutuelle d'une famille finie d'événements Soient n événements A 1. Les événements A 1 sont mutuellement indépendants si et seulement si pour toute partie J 1; n, P( A j J j) = P (A j ) j J Remarque : Si les événements A 1 sont mutuellement indépendants alors en considérant toutes les ( n 2) parties de 1; n à deux éléments, on a l'indépendance des événements A 1 deux à deux. Si n 3 alors l'indépendance des événements A i deux à deux n entraîne pas nécessairement leur indépendance mutuelle. Exemple : On choisit au hasard un nombre dans 1; 24 selon une probabilité uniforme. On envisage les événements suivants : A : «le résultat est un multiple de 2» B : «le résultat est un multiple de 3» C : «le résultat est 1 ou 2 ou 5 ou 6 ou 7 ou 12» P(A)=... P(B)=... P(C)=... P ( A B C )= P ( A C )= P (B C)= Probabilités sur un univers dénombrable 7/7 pycreach.free.fr - TSI2