Probabilités et statistiques dans le traitement de données expérimentales

Transcription

1 Probabilités et statistiques dans le traitement de données expérimentales S. LESECQ, B. RAISON IUT1, GEII 1 Module MC-M

2 V Estimation de paramètres, tests d hypothèse, statistiques Module MC-M

3 Plan de cette partie Qu est-ce que la statistique? Définition des variables Les différents outils à notre disposition Estimation par les moindres carrés Régression linéaire Signaux stationnaires et ergodicité 3

4 Qu est-ce que la statistique? La statistique est l'ensemble des méthodes permettant de déterminer les caractéristiques d'un ensemble de données. Faire parler les données afin d obtenir le maximum d information. Cette activité regroupe trois principales branches : La collecte des données. Le traitement des données collectées (statistique descriptive, ). L'interprétation et la généralisation des résultats (inférence statistique, ) Domaine d application: Économie, Finance, Gestion, Sciences sociales, Psychologie, Physique, Chimie, Sciences naturelles,. 4 4

5 Population, individu et échantillon Individu : Un élément de la population. Échantillon : Un sous-ensemble de la population. Population Individu Elément de la population Echantillon Sous-ensemble de la population. x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x 5 5

6 Principe de l échantillonnage Impossibilité d'obtenir toute l'information : Budgets limités Temps Objets rares Tests destructeurs Si l échantillon étudié est bien choisi, les observations sur l échantillon permettront d'acquérir les connaissances voulues sur la population. 6 6

7 Variable Une caractéristique d intérêt qui varie selon les individus de la population. Exemple : Les voitures assurées par une compagnie d'assurance varient selon leur couleur, leur marque, leur puissance, leur prix, le nombre de kilomètres parcourus, etc. Une variable est souvent représentée symboliquement par une lettre majuscule Exemples X = Temps passé à revoir le cours par étudiant. R = Note obtenue à l'examen par étudiant. 7 7

8 Définition de la covariance et de la corrélation densité de probabilité f(x,y) : on définit <x>, <y>, σ 2 (x),σ 2 (y) et C(x,y) = E[(x-E(x)).(y-E(y))] covariance de x et y Correlation r(x,y) = C(x,y) /( σ(x) σ(y)) inégalite de Schwartz -1 r +1 x et y indépendants C(x,y) = 0 ATTENTION: réciproque fausse!! r(x,y) = 1 ou -1 indique que les 2 variables sont complètement liées r(x,y) = 0 indique que les 2 variables sont non correlées (sans relation entre elles) 8

9 Un petit exemple (sous excel) Le tableau suivant présente pour différents individus le nombre de cigarettes fumées et la capacité pulmonaire mesurée. Cigarettes (X) Capacité pulmonaire (Y)

10 Lien possible entre les deux variables? Capacité (Y) Cigarettes (X) 10

11 Somme de variables aléatoires indépendantes s = x + y f(x,y) = f X (x) f Y (y) <s> = <x> + <y> (vrai même si x et y corrélés) σ 2 (s) = σ 2 (x) + σ 2 (y) les variances s ajoutent (remarque d = x - y σ 2 (d) = σ 2 (x) + σ 2 (y) ) application: N tirages indépendants x i selon f(x): s = x i σ2 (s) = N σ 2 (x) = N σ 2 m = s/n <m> = <x> et σ 2 (m) = σ 2 /N premiere loi des grands nombres: m tend vers <x> avec une variance qui décroît en 1/N (la précision augmente comme N ) 11

12 Application de la loi des grands nombres Illustration sur des tirages pile/face effectués pour un nombre différent de tirages Nombre Moyenne Ecart-type

13 Illustration graphique : loi des grands nombres On fait varier le nombre de tirages pile/face et on calcule la moyenne et l écart-type obtenus Moyenne Ecart-type Moyenne de l'échantillon Ecart type de l'échantillon Taille de l'échantillon Taille de l'échantillon 13

14 Calcul de quelques valeurs via excel Moyenne (X) 10 Moyenne (Y) 36 Ecart type (X) 7.91 Ecart type (Y) 7.07 Coefficient de corrélation

15 Observations Les valeurs résultantes d une variable constituent les observations de l étude. Exemples: Pour un échantillon de cinq personnes, X=«Age» x = 19, x = 20, x = 23, x = 40, x = La variable Y=«sexe» observée sur l échantillon y = H, y = F, y = F, y = F, y = H L ensemble des observations constitue le tableau des données 15 15

16 Que fait-on de ces données? statistique descriptive regroupe les techniques utilisées pour décrire un ensemble de données Observations disponibles Une statistique est une quantité calculée à partir d'un certain nombre d'observations. critères qui quantifient différentes caractéristiques de la distribution des observations: sont-elles centrées autour d'une valeur? sont-elles groupées autour de certaines valeurs? parcourent-elles de larges plages de valeurs possibles? suivent-elles des lois statistiques connues? etc. 16

17 Les outils à notre disposition Les statistiques simples permettent de décrire les observations : la moyenne ; la médiane ; le mode (valeur la plus représentée d'une variable quelconque dans une population d'objets) ; le maximum ; le minimum ; l'écart type (ou son carré la variance) ; des quantiles. Les deux premiers critères de position Les autres critères de dispersion 17

18 Illustration : médiane (critère de position) Code NOM PSDC EAUBONNE HERBLAY GONESSE SANNOIS TAVERNY BEZONS VILLIERS-LE-BEL GOUSSAINVILLE PONTOISE ERMONT FRANCONVILLE GARGES-LES-GONESSE CERGY SARCELLES ARGENTEUIL minimum médiane étendue moyenne maximun ( ) Les valeurs sont rangées par ordre croissant 18

19 Illustration variance (critère de dispersion) La variance de y est égale à la somme des carrés des écarts à la moyenne divisée par l effectif n. 1 n i n 2 2 ( yi y) = σ y = Code NOM PSDC99 écart à la moyenne (écart à la moyenne) EAUBONNE , , HERBLAY , , GONESSE , , SANNOIS , , TAVERNY , , BEZONS , , VILLIERS-LE-BEL , , GOUSSAINVILLE , , PONTOISE , , ERMONT , , FRANCONVILLE , , GARGES-LES-GONESSE , , CERGY , , SARCELLES , , ARGENTEUIL , somme , ,9 effectif moyenne ,9 19

20 Illustration écart-type (crtière de dispersion) L écart type d une variable est égal à la racine carrée de sa variance. 1 n n i= 1 ( yi y) 2 = σ y L écart type s exprime dans la même unité que les observations Code NOM PSDC99 écart à la moyenne (écart à la moyenne) EAUBONNE , , HERBLAY , , GONESSE , , SANNOIS , , TAVERNY , , BEZONS , , VILLIERS-LE-BEL , , GOUSSAINVILLE , , PONTOISE , , ERMONT , , FRANCONVILLE , , GARGES-LES-GONESSE , , CERGY , , SARCELLES , , ARGENTEUIL , somme , ,9 effectif 15 écart-type moyenne ,9 variance , ,9 20

21 Représentation graphique ARGENTEUIL SARCELLES CERGY médiane HERBLAY SANNOIS VILLIERS-LE-BEL PONTOISE GARGES-LES-GONESSE ERMONT FRANCONVILLE Écart-type moyenne EAUBONNE GONESSE TAVERNY BEZONS GOUSSAINVILLE

22 Estimation de paramètres X variable aléatoire dont la densité de probabilité f(x,θ) dépend d un paramètre inconnu θ. Etant donné N tirages x i de X, que peut-on dire de θ? But : construire une variable aléatoire, fonction des x i, dont l espérance mathématique (moyenne) sera (au moins asymptotiquement) θ (et dont la variance sera la plus faible possible). [une telle variable est appelée estimateur, ou encore statistique!] 22

23 Estimation de paramètres Biais d un estimateur de θ = différence entre son espérance et θ Un estimateur sera convergent si le biais B N et sa variance σ 2 N tendent vers 0 en 1/N lorsque N Les propriétés de convergence des estimateurs usuels découlent de la loi des grands nombres (démonstration plus ou moins facile) Un estimateur qui a une variance plus faible que les autres est dit optimal; et si sa variance est le minimum théorique, il est dit efficace. [il n existe pas forcément d estimateur efficace pour N fini] 23

24 Estimation par moindres carrés Exemple : on dispose de plusieurs mesures d une règle à diverses températures T i, et on veut estimer son coefficient de dilatation α. On suppose mes diverses mesures L i indépendantes, chacune affectée d une incertitude σ i On dispose d un modèle théorique L(T) = L 0 (1 + α T) avec 2 paramètres inconnus L 0 et α Problème : Estimer au mieux ces 2 paramètres à partir des observations L J estime les paramètres inconnus en prenant pour valeurs celles qui minimisent la somme Ҳ 2 = Σ [L i L(T i )] 2 /σ i 2 Cas général: estimation biaisée, convergente T Variance-covariance des estimateurs donnée asymptotiquement par 2 fois l inverse de la matrice des dérivées secondes au minimum 24

25 Cas particulier : régression linéaire (d après document Y. Demur) La régression linéaire est un outil (mathématique) statistique qui permet de définir une loi linéaire entre deux variables intervenant dans un même phénomène. Le coefficient de corrélation est un indicateur sur la qualité des données. Il est dégradé par la dispersion des informations autour de la tendance. 25

26 Principe de la régression linéaire Loi linéaire Méthode graphique Méthode statistique On veut obtenir la «meilleure» équation de droite y = ax + b à partir d'un nuage de n points. 26

27 Principe de la régression linéaire Calcul du barycentre Calcul de a avec un critère d optimisation Calcul de b avec b = y ax = = G( x x / n, y y / n) Coefficient de corrélation r=cov(x,y)/σ x σ y caractérise le regroupement «en ligne» des points. 27

28 Illustration de la regression linéaire Considérons la droite y=2x+5 à laquelle on ajoute du bruit blanc On pratique une régression linéaire pour chaque réalisation bruit pente ordonnée

29 Une remarque importante Signal aléatoire Signal bidimensionnel dépendant du temps et d'une variable aléatoire Comment caractériser un signal dont la valeur à chaque instant est une variable aléatoire? Objectifs Notions de stationnarité et d'ergodicité 29

30 Stationnarité d un signal : constatation Hypothèse : une infinité d'expériences dans des conditions identiques Moyenne m(t) = E[x(t)] Corrélation R(x,t 1, t 2 ) = E[x(t 1 )x(t 2 )] Covariance C(x; t1, t2) = E[(x(t1) m1)(x(t2) m2)] 30

31 Qu est-ce que la stationnarité? Remarque : Le comportement d'une v.a n'est pas nécessairement identique pour t1 et t2 quelconque. Pour s'affranchir de cette difficulté, on définit la notion de stationnarité d'un signal Stationnarité indépendance du temps 31

32 Stationnarité du second ordre Stationnarité du 2 nd ordre Égalité des moyennes E[x(t1)] = E[x(t2 )] Invariance temporelle des corrélations E[x(t1).x(t2)] = E[x(t1 + T).x(t2 + T)] Invariance des covariances ("mesure" une dépendance linéaire entre les différentes valeurs d'un signal aléatoire) C[x(t1), x(t1 + T )] = C[x(0), x(t)] 32

33 Ergodicité Dans la pratique, on ne dispose souvent que d'une réalisation du phénomène aléatoire. Il devient donc difficile de caractériser statistiquement le signal aléatoire L'hypothèse d'ergodicité consiste à admettre que l'évolution d'un signal aléatoire au cours du temps apporte la même information qu'un ensemble de réalisations Ergocité => Histogramme est une estimation de la ddp 33