Autour des nombres pseudo-aléatoires

Transcription

1 Lycée Chaptal PCSI-PC* Informatique générale pour l ingénieur Autour des nombres pseudo-aléatoires Introduction Produire des suites de nombres aléatoires est une nécessité dans de nombreux domaines de l'informatique (On peut citer, parmi ce que nous avons vu, les méthodes de Monte-Carlo par exemple). Malheureusement, dans un ordinateur, on ne dispose pas d une vraie source de hasard. On va donc devoir programmer des algorithmes produisant des suites de nombres pseudo-aléatoires c'est-à-dire se «rapprochant» de suites aléatoires. On appelle ces algorithmes des générateurs de nombres aléatoires (Rappel : Python, dans le module random, possède des générateurs de ce type). Le but de ce sujet est de jeter un œil sur le fonctionnement d un type de générateur de nombre aléatoires et de voir quel(s) procédés on peut mettre en place pour en tester la qualité. I. Générateurs à congruence linéaire Il s'agit de l'algorithme le plus utilisé (mais ce n est pas le seul) pour produire des nombres aléatoires depuis qu'il a été inventé en 1948 par D. H. Lehmer. La suite est générée par la récurrence suivante : x n+1 = (a x n + c) mod m avec a (multiplicateur), c (incrément), x 0 (germe), et m qui sont quatre nombres entiers non-négatifs. Si on désire produire toujours la même séquence (ce qui est pratique à des fins de tests), on rentre toujours la même valeur de x 0. Si on préfère que la séquence soit toujours différente, on initialise x 0 avec une grandeur toujours différente, l'heure système par exemple. Dans tous les cas, les nombres de la suite sont compris entre 0 et m-1. 1) Ecrire en Python une fonction gclv1(n,a,c,xo,m) qui génère une liste de n nombres aléatoires en se basant sur cet algorithme. 2) Quelques tests amusants. En vous servant de la fonction que vous venez de programmer, tester les générateurs basés sur les quadruplets (a,c,xo,m) suivants : (25,16,12,256) ; (25,16,11,256) ; (25,16,10,256) On génèrera disons 20 nombres. Que constatez vous? Et avec celui-ci : ( ,1,0, ) toujours pour 20 nombres.. Conclusion : On ne peut pas prendre n importe quoi comme quadruplet pour obtenir par cette méthode un générateur pseudo-aléatoire qui tienne la route!!! Il existe des règles de choix de ces paramètres mais celles-ci dépassent le cadre de notre petit étude. On renvoie le lecteur intéressé à Knuth D. E., The Art of Computer Programming : Seminumerical Algorithms, chapter 3, Addison Wesley, 1981 (téléchargeable sur internet faites un coup de Google! ). Pour savoir si un générateur de nombres aléatoires a des chances d être convenable, on le soumet à une batterie de tests statistiques pour en tester la qualité. C est ce que nous allons voir à présent

2 II. Tests des générateurs de nombre aléatoires : premiers exemples Déterminer si un générateur de nombres aléatoires est valable ou non est un problème délicat. En effet il n existe pas de test universel pouvant affirmer avec certitude qu un générateur est quasi-aléatoire. Le principe est donc de montrer qu il n est pas biaisé en étudiant les propriétés des nombres qu il génère. En pratique, un générateur aléatoire produit une séquence de nombres ayant des propriétés d imprédictibilité et d indépendance. L évaluation de la qualité aléatoire d un générateur passe donc par le contrôle des propriétés de la séquence qu il génère. Ceci est réalisé grâce à des tests statistiques qui permettent de comparer les performances du générateur étudié par rapport à celles, théoriques, qu aurait une séquence de nombres réellement aléatoires. On va présenter ici quelques uns de ces tests. 1. Générateur standard minimal Afin d'éviter que n'importe qui propose un générateur pseudo-aléatoire sans savoir très bien ce qu'il fait, Park et Miller 1 ont proposé un générateur standard convenablement testé. Ils l'ont appelé le Standard Minimal. Il est défini par : x n+1 = * x n mod (2**31-1) avec x 0 non nul En réutilisant gclv1, définir une fonction stdmin(n,x0) qui générera une suite n nombres aléatoires en utilisant une générateur standard minimal. On réglera x 0 à 23 comme valeur par défaut 2. Test Spectral 1D et 2D des générateurs à congruence linéaire (GCL) Ces tests consistent en des représentations graphiques de l échantillon de nombres que l on souhaite tester (approprié par exemple pour des nombres pseudo-aléatoires obtenus par un générateur à congruence linéaire). On a plusieurs représentations : Représentation 1D : Elle montre sur un histogramme le nombre d apparition du dernier chiffre de l entier généré. Le test est réussi si tous les 10 chiffres sortent avec des fréquences comparables. 1) Programmer une fonction spectral1d qui prend en argument une liste d entiers et renvoie l histogramme (Si besoin utiliser la doc en ligne de matplotlib pour comprendre comment faire un histogramme). On le testera sur une liste de 500 entiers générée par le générateur standard minimal démarrant à 23. Représentation 2D : on extrait de l échantillon aléatoire (supposé de longueur paire) deux sous-listes de même longueur (indice pair et indice impairs) qui après division par m (rappel m est le modulo du GCL), vont constituer respectivement les listes des abscisses et des ordonnées de points compris dans le carré [0,1] 2. On affiche alors les points ainsi générés et on vérifie visuellement qu ils sont repartis de manière uniforme. 2) Programmer une fonction spetcral2d qui prend en argument m le modulo d un GCL et une liste d entiers issus de ce GCL qu on suppose de longueur paire ( on pourra adjoindre une partie défensive capable de gérer cela ) et renvoie le tracé du nuage de point correspondant. Tester sur une liste de 1000 entiers générée par le générateur standard minimal démarrant à Le lecteur intéressé pourra consulter Park S.K., Miller K.W., «Random Number Generators: Good Ones Are Hard To Find» Comm. of the ACM, Vol 31, 10, Oct.1988,

3 III. Tests du «poker» (version à 4 cartes) A. Questions préparatoires 1. Un peu de dénombrement On considère des chaines de caractères composés de 4 chiffres ex : 1234 ou En dénombrant les cas favorables, déterminer la probabilité qu une telle chaine de caractère : a) Soit composée de 4 chiffres différents ex 1234 b) Comporte une et une seule paire : ex 1251 ou 2269 c) Comporte deux paires : ex 1212 ou 4884 d) Comporte trois chiffres identiques (et pas 4 c'est-à-dire un genre de brelan) : ex 1555 ou 4844 e) Comporte quatre chiffres identiques (carré) f) Que dire de ces 5 cas possibles (faites la somme des 5 probabilités calculées.) 2. Fonctions Python On suppose que ch est une chaine de caractères contenant quatre chiffres. Programmer en Python les fonctions booléennes suivantes : tsdif4(ch): qui teste si un chaine de caractère a tous ses éléments différents unepaire4(ch): qui teste si une chaine de 4 caractères comporte une et une seule paire brelan4(ch): qui teste si une chaine de 4 caractères comporte un brelan carre4(ch): qui teste si une chaine de 4 caractères est un carré deuxpaires4(ch): qui teste si une chaine de 4 caractères a deux paires 3. Test général On se propose de tester si ce qui a été programmé plus haut est cohérent. Pour cela on demande de générer la liste de toutes les chaines de caractères à quatre chiffres possibles puis de vérifier si l application des 5 fonctions programmées au 2, donne des résultats cohérents avec les dénombrements effectués en 1. On rappelle que True+True = 2 B. Application au test d un GCL. 1. Test du khi-deux d adéquation : Principe du test C est un test statistique qui permet de vérifier, l hypothèse notée H 0, suivant laquelle l échantillon étudié peut être considéré comme un échantillon d une population représentant des réalisations d une variable aléatoire (notée X) qui une loi de probabilité donnée connue. On repartit l ensemble des valeurs possibles de la variable aléatoire étudiée en k classes notées A i avec i variant de 1 à k. La connaissance de la loi de probabilité que suit X induit la connaissance des k probabilités p i qu une réalisation de X appartienne à la classe A i. Si n est la taille de l échantillon testé, on peut alors calculer pour chaque A i l effectif théorique e i =n*p i. Il faut alors vérifier que pour les i de 1 à k, on a n*pi (1 pi ) 5, pour savoir si n est assez grand pour que ce test ait du sens

4 Si tel est le cas, on mesure, sur l échantillon étudié, l effectif observé o i dans chaque classe. Puis on calcule alors la grandeur q : q = k (o i e i ) 2 e i i=1 Qualitativement, on voit que q donne une mesure de l écart entre les effectifs théoriques attendus et ceux observés dans l échantillon (plus q sera grand, moins l accord sera bon). Reste à quantifier tout cela. La question est la suivante : à partir de combien q est il suffisamment grand pour que l on puisse dire que l échantillon ne peut pas être considéré comme un échantillon d une population suivant la loi de probabilité de X? Autrement dit à partir de quelle valeur de q doit-on prendre la décision de rejet de l hypothèse H 0.? Pour répondre à cela, on sait que la statistique Q suit une loi du χ 2 (loi du khideux) à (k-1) degrés de libertés. (On admet ce résultat que vous démontrerez si vous faites des études de statistiques.. ). Il y alors deux techniques équivalentes. 1) La première : On calcule (ou on lit dans une table) la valeur de q c (c pour critique) correspondant à la valeur telle que : Pour Q suivant une loi du χ 2 à (k-1) degrés de liberté, P(Q > q c ) = au seuil de risque (généralement 5%). Si q c < q alors on rejette l hypothèse H 0 et on conclut que l échantillon est significativement différent d un échantillon d une population suivant la loi de probabilité de X et ceci avec un risque d au plus de se tromper en prenant cette décision de rejet. 2) La seconde technique est celle programmée par défaut dans les logiciels de statistiques. On calcule ce qu on appelle la P-value c est dire la probabilité P(Q > q) (on voit que plus la P-value est faible plus q est grand). Si cette valeur est inférieure au seuil de risque acceptable (généralement 5%) alors on rejette l hypothèse H 0 et on conclut que l échantillon ne peut être considéré comme un échantillon d une population suivant la loi de probabilité et ceci avec un risque d au plus de se tromper en prenant cette décision de rejet. 2. Application au test d un GCL et travail demandé 1. On fait générer au stdmin une liste de 400 nombres pseudo-aléatoires 2. De cette liste, on déduit une liste de 400 chaines de caractères à quatre chiffres à partir des quatre derniers chiffres représentant chaque entier généré par le GCL. On fera pour cela une fonction creeechantillon qui reçoit une liste d entiers et renvoie une liste de même longueur de chaine de caractères à quatre chiffres. 3. Programmer une fonction analysech4 qui prend en argument une liste de chaines de caractères composée de quatre chiffes et renvoie la liste des effectifs dans 4 classes : tsdif, unepaire, deuxpaires, brelan+carre (on regroupe brelan et carré dans une même classe car une classe carré seul conduirait à des calculs non significatifs dans des tests de khi2 c est le problème du n*pi (1 pi ) 5 ) 4. Programmer une fonction calculkhi2 qui prend en argument n le nombre de «mesures» dans échantillon, listeprobatheo la liste des probabilités attendues dans chaque classe, listeobs la liste des effectifs observés pour chaque classe dans l échantillon et renvoie q si son calcul est possible et a un sens. 5. Si le GCL est un bon générateur de nombres aléatoires alors l échantillon de 400 chaines de caractères est un échantillon aléatoire des chaines de caractères possibles. On connait donc les effectifs théoriques attendus dans chacune des 4 classes dans lesquelles on choisit de les classer (voir A et 3)

5 Programmer une fonction decisionkhi2pv qui prend en argument n, listeprobatheo, listeobs et alpha réglé par défaut à 0.05 et qui renvoie la décision de rejet (False) ou d acceptation (True) de l hypothèse H 0. On utilisera la technique de la P-value. Aide : le module scipy.stats contient l objet chi2 dont les méthodes permettent de répondre à cette question. Aidez vous de la doc en ligne, des extraits donnés en annexe, et faites des essais en vous basant vos vérifications sur les tables de la loi de khi deux disponibles par exemple sur : 6. Retrouver avec les fonctions que vous avez programmées que le générateur standard minimal (x 0 = 23) ne passe pas le test du poker ( ie on rejette H 0 ) pour un échantillon de petite taille comme 400 nombres mais que si on prend un échantillon plus important par exemple 1000 nombres alors le générateur passe le test. (C est ce cas qui important pour les applications. Ouf! Ce générateur n est quand même pas mauvais ) Voici une copie d écran de ce que vous devez obtenir Extrait d un tutoriel de scipy.stats Annexe documentaire - 5 -

6 - 6 -

7 - 7 -