Chapitre 2: Algorithmes de tris par comparaisons

Transcription

1 MP{931, 93}, PC{933, 934} Chaitre : Algorithmes de tris ar comaraisons Introduction Dans ce chaitre, on étudie les algorithmes de tris ar comaraisons. Un algorithme de tri est un algorithme qui ermet d organiser un tableau homogène T d éléments selon un ordre fixé. Les éléments à trier font donc artie d un ensemble E muni d une relation d ordre noté, c est-à-dire vérifiant des hyothèses de Transitivité : x, y, z E x y et y z = x z. Réflexivité : x E x x. Antisymétrie : x, y E x y et y x = x = y. En général, on suosera de lus que l ordre est total : x, y E Ainsi, un algorithme générique de tri est le suivant : x y ou y x Algorithme 1 : Tri générique Entrées : Un tableau L dont les éléments sont à valeurs dans un ensemble ordonné. Sortie : Le même tableau L, trié dans l ordre croissant our l ordre. Séquence d instructions; A riori, l algorithme de tri ne retourne rien : en sortie de fonction, le tableau assé en entrée est trié. En ratique, les ordres les lus utilisés sont l ordre numérique (sur les réels ou les entiers naturels et relatifs) et l ordre lexicograhique (our traiter des chaînes de caractères ou des n-ulets). Par la suite, on ne se réoccuera as de la relation d ordre utilisée, celle-ci sera vue comme une «boite noire», comarant deux éléments quelconques de E. Comlexité. Pour comarer deux algorithmes de tri entre eux, on comtera deux tyes d oérations distinctes : Le nombe de comaraison effectuée entre deux éléments de E. Le nombre d affectations. On suosera que ces deux oérations s effectuent en tems constant, et our comarer deux algorithmes de tris, on comarera rincialement leur comlexité temorelle. Différents tyes de comlexité sont ertinentes. Fixons un algorithme de tri A. La comlexité dans le ire des cas ermet de fixer une borne suérieure du nombre d oérations qui seront nécessaires our trier un tableau de n éléments. Elle est définie ar : C A,ire (n) = max C(A, T ) T tableau de taille n où C(A, T ) est le tems mis (en nombre d oérations élémentaires) mis ar l algorithme A our trier le tableau T. La comlexité dans le ire cas est la seule dont l étude est au rogramme. La comlexité en moyenne est le nombre d oérations élémentaires effectuées en moyenne our trier un tableau de n éléments. L étude de la comlexité en moyenne est en générale difficile et requiert une robabilité sur E n. En ratique, on suose que les éléments du tableau sont distincts, l ordre total, et que les n! ermutations décrivant les ositions relatives des éléments dans le tableau d entrée sont équirobables. En résumé, tout se asse comme ci l on considérait uniquement des tableaux de la forme [σ(1),..., σ(n)] où σ est une ermutation Svartz Page 1/13 014/015

2 MP{931, 93}, PC{933, 934} de S n. La comlexité moyenne de l algorithme de tri A sur les tableaux de taille n est alors donnée ar la formule : C A,moy (n) = 1 C(A, σ) n! σ S n où C(A, σ) est le nombre d oérations nécessaires our trier le tableau [σ(1),..., σ(n)] avec l algorithme A. On calculera en articulier dans la suite la comlexité en moyenne du tri raide, qui est bien meilleure que sa comlexité dans le ire cas. La comlexité dans le meilleur des cas n est as la lus ertinente, mais ermet de distinguer deux algorithmes égaux ar ailleurs. A l oosé de la comlexité dans le ire cas, elle consiste à regarder les situations favorables à l algorithme A : C A,meilleur (n) = min C(A, T ) T tableau de taille n Proriétés intéressantes des tris. Outre la comlexité temorelle, certaines roriétés sont aréciables, armi lesquelles : le caractère en lace : si l algorithme ne requiert qu un esace en mémoire constant (our quelques variables) en lus du tableau d entrée our le trier, on dit que le tri s effectue en lace. Dans les tris qui seront étudiés, on verra que le tri ar fusion ne trie as en lace. le caractère stable : l algorithme est dit stable si les ositions relativrs de deux éléments égaux ne sont as modifiées ar l algorithme. Par exemle, la liste L = [(4, 1), (, ), (, 3), (4, 5)] est triée ar ordre croissant si on regarde uniquement le deuxième élément de chaque coule (on arle de réordre, uisque cette relation ne vérifie as l hyothèse d antisymétrie). Si l on trie L en comarant simlement les remiers éléments de chaque coule (là aussi, c est un réordre) avec un tri stable, on obtient le tableau qui est trié suivant l ordre lexicograhique défini ar : [(, ), (, 3), (4, 1), (4, 5)] (x, y) Lex (x, y ) x < x ou x = x et y < y En effet, lorsque deux éléments ont même remière comosante, le lus etit our l ordre lexicograhique est situé à gauche. Un tri non stable roduirait ar exemle le tableau [(, 3), (, ), (4, 5), (4, 1)] qui ne vérifie lus la roriété d être trié suivant l ordre lexicograhique. Hyothèses sur l entrée. Sous certaines hyothèses sur les éléments des tableaux à trier (entiers relatifs dont on connait les bornes, réels suosés équiréartis sur l intervalle [0, 1]...) il est ossible de rooser des algorithmes de tris tenant comte de ces hyothèses qui sont lus raides que ceux roosés dans ce chaitre. Ceendant, ce ne sont as des tris ar comaraison dont les seules oérations autorisées sont la comaraison d éléments et l affectation dans le tableau ou éventuellement dans un tableau annexe. Structure du chaitre. On commence ar décrire les algorithmes de tris classiques les lus simles, à savoir le tri ar sélection et le tri ar insertion.ils s effectuent en moyenne ou dans le ire cas en tems quadratique en la taille du tableau à trier. La section suivante est dévolue aux tris utilisant le aradigme diviser our régner qui ermettent d obtenir une comlexité de O(n ln n) oérations en moyenne our trier un tableau de n éléments. Le tri fusion a également une comlexité de O(n ln n) dans le ire cas, contrairement au tri raide qui est quadratique. Ceendant, celui-ci s effectue en lace. On montre ensuite que la borne de comlexité n ln n est essentiellement otimale our un tri ar comaraison, uis on donne un algorithme ermettant de calculer la médiane d un tableau sans le trier, assez roche du tri raide, qui a une comlexité linéaire en moyenne. Svartz Page /13 014/015

3 MP{931, 93}, PC{933, 934} Conventions. Puisque les algorithmes que l on écrit sont simles, autant donner directement le code Python (du seudo-code serait une simle arahrase). Dans les reuves de correction, on adotera une syntaxe roche de Python : raelons que si T est un tableau, i et j deux indices vérifiant 0 i j n où n est la longueur du tableau, alors L[i:j] est un tableau constitué des éléments de T entre les indices i (inclus) et j (exclus), c est-à-dire T[i],...,T[j-1]. En articulier, ce tableau est vide si i = j. Dans les codes Python qui suivent, on a choisi de ne jamais faire d échanges d éléments du tableau de la forme T[i],T[j]=T[j],T[i] si les indices i et j sont égaux. Bien que cet échange ne ose as de roblème à Python, cela nuit à la fois à la comréhension de l algorithme et à l adatabilité du code dans d autres langages. Enfin, on raelle que les tableaux dans ce cours corresondent aux objets de tye list en Python. Pour trier un tableau L avec Python, utilisez la méthode sort our trier le tableau (syntaxe : L.sort()). Si on ne veut as modifier le tableau et obtenir une coie triée, on utilisera la fonction sorted qui renvoie un tableau corresondant aux éléments de L, triés. C est équivalent à coier le tableau et aliquer la méthode sort. 1 Tris quadratiques On détaille ici les algorithmes de tris «naifs» les lus classiques. Ceux-ci sont quadratiques et sont donc inefficaces our de grands tableaux. On leur référera l un des algorithmes de la section suivante dès que le nombre d éléments à trier déasse environ Tri ar sélection Ce tri articulièrement simle est eut-être celui auquel on ense en remier lorsqu on écrit un algorithme de tri. Idée du tri. L idée est simle : suosons que le tableau de taille n est déja en artie trié avec ses k remiers éléments à leur lace définitive. On sélectionne le lus etit des n k éléments restants, qu on amène en osition k 1. Le tableau a alors ses k 1 remiers éléments à leur osition définitive. Itérer ce rocédé n 1 fois suffit our trier le tableau. Code Python. On donne maintenant la rocédure en Python. Dans tout ce chaitre, le tableau sera aelé L, associé au tye list en Python. Le tri ar sélection def tri_selection(l): n=len(l) for i in range(n-1): #Inv(i): L[0:i] trié, ses éléments sont lus etits que les autres éléments de L. indice_min=i for j in range(i1,n): #Inv(j): indice_min est l indice du lus etit élément de L[i:j] if L[j]<L[indice_min]: indice_min=j #Inv(j1) if i!=indice_min: L[i],L[indice_min]=L[indice_min],L[i] #Inv(i1) Terminaison de l algorithme. termine donc! L algorithme de tri ar sélection est constitué de deux boucles for imbriquées, il Preuve de l algorithme. La boucle for interne a our effet de ositionner la variable indice_min à l indice de l élément minimal du tableau entre les indices i et n. Ainsi, un assage dans la boucle for externe ositionne l élément minimal du tableau entre les indices i et n en osition i. Cette boucle for rinciale ossède l invariant suivant : Inv i : Les éléments du tableau entre les indices 0 (inclus) et i (non inclus) sont triés dans l ordre croissant et lus etits que les autres éléments du tableau. Tout d abord, Inv 0 est vrai : en effet, le sous tableau L[0:0] est vide. Clairement, si Inv i est vrai en haut de la boucle (début de la ligne 4), Inv i1 est vrai en bas de la boucle (fin de la ligne 9) : en effet, on ositionne le lus etit élément de L[i:n] en osition i. Svartz Page 3/13 014/015

4 MP{931, 93}, PC{933, 934} Le comteur de boucle i rend toutes les valeurs entre 0 et n. Par suite, l invariant Inv n 1 = Inv est vérifié en sortie de boucle, ce qui imlique que le sous tableau L[0:n-1] est trié en sortie de boucle, et ses éléments sont lus etits que l autre élément de tableau, à savoir L[n-1]. Ainsi, le tableau est entièrement trié en sortie de fonction, et le tri est correct. En toute rigueur, il faudrait exhiber un invariant de boucle our la boucle for interne, celui-ci est lutôt évident et est marqué dans le code. Comlexité. On comte séarémment le nombre de comaraisons et le nombre d échanges (corresondant à affectations). Le nombre de comaraisons ne déend as du tableau : on en fait exactement n i 1 dans la boucle for interne, et donc n n(n 1) (n i 1) = j = i=0 en tout. Le nombre d échanges L[i],L[indice_min]=L[indice_min],L[i] est dans le meilleur des cas de 0 : cela corresond au cas où le tableau est déja trié dans l ordre croissant, auquel cas l élément minimal du soustableau L[i:n] est déja en osition i, our tout i. Dans le ire cas, on fait un échange our chaque assage dans la boucle for externe, c est-à-dire n 1. Cela corresond ar exemle au tableau suivant : j=1 3 4 n 1 n 1 Proriétés. Le tri ar sélection s effectue en lace, mais n est as stable. En effet, le tableau [(,0),(,1),(1,)] est trié dans l ordre croissant our le ré-ordre obtenu en ne regardant que le deuxième élément de chaque coule (vis à vis de l ordre classique sur N). Si on trie le tableau suivant le ré-ordre obtenu en ne regardant que le remier élément de chaque coule avec le tri ar sélection, le remier et le dernier élément du tableau sont ermutés et on obtient le tableau [(1,),(,1),(,0)]. Les ositions relatives des deux éléments égaux (our ce ré-ordre) que sont (,0) et (,1) ont été ermutées. 1. Tri à bulles Ce tri est un des lus oulaires, mais l un des moins efficaces. Le code est donné dans ce cours mais sa terminaison, sa correction, sa comlexité sont laissées en exercice. On ourra montrer que ce tri est stable. Idée du tri. L algorithme du tri à bulles arcourt le tableau, et comare les coules d éléments successifs. Lorsque deux éléments successifs ne sont as dans l ordre croissant, ils sont échangés. Si au moins un échange a eu lieu endant le arcours, l algorithme rocède à un nouveau arcours. S il n y a as eu d échange endant un arcours, cela signifie que le tableau est trié et l algorithme s arrête. A chaque nouveau arcours, on eut en fait s arrêter un élément lus tôt, d où le n-=1 dans le code suivant. Code Python. def tri_bulles(l): =len(l) asfini=true while asfini: asfini=false for i in range(-1): if L[i]>L[i1]: L[i],L[i1]=L[i1],L[i] asfini=true -=1 Le tri à bulles 1.3 Tri ar insertion Idée du tri : On suose que le sous-tableau L[0:i-1] est trié. On s intéresse à l élément L[i], que l on va faire descendre à la bonne osition de sorte que le tableau L[0:i] soit trié. On ourrait faire des échanges à la manière du tri à bulles, mais our diminuer le nombre d affectations, on stocke la valeur de L[i] dans une variable x, et on Svartz Page 4/13 014/015

5 MP{931, 93}, PC{933, 934} délace successivement les éléments L[i-1], L[i-]... d un cran vers la droite. On s arrête lorsque l élément L[j-1] considéré vérifie L[j-1] L[i], on assigne alors x en osition j. Le tri ar insertion def tri_insertion(l): n=len(l) for i in range(1,n): #Inv(i): L[0:i] est trié j=i x=l[i] while j>0 and L[j-1]>x: #Inv: Pour tout k vérifiant j<k<=i, L[k]>x L[j]=L[j-1] j-=1 #Inv: Pour tout k vérifiant j<k<=i, L[k]>x L[j]=x #Inv(i1): L[0:i1] est trié Terminaison de l algorithme. L algorithme de tri ar insertion est constitué d une boucle while dans une boucle for. Il faut donc montrer que our tout i {1,..., n 1}, la boucle while termine, ce qui est à eu rès évident : la variable j est initialisée à i juste avant la boucle, la condition de continuation du while comorte notamment la condition j>0 et j est décrémenté à chaque tour de boucle. Notons que les indices du tableau considérés ne roduisent jamais d erreurs (d accès en dehors du tableau). Remarquez que si j=0 dans la condition du while, la condition j>0 n est as vérifiée et on n a as besoin d évaluer L[j-1]>x (qui irait chercher le dernier élément du tableau, ce qui est sécifique à Python) our s aercevoir que la condition j>0 and L[j-1]>x est fausse. Ceci est dû au comortement aresseux de l oérateur logique and. Preuve de l algorithme. La artie du code entre les lignes 4 et 9 a our effet de délacer d un cran vers la droite tous les éléments d indice strictement inférieur à i qui sont strictement suérieurs à x. La boucle while admet our invariant : Inv : Pour tout k tel que j < k i, L[k]>x. En sortie de boucle while, la condition j>0 and L[j-1]>x est fausse, ainsi la boucle for ossède l invariant suivant : Inv i : Le tableau L[0:i] est trié. En effet : Le tableau L[0:1], constitué de l unique élément L[0], est trié. Donc Inv 1 est vrai. Si, our i {1,..., n 1}, Inv i est vrai en haut de la boucle, alors Inv i1 est vrai en bas de la boucle. En effet, arès l exécution de la boucle while, les éléments de L[j1:i1] sont strictement suérieurs à x et ceux de L[0:j] sont inférieurs (avec j éventuellement nul). Ainsi, lacer x en osition i dans L mène au tableau trié L[0:i1] Par suite, arès l exécution de la boucle for le tableau L[0:n] est trié, et la fonction est correcte. Comlexité. On comte séarémment le nombre de comaraisons et le nombre d affectations. Le comortement est très différent dans le meilleur des cas et dans le ire cas. Dans le meilleur des cas, la condition de la boucle while n est jamais vérifiée (car L[j-1]<=x) : c est le cas si le tableau est trié. On fait dans ce cas 1 comaraison et affectations à chaque tour de la boucle for, c est-à-dire n 1 et (n 1) en tout. Ainsi la comlexité dans le meilleur cas est linéaire. Dans le ire cas, la condition while devient fausse à chaque tour de la boucle for car j=0. Cela corresond ar exemle au tableau suivant : n n 1 n 1 Dans ce cas, la boucle while a été exécutée j fois, our un total de j comaraisons et j affectations. A cela s ajoute affectations à chaque tour de la boucle for, on obtient donc : i = n(n 1) comaraisons et (i ) = (n 4)(n 1) affectations Svartz Page 5/13 014/015

6 MP{931, 93}, PC{933, 934} Proriétés. La tri est à la fois stable et en lace. Pour la stabilité, il est imératif que la condition dans le while soit L[j-1]>x, on erdrait la stabilité avec L[j-1]>=x. Conclusion sur les tris quadratiques Tri bulles Tri ar sélection Tri ar insertion secondes n Figure 1 Tems CPU our trier 5000 tableaux de taille n constitués d entiers tirés aléatoirement entre 0 et Parmi les trois tris quadratiques évoqués, le tri ar insertion est certainement le meilleur. On eut montrer qu en moyenne il fait environ n /4 comaraisons et affectations our trier un tableau de taille n. Il ossède de lus un très bon comortement vis à vis des tableaux «resques triés» (voir la feuille d exercice). Le tri ar sélection est intéressant si les affectations sont lus coûteuses que les comaraisons uisqu il en fait seulement n 1 dans le ire cas. Le tri à bulles ossède lui aussi un bon comortement vis à vis de certains tableaux resque triés (sa comlexité déend en fait du nombre d inversions dans le tableau), mais on lui référera le tri ar insertion. La figure 1 résente une comaraison des trois tris sur des tableaux de etites tailles. Tris quasi-linéaires On aborde dans cette section les tris efficaces our trier des tableaux de grande taille. On en résente deux : le tri ar fusion et le tri raide. Tous deux sont basés sur la stratégie diviser our régner, et sont lus efficaces que le tri ar insertion dès que le nombre d éléments à trier déasse 50. Le tri ar fusion a une comlexité quasi-linéaire (en O(n log(n))) dans le ire cas, ce qui n est as le cas du tri raide qui est quadratique. Mais contrairement aux tris de la section récédente, le tri raide a une comlexité quasi-linéaire en moyenne. Il a l avantage de s effectuer en lace (contrairement au tri fusion), ce qui en fait le tri le lus efficace en ratique. Raelons qu on souhaite effectuer le maximum de calculs «en lace». On ne créera as de nouveau tableau our les aels récursifs, mais on aelera simlement notre fonction récursive sur une ortion du tableau à trier. Ceci mène à introduire our chacun des tris une fonction auxiliaire, locale à la fonction rinciale, qui sera la seule à être récursive et rendra en argument les indices délimitant la ortion à trier..1 Raels sur la stratégie «Diviser our régner» On raelle ici les rincies de la stratégie diviser our régner : Diviser le roblème rincial en sous-roblèmes de taille inférieure (division). Traiter récursivement les sous-roblèmes. Recomoser la solution du roblème rincial à artir des solutions des sous-roblèmes (règne). Concrètement, our trier un tableau à l aide de la stratégie diviser our régner, on va se ramener au tri de tableaux (de deux tableaux, en fait) de taille inférieure. Le tri fusion et le tri raide diffèrent concetuellement. Pour le tri fusion, l étae de division est immédiate : il s agit juste de couer le tableau en deux. Une fois les arties gauche et droite du tableau triées, il faut fusionner ces deux arties triées en un tableau trié. Pour le tri raide, on commence Svartz Page 6/13 014/015

7 MP{931, 93}, PC{933, 934} ar artitionner le tableau autour d un élément aelé ivot : les éléments à gauche du ivot sont lus etits, ceux à droite sont lus grands. On trie récursivement ces deux arties gauche et droite, et il n y a rien à faire our l étae de règne : le tableau obtenu est trié.. Tri Fusion Comme on l a dit, la artie difficile à écrire du tri fusion est la fusion de deux tableaux triés. La fusion est très difficile à réaliser en lace, on va donc utiliser un tableau temoraire our réaliser la fusion. La fonction suivante rend en entrée deux tableaux L1 et L et trois indices g, m et d. On suose que les deux sous-tableaux L1[g:m] et L1[m:d] sont triés, et on fusionne ces deux tableaux vers L, c est-à-dire qu en fin de fonction, L[g:d] contiendra les mêmes éléments que L1[g:d], mais sera trié. L algorithme de fusion def fusion(l1,l,g,m,d): """L1[g:m] et L1[m:d] suosés triés. On fusionne alors our obtenir L[g:d] trie.""" i1=g i=m for i in range(g,d): #Inv(i): L[g:i] trié dans l ordre croissant et ses éléments sont ceux de L1[g:i1] et L1[m:i]. if i==d or (i1<m and L1[i1]<=L1[i]): L[i]=L1[i1] i1=1 else: L[i]=L1[i] i=1 #Inv(i1) Cette fonction étant constituée d une boucle for dans laquelle se trouve un if/else, elle termine. On maintient deux indices i1 et i corresondant aux rochains éléments de L1[g:m] et L1[m:d] que l on va coier vers L, il faut à chaque assage de la boucle for les comarer our savoir qui est le lus etit. La condition du if est naturelle : on rend l élément L1[i1] si on a déja ris tous les éléments de L1[m:d], ou si on n a as ris tous les éléments de L1[g:m] et que L1[i1] est lus etit que L1[i]. La boucle for admet ainsi l invariant suivant : Inv i : L[g:i] est trié dans l ordre croissant et ses éléments sont ceux de L1[g:i1] et L1[m:i]. En terme de comlexité, il est clair que le nombre d affectations réalisées est exactement d-g uisqu on en fait une à chaque tour de boucle. Le nombre de comaraisons déend du déroulement de l algorithme : on en fait lus si on a besoin de iocher alternativement dans L1[g:m] et L1[m:d], alors que le nombre minimal va être atteint si les éléments de L1[g:m] sont tous lus etits (ou tous lus grands) que tous les éléments de L1[m:d]. Dans le ire cas, on fait donc d g 1 comaraisons, et dans le meilleur m g (en suosant m g d m, ce qui sera vérifié dans la suite). Maintenant que l oération de fusion est établie, définir le tri fusion se fait facilement : def tri_fusion(l): Ltm=[None]*len(L) def tri_fusion_rec(g,d): if g<d-1: m=(gd)// tri_fusion_rec(g,m) tri_fusion_rec(m,d) Ltm[g:d]=L[g:d] fusion(ltm,l,g,m,d) tri_fusion_rec(0,len(l)) Le tri fusion Remarquez que la fonction tri_fusion_rec est définie localement dans la fonction tri_fusion, cette dernière se contentant d un ael à tri_fusion_rec. Terminaison. La terminaison de la fonction tri_fusion_rec(g,d) est immédiate : si g < d 1, on ne fait rien, sinon on fait une coie (de L vers Ltm), un ael à la fonction fusion qui termine, et deux aels récursifs à tri_fusion_rec avec les arguments (g, m) et (m, d), avec g < m < d. Par suite, la quantité d g est à valeurs dans N est diminue strictement lors des aels récursifs donc tri_fusion_rec termine. Svartz Page 7/13 014/015

8 MP{931, 93}, PC{933, 934} Correction. Comme our beaucou de fonctions récursives, la correction est facile à établir ar récurrence, ici sur = d g N. Soit our N la roosition P() : P() : si g et d sont tels que d g =, alors arès l exécution de la fonction tri_fusion_rec(g,d), le sous-tableau L[g:d] est constitué des mêmes éléments, triés dans l ordre croissant. Si = 0 ou 1, la fonction ne fait rien, en effet L[g:d] est déja trié. Sinon, avec m = d g, comme m g et d m sont strictement inférieurs à d g, ar hyothèse de récurrence, chacun des sous-tableaux L[g:m] et [m:d] sont triés arès les aels récursifs. Ensuite on coie L[d:g] dans Ltm[g:d] et on fusionne Ltm[g:d] vers L[g:d], ainsi P() est vraie car la fonction fusion est correcte. Par rincie de récurrence, tri_fusion_rec est correcte. Enfin, la fonction tri_fusion(l) est correcte car elle fait un unique ael à tri_fusion_rec(g,d), avec g=0 et d=len(l). Comlexité. Comme d habitude, on anayse séarémment le nombre d affectations et de comaraisons. Le nombre d affectations dans la fonction tri_fusion_rec(g,d) ne déend que de la différence d g = (le ire cas est égal au meilleur). A chaque ael récursif, on a si > 1, affectations dûes à la coie de L vers Ltm et dans la fonction fusion. La comlexité en nombre d affectations vérifie donc la relation de récurrence suivante : { 0 si = 1. C aff () = C aff ( ) Caff ( ) sinon. Il est lus simle de rocéder à l analyse lorsque est une uissance de. Dans ce cas, on obtient comme deuxième ligne C aff () = C aff ( ). Pour résoudre cette récurrence, il suffit de dérouler l arbre d aels récursifs en comtant la contribution linéaire de chaque niveau, voir figure. L arbre est équilibré, chaque niveau contribuant avec le terme. On vérifie ainsi que C aff (n) = log (), ce qu on eut aussi montrer ar récurrence. Si n est as une uissance de, on eut montrer 1 que log () reste un équivalent du nombre d affectations effectuées dans la fonction tri_fusion_rec(g,d). Enfin, la fonction tri_fusion(l) se contente d aeler tri_fusion_rec(0,len(l)), et donc avec n la longueur du tableau, on obtient encore n log (n) comme équivalent du nombre d affectations k k k k k C aff (1) = 0 Figure Le nombre d affectations dans la fonction tri_fusion_rec(g,d) avec = d g = k. Traitons maintenant le cas des comaraisons. On a un comortement différent dans le meilleur et dans le ire cas, ne déendant que du meilleur et du ire cas dans la fonction fusion. Les récurrences que l on eut établir dans le meilleur et dans le ire cas sont donc : C ire com(n) = { 0 si n = 1. Ccom( ire n ) C ire com( n ) n 1 sinon. C meilleur com (n) = { 0 si n = 1. Ccom meilleur ( n ) C meilleur com ( n ) n sinon. 1. Le lecteur susicieux vérifiera que la solution de la récurrence est C aff () = [log () f(log ())], avec f la fonction 1-ériodique f : x {x} 1 {x}, où {x} = x x est la artie fractionnaire du réel x. Remarquez que f s annule en les entiers, ce qui est cohérent avec le résultat vu si est une uissance de. Svartz Page 8/13 014/015

9 MP{931, 93}, PC{933, 934} Dans le cas où n est une uissance de, on obtient Ccom(n) ire = n log (n) n 1 et Ccom meilleur (n) = n log (n). De même que our le nombre d affectations, on eut montrer que Ccom(n) ire n log (n) et C meilleur n com (n) n n log (n) our n quelconque. Proriétés. Le tri n est as en lace (on utilise un tableau de même taille que le tableau à trier our effectuer les fusions), ar contre, il est stable..3 Tri Raide (QuickSort) Le tri raide a été inventé ar Hoare en Bien imlémenté, il est robablement le tri le lus efficace en ratique. Bien que sa comlexité dans le ire cas soit quadratique, il ossède une très bonne comlexité en moyenne. Il a de lus l avantage de s effectuer en lace, contrairement au tri fusion. Tout comme ce dernier, il reose sur la stratégie diviser our régner. Idée. Contrairement au tri fusion, on ne coue as arbitrairement en deux. Suosons que l on veuille trier la séquence constituée des éléments 4,1,8,3,,5,7. On choisit le remier élément (c est arbitraire) comme ivot, et on réordonne la séquence comme suit : 1,3,,4,5,8,7. Remarquez que les éléments à gauche du ivot (4) sont lus etits, et ceux à droite lus grand. Il suffit donc de trier (récursivement) les deux sous-séquences 1,3, et 5,8,7 our trier comlètement la séquence. En fait, eu imorte comment sont réartis les éléments à gauche et à droite du ivot : l imortant est d avoir artagé le tableau en 3 : les éléments lus etits que le ivot, le ivot, et les éléments lus grands. La fonction de artition. La remière fonction a écrire est celle qui réalise la artition comme ci-dessus. Elle rend en entrée un tableau L, et deux indices g et d délimitant le sous-tableau de L à artionner, qui est L[g:d]. Bien sûr, lors du remier ael à artition, on aelera artition(l,0,len(l)). L algorithme de artition def artition(l,g,d): #g inclus, d exclus. ivot=l[g] m=g for i in range(g1,d): #Inv(i): L[g1:m1] a ses éléments < ivot, ceux de L[m1:i] sont >= ivot, avec i>=m1. if L[i]<ivot: m=1 if i>m: L[i],L[m]=L[m],L[i] #Inv(i1) if m>g: L[m],L[g]=L[g],L[m] return(m) Il est clair que cette fonction termine. Montrons la correction. L invariant de la boucle for est : Inv i : Les éléments du sous-tableau L[g1:m1] sont strictement inférieurs au ivot L[0], les éléments du sous-tableau L[m1:i] sont suérieurs, avec i m 1. Montrons le : Inv g1 est vrai en début de boucle : en effet, les deux sous-tableaux L[g1:m1] et L[m1:g1] sont vides dans ce cas, car g 1 = m 1. Pour tout i {g 1, d 1}, si Inv i est vrai en haut de la boucle, alors Inv i1 est vrai en bas de la boucle : en effet, si L[i]>=ivot, on ne fait rien. Si L[i]<ivot, on incrémente m uis on échange L[i] et L[m] (seulement si i est différent de m, car sinon il n y a rien à faire). Donc Inv i1 est vrai en fin de boucle. Par suite, Inv d 11 = Inv d est vrai en fin de boucle : les éléments de L[g1:m1] sont strictement inférieurs au ivot, et les éléments de L[m1:d] sont suérieurs. Comme le dernier if échange L[g] et L[m] (ce qui est nécessaire seulement si m > g), la fonction se termine avec L artitionné au niveau du ivot. On renvoie m, qui est maintenant l indice du ivot. En terme de comlexité, il est clair que la fonction artition fait exactement d g 1 comaraisons. En terme d échanges, dans le «meilleur» cas, elle n en fait aucun (ce qui corresond au cas ou les éléments sont tous strictement lus etits ou tous lus grands que le ivot) et dans le «ire cas», elle en fait d g 1. Mais on va voir que cette notion de ire cas et de meilleur cas n est as très ertinente : ce qu on esère surtout c est que la artition soit équilibrée au maximum (dans ce cas, le nombre d échanges est variable entre 1 et environ d g ). Svartz Page 9/13 014/015

10 MP{931, 93}, PC{933, 934} Le tri raide. Une fois écrit la fonction de artition, écrire le tri est facile, tout comme le tri fusion : Le tri raide def tri_raide(l): def tri_raide_rec(g,d): if g<d-1: #sinon il n y a rien a faire. m=artition(l,g,d) tri_raide_rec(g,m) tri_raide_rec(m1,d) tri_raide_rec(0,len(l)) Tout comme le tri fusion, on utilise une fonction interne tri_fusion_rec, la fonction tri_raide se contentant d aeler tri_raide_rec entre les indices 0 et len(l). Les reuves de terminaison et de correction sont très semblables à celles du tri fusion. Comlexité : ire cas et meilleur cas. Suosons le tableau trié dans l ordre croissant. Alors le remier ael à artition réalise une très mauvaise artition : le tableau est laissé dans le même état, et le ivot renvoyé est celui en osition 0. Le remier ael récursif tri_raide_rec(l,0,0) ne fera strictement rien, alors que le second sera tri_raide(l,1,len(l)), ce qui revient à recommencer le même rocédé avec le tableau L[1:]. Clairement, le tri est mauvais dans ce cas (as meilleur que le tri ar sélection) car quadratique en le nombre de comaraisons. En revanche, si chaque ael à artition séare les éléments en deux arties égales à un élément rès (lus le ivot), on se convainc facilement que la comlexité est en O(n log(n)) car la récurrence vérifiée ar le tri est, en terme de comaraisons : Ccom meilleur (n) = Ccom meilleur ( ) C meilleur com ( ) n 1 On eut donner une formule exacte our ce nombre de comaraisons lorsque n est de la forme k 1. En effet dans ce cas, Ccom meilleur (n) = (n 1)(k ) n log (n). On eut montrer que cet équivalent est toujours valable our n n quelconque. Ainsi, dans le meilleur cas le tri ar artition fait de l ordre de n log (n) comaraisons, et environ n log (n) affectations, ce qui est très bien. En fait, on est en général beaucou lus roche du meilleur cas que du ire, comme on va le voir au aragrahe suivant. Comlexité en moyenne. Comme on l a dit dans l introduction, on suose que les éléments du tableau à trier sont tous distincts et que les ositions relatives des éléments sont équirobables. On suose donc que le tableau à trier est constitué des éléments de l ensemble {1,,..., n}, et on veut comter le nombre de comaraisons effectuées en moyenne, c est-à-dire : C com,moy (n) = 1 C com ([σ(1),..., σ(n)]) n! σ S n Pour donner une estimation de cette comlexité, on va raisonner en termes robabilistes, chaque ermutation σ ayant robabilité 1/n!. Remarquons que deux éléments i < j ne sont comarés qu au lus une fois ar l algorithme, et c est le cas si et seulement si l un des deux est un ivot au moment où l on alique la fonction artition sur un sous tableau contenant à la fois i et j. Il est intéressant de remarquer que, lorsque l on alique la fonction artition sur un sous-tableau contenant à la fois i et j, avec i < j : soit le ivot est i ou j et dans ce cas i et j sont comarés. soit le ivot est un élément k vérifiant i < k < j et i et j ne seront jamais comarés, arce qu arès la fonction de artition k est à sa lace finale dans le tableau et l algorithme est raelé sur deux tableaux ne contenant as à la fois i et j. soit le ivot est un élément k vérifiant k < i ou k > j, dans ce cas, la fonction de artition est raelée sur un sous-tableau lus etit contenant encore i et j. Considérons our i < j l ensemble U i,j = {i, i 1, i,..., j 1, j}. La discussion récédente montre que : Les éléments i et j sont comarés si et seulement si i ou j est le remier élément de U i,j à être choisi comme ivot dans le déroulement de l algorithme. 1 Or, tout élément de U i,j a même robabilité d être choisi en remier, à savoir U = 1 i,j j i1. Ainsi, en notant X la variable aléatoire donnant le nombre de comaraisons effectuées ar le tri, on a X = i<j X i,j avec X i,j la variable aléatoire renant la valeur 1 si i et j sont comarés, et 0 sinon. X i,j suit donc une loi de Bernoulli de aramètre j i1. L esérance d une variable aléatoire étant une forme linéaire, on a : E(X) = i<j E(X i,j ) = n j=i1 j i 1. Le lecteur vérifiera que la solution de cette récurrence est Ccom meilleur (n) = (n 1) [log (n 1) f(log (n 1) )], avec f la fonction 1-ériodique f : x {x} 1 {x} (la même que dans la note récédente). Svartz Page 10/13 014/015

11 MP{931, 93}, PC{933, 934} Donnons un équivalent de cette somme lorsque n est grand : E(X) = = n j=i1 n i1 k= (ln(i ) ln()) E(X) ln(i 1) 1 j i 1 1 k = Ces deux séries ont our même terme dominant un équivalent de ln(i) lorsque i tend vers l infini. Par une comaraison série intégrale (t ln(t) est croissante et tend vers l infini), on en déduit que : E(X) n ln(n) = ln()n log (n). Comme ln() 1.39, on est très roche du meilleur cas! n Otimisations. Un tableau trié est un ire cas our l algorithme du tri raide. Un moyen d y remédier est de mélanger le tableau de manière aléatoire. En fait, lutôt que de faire ce ré-traitement, il est lus judicieux de modifier l algorithme de artition our que le ivot du sous-tableau L[g:d] choisi ne soit as L[g], mais un élément ris au hasard dans L[g:d]. On eut ainsi ajouter les lignes suivantes au début de l algorithme artition : os_ivot=randint(g,d-1) if os_ivot>g: L[g],L[os_ivot]=L[os_ivot],L[g] i1 k= 1 k où randint, imortée du module random, rend en entrée deux entiers a et b et retourne un élément aléatoire de [a, b]. Une deuxième otimisation ossible est la suivante : si l algorithme (même dans sa version aléatoire), est roche du ire cas, on risque sur de grands tableaux de déasser la limite des 1000 aels récursifs imbriqués de Python. Pour y remédier, il est ossible de transformer l ael récursif sur le lus gros des sous-tableaux en boucle while. Cette transformation est laissée en exercice. 3 Une borne inférieure sur la comlexité des tris ar comaraisons On a vu que le tri raide a une comlexité quasi-linéaire en moyenne, et le tri fusion une comlexité quasi-linéaire tout court. Peut-on faire mieux? La réonse est non. Pour le rouver, on va regarder le comortement d un algorithme de tri ar comaraisons quelconque sur les tableaux de la forme [σ(1),..., σ(n)], où σ est une ermutation de S n. À chaque algorithme de tri, on eut associer un arbre binaire, résumant le tri suivant les comaraisons effectuées, on art d un tableau [σ(1),..., σ(n)] et on termine avec le tableau [1,,..., n]. Suivant le résultat d une comaraison entre σ(i) et σ(j), une branche de l arbre ou l autre est suivie. Avec deux ermutations distinctes, on se retrouve à deux feuilles distinctes de l arbre, qui a donc au moins n! feuilles. La figure 3 montre un tel arbre associé au tri ar sélection 3 sur un tableau de 3 éléments [a, b, c]. Il a 8 feuilles, 6 d entre elles sont associées à une ermutation, d entres elles corresondent au résultat de deux comaraisons incomatibles avec un tableau à entrées distinctes. Il est facile de voir qu un arbre binaire de hauteur h a au lus h feuilles. Par suite, un arbre ayant n! feuilles a une hauteur d au moins log (n!). D arès la formule de Stirling, on a n! n nn e n πn, donc log (n!) n log (n). n Ainsi, la comlexité dans le ire cas d un algorithme de tri ar comaraisons quelconque a une comlexité d au moins Θ(n log (n)). Remarque : on eut montrer que la comlexité en moyenne est aussi au moins Θ(n log (n)). 4 Alication : calcul de la médiane. Il ne araît as évident de calculer la médiane d un tableau sans le trier resque en entier : on eut ar exemle faire la moitié du tri ar sélection, ce qui donne une comlexité quadratique moins bonne que de trier comlètement le tableau à l aide du tri fusion et rendre l élément situé au milieu. Observons ar contre ce qui se asse lors d une étae du tri raide : on alique la fonction artition, qui retourne la osition définitive m du ivot, et il n y a lus qu à trier les éléments situés à gauche et à droite. Pour la médiane, on s intéresse à l élément ayant comme osition finale n, avec n la taille du tableau. 3. Il faut vraiment dérouler le tri our construire l arbre! Essayez avec un autre tri. Svartz Page 11/13 014/015

12 MP{931, 93}, PC{933, 934} a b a > b a c a > c b c b > c b c b > c b a b > a a c a > c b a b > a (1,, 3) (1, 3, ) (, 3, 1) (, 1, 3) (3, 1, ) (3,, 1) Figure 3 Les comaraisons réalisées dans le tri ar sélection sur un tableau de taille 3. Arès une remière étae de artition, on a l alternative : m = n : le ivot est notre médiane! m < n : la médiane se trouve dans la artie à droite du ivot. m > n : la médiane se trouve dans la artie à gauche du ivot. Ainsi, our trouver la médiane du tableau, on eut rocéder de manière similaire au tri raide, la différence est que l ael récursif ne se fait que sur l un des deux tableaux artitionnés. Plus généralement, la même idée ermet de trouver le k-ième élément du tableau et as nécessairement le n/-ième. L algorithme de calcul de la médiane def mediane(l,k): """ L tableau non vide, k un entier entre 0 et len(l)-1. La fonction retourne le k-ième lus etit élément du tableau """ Ltm=L[:] #a riori, on ne veut as modifier le tableau L. def mediane_rec(g,d): m=artition(ltm,g,d) if m==k: return(ltm[m]) elif m<k: return(mediane_rec(m1,d)) else: return(mediane_rec(g,m)) return(mediane_rec(0,len(l))) Comme our le tri raide, la comlexité dans le ire cas est toujours quadratique, ce qui est intéressant est là encore la comlexité en moyenne. Analysons de la même manière quels sont les coules i < k effectivement comarés, en fonction de la taille n du tableau : si i = k ou j = k, on eut majorer le nombre de coules comarés ar n. si i < k < j, alors i et j sont comarés si et seulement si l un des deux est ris comme ivot avant tout élément de [i, j ], évènement qui a robabilité j i1. si i < j < k, alors i et j sont comarés si et seulement si l un des deux est choisi comme ivot avant tout élément de [i, k ], évènement qui a robabilité k i1. si k < i < j, alors i et j sont comarés si et seulement si l un des deux est choisi comme ivot avant tout élément de [k, j ], évènement qui a robabilité j k1. On a donc trois sommes à estimer. Allons y. (i,j),i<j et i<k<j j i1 = d= (i,j),i<k<j et j=id d1 d= k i1 d1 (d 1) n. (i,j),i<j<k k i1 = k k i1 j,i<j<k 1 k (k i 1) k. De même, (i,j),k<i<j j k1 (n k). Ainsi, le nombre moyen de comaraisons est majoré ar 5n. La comlexité de calculer le k-ième lus etit terme du tableau à l aide de l algorithme mediane est donc linéaire en moyenne. Remarques. Là encore, on eut choisir le ivot au hasard dans l algorithme de artition, et modifier l algorithme mediane our transformer l ael récursif en boucle while. Il est également ossible de calculer le k-ième lus etit élément d un tableau en tems linéaire même dans le ire cas. L algorithme est lus comlexe, et eut-être utilisé our obtenir une version quasi-linéaire du tri raide même Svartz Page 1/13 014/015

13 MP{931, 93}, PC{933, 934} dans le ire cas : on choisit exlicitement la médiane d un tableau avant d en réaliser la artition. (Par contre, le résultat est un tri un eu moins raide en ratique...) Svartz Page 13/13 014/015