d algorithmique D. Beauquier, J. Berstel, Ph. Chrétienne

Transcription

1 Éléments d algorithmique D. Beauquier, J. Berstel, Ph. Chrétienne 6 février 005

2 c D. Beauquier, J. Berstel, Ph. Chrétienne, 003 Première édition par Masson, 99.

3 3 à Bruno Sophie Bruno Clara Jérôme Solange

4 4

5 TABLE DES MATIÈRES I Table des matières Avant-propos XIV Préliminaires. Les algorithmes et leur coût Algorithmes Problèmes intraitables Sur la présentation d algorithmes Mesures du coût Coût dans le cas le plus défavorable Coût moyen Coût amorti Une borne inférieure Evaluations 3 Introduction Notations de Landau Notation O Notations Ω et θ Exemples Récurrences Récurrences linéaires à coefficients constants Récurrences diverses Récurrences de partitions Récurrences complètes Notes Exercices Structures de données Types de données et structures de données Les structures linéaires Piles Files Listes Arbres Arbres binaires Dictionnaires et arbres binaires de recherche

6 II TABLE DES MATIÈRES Arborescences Files de priorité Gestion des partitions Le problème union-find Union pondérée et compression des chemins Preuve du théorème Notes Exercices Graphes 73 Introduction Définitions et propriétés élémentaires Définitions Implémentations d un graphe Chemins, chaînes, circuits, cycles Lemme de König Graphes sans circuit Accessibilité Algorithme de Roy-Warshall Autres problèmes d accessibilité Semi-anneaux et accessibilité Forte connexité Arbres et arborescences Arbres Arborescences Arborescences ordonnées Arbres positionnés et arbres binaires Arbre binaire complet Parcours d un graphe Parcours d un graphe non orienté Parcours en profondeur Parcours en largeur Parcours d un graphe orienté Calcul des composantes fortement connexes Parcours d une arborescence Notes Exercices Tris Introduction Tri interne Le tri rapide Le tri fusion Le tri par tas Tri externe Construction des monotonies Répartition des monotonies

7 TABLE DES MATIÈRES III Notes Exercices Arbres et ensembles ordonnés 45 Introduction Arbres de recherche Définition Rotations Arbres AVL Définition Insertion Suppression Arbres balisés Arbres a b Définition Recherche d un élément Insertion d un élément Suppression d un élément Concaténation et scission Coût amorti des arbres Arbres bicolores Présentation Hauteur d un arbre bicolore Insertion dans un arbre bicolore Suppression d un élément dans un arbre bicolore Enrichissement Arbres persistants Ensembles ordonnés persistants Duplication de chemins Méthode de duplication des sommets pleins Notes Exercices Graphes valués Introduction Arbre couvrant de coût minimum Définition du problème Propriétés des arbres optimaux Algorithme général Algorithmes spécifiques Chemins de coût minimum Définition du problème Existence d une solution Itération fondamentale Algorithme de Ford Graphe sans circuit Algorithme de Dijkstra

8 IV TABLE DES MATIÈRES 7..7 Algorithme A Algorithme paps Notes Exercices Flots Préliminaires Flots d un réseau Existence d un flot compatible de coût minimum Quelques problèmes particuliers Trois propriétés fondamentales Problème du flot maximum L algorithme générique de Ford et Fulkerson L algorithme des distances estimées au puits L algorithme du préflot L algorithme de Karzanov L algorithme des excès échelonnés Flot de coût minimum Graphe d écart et conditions d optimalité Problème dual et conditions d optimalité Un algorithme primal Flot maximum de coût minimum Plan de transport de coût minimum Notes Exercices Automates 93 Introduction Mots et langages Automates finis Définition Exemples Automates déterministes Opérations Opérations booléennes Automates asynchrones Produit et étoile Langages rationnels Langages rationnels : définitions Le théorème de Kleene Expressions rationnelles Automate minimal Quotients Equivalence de Nerode Calcul de l automate minimal Construction de Moore Scinder une partition

9 TABLE DES MATIÈRES V Algorithme de Hopcroft Complexité de l algorithme Notes Exercices Motifs 337 Introduction Recherche d un motif Un algorithme naïf L algorithme de Morris et Pratt Bords L algorithme de Knuth, Morris et Pratt L automate des occurrences L algorithme de Simon L algorithme de Boyer et Moore Algorithme de Horspool Algorithme de Boyer et Moore Fonction du bon suffixe L algorithme de Aho et Corasick Recherche d expressions Calcul efficace d un automate Recherche d occurrences Notes Exercices Géométrie algorithmique 379. Notions préliminaires Notations Lignes polygonales, polygones Ordre polaire, circuit polaire Enveloppe convexe Généralités Marche de Jarvis Algorithme de Graham Algorithme dichotomique Gestion dynamique d une enveloppe convexe Localisation de points dans le plan Cas d un polygone simple Cas d un polygone simple convexe Cas d une subdivision planaire généralisée Diagrammes de Voronoï Diagrammes de Voronoï de points L algorithme de Fortune Diagramme de Voronoï de segments Notes Exercices

10 VI TABLE DES MATIÈRES Planification de trajectoires 43 Introduction Translation d un segment Présentation du problème Présentation de l algorithme Prétraitement des données Résolution du problème de translation Déplacement d un disque Introduction Rétraction Diagramme de Voronoï Exposé de l algorithme Remarques Notes Index 457 Notes et Compléments 463

11 LISTE DES FIGURES VII Liste des figures Préliminaires 3. L arbre de décision d un algorithme de tri Evaluations. Les arbres binaires de hauteur h Structures de données. Une liste et une place Un pile représentée par une liste chaînée La file (c, a, b, c, c, a, b, d, a, c, c, d) Effet de chainer(p,q) Effet de dechainer(q) Une arborescence représentée comme arbre binaire Les arbres parfaits à 6, 7, et 8 sommets Un arbre tournoi Un tas (tournoi parfait) Mise en place de la clé 7 par comparaison aux fils Partition en trois classes, de noms, 3, et Compression d un chemin Un arbre fileté Un tournoi et sa pagode Graphes. Sous-graphes Implémentations d un graphe Un graphe sans circuit Classement par rang Un graphe orienté et sa matrice d adjacence Un graphe étiqueté Un graphe orienté et son graphe réduit Un arbre à quatorze sommets Le graphe G u Structure récursive d une arborescence Une arborescence Arbre binaire et arbre binaire complet Les premiers arbres binaires complets

12 VIII LISTE DES FIGURES 3.7 Effeuillage d un arbre binaire complet Complétion d un arbre binaire Bordure d un sous-ensemble de sommets Parcours d un graphe et arbre couvrant Parcours en profondeur Parcours en largeur Un graphe non orienté non connexe Bordure pour un graphe orienté Un graphe orienté Rangs d attache et points d attache Une exécution de Desc Une arborescence Un arbre binaire Tris. Un pivotage Dernier échange d un couple inversé Appels récursifs du tri rapide Un peigne Un tri fusion Un tri par tas Sélection et remplacement Le tri équilibré Répartition des monotonies fantômes Arbres et ensembles ordonnés. Un arbre binaire de recherche Un arbre sans balises L arbre avec balises L arbre après insertion de la dernière clé Insertion de 6 dans l arbre balisé Suppression de 5 dans l arbre balisé L arbre A = (x, B, C) Rotations gauche et droite Rotation gauche-droite Rotation droite-gauche Un arbre AVL Arbres de Fibonacci Φ k pour k =, 3, 4, Le chemin γ de rééquilibrage L arbre de racine x avant et après insertion Cas () : une rotation simple rétablit l équilibre Cas () : une rotation double rétablit l équilibre Le chemin de rééquilibrage L arbre de racine x avant et après suppression Une rotation simple sur le chemin de rééquilibrage Une rotation double sur le chemin de rééquilibrage Arbre de Fibonacci avant la suppression de la clé

13 LISTE DES FIGURES IX. Après suppression et rééquilibrage Un arbre Insertion d une feuille, cas c < c i Insertion d une feuille, cas c > c i Règle d éclatement L arbre après insertion de Règle de fusion Règle du partage Un arbre Après suppression de et avant rééquilibrage Après partage avec le frère droit Après fusion avec le frère gauche Un arbre 4 avant la scission par la clé Les deux forêts F et F après la séparation Reconstitution de l arbre à partir de la forêt F Eclatement de x Partage entre les frères s et t Fusion des frères s et t Un arbre bicolore : (a) avec ses feuilles, (b) sans feuilles Affectation d une couleur à un nœud en fonction du rang Attribution d un rang aux sommets de l arbre de la première figure Les trois cas possibles Première phase de l insertion de A dans A Rééquilibrage après une insertion : règle γ Rééquilibrage après une insertion : règles α Rééquilibrage après une insertion : règles β Rééquilibrage après insertion de A Première phase de suppression d un élément dans un arbre bicolore Rééquilibrage après une suppression : règles (a ), (a ), (a 3 ) Rééquilibrage après une suppression : règles (b ), (b ), (b 3 ) Suppression de p Un arbre 3 à liaisons par niveau Une liste doublement chaînée sur les sommets d un arbre Les numéros d ordre (en blanc) et les tailles (en noir) Persistance par recopie intégrale Duplication de chemin Modifications de pointeurs dans une rotation gauche Première phase de l insertion Insertion d un nouvel élément phase Rééquilibrage par rotation gauche lors d une insertion Insertion d un nouvel élément phase Suppression d un élément - phase Suppression de O - phase Rééquilibrage dans une suppression, règles (a), (b), (c) Rééquilibrage dans une suppression, règles (d), (e) Suppression d un élément-phase (règle (d)) Recherche de F à l instant

14 X LISTE DES FIGURES 6.4 Le sommet contenant L a éte dupliqué pour contenir G Le fils gauche de L est dupliqué à l instant t Cas où z n est pas plein Cas où z est plein Insertion d un nouvel élément-phase Insertion d un nouvel élément-phase Suppression d un élément-phase Comparaison des deux méthodes Transformation d un arbre 4 en arbre bicolore Les quatre double-rotations Effet de l opération Evaser(a, A) Arbres binomiaux Deux files binomiales, et leur union Graphes valués. Un graphe valué Cycle et cocycle candidats Arbre couvrant de coût minimum Arbre couvrant de coût minimum Un graphe valué Un circuit absorbant Construction d une arborescence des chemins minimaux L itération de Ford Le graphe des états d un sommet Graphe initial et première itération Les deux itérations suivantes Un graphe valué et la fonction h Les évaluations de l algorithme paps L algorithme paps avec un circuit absorbant Flots. Chaîne et cycle élémentaires Amélioration de la compatibilité d un flot Problème de transport et réseau valué équivalent Un flot entier positif L application ψ A,B Matrice d incidence d un arbre orienté Un problème de flot maximum et l un de ses flots Un graphe d écart Une coupe Un problème de flot maximum Mise à jour de la distance estimée Initialisation et première augmentation de distance Seconde augmentation de distance Premier graphe d écart d un flot maximum Graphe d écart du préflot initial

15 LISTE DES FIGURES XI 3.0 La valeur maximum est atteinte Le dernier graphe d écart Les réseaux R et R Première phase Seconde phase Automates. Automate reconnaissant le langage aba Automate reconnaissant le langage A aba Automate reconnaissant les mots contenant au moins un b Automate reconnaissant les mots contenant un nombre impair de a Tous les mots sont reconnus Automates reconnaissant (i) le mot vide et (ii) tous les mots sauf le mot vide..7 Un automate reconnaissant le langage A ab L automate déterminisé L automate déterministe et émondé Un automate à n + états Un automate asynchrone L automate précédent synchronisé Automate reconnaissant exactement le mot w = a a a n Quel est le langage reconnu par cet automate? L expression rationnelle a(a + a b) b Un automate reconnaissant X = b a{a, b} Automate minimal pour X = b a{a, b} Un automate qui n est pas minimal Un automate quotient Un exemple illustrant l opération Exemple Automate minimal obtenu à partir de celui de la figure Un exemple Deux automates non déterministes reconnaissant le même langage Motifs. Le motif glissant sur le texte Echec à la i-ième lettre du motif Décalage d une position Décalages successifs du motif Lorsque b a, le décalage est inutile si c = a Décalages successifs du motif Les graphes des deux fonctions de suppléance Automate reconnaissant le langage A abcababcac Automate déterministe A(abcababcac) Automate A(abcababcac), sans ses flèches passives Implémentation de l automate A(abcababcac) Algorithme de Horspool Algorithme de Boyer-Moore simplifié Coïncidence partielle du motif et du texte

16 XII LISTE DES FIGURES.4 Décalage : premier cas Décalage : deuxième cas Algorithme de Boyer-Moore complet Automate pour l ensemble X Automates normaliss Automate pour l union Automate pour le produit Automate pour l étoile Un automate pour l expression (a + b) b( + a)( + a) L automate de Boyer et Moore pour aba Géométrie algorithmique. Lignes polygonales Le contour positif du polygone est ((A, B, C, D, E)) Ordre polaire p O p, p O p 3, p 3 O p Un secteur angulaire Insertion entre p 3 et p Cône enveloppant Adjonction d un point n appartenant pas à l enveloppe convexe Marche de Jarvis Circuit polaire Algorithme de Graham Exemple Cas où p est extérieur à P Si p est supprimé, a, b et c apparaissent Enveloppes convexes supérieure et inférieure Calcul de Inf(v) Les fonctions p, p et G Les 3 régions I, II, III auxquelles v peut appartenir Les 9 cas du lemme Insertion d un nouveau point m Rotation droite Structure de l arbre avant insertion du point p Insertion du point p Principe de l algorithme Le décompte des intersections Cas d un polygone convexe Une subdivision planaire Une subdivision planaire généralisée Diagramme de Voronoï : les sites sont pleins Tout point suffisamment loin sur D est plus proche de b que de a La partie grisée est dans R(a) Demi-cône associé au site a Le plan de balayage Le front parabolique au temps t Tout point du diagramme de Voronoï est point anguleux

17 LISTE DES FIGURES XIII 4.8 Apparition d un nouvel arc α Apparition de l arc α : deuxième cas impossible Un événement de type site : cas général Disparition de β et création du sommet s Evénement site avec création d un sommet Un ensemble de 4 segments ouverts et 6 points Diagramme de Voronoï formé de 4 demi-droites et d un arc de parabole Le diagramme défini par deux segments Un diagramme de Voronoï Exemples Principe de l algorithme Planification de trajectoires 0. La translation t(x, y) p est libre, p et p 3 sont semi-libres, p 4 et p 5 ne le sont pas P et θ caractérisent p Partitionnement de l espace libre en cellules Le graphe G π/ associé à l exemple de la figure précédente Emondage des cellules Le graphe G π/ (l) obtenu après émondage Choix du segment Sup(p) selon la position de p Les cellules de L π/ Une cellule Evénements (a) simples ou (b) double Débuts, milieu et fins Segments traités, actifs, non traités L événement en cours est une fin L événement en cours est un milieu L événement en cours est un début g + (C) est calculé au cours de l insertion de s Exemple d obstacles Une région R(s), et la région R (s) associée (en gras) Scission d un arc de parabole λ(e) lorsque e est un arc de parabole Un exemple de mouvement utilisant cet algorithme Composantes connexes des déplacements libres Un mauvais déplacement

18 XIV Avant-propos Avant-propos Encore un livre d algorithmique! Les ouvrages consacrés à l algorithmique et aux structures de données paraissent, depuis quelque temps, à un rythme soutenu et régulier. Aussi devons-nous expliquer pourquoi un livre supplémentaire sur ce sujet nous a paru utile. Le présent livre se distingue d autres traités d algorithmique par deux aspects : d une part, un accent particulier est mis sur les nouvelles structures d arbres apparues ces dernières années (arbres bicolores, arbres persistants); d autre part, nous développons plus en détail trois applications de l algorithmique : l optimisation combinatoire, la recherche de motifs dans un texte, et la géométrie algorithmique. Outre leur intérêt propre et leur importance intrinsèque, ces trois applications illustrent de façon exemplaire l usage que l on peut faire de structures de données sophistiquées, et les gains en temps et en place qui résultent de leur emploi judicieux. Pour chacun de ces trois thèmes, nous mettons en place les bases nécessaires, tant algorithmiques que théoriques. Puis, nous présentons, à l aide de problèmes typiques, un échantillon des algorithmes les plus efficaces, employant des structures de données intéressantes. Parmi les algorithmes et les structures de données qui méritent d être mentionnés plus spécialement, citons : le coût amorti des opérations de rééquilibrage dans les arbres 4 (chapitre 6); les algorithmes de manipulation des arbres bicolores (ibid.); les arbres persistants (ibid.); les algorithmes de Goldberg Tarjan et d Ahuja Orlin pour les flots (chapitre 8); l algorithme de Hopcroft de minimisation d un automate fini (chapitre 9); les algorithmes de Simon, et de Boyer et Moore pour la recherche de motifs dans un texte (chapitre 0); la gestion dynamique de l enveloppe convexe d un ensemble fini de points (chapitre ); l algorithme de balayage de calcul d une subdivision planaire à l aide d arbres persistants (ibid.); l algorithme de Fortune de calcul du diagramme de Voronoï (ibid.); deux algorithmes de planification de trajectoires (chapitre ).

19 Avant-propos XV A qui s adresse ce livre? Ce livre est issu de cours donnés par les auteurs en licence et maîtrise d informatique et de mathématiques dans les universités Paris VI et Paris VII, en magistère, et pour partie dans divers DEA et DESS. Dans sa forme présente, il s adresse principalement aux étudiants en licence et en maîtrise d informatique et de mathématiques, et aux étudiants des écoles d ingénieurs. Nous ne supposons chez le lecteur qu une connaissance rudimentaire de l informatique. Les premiers chapitres décrivent les bases algorithmiques sur lesquelles s appuieront les chapitres suivants. Le niveau d exposition est, à de rares exceptions près, celui des étudiants en licence d informatique. Organisation du livre Ce livre s organise en deux parties. La première partie, constituée des chapitres à 5, contient un exposé des bases algorithmiques et mathématiques, avec notamment un chapitre sur les techniques d évaluation de coûts d algorithmes, un bref chapitre sur les structures de données usuelles, un chapitre plus long sur la théorie des graphes et un chapitre assez succinct sur les algorithmes de tri par comparaison. Les trois premiers chapitres, et en partie les deux chapitres suivants, peuvent être considérés comme des chapitres de référence, auxquels on se reportera si nécessaire. La deuxième partie, consacrée à des thèmes plus avancés, débute par un long chapitre sur les arbres de recherche. Les deux chapitres suivants sont consacrés à l optimisation combinatoire. Puis viennent deux chapitres sur la recherche de motifs dans un texte, et enfin deux chapitres sur la géométrie algorithmique et la planification de trajectoires. Présentation des algorithmes Les algorithmes sont présentés dans un langage proche de Pascal; assez rarement, et principalement dans le chapitre 3 (Structures de données), des références explicites à Pascal sont faites, avec des programmes complets, prêts à cuire. Nous nous efforçons de présenter les algorithmes avec suffisamment de détails pour que l écriture de programmes soit facile; en particulier, nous décrivons soigneusement les structures de données à employer. Contenu du livre Le premier chapitre contient la définition des diverses mesures du coût d un algorithme : coût dans le cas le plus défavorable, coût moyen, coût amorti; il se termine par une borne inférieure sur la complexité du tri par comparaison. La première section du deuxième chapitre contient la définition des notations dites de Landau, ainsi que des exemples de manipulation. Dans la deuxième section, nous abordons la résolution de divers types d équations de récurrence auxquelles conduit l analyse d un algorithme. Nous décrivons notamment la résolution des récurrences linéaires et des récurrences de partition.

20 XVI Avant-propos Dans le chapitre 3, nous passons en revue les structures de données élémentaires, à savoir les piles, files, listes, ainsi que les arbres binaires et les arbres binaires de recherche. Nous décrivons ensuite les files de priorité et leur implémentation au moyen de tas. Nous terminons par un algorithme de gestion de partitions. Le chapitre 4 est consacré aux bases de la théorie des graphes. Après les définitions, nous exposons l algorithme de Roy-Warshall et d autres problèmes d accessibilité. Les parcours classiques d un graphe (parcours en profondeur, en largeur) sont décrits. Puis, nous présentons en détail l algorithme de Tarjan de calcul des composantes fortement connexes d un graphe, qui est linéaire en fonction du nombre d arcs du graphe. Le chapitre 5 présente trois algorithmes de tri interne éprouvés et efficaces : le tri rapide, le tri fusion et le tri par tas. Nous en donnons l analyse des coûts en moyenne et dans le pire des cas. Le chapitre se termine par un algorithme de tri externe, le tri polyphasé qui est fondé sur les suites de Fibonacci. Le chapitre 6 contient la description de plusieurs familles d arbres binaires de recherche équilibrés. Nous décrivons les arbres AVL, puis les arbres a b, avec notamment des opérations plus élaborées comme la concaténation et la scission, et évaluons le coût amorti d une suite d opérations. Ensuite, nous présentons les arbres bicolores, et enfin une réalisation de structures persistantes sur ces arbres. Le chapitre 7 traite deux problèmes fondamentaux d optimisation combinatoire : la recherche d un arbre couvrant de coût minimum et la recherche des chemins de coût minimum issus d un sommet dans un graphe orienté valué. Pour le premier problème, nous présentons une implémentation efficace des algorithmes de Kruskal et de Prim. Quant à la recherche des chemins de coût minimum, nous exposons l itération fondamentale de Ford, l algorithme de Dijkstra pour des coûts positifs et sa variante A, l algorithme de Bellman pour un graphe sans circuits et enfin l algorithme Paps. Le chapitre 8 traite des problèmes de flots optimaux dans les graphes. Nous prouvons d abord le théorème d Hoffman sur l existence d un flot compatible, puis étudions les décompositions d un flot. Après avoir établi le théorème de Ford et Fulkerson, nous analysons les algorithmes les plus performants pour le calcul du flot maximum, à savoir l algorithme primal des distances estimées au puits (algorithme d Ahuja et Orlin) et deux variantes efficaces de l algorithme dual du préflot, l algorithme de Karzanov et l algorithme des excès échelonnés. Nous considérons ensuite le problème du flot de coût minimum et présentons un algorithme dû à Goldberg et Tarjan. Nous terminons par l algorithme d Edmonds et Karp pour la recherche d un plan de transport de coût minimum. Dans le chapitre 9, préliminaire au chapitre suivant, nous présentons les bases de la théorie des automates finis. Après avoir démontré l équivalence entre les automates finis et les automates finis déterministes, nous établissons le théorème de Kleene qui montre que les langages reconnaissables et les langages rationnels sont une seule et même famille de langages. Nous prouvons l existence et l unicité