Option Info - MPSI 2016 Complexité des Algorithmes

Transcription

1 Option Info - MPSI 2016

2 Notion de complexité Donnée de taille n Algo Résultat T (n) = nombre d opérations élémentaires pour une donnée de taille n. Abstraction du temps de calcul sur machine à prendre avec des pincettes. Question : comportement de T (n) lorsque n?

3 Notations O, Ω, Θ et 1 Estimations grossières T (n) = O (u n ) T (n) = Ω (u n ) 2 Combinaison des deux précédentes T (n) = Θ (u n ) 3 Estimation plus précise T (n) u n où u n est connu explicitement 4 Encore plus précis? Dével. asymptotique... 5 Calcul exact...? pas toujours possible, rarement utile souvent très technique peut ne pas dépendre que de n

4 Un exemple célèbre Factorielle d un entier n : n! = 1 2 n On peut montrer que : (( ) n n ) n! = Θ n e Mieux [ Formule de Stirling ] : ( ) n n 2πn n! e Encore mieux : ( ) n n 2πn [ n! = e 12n + 1 ( )] 1 288n + 2 o n 2

5 Idée d une classification des algorithmes... selon leur complexité... 1 bornée O (1) 2 logarithmique Θ (ln (n)) 3 linéaire Θ (n) 4 quasi-linéaire Θ (n ln (n)) 5 quadratique Θ ( n 2) 6 polynomiale Θ ( n ) k 7 exponentielle (ou pire) Ω (2 n )

6 Limites d une telle classification Un algorithme linéaire peut parfois être bien pire qu un algorithme quadratique! T 1 (n) = n T 2 (n) = n 2 L algo linéaire sera inutilisable, pour toutes les valeurs raisonnables de n, bien qu étant asymptotiquement le meilleur des deux.

7 Diviser pour Régner [ Divide and Conquer] Pour résoudre un problème de taille n... le diviser en a problèmes de taille n/b, résoudre récursivement ceux-là, combiner les solutions

8 Formule de récurrence DPR T (n) vérifie une relation du type : T (n) = D (n) + a T ( n b ) + C (n) D (n) : coût de la division en sous-problèmes C (n) : coût de la combinaison (ou reconstruction ) Comme n b N en genéral, il faudrait écrire plutôt : T (n) = D (n) + a T ( ) ( ) n n + a + T + C (n) b b avec : a = a + + a

9 Master Theorem T (n) = a T ( n 2) + f (n) avec a N. Alors, en posant α = log 2 (a)... 1 Si f (n) = O ( n β) avec β < α, alors T (n) = Θ (n α ) 2 Si f (n) = Θ (n α ), alors T (n) = Θ (n α ln (n)) 3 Si f (n) = Ω ( n β) avec β > α, alors T (n) = Θ (f (n))

10 Recherche dans un tableau trié A = un tableau trié de taille n, dans lequel on cherche si une valeur donnée x est présente Si A [1] = x, succès! Sinon : si n = 1, échec :( si n 2, on cherche dans A [2 n] Coût linéaire dans le pire cas et en moyenne.

11 En pratique? Personne n utilise cette méthode pour chercher la définition d un mot dans un dictionnaire!!

12 Recherche dichotomique (binary search) A = un tableau trié de taille n, dans lequel on cherche si une valeur donnée x est présente Si n = 1, on conclut directement! Et si n 2 : on compare x et A ( n 2 ) on élimine ainsi un demi-tableau on poursuit la recherche dans l autre demi-tableau

13 Complexité de la recherche dichotomique Si T (n) = nb de comparaisons dans le pire cas, alors : T (1) = 1 n > 1, T (n) = T ( n 2 ) + 1 On prouve que : n 1, T (n) = log 2 (n) + 1 Introduire le nombre de chiffres dans l écriture binaire de n.

14 Multiplication de polynômes P = n 1 k =0 a k X k Q = n 1 k =0 n 1 n 1 PQ = a i b j X i+j i=0 j=0 b k X k complexité quadratique (en nombre de multiplications)

15 Multiplication de polynômes let mult p q = let deg_p = vect_length p - 1 in let deg_q = vect_length q - 1 in let pq = make_vect (deg_p + deg_q + 1) 0 in for i = 0 to deg_p do for j = 0 to deg_q do let k = i + j in pq.(k) pq.(k) + p.(i) * q.(j) done done; pq ;;

16 Multiplication de Karatsuba P = P 0 + X k P 1 Q = Q 0 + X k Q 1 PQ = P 0 Q 0 + [(P 0 + P 1 ) (Q 0 + Q 1 ) P 0 Q 0 P 1 Q 1 ] X k + P 1 Q 1 X 2k Le master theorem donne : avec : log 2 (3) 1, 58 < 2. ( ( n n T (n) = T + 2 T 2 ) 2 ) T (n) = Θ ( n log 2 (3))

17 Tri par fusion Un tableau A de longueur n à trier... Si n = 0 ou 1, il n y a rien à faire Sinon... On divise A en deux A g et A d On trie récursivement A g et A d A g et A d On fusionne les tableaux triés A g et A d

18 Tri par fusion T (n) = nb de comparaisons pour trier un tableau de longueur n T (n) = T ( ( n n + T + f (n) 2 ) 2 ) avec f (n) = le coût (en nombre de comparaisons) de la fusion. On peut montrer que : T (n) = Θ (n ln (n))

19 T h`e E n`dffl!