Graphes de Terrain. Dynamiques de l internet. Clémence Magnien. 14 février LIP6 CNRS and Université Pierre et Marie Curie. prenom.nom@lip6.

Transcription

1 Graphes de Terrain Dynamiques de l internet Clémence Magnien LIP6 CNRS and Université Pierre et Marie Curie prenom.nom@lip6.fr 14 février /72 1/72

2 Jusqu à présent on a supposé : une seule route entre une source et une destination routes fixes au cours du temps...les deux sont faux 2/72 2/72

3 1 Paris traceroute et load-balancing Biais associé au load-balancing /72 3/72

4 Biais associé au load-balancing Outline 1 Paris traceroute et load-balancing Biais associé au load-balancing /72 4/72

5 Biais associé au load-balancing Principaux travaux de référence Fabien Viger, Brice Augustin, Xavier Cuvellier, Clémence Magnien, Matthieu Latapy, Timur Friedman et Renata Teixeira Detection, understanding, and prevention of traceroute measurement artifacts Computer Networks 52-5, /72 5/72

6 Biais associé au load-balancing Load-balancing Load-balancing (équilibrage de charge) Hop 6 Hop 7 Hop 8 Hop 9 A C S L 2 1 E 0 B 1 D 1 0 L envoie les paquets pour E tantôt vers A, tantôt vers B. 6/72 6/72

7 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse 7/72 7/72

8 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse Hop 6 Hop 7 Hop 8 Hop 9 A C S L 2 1 E 0 B D 7/72 7/72

9 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse Hop 6 Hop 7 Hop 8 Hop 9 A C S L 2 1 E 0 B D L 0 7/72 7/72

10 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse Hop 6 Hop 7 Hop 8 Hop 9 A C S L 2 1 E 0 B D L 0 A 0 7/72 7/72

11 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse Hop 6 Hop 7 Hop 8 Hop 9 A C S L 2 1 E 0 B D L 0 A 0 D 0 7/72 7/72

12 Biais associé au load-balancing Problème causé par le load-balancing Traceroute Information manquante ou fausse S 0 Hop 6 Hop 7 Hop 8 Hop 9 L A B C D E 2 A 0 L 0 E 1 D 0 Faux liens Nœuds non vus 7/72 7/72

13 Biais associé au load-balancing Problèmes 2 Boucles: TTL = 9 S 0 Hop 6 Hop 7 Hop 8 Hop 9 L 2 1 B 0 1 A Hop 6 Hop 7 Hop 8 0 C E 2 What we see: L 0 A 0 E 0 TTL = 6 TTL = 7 TTL = 8 8/72 8/72

14 Biais associé au load-balancing Problèmes 3 Cycles: Différence de longeur entre routes = k cycle de longueur k 9/72 9/72

15 Biais associé au load-balancing Load-balancing Plusieurs types de load-balancing : par paquet aléatoire, round-robin par flot paquets d une même application sur le même chemin par destination paquets pour une même destination sur le même chemin 10/72 10/72

16 Biais associé au load-balancing traceroute et load-balancing par paquet aucun contrôle par flot par destination 11/72 11/72

17 Biais associé au load-balancing traceroute et load-balancing par paquet aucun contrôle par flot par destination Flot = IPs + ports source & destination, protocole traceroute varie systématiquement le port destination les paquets suivent systématiquement des chemins différents 11/72 11/72

18 Biais associé au load-balancing traceroute et load-balancing par paquet aucun contrôle par flot par destination Pas de biais dans les mesures avec traceroute 11/72 11/72

19 Biais associé au load-balancing Paris-traceroute Variante de traceroute : les ports source/dest sont gardés constants pendant toute la mesure (utilisation d autres champs de l en-tête pour identifier les paquets) pas de problème avec le load-balancing par flot 12/72 12/72

20 Biais associé au load-balancing Paris-traceroute Variante de traceroute : les ports source/dest sont gardés constants pendant toute la mesure (utilisation d autres champs de l en-tête pour identifier les paquets) pas de problème avec le load-balancing par flot 12/72 12/72

21 Biais associé au load-balancing Question Quel est l impact en pratique du load-balancing? Comparer des mesures avec traceroute et paris-traceroute 13/72 13/72

22 Biais associé au load-balancing 5000 destinations une passe : un traceroute vers chaque destination un paris-traceroute vers chaque destination passes (74 jours) 14/72 14/72

23 Biais associé au load-balancing Boucles avec traceroute : 7% des IP ont une boucle 90% des boucles disparaissent avec paris-traceroute 15/72 15/72

24 Biais associé au load-balancing Cycles Cycles : rares avec traceroute (fréquence 0.6%) 80% des cycles disparaissent avec paris-traceroute load-balancing ou événements rares? 16/72 16/72

25 Biais associé au load-balancing Diamants L 0 A 0 B 0 D E 0 0 G 0 C0 (L 0, D 0 ) taille 3 (L 0, E 0 ),(A 0, G 0 ),(B 0, G 0 ) taille 2 Le load-balancing crée des diamants 17/72 17/72

26 Biais associé au load-balancing Diamants traceroute : diamants diamants vers 90% des destinations 21.3 diamant / destination en moyenne paris-traceroute : 52% des diamants disparaissent diamants vers 89% des des destinations 9.7 diamant / destination en moyenne 18/72 18/72

27 Biais associé au load-balancing Diamants Frequency Frequency e-04 1e-04 1e Size of the global diamonds 1e Size of the global diamonds 18/72 18/72

28 Biais associé au load-balancing Diamants Frequency Frequency e-04 1e-04 1e Size of the global diamonds 1e Size of the global diamonds Moins de diamants avec paris-traceroute Diamants moins gros le load-balancing par flot crée de faux liens 18/72 18/72

29 Biais associé au load-balancing Diamants questions Diamants restants : load-balancing par paquet ou vrais liens? Certains diamants sont vus avec paris-traceroute mais pas traceroute événements? 19/72 19/72

30 Outline 1 Paris traceroute et load-balancing Biais associé au load-balancing /72 20/72

31 Principaux travaux de référence Matthieu Latapy, Clémence Magnien et Frédéric Ouédraogo A Radar for the internet First International Workshop on Analysis of Dynamic Networks, Clémence Magnien, Frédéric Ouédraogo, Guillaume Valadon et Matthieu Latapy Fasts dynamics in Internet topology: observations and first explanations Fourth International Conference on Internet Monitoring and Protection, /72 21/72

32 Résumé Cartographie au niveau IP Long et coûteux Tendances actuelles Données massives (multiplier sources et destinations, mesures distribuées,... ) Améliorer la qualité Dynamique? 22/72 22/72

33 Notre approche Ce qu une machine voit de l internet est : intéressant en soi (plus) facile à mesurer (plus) facile à interpréter peut être mesuré efficacement (temps, charge) notion de vision égo-centrée Mesure efficace + simple = Répétition étude de la dynamique Radar une source, des destinations, mesures périodiques 23/72 23/72

34 Notre approche Ce qu une machine voit de l internet est : intéressant en soi (plus) facile à mesurer (plus) facile à interpréter peut être mesuré efficacement (temps, charge) notion de vision égo-centrée Mesure efficace + simple = Répétition étude de la dynamique Radar une source, des destinations, mesures périodiques 23/72 23/72

35 Notre approche Ce qu une machine voit de l internet est : intéressant en soi (plus) facile à mesurer (plus) facile à interpréter peut être mesuré efficacement (temps, charge) notion de vision égo-centrée Mesure efficace + simple = Répétition étude de la dynamique Radar une source, des destinations, mesures périodiques 23/72 23/72

36 Vue égo-centrée 24/72 24/72

37 Vue égo-centrée 24/72 24/72

38 Mesure avec traceroute 25/72 25/72

39 Mesure avec traceroute 25/72 25/72

40 Mesure avec traceroute 25/72 25/72

41 Mesure avec traceroute 25/72 25/72

42 Mesure avec traceroute 25/72 25/72

43 Mesure avec traceroute 25/72 25/72

44 Mesure avec traceroute * 25/72 25/72

45 Charge déséquilibrée * 26/72 26/72

46 Charge déséquilibrée many probes on links closest x = distance du moniteur, y = # sondes 26/72 26/72

47 Limites de traceroute charge déséquilibrée information redondante pas un arbre complique l analyse nécessité d un outil dédié tracetree 27/72 27/72

48 Limites de traceroute charge déséquilibrée information redondante pas un arbre complique l analyse nécessité d un outil dédié tracetree 27/72 27/72

49 en arrière, en parallèle, arrêt lorsque les chemins se rencontrent 28/72 28/72

50 en arrière, en parallèle, arrêt lorsque les chemins se rencontrent 28/72 28/72

51 * en arrière, en parallèle, arrêt lorsque les chemins se rencontrent 28/72 28/72

52 * en arrière, en parallèle, arrêt lorsque les chemins se rencontrent 28/72 28/72

53 * en arrière, en parallèle, arrêt lorsque les chemins se rencontrent 28/72 28/72

54 * Limite du rayon (TTL max): Sonder jusqu à une distance donnée du moniteur 28/72 28/72

55 et radar Radar 1 paquet par lien mesure homogène et rapide arbre Une source Un ensemble de destinations périodiques avec tracetree programme disponible, écrit en C. : mêmes problèmes que traceroute pour la qualité de la mesure 29/72 29/72

56 et radar Radar 1 paquet par lien mesure homogène et rapide arbre Une source Un ensemble de destinations périodiques avec tracetree programme disponible, écrit en C. : mêmes problèmes que traceroute pour la qualité de la mesure 29/72 29/72

57 et radar Radar 1 paquet par lien mesure homogène et rapide arbre Une source Un ensemble de destinations périodiques avec tracetree programme disponible, écrit en C. : mêmes problèmes que traceroute pour la qualité de la mesure 29/72 29/72

58 tracetree vs traceroute: comparaison empirique traceroute tracetree x=nb de passes, y=nb d adresses IP 30/72 30/72

59 tracetree vs traceroute: comparaison empirique tracetree traceroute e+06 2e+06 3e+06 4e+06 5e+06 6e+06 7e+06 x=nb de paquets, y=nb d adresses IP 30/72 30/72

60 tracetree vs traceroute: comparaison empirique A B tracetree traceroute e+06 2e+06 3e+06 4e+06 5e+06 6e+06 7e+06 x=nb de paquets, y=nb d adresses IP 30/72 30/72

61 Paramètres Plusieurs paramètres des mesures Quelles sources / destinations? Combien de destinations? Délai entre passes? Timeout?... Compromis Haute fréquence Grande quantité de données Faible charge sur le réseau 31/72 31/72

62 Paramètres: la fréquence Moniteur de test Moniteur de contrôle measurement speed up x=# heures, y=# IP 32/72 32/72

63 Paramètres: nombre de destinations Moniteur de test Moniteur de contrôle d d d d x=# heures, y=# IP 33/72 33/72

64 Paramètres: nombre de destinations Moniteur de test Moniteur de contrôle d d d. (sim) 3000 d d. (sim) 1000 d x=# heures, y=# IP 33/72 33/72

65 Nos mesures Deux ensembles de paramètres: normal: 3000 destinations, 10 min. délai entre passes, TTL max 30, passes / jour rapide: 1000 destinations, 1 min. délai entre passes, TTL max 15,... > 800 passes / jour Sources: PlanetLab et autres (> 100) Destinations: Aléatoires, répondant au ping Plusieurs mois de mesure ininterrompue Données disponibles pour étude 34/72 34/72

66 Nos mesures Deux ensembles de paramètres: normal: 3000 destinations, 10 min. délai entre passes, TTL max 30, passes / jour rapide: 1000 destinations, 1 min. délai entre passes, TTL max 15,... > 800 passes / jour Sources: PlanetLab et autres (> 100) Destinations: Aléatoires, répondant au ping Plusieurs mois de mesure ininterrompue Données disponibles pour étude 34/72 34/72

67 de la dynamique Caractéristiques attendues : dynamique normale load-balancing changements dans les routes... événements spécifiques pannes... 35/72 35/72

68 Quelle dynamique? Pour : mieux comprendre modéliser, simuler détecter des événements... Comment répondre cette question? Pas de méthode toute faite 36/72 36/72

69 Quelle dynamique? Pour : mieux comprendre modéliser, simuler détecter des événements... Comment répondre cette question? Pas de méthode toute faite 36/72 36/72

70 Étude d une passe Variations en fonction : de la source du moment Quelques tendances générales IP étoiles la plupart des nœuds à distance On observe toujours le même type de comportements 37/72 37/72

71 Étude d une passe Variations en fonction : de la source du moment Quelques tendances générales IP étoiles la plupart des nœuds à distance On observe toujours le même type de comportements 37/72 37/72

72 Visualisation Fichier externe out3.gif 38/72 38/72

73 Propriétés simples au fil du temps Première approche : Évolution de propriétés simples au fil du temps nombre d IP nombre d étoiles durée des passes... 39/72 39/72

74 Propriétés simples au fil du temps Nb IP /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date Nombre d IP par passe source au Japon deux mois de mesures passes 39/72 39/72

75 Propriétés simples au fil du temps Nb IP /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date Nombre d IP par passe Plus ou moins constant (changement de régime) Pics vers le bas déconnections? Pas de pics vers le haut 39/72 39/72

76 Présence des IP Distribution du nombre de présences Toutes les IP vues pendant la mesure ( ) Pour chaque IP : nombre de passes où on l a vue Distribution 40/72 40/72

77 Présence des IP 2 mois 6000 passes Nb IP Nb times seen 40/72 40/72

78 Présence des IP 2 mois 6000 passes Nb IP Nb times seen Beaucoup d IP éphémères (vues très peu de fois) Un nombre non négligeable d IP stables (vues presque à chaque fois) 40/72 40/72

79 Présences vs apparitions Apparitions Observations présences, 2 apparitions 41/72 41/72

80 Présences vs apparitions Apparitions Observations Parabole : load-balancing p = 1/2 x = n/2, y = 1/2 1/2 n = n/4 41/72 41/72

81 Présences vs apparitions Apparitions Observations p quelconque : x = np, y = p(1 p)n y = n x/n ((n x)/n) 41/72 41/72

82 Présences vs apparitions Apparitions Observations Deux classes différentes parabole : load-balancing proche de l axe des x : addresses stables 41/72 41/72

83 Dynamique : stabilisation? Comportement attendu x = # de passes y = # d adresses IP distinctes depuis le début 42/72 42/72

84 Dynamique : stabilisation? Nb distinct IP Nombre d IP distinctes observées depuis le début /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date nouvelles IP observées en permanence 43/72 43/72

85 Disparitions Nb distinct IP Nombre d IP distinctes qu on ne verra plus jamais /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date Renouvellement continu des IP observées 44/72 44/72

86 Tentatives d explication Croissance surprenante Deux explications naturelles ip aléatoires ip dynamiques 45/72 45/72

87 IP vues une seule fois? Nb distinct IP >= /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 46/72 46/72

88 IP vues une seule fois? Nb distinct IP >= 2 >= /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 46/72 46/72

89 IP vues une seule fois? Nb distinct IP >= 2 >= 10 >= /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 46/72 46/72

90 IP vues une seule fois? Nb distinct IP >= 2 >= 10 >= 50 >= /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 46/72 46/72

91 IP vues une seule fois? Nb distinct IP >= 2 >= 10 >= 50 >= 200 >= /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date De nouvelles IP récurrentes... Élimine l hypothèse des IPs aléatoires 46/72 46/72

92 Des IP dynamiques? Destinations stables... (un critère possible: le père dans l arbre a toujours la même adresse) Nb distinct IP /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date courbes de mesures sur ces adresses ont même allure. Élimine l hypothèse des IPs dynamiques 47/72 47/72

93 Des IP dynamiques? Destinations stables... (un critère possible: le père dans l arbre a toujours la même adresse) Nb distinct IP /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date courbes de mesures sur ces adresses ont même allure. Élimine l hypothèse des IPs dynamiques 47/72 47/72

94 Autonomous Systems Autonomous System (AS) : institution indépendante Chaque IP est dans un AS Nombre d AS vus depuis le début de la mesure 48/72 48/72

95 Autonomous Systems As /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 48/72 48/72

96 Routeviews Projet Routeviews Nombreux moniteurs Historique des tables de routage 49/72 49/72

97 Routeviews Simulation du radar au niveau AS Moniteur proche de la source Table de routage / / / /72 49/72

98 Routeviews Simulation du radar au niveau AS Moniteur proche de la source Destination préfixe Table de routage / / / /72 49/72

99 Routeviews Simulation du radar au niveau AS Moniteur proche de la source Destination préfixe ensemble de chemins d AS Table de routage / / / /72 49/72

100 Routeviews As /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 49/72 49/72

101 Routeviews As /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 49/72 49/72

102 Nouveaux AS? AS observés après le début de la mesure (72) Historique des tables de routage Nouveaux? 70 AS dans la première table de routage Observations dûes à la dynamique BGP 50/72 50/72

103 Tous les as sont-ils équivalents? Distribution de la taille observée 1000 Nb distinct IP Date 51/72 51/72

104 Nouveautés à l intérieur des as? Plus gros AS : 1333 IP Nb distinct IP /05 02/06 09/06 16/06 23/06 30/06 07/07 14/07 21/07 28/07 04/08 Date 52/72 52/72

105 Conclusion sur les apparitions d IP Renouvellement continu des IP observées pour les IP volatiles pour les IP stables Nouvelles IP observées à l intérieur des AS déjà vus dans des AS nouvellement observés Observation de nouveaux AS dynamique BGP Remarque: lien avec les nouveaux diamants observés avec paris-traceroute: découverte d IPs entre la passe de traceroute et celle de paris-traceroute. 53/72 53/72

106 Causes importantes des apparitions d IP load-balancing + évolution du routage Nombre de liens pente évolution du routage + load-balancing Nombre de passes 54/72 54/72

107 Outline 1 Paris traceroute et load-balancing Biais associé au load-balancing /72 55/72

108 Approches Plusieurs approches pour détecter les événements Par signature Si on sait à quoi ressemble un événement (signature) détection de la signature dans les données Top-down Pas d a priori sur la dynamique on cherche à détecter les événements différents de la dynamique normale 56/72 56/72

109 Méthodologie [Detecting Events in the Dynamics of Ego-centered Measurements of the Internet Topology Hamzaoui, Latapy, Magnien, 2010] Distribution d une statistique, trois cas possibles : homogène hétérogène homogène avec outliers 57/72 57/72

110 Nombre de nœuds par passe Statistique au fil du temps 58/72 58/72

111 Nombre de nœuds par passe Distribution 58/72 58/72

112 Nombre de nœuds par passe Distribution cumulative inverse 58/72 58/72

113 Nombre de nœuds par passe Distribution cumulative inverse Conclusion Pics vers le bas significatifs Événements non intéressants (pertes de connexion locales) 58/72 58/72

114 Nombre de nœuds dans plusieurs passes consécutives Statistique : nombre d IP distinctes dans l union de 5 passes Statistique au fil du temps 59/72 59/72

115 Nombre de nœuds dans plusieurs passes consécutives Statistique : nombre d IP distinctes dans l union de 5 passes Distribution 59/72 59/72

116 Nombre de nœuds dans plusieurs passes consécutives Statistique : nombre d IP distinctes dans l union de 5 passes Distribution cumulative inverse 59/72 59/72

117 Nombre de nœuds dans plusieurs passes consécutives Statistique : nombre d IP distinctes dans l union de 5 passes Conclusion Pics significatifs Pics vers le haut changements Pics vers le bas significatifs? (perte de connexion locale longue?) 59/72 59/72

118 Interprétation des événements Événement statistiquement significatif détecté Interprétation? But : compréhension, pertinence de l événement Deux approches Corrélations avec des événements connus Dessin 60/72 60/72

119 Tickets d incidents Abilene Dans certains cas, correspondance entre un incident détecté et un ticket d incident AFFECTED: STATUS: START TIME: END TIME: DESCRIPTION: Peer SINET (CHIC) Unavailable Thursday, May 17, 2007, 11:47 AM (1147) UTC Pending Peer SINET s connection the Internet2 IP Community is unavailable. SINET Engineers have been contacted, however, no cause of outage has been provided yet. SINET is multi-homed. TICKET NO.: 10201:45 TIMESTAMP: :40:43 UTC 61/72 61/72

120 Tickets d incidents Abilene Dans certains cas, correspondance entre un incident détecté et un ticket d incident STATUS: START TIME: END TIME: DESCRIPTION: Available Thursday, May 17, 2007, 11:47 AM (1147) UTC Friday, May 18, 2007, 3:51 AM (0351) UTC Peer SINET was unavailable to the the Internet2 IP Network Community. SINET Engineers reported the reason for outage was due to a fiber cut in New York. SINET is multi-homed. TICKET NO.: 10201:45 TIMESTAMP: :39:16 UTC 62/72 62/72

121 Dessin 63/72 63/72

122 Pour aller plus loin Comparer les événements détectés avec d autres statistiques Caractérisation automatique du type de distribution fit Détection automatique et rigoureuse des outliers 64/72 64/72

123 Outline 1 Paris traceroute et load-balancing Biais associé au load-balancing /72 65/72

124 Présence des IP Distribution du nombre de présences Toutes les IP vues pendant la mesure ( ) Pour chaque IP : nombre de passes où on l a vue Distribution 66/72 66/72

125 Présence des IP mois 6000 passes Nb IP Nb times seen 66/72 66/72

126 Présence des IP mois 3000 passes 2000 Nb IP Nb times seen 66/72 66/72

127 Présence des IP 2 mois 6000 passes Distrib. cumulative Nb IP Nb times seen 66/72 66/72

128 Présence des IP 1 mois 3000 passes Distrib. cumulative Nb IP Nb times seen 66/72 66/72

129 Observations dépendantes de la durée de la mesure? Mesure plus longue : Moins d IP stables Plus d IP éphémères Conclusion? Méthodologie Augmenter la taille de la fenêtre de mesure Évolution de la distribution 67/72 67/72

130 Distributions normalisées Problème : Valeur max en x : nombre de passes Valeur max en y : nombre total d IP vues en N passes Les courbes ne sont pas directement comparables Normalisation y : fraction des IP observées x : fraction des passes 68/72 68/72

131 Résultats passes 100 jours 69/72 69/72

132 Résultats passes 100 jours Mesure plus longue : Moins d IP stables Plus d IP éphémères Pas de convergence 69/72 69/72

133 Étudier la convergence Nombre d IP vues au moins x% des passes, en fonction de la durée de mesure IP présentes à 99.5% des passes noyau stable? 70/72 70/72

134 Lien avec la détection d événements Pour certains moniteurs / certaines périodes 4000 "parse_hash_1_501.dat" passes au total Beaucoup d IP vues 25 ou 475 passes événement de durée 25 passes vidéo events.avi 71/72 71/72

135 Conclusion Dynamique(s) rapide(s) Besoin de comprendre Influence sur la cartographie Étudier rigoureusement l impact de la durée/la fréquence de mesure? 72/72 72/72