Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace

Transcription

1 1 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Ludovic Hablot 17 décembre 2009 Thèse effectuée au Laboratoire de l Informatique du Parallèlisme (LIP) de l ENS Lyon, dirigée par Olivier Glück et Pascale Vicat-Blanc Primet.

2 2 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plan 1 Contexte 2 Problématique 3 Analyse des communications longue distance des applications MPI 4 Interaction entre TCP et les applications MPI 5 MPI5000 : Eclatement des connexions TCP pour les applications MPI 6 Conclusion

3 3 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plan 1 Contexte 2 Problématique 3 Analyse des communications longue distance des applications MPI 4 Interaction entre TCP et les applications MPI 5 MPI5000 : Eclatement des connexions TCP pour les applications MPI 6 Conclusion

4 4 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Contexte Les applications parallèles Besoins en puissance de calcul grandissant pour différents domaines, tels que physique, astronomie, biologie, prévisions météorologiques Division des calculs pour gagner en temps d exécution Le standard MPI MPI (Message Passing Interface) est un standard pour programmer une application parallèle : il fonctionne par passage de messages il en existe plusieurs implémentations il s appuie sur les protocoles de transport existants il propose des fonctions point à point et collectives

5 4 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Contexte Les applications parallèles Besoins en puissance de calcul grandissant pour différents domaines, tels que physique, astronomie, biologie, prévisions météorologiques Division des calculs pour gagner en temps d exécution Le standard MPI MPI (Message Passing Interface) est un standard pour programmer une application parallèle : il fonctionne par passage de messages il en existe plusieurs implémentations il s appuie sur les protocoles de transport existants il propose des fonctions point à point et collectives Application MPI Implementation MPI Protocole de transport

6 4 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Contexte Les applications parallèles Besoins en puissance de calcul grandissant pour différents domaines, tels que physique, astronomie, biologie, prévisions météorologiques Division des calculs pour gagner en temps d exécution Le standard MPI MPI (Message Passing Interface) est un standard pour programmer une application parallèle : il fonctionne par passage de messages il en existe plusieurs implémentations il s appuie sur les protocoles de transport existants il propose des fonctions point à point et collectives Application MPI Implementation MPI MX OpenMX TCP SCTP UDP

7 4 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Contexte Les applications parallèles Besoins en puissance de calcul grandissant pour différents domaines, tels que physique, astronomie, biologie, prévisions météorologiques Division des calculs pour gagner en temps d exécution Le standard MPI MPI (Message Passing Interface) est un standard pour programmer une application parallèle : il fonctionne par passage de messages il en existe plusieurs implémentations il s appuie sur les protocoles de transport existants il propose des fonctions point à point et collectives Application MPI API MPI Opé. Collectives Fonc. p.-a-point Bibliothèque de communication MX OpenMX TCP SCTP UDP

8 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Application A Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

9 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Reseau Myrinet Application A Reseau Ethernet Grappe 1 Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

10 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Reseau Infiniband Reseau Ethernet Reseau Myrinet Reseau Ethernet Grappe 1 Grappe 2 Site A Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

11 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Reseau Myrinet Grappe 1 Reseau Ethernet WAN Reseau Infiniband Reseau Ethernet Reseau Ethernet Grappe 2 Site A Site B Grappe 3 Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

12 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Reseau Myrinet Grappe 1 Application A Reseau Ethernet WAN Reseau Ethernet Application A Reseau Infiniband Application A Reseau Ethernet Application A Grappe 2 Site A Site B Grappe 3 Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

13 5 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Les grilles Reseau Myrinet Grappe 1 Application A Reseau Ethernet WAN Reseau Ethernet Application A Reseau Infiniband Application A Reseau Ethernet Application A Grappe 2 Site A Site B Grappe 3 Notre définition : Les grilles sont une aggrégation de grappes ou de grappes de grappes, géographiquement éloignées et interconnectées par un réseau longue distance. Ce dernier est constitué d un WAN (Wide Area Network) par opposition au LAN (Local Area Network).

14 6 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plan 1 Contexte 2 Problématique 3 Analyse des communications longue distance des applications MPI 4 Interaction entre TCP et les applications MPI 5 MPI5000 : Eclatement des connexions TCP pour les applications MPI 6 Conclusion

15 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Infiniband Reseau Myrinet Grappe 1 Reseau Ethernet Reseau Ethernet WAN Reseau Ethernet Grappe 2 Site A Site B

16 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Infiniband Reseau Myrinet Grappe 1 Reseau Ethernet Reseau Ethernet WAN Reseau Ethernet Grappe 2 Site A Site B

17 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Infiniband Reseau Myrinet Latence 1 us Latence 5 us Grappe 1 Reseau Ethernet Reseau Ethernet Latence 50 us Latence 50 us WAN Latence 10 ms Reseau Ethernet Latence 50 us Grappe 2 Site A Site B

18 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Myrinet Grappe 1 Application A Reseau Ethernet WAN Reseau Infiniband Reseau Ethernet Reseau Ethernet Application A Grappe 2 Site A Site B Grappe 3

19 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Myrinet Grappe 1 Application A Reseau Ethernet WAN Reseau Ethernet Application A Reseau Infiniband Application B Reseau Ethernet Application B Grappe 2 Site A Site B Grappe 3

20 7 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Spécificités de la grille La grille soulève de nouveaux problèmes liés à ses spécificités : hétérogénéité des machines : problème résolu par un placement approprié des processus MPI hétérogénéité des réseaux rapides des clusters : problème résolu en utilisant une implémentation capable communiquer sur des réseaux différents latence plus grande sur le WAN que sur le LAN goulot d étranglement du WAN : bande passante du WAN inférieure à la la somme des noeuds qui peuvent communiquer dessus partage des ressources, notamment des ressources réseau Reseau Infiniband Reseau Myrinet Grappe 1 Reseau Ethernet Reseau Ethernet WAN Reseau Ethernet Grappe 2 Site A Site B

21 8 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Problématiques Contraintes Transparence vis à vis de l utilisateur : on garde intacte l application MPI Transparence par rapport à l implémentation MPI TCP est le protocole utilisé pour les communications sur le réseau longue distance des grilles Comment exécuter au mieux des applications MPI sur une grille de calcul dont le protocole de transport sur le réseau longue distance est TCP, en optimisant l interaction entre ces deux couches? Sous-questions Comment se comportent les applications MPI sur un réseau longue distance? Etude des caractéristiques des communications : taille, fréquence, synchronisme Etude des points problèmatiques de la grille mentionnés précédemment Quels paramètres de TCP limitent les communications des applications MPI dans un réseau longue distance? Etude du contrôle de congestion et du contrôle de fiabilité Comment réduire l impact de TCP sur les communications MPI longue distance? Différentiation des communications (locales ou longue-distance) Adaptation des communications pour rendre le protocole de transport plus réactif

22 8 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Problématiques Contraintes Transparence vis à vis de l utilisateur : on garde intacte l application MPI Transparence par rapport à l implémentation MPI TCP est le protocole utilisé pour les communications sur le réseau longue distance des grilles Comment exécuter au mieux des applications MPI sur une grille de calcul dont le protocole de transport sur le réseau longue distance est TCP, en optimisant l interaction entre ces deux couches? Sous-questions Comment se comportent les applications MPI sur un réseau longue distance? Etude des caractéristiques des communications : taille, fréquence, synchronisme Etude des points problèmatiques de la grille mentionnés précédemment Quels paramètres de TCP limitent les communications des applications MPI dans un réseau longue distance? Etude du contrôle de congestion et du contrôle de fiabilité Comment réduire l impact de TCP sur les communications MPI longue distance? Différentiation des communications (locales ou longue-distance) Adaptation des communications pour rendre le protocole de transport plus réactif

23 8 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Problématiques Contraintes Transparence vis à vis de l utilisateur : on garde intacte l application MPI Transparence par rapport à l implémentation MPI TCP est le protocole utilisé pour les communications sur le réseau longue distance des grilles Comment exécuter au mieux des applications MPI sur une grille de calcul dont le protocole de transport sur le réseau longue distance est TCP, en optimisant l interaction entre ces deux couches? Sous-questions Comment se comportent les applications MPI sur un réseau longue distance? Etude des caractéristiques des communications : taille, fréquence, synchronisme Etude des points problèmatiques de la grille mentionnés précédemment Quels paramètres de TCP limitent les communications des applications MPI dans un réseau longue distance? Etude du contrôle de congestion et du contrôle de fiabilité Comment réduire l impact de TCP sur les communications MPI longue distance? Différentiation des communications (locales ou longue-distance) Adaptation des communications pour rendre le protocole de transport plus réactif

24 9 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Etat de l art : implémentations existantes Gestion de l hétérogénéité Optimisation des comm. longue distance Opérations coll. Optimisation TCP PACX-MPI X X MagPIe X MPICH-GQ Limitation de débit MPICH2 MPICH-VMI X X MetaMPICH X Flux parallèles pour MPICH-G2 X X les gros messages sur le WAN MPICH-Madeleine X Diminution du RTO, limitation de débit, GridMPI X X pacing au démarrage, chgt. fenêtre cong., OpenMPI X?

25 9 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Etat de l art : implémentations existantes Gestion de l hétérogénéité Optimisation des comm. longue distance Opérations coll. Optimisation TCP PACX-MPI X X MagPIe X MPICH-GQ Limitation de débit MPICH2 MPICH-VMI X X MetaMPICH X Flux parallèles pour MPICH-G2 X X les gros messages sur le WAN MPICH-Madeleine X Diminution du RTO, limitation de débit, GridMPI X X pacing au démarrage, chgt. fenêtre cong., OpenMPI X?

26 9 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Etat de l art : implémentations existantes Gestion de l hétérogénéité Optimisation des comm. longue distance Opérations coll. Optimisation TCP PACX-MPI X X MagPIe X MPICH-GQ Limitation de débit MPICH2 MPICH-VMI X X MetaMPICH X Flux parallèles pour MPICH-G2 X X les gros messages sur le WAN MPICH-Madeleine X Diminution du RTO, limitation de débit, GridMPI X X pacing au démarrage, chgt. fenêtre cong., OpenMPI X?

27 9 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Etat de l art : implémentations existantes Gestion de l hétérogénéité Optimisation des comm. longue distance Opérations coll. Optimisation TCP PACX-MPI X X MagPIe X MPICH-GQ Limitation de débit MPICH2 MPICH-VMI X X MetaMPICH X Flux parallèles pour MPICH-G2 X X les gros messages sur le WAN MPICH-Madeleine X Diminution du RTO, limitation de débit GridMPI X X pacing au démarrage, chgt. fenêtre cong. OpenMPI X?

28 10 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plan 1 Contexte 2 Problématique 3 Analyse des communications longue distance des applications MPI Instrumentation des applications MPI et de TCP Analyse des Nas Parallel Benchmark 4 Interaction entre TCP et les applications MPI 5 MPI5000 : Eclatement des connexions TCP pour les applications MPI 6 Conclusion

29 11 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Instrumentation des applications MPI et de TCP Pourquoi instrumenter? Analyse des pertes de performances des applications lors du passage sur la grille Deux couches accessibles TCP et MPI : analyse des communications longue distance au niveau de ces deux couches Nombre, taille et fréquence des communications Schéma de communication Evolution de la fenêtre de congestion de TCP Instant des retransmissions InstrAppli Date système des événements Surcharge des fonctions de l API socket Source et destination des données Fonction appelée et paramètres de celle-ci tcp probe modifié Date système des événements Espace libre dans les tampons d émission de TCP

30 11 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Instrumentation des applications MPI et de TCP Pourquoi instrumenter? Analyse des pertes de performances des applications lors du passage sur la grille Deux couches accessibles TCP et MPI : analyse des communications longue distance au niveau de ces deux couches Nombre, taille et fréquence des communications Schéma de communication Evolution de la fenêtre de congestion de TCP Instant des retransmissions InstrAppli Date système des événements Surcharge des fonctions de l API socket Source et destination des données Fonction appelée et paramètres de celle-ci tcp probe modifié Date système des événements Espace libre dans les tampons d émission de TCP

31 11 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Instrumentation des applications MPI et de TCP Pourquoi instrumenter? Analyse des pertes de performances des applications lors du passage sur la grille Deux couches accessibles TCP et MPI : analyse des communications longue distance au niveau de ces deux couches Nombre, taille et fréquence des communications Schéma de communication Evolution de la fenêtre de congestion de TCP Instant des retransmissions InstrAppli Date système des événements Surcharge des fonctions de l API socket Source et destination des données Fonction appelée et paramètres de celle-ci tcp probe modifié Date système des événements Espace libre dans les tampons d émission de TCP

32 11 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Instrumentation des applications MPI et de TCP Pourquoi instrumenter? Analyse des pertes de performances des applications lors du passage sur la grille Deux couches accessibles TCP et MPI : analyse des communications longue distance au niveau de ces deux couches Nombre, taille et fréquence des communications Schéma de communication Evolution de la fenêtre de congestion de TCP Instant des retransmissions InstrAppli Date système des événements Surcharge des fonctions de l API socket Source et destination des données Fonction appelée et paramètres de celle-ci tcp probe modifié Date système des événements Espace libre dans les tampons d émission de TCP

33 12 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plateforme de tests : Grid 5000 Grid5000 Grille de recherche française qui regroupe 9 sites, interconnectés à 1 ou 10 Gb/s. 10 GbE Links 1 GbE Links Lille Rennes Orsay Nancy Lyon Bordeaux Grenoble Toulouse Sophia Expérience type Réservation de noeuds Déploiement d un environnement Paramétrage des noeuds Lancement de l expérience Récupération et regroupement des résultats

34 13 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Banc d essai 2 sites connectés au WAN à 1 Gb/s 1, 2 ou 8 noeuds par site selon les expériences Grappe du site S 1 Grappe du site S 2 N 1.1 N 2.1 N 1.2 N Gbit/s WAN bdp 1 Gbit/s RTT N 2.2 N Gbit/s 1 Gbit/s N 1.n G 1 N 2.n G 2

35 14 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Analyse des NAS Parallel Benchmark (NPB) Les NAS Parallel Benchmark [Bailey et al. 1994] Les NPB sont des applications représentatives des applications MPI : BT (Block Tridiagonal) CG (Conjugate Gradient) FT (Fast Fourier Transform) IS (Integer sort) LU (Lower-Upper symmetric Gauss-Seidel) MG (MultiGrid) SP (Scalar Pentadiagonal) différentes tailles de problème

36 15 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Analyse de BT à l aide de InstrAppli Grâce à InstrAppli et tcp probe, analyse des communications longue distance des NPB > Taille du write Taille (Octets) Temps (s) Nancy's cluster Mio, 809 msg 4645 Mio, Mio, msg msg 46 Mio, 809 msg45 Mio, 809 msg 4645 Mio, Mio, msg msg 45 Mio, 809 msg 122 Mio, 809 msg Mio, Mio, msg msg 123 Mio, 809 msg123 Mio, 809 msg Mio, Mio, msg msg 123 Mio, 809 msg 123 Mio, 812 msg 123 Mio, msg Mio, 809 msg 123 Mio, msg Mio, 812 msg 123 Mio, 123 Mio, 809 msg 809 msg 123 Mio, 812 msg msg Mio, 809 msg 45 Mio, 809 msg 45 Mio, 45 Mio, msg Mio, 809 msg Mio, Mio, msg msg 45 Mio, 808 msg Bordeaux's cluster

37 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

38 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

39 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

40 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

41 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

42 16 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Classification des NPB Classification des NPB Métrique Qualité Faible Moyenne Grande x > 1s 0.1s < x < 1s x < 0.1s Fréquence des comm. FT, IS BT, SP CG, MG, LU x < 1ko 1ko < x < 200ko 200ko < x Taille des comm. LU BT, SP, CG, MG FT, IS Synchronisme des comm. BT, SP, LU CG, MG FT, IS

43 17 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Plan 1 Contexte 2 Problématique 3 Analyse des communications longue distance des applications MPI 4 Interaction entre TCP et les applications MPI TCP Suppression du démarrage lent sur les applications MPI Impact de la fenêtre de congestion Impact du contrôle de fiabilité 5 MPI5000 : Eclatement des connexions TCP pour les applications MPI 6 Conclusion

44 18 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace TCP TCP (Transport Control Protocol) a été créé pour proposer un transfert fiable et ordonné de données aux applications Internet. 3 mécanismes principaux : Contrôle de fiabilité : retransmission des données en cas de perte ou d erreur Contrôle de flux : prévention de la perte de données si un récepteur est trop lent Contrôle de congestion : partage équitable de la bande passante et utilisation maximale des liens. On distingue deux phases : le démarrage lent (slowtstart) la phase d évitement de congestion Taille de la fen. de congestion perte slowstart perte ou perte idle time perte RTO slowstart Temps

45 19 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Interaction entre MPI et TCP Application Implem. MPI TCP Tampon Utilisateur MPI_Send() write() Tampon Emission WAN / LAN TCP Implem. MPI Tampon Reception Application

46 19 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Interaction entre MPI et TCP Application Tampon Utilisateur Implem. MPI TCP Tampon Emission WAN / LAN TCP Implem. MPI Tampon Reception Application

47 19 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Interaction entre MPI et TCP Application Tampon Utilisateur Implem. MPI TCP Tampon Emission WAN / LAN TCP Implem. MPI Tampon Reception Application

48 19 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Interaction entre MPI et TCP Application Tampon Utilisateur Implem. MPI TCP Tampon Emission WAN / LAN TCP Implem. MPI Application Tampon Reception read() MPI_Recv()

49 20 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Suppression du démarrage lent pour les applications MPI Le démarrage lent permet de déterminer le débit d émission approprié sur un lien. Il intervient à 3 moments : au démarrage d une connexion après une rafale de perte après un temps d inactivité : particulièrement coûteux pour les applications MPI qui communiquent peu souvent. Peut-on supprimer le démarrage lent après une période d inactivité pour les applications MPI?

50 20 Réseau longue distance et application distribuée dans les grilles de calcul : étude et propositions pour une interaction efficace Suppression du démarrage lent pour les applications MPI Le démarrage lent permet de déterminer le débit d émission approprié sur un lien. Il intervient à 3 moments : au démarrage d une connexion après une rafale de perte après un temps d inactivité : particulièrement coûteux pour les applications MPI qui communiquent peu souvent. Peut-on supprimer le démarrage lent après une période d inactivité pour les applications MPI?