Tomographie depuis plusieurs sources vers de multiples destinations dans les réseaux de grilles informatiques hautes performances

Transcription

1 Université de la Méditerranée Aix-Marseille II Faculté des Sciences de Luminy 163, Avenue de Luminy Marseille cedex 9 THÈSE DE DOCTORAT en Informatique Tomographie depuis plusieurs sources vers de multiples destinations dans les réseaux de grilles informatiques hautes performances présentée par : Laurent Bobelin en vue d'obtenir le grade de docteur de l'université de la Méditerranée soutenue le 12 juin 2008 devant le jury composé de : Emmanuel Jeannot Ibrahima Sakho Frédéric Desprez Remi Morin Traian Muntean François Touchard Chargé de Recherche INRIA Grand Est, rapporteur Professeur à l'université de Metz, rapporteur Directeur de Recherche INRIA Rhône-Alpes, président du jury Professeur à l'université de la Méditerranée, examinateur Professeur à l'université de la Méditerranée, directeur de thèse Professeur à l'université de la Méditerranée, co-directeur de thèse Année 2008 N o attribué par la bibliothèque

2 N'importe quelle sardine peut arriver à avaler une baleine... A condition, bien sûr, de savoir comment susamment écarter les mâchoires. Dicton indonésien adapté aux poissons et mammifères de nos contrées.

3 Remerciements Voici donc venu le temps des remerciements (ami lecteur encore thésard, sache que ce moment vient après la soutenance, donc après la bataille nale et l'explosion de l'etoile Noire, et que c'est donc le temps de faire le bilan de ces (au moins) 3 années de ta vie). Donc, je remercie en premier lieu Traian Muntean, mon directeur de thèse, pour la liberté totale (voire absolue) qu'il m'a laissé tout au long de cette thèse. Merci pour cela, Traian. Un autre élément essentiel dans mes orientations et choix scientiques a été la présence de la physique des particules, incarné par mon co-directeur de thèse, François Touchard. Malgré son prol non-informaticien, son aide a été plus que précieuse. D'une part, pour son aide sur toutes les questions logistiques liées à la validation des méthodes et techniques décrites dans le document ci-après. D'autre part, pour avoir su clairement exprimer (avec l'aide tout aussi précieuse d'andreï Tsaregorotsev) les attentes de la part de sa communauté vis-à-vis des résultats que devaient produire mes recherches. Leur constante exigeance de performances et d'applicabilité de mes recherches ont été le l conducteur de ma thèse, et en terme d'écheance, m'ont permis de structurer mon travail. Je remercie de même les membres de mon jury : Emmanuel Jeannot, pour avoir accepté d'être un des rapporteurs de ma thèse, malgré l'austérité de celle-ci (oui, ami lecteur, autant te prévenir : ce document est quand même sacrément aride, mais accroche-toi, les résultats qu'il contient sont quand même intéressants), Pour les mêmes raisons, merci à Ibrahima Sakho d'avoir sacrié un peu de son temps pour relire le présent document, et par ces commentaires, d'avoir apporté au document nal la rigueur syntaxique mathématique qu'il eusse dû avoir dès le début, Fréderic Desprez, pour m'avoir fait l'honneur d'être le président du jury lors de ma soutenance, mais aussi (et surtout) pour m'avoir donné l'occasion de lui montrer que j'étais capable de faire autre chose que citer Heidegger, Junger et consors, et de m'interroger sur la signication de la recherche dans un document scientique, Remi Morin, pour avoir accepté de faire partie de mon jury et d'avoir porté sur mes travaux un regard neuf. Merci aussi à deux personnes sans qui ont apporté scientiquement quelque chose à cette thèse : Léon Mugwaneza et Easter Selvan Suviseshamuthu. Pour le premier (donc toi, Léon) merci pour ton aide précieuse et ta relecture qui m'ont permis de comprendre ce que dev(r)ait être la rédaction scientique. Pour le second (so, for you Easter), thank you for your precious help about understanding, managing and implementing negentropy approximation. Your experience in teaching spectral analysis has been really usefull to help someone like me understanding and using tools like this one.

4 Merci aussi à deux personnes sans qui cette thèse n'aurait jamais pu être : François Etienne, qui m'a accordé sa conance et a accepté que je fasse cette thèse dans le cadre d'egee, ainsi que Marc Drabik, qui m'a aussi accordé sa conance et m'a permis de rejoindre l'équipe grille de CSSI (oui ami lecteur, malgré son aspect recte, ma thèse n'a pas été exempte de péripéties industrielles). Merci encore à ma moman, pour ses relectures de ma thèse qui ont garanti une bonne tenue orthographique et grammaticale au présent document (et de ne pas m'avoir renié malgré les nombreuses fautes du document initial). Merci de même à mon popa pour ces conseils précieux sur la façon de mieux présenter mon travail oralement. Nous voici donc venu aux remerciements qui concernent plus ma vie personnelle que les diérents résultats scientiques présents dans mon document. Donc, encore une fois, merci popa, merci moman, et bien sûr aussi merci ma soeurette, et le reste de ma famille : votre soutien m'a permis de continuer sur le chemin pleins d'embûches qui m'a conduit à ma soutenance. Merci aussi (et bizarrement peut être même plus), à ceux qui n'ont pas cru en moi : il m'ont donné l'énergie de leur prouver que j'étais scientiquement capable. Viennent les remerciements qui s'adressent aux gens dont les apports au quotidien permettent de survivre dans ce monde de brute. On commencera donc par les collègues (de bureau) et néanmoins amis qui m'ont aidé à ne pas prendre un café tout seul. Côté ESIL, Victor, Olivier et Hervé ont été de dèles collègues de bureau (et même plus). De même, le René et la Fif (qui devraient prendre soin du p'tit Audren plutôt que de lire le présent document), ainsi que le Ben (toi, prend soin de Monica au lieu de lire ces lignes), ainsi que tous les autres (Jeremy, merci pour tes cours de stats de première année :) ), ont été du côté CPPM de précieux collègues de café. Big up enn, comme on dit chez les djeuns, aux inclassables camarades de café Vince et Cristina :) Merci aussi à Alaa et Zaid pour leur hospitalité, leur amitié et leur aide pour l'organisation du pot qui a suivi ma soutenance, dont je ne saurai jamais (j'en ai bien peur) leur rendre la pareille. Merci aussi au (maintenant) Dr. Agung (oui avant c'était juste Agung, ami lecteur) pour son amitié, ainsi que pour m'avoir appris le sens de "Iwak sepat ngemplok gapuro... Menawi wonten lepat, ojo ngemplok gapuro". Puisqu'on en est aux horizons lointains, merci à vous tous : Victor (j'ai encore une copie de tes fameux dessins animés russes qu'il faudrait que je regarde (sous Tranxene)), Agung, Alaa, Zaid, Josip, Salma, Easter, Khoi, Vanh, Xiao Min, Bouchra et tous les autres, qui m'ont permis d'entrevoir leur culture, leur façon d'aborder la vie, et par extension, d'appréhender n'importe quel problème de manière bien plus universelle que d'un point de vue strictement hexagonal. Le polyculturalisme, tout comme l'interdisciplinarité, ore une possibilité d'acquérir une ouverture d'esprit formidable, ce que je conseille à tous. Merci encore à vous tous pour votre simple existence, et d'y avoir laissé une place pour ma présence. iii

5 On en vient enn au remerciements exotiques. Merci à Robert Smith, pour Mint car (The Cure, Wild Mood Swings, (... ) ), à la brasserie Heineken (enn, c'est plutôt leurs actionnaires qui devraient me remercier d'avoir fait une thèse), à Stan Marsh, Kenny Mc Kormick, Kyle Broslowski et Eric Cartman, aux publicistes qui se sont chargés de la campagne télévisuelle de l'emmental Coeur de Meule de Président (T M) (oui, ami lecteur, sans eux, comment aurait pu exister la méthode du noyau?)... la liste pourrait encore être longue. Merci aux amis que j'ai délaissé pendant trois années et qui me parlent encore ; merci enn à tous ceux que j'ai pu oublier.... Et dire que je voulais faire court sur les remerciements. iv

6 Table des matières Table des matières Table des gures i x I Problématique et état de l'art 1 1. Introduction Problématique Contributions Plan de la thèse Du gain apporté par la connaissance des performances du réseau pour les grilles de calcul Les grilles de calcul Les systèmes distribués de type grille Les plates-formes de grilles institutionnelles les plates-formes de grille nationales les plates-formes de grille internationales Les intergiciels de grilles dédiés aux grilles institutionnelles Le projet EGEE Vue d'ensemble Le File Transfer Service Protocoles Quelques mots sur TCP Améliorations de TCP Modication de la taille maximale de segment TCP parallèle Augmentation du facteur C Mise en oeuvre d'un RT T virtuel Modication autour de loss Synthèse Plate-forme i

7 Table des matières Contexte d'exécution Contexte logiciel Etat de l'art : découverte automatique de topologie des performances d'un réseau Reconstruction de topologies Problèmes inverses Vocabulaire et dénitions Sous-chemin commun maximum Métrique Taxonomie Reconstruction de topologies étiquetées sur les noeuds Identication des noeuds Reconstruction de topologies étiquetées sur les arcs Reconstruction de topologies par disjonction de chemins Reconstruction de topologies par conjonction de chemins Reconstruction de topologies par identication de sous-chemin communs Intégration temporelle des topologies Reconstruction de topologies non étiquetées Reconstruction de topologies par interférences entre chemins Reconstruction de topologies par disjonction de chemins Découverte automatique des performances du réseau Techniques passives Techniques actives Dispersion de paquets Techniques de trains de paquets Bulk Transfer Capacity Techniques mixtes Intégration temporelle des mesures Synthèse Existant Besoins II Tomographie réseau multiples sources, multiples destinations : modélisation, reconstruction et récupération du jeu de données initial Modélisation des performances par une topologie du réseau 49 ii

8 Table des matières 4.1 Hypothèses et pré-requis sur les réseaux Propriétés des métriques Constance Monotonicité Monotonicité étendue Bornée Borne induite par un lien unique Séparabilité Séparabilité étendue Symétrie k-détectabilité Propriétés du routage et de la topologie réseau Consistance, stabilité et unicité Symétrie Vue d'ensemble des modèles existants Topologie physique et logique Topologie physique Topologie logique Topologies issues d'identication d'équipements le long de chemins Graphe d'interférence Dénition Problématique Topologie réseau induite par une métrique depuis une source vers plusieurs destinations (MINT) Dénition Problématique Hypothèses de dénition Topologie par recoupement d'arborescences Recoupement de MINT de même racine Recoupement de MINT de racines diérentes Recoupement de MINT de racines diérentes dans le cas symétrique Nouveaux modèles pour le cas multiples sources, multiples destinations Topologie réseau induite par une métrique depuis plusieurs sources vers plusieurs destinations (MSMDMINT) Dénition par construction Problématique Système partiellement ordonné induit par une métrique (MINP) iii

9 Table des matières Dénition Problématique k-minp MINP Hypothèses de dénition Relation avec les modèles existants Synthèse Modèles existants Nouveaux modèles Algorithmes de reconstruction pour la tomographie réseau Propriétés des mesures k-mesure et k-test Temps d'exécution Exclusion mutuelle Relations topologiques et reconstruction Algorithmes pour les MINT Hypothèse de reconstruction Reconstructions basés sur les pré-ordres Algorithme de reconstruction Compléxité Reconstructions basées sur la vraisemblance Algorithme de reconstruction Complexité Reconstruction par recoupement d'arborescences MINT pour le cas symétrique Hypothèses de reconstruction Algorithme de reconstruction Complexité Algorithme pour les graphes d'interférence Hypothèses de reconstruction Algorithme de reconstruction Complexité Etapes de calcul Nombre de tests Algorithmes de reconstruction pour les MINP Hypothèses de reconstruction Propriétés d'un MINP Couverture unique iv

10 Table des matières Propriété de regroupement Propriété de regroupement pour les métriques bornées Un algorithme de reconstruction pour les k-minp pour des métriques bornées Algorithme de reconstruction Exemple Complexité Un algorithme de reconstruction pour les 1-MINP pour des métriques bornées Algorithme de reconstruction Exemple Complexité L'algorithme LTC Algorithme de reconstruction Exemple Complexité L'algorithme LTC parallèle Algorithme de reconstruction Exemple Complexité Un algorithme de reconstruction pour les 1-MINP en relaxant l'hypothèse de borne induite par un lien unique Relaxation de l'hypothèse de borne induite par un lien unique Algorithme de reconstruction Exemple Complexité Vers des algorithmes hybrides pour la reconstruction de MINP Algorithmes hybrides utilisant des données complètes Données d'entrée Quelques propriétés des 1-MINP bornés Algorithme de reconstruction de 1-MINP borné Complexité Algorithmes hybrides utilisant des données partielles Données d'entrée Algorithmes hybrides pour la reconstruction de 1-MINP pour une métrique bornée Vers une utilisation réelle des MINP Synthèse v

11 Table des matières 6. Techniques de mesures pour les sous-chemins communs étroits Techniques existantes Méthode par paires de paquets imbriquées Description Exploitation des valeurs obtenues Performances Limitations Méthode de la "cartouche" Description Exploitation des valeurs obtenues Performances Limitations Méthode bayesienne Description Exploitation des valeurs obtenues Performances Limitations Méthode par agglomération de tests unicasts Description Exploitation des valeurs obtenues Performances Limitations Méthode par mesures d'interférences Description Exploitation des valeurs obtenues Performances Limitations Autres méthodes de mesures Techniques adaptées à la reconstruction de MINP partiels Principe général Technique utilisant le régime permanent de ux TCP Description Exploitation des valeurs obtenues Performances Limitations Technique par envoi de bursts UDP périodiques Description Exploitation des valeurs obtenues vi

12 Table des matières Performances Limitations Technique par saturation de lien par bursts UDP Description Exploitation des valeurs obtenues Performances Limitations Technique basée sur l'approximation de la néguentropie Indépendance et néguentropie Description Exploitation des valeurs obtenues Performances Limitations Technique parallèle basée sur l'approximation de la néguentropie Description Exploitation des valeurs obtenues Performances Limitations Synthèse III Implémentation et validation M.I.N.T.C.a.r : un outil pour la découverte automatique de M.I.N.P Présentation générale de l'outil Architecture Vue logique Vue déploiement Vue implémentale Cas d'utilisation Vue architecture Pré-requis pour l'installation Technologies mises en oeuvre UDPMon Galicia Autres Utilisation du format XML Quelques mots sur l'interface Limitations actuelles vii

13 Table des matières 7.2 Mise en oeuvre des algorithmes et mesures développées Mesures par envois de bursts périodiques Mesures par envois de burts UDP saturants Mesures basées sur la néguentropie mesure 1-test k-mesure parallèle Algorithmique Mise en oeuvre Limitations Autres caractéristiques de l'outil Tolérance aux pannes Stockage des MINP Evolutivité Synthèse Validation Méthodologie de validation Validation des algorithmes Validation des techniques de mesures Outil de validation Simulateurs NS SimGrid Plates-formes réelles Validation des algorithmes de reconstruction Simulation de haut niveau Tests sur plate-forme expérimentale Tests réels Validation des méthodes de mesures Simulation Tests sur plate-forme expérimentale Tests réels Taux d'erreur Synthèse Conclusion Apport des travaux Axes de travaux futurs Modélisation viii

14 Table des matières Algorithmique de reconstruction Techniques de mesures Optimisation IV Annexes 173 Description d'une plate-forme 174 Description d'un MINP 176 Liste des options d'udpmon modié 180 Glossaire 182 Acronymes 188 Notations 191 Bibliographie 197 ix

15 Table des figures 1.1 Vue de la topologie physique de GEANT et de l'organisation en hiérarchie de Tier d'egee Organisation par hiérarchie de tier plongée dans la topologie physique Les principaux services de glite vue d'ensemble du File Transfer Service Reconstruction par identication de noeuds Reconstruction par disjonction Reconstruction par conjonction Exemple de topologie simple Liens entre la topologie réelle du réseau et la topologie physique Liens entre les topologies physiques et logiques Eet du paramètre de sensibilité sur un MINT Non transitivité de l'identication Liens entre une topologie logique et une topologie induite par une métrique Quelques topologies simples et leurs représentations en tant que Metric Induced Network Poset (MINP) Exemples d'intersections Déroulement de l'algorithme sur un exemple simple Déroulement de l'algorithme pour les 1-MINP bornés Déroulement de l'algortime LTC Déroulement de l'agorithme LTCP Choix d'un représentant Mesure par injection de tests sandwich Mesure par la technique de la cartouche Mesure par injection de stripes Collision de trains sur un goulot d'étranglement Méthode du noyau Dépendance des distributions Bursts injectés depuis une source Vue d'ensemble de l'outil Déploiement de l'outil Vue implémentale x

16 TABLE DES FIGURES 7.4 Vue d'un cas d'utilisation Capture d'un écran de l'interface Vue d'ensemble de ns Vue d'ensemble de simgrid Déploiement réseau Néguentropie pour les diérents sous-chemins communs xi

17 Première partie PROBLÉMATIQUE ET ÉTAT DE L'ART

18 Introduction 1.1 Problématique Les liens entre les performances d'une application, ses communications et le placement de ses données sont connus depuis de nombreuses années dans le domaine des systèmes distribués. L'émergence des architectures distribuées de type grille ou grappe de grappes remet en question la modélisation, la gestion et les paradigmes de programmation d'une application. En eet, l'application est confrontée à une topologie réseau qui n'est plus homogène, contrairement aux environnements de type cluster ou autres machines parallèles ; de plus, les ressources réseau disponibles étant partagées entre des acteurs provenant d'organisations diverses (locales ou appartenant à un groupe de travail de la grille), leur taux d'utilisation devient plus dicilement prédictible, rendant plus complexe l'optimisation des communications lors de l'exécution d'une application. Au-delà du simple aspect architectural de la plate-forme, les caractéristiques mêmes des middleware pour les grilles développés dièrent suivant les applications auxquelles elles sont dédiées. Ainsi une grille ayant pour but d'orir des services interopérables entre des types d'acteurs et d'applications très diérents ore une architecture logicielle basée sur des services web étendus, ou grid services [1], [71]. Si le surcoût (CPU (CPU) et transfert) dû à l'utilisation des technologies utilisées par les web services (SOAP (SOAP) et XML (XML)) peut être maîtrisé, il reste tout de même non négligeable. De ce fait, les grilles dédiées au calcul scientique ont tendance à passer par des interfaces propriétaires, pour permettre une optimisation des performances. De même, une grille dédiée au calcul intensif pour des applications de type branch-and-bound [42] orira des services pauvres en terme de stockage de données et malgré un réseau orant une faible bande passante, obtiendra de bonnes performances d'accélération pour ces applications. La nature hétéroclite des architectures logicielles et matérielles masquées derrière le terme de grille incite naturellement à établir une taxonomie des diérents types de grilles découlant des applications qui ont conduit à leur élaboration telle que celle donnée dans [91]. Pour n'en citer que quelques types, les grilles peuvent être vues comme un ensemble de services répartis interopérables, une mutualisation de ressources (disques, CPU), ou une plate-forme d'exécution de Challenges calculatoires, fortement dépendants ou non de 2

19 Introduction données initiales. Ces applications génèrent par leurs exécutions des ux d'informations très divers, allant de simples messages pour les algorithmes de type branch-and-bound, à des ux importants pour les applications multimédia multicast, entraînant ou non la mise en place de backbone performants. Dans le cadre du projet EGEE (EGEE), les applications (expériences) sont caractérisées par des ux d'informations importants, car elles traitent des ux produits qui peuvent être de l'ordre du Gbit/s. Ces ux sont de plus non-uniformément répartis dans le temps (les déplacements de données se font à l'initialisation de l'application) et dans l'espace (toutes les données proviennent du même lieu, le LHC (LHC)). Ce type d'application implique aussi le stockage, la répartition et la réplication des données étudiées. Les forts besoins en débit d'un tel type d'application a donné lieu à la mise en place d'une structure physique particulière. Celle-ci est articulée autour d'un backbone réseau capable de répondre à des besoins en bande passante importants pour réduire les temps de transfert, reliant des sites qui peuvent être plus faiblement couplés. De plus, le volume de calcul nécessaire à l'analyse des ux de données produits permet de considérer que les ressources de calcul seront saturées par l'exécution des applications. Les grilles actuelles ont souvent pour but d'interconnecter des milliers de ressources de calcul et de stockage de données réparties mondialement, en utilisant soit l'internet, soit des réseaux très haut débit tel que GEANT [15] en Europe ou celui utilisé par Teragrid [37] aux USA. Ces réseaux interconnectent par des liens haut débit diérents centres de calcul répartis géographiquement. Ces centres restent eux-mêmes connectés à leurs réseaux nationaux. Un exemple de topologie de ce type de réseau est donné à la gure 1.1. Tier 0 UK Suede Rep. Tcheque Pologne Tier 1 Tier 1 Hollande Tier 2 Belgique Allemagne2 Tier 1 Allemagne1 Tier 1 France Autriche Tier 2 Tier 2 Tier 2 Tier 2 Tier 2 Suisse Tier 2 Tier 2 Italie Tier 2 Figure 1.1. Vue de la topologie physique de GEANT et de l'organisation en hiérarchie de Tier d'egee Sur de telles plates-formes, les applications déploient habituellement une architecture logicielle dédiée aux transferts de données massifs. Par exemple le projet EGEE [12] utilise une notion de hiérarchie d'hôtes appelés tiers illustrée par la gure 1.1. Dans cette 3

20 Introduction hiérarchie, chaque tier est un centre de stockage de données situé physiquement dans les locaux d'une institution ou d'un laboratoire membre du projet. Le niveau de chaque tier correspond à l'importance de la contribution à la plate-forme fournie par le membre du projet auquel il appartient. Le tier-0 communique avec l'ensemble des tier-1, chaque tier-1 communique avec les autres tier-1 mais aussi avec un sous-ensemble de tier-2, chaque tier-2 communique avec certains tier-2 et un sous-ensemble de tier-3. Le tier-0 est situé au plus proche du siège de l'expérience (dans le cadre d'egee, au CERN). Les tier-1 sont des centres nationaux ou institutionnels, les tier-2 sont situés dans des centres de calculs importants, les tier-3 dans des laboratoires. Dans une organisation de ce type, le paradigme de communication n'est plus un simple client/serveur : chaque hôte est soit un serveur, soit un client, soit les deux, et chaque serveur communique seulement avec un sous-ensemble des clients. Cette hiérarchie logique est plongée dans le réseau physique existant, les communications entre tiers circulant suivant le routage en vigueur sur celui-ci, tel qu'illustré par la gure 1.2. Comme on peut l'observer, ce plongement peut faire apparaître que des liens logiquement disjoints utilisent le même lien physique, comme par exemple le lien entre les tier-1 italiens et francais, et celui entre le tier-0 et le tier français. Dans la hiérarchie logique, ces deux liens sont disjoints, alors qu'ils possèdent un sous-chemin physique commun. UK SE PL NL CZ Tier 2 BE DE2 DE1 Tier 1 FR AT CH Tier 2 Tier 2 Tier 0 IT Tier 2 Tier 2 Tier 2 Tier 2 Tier 2 Tier 2 Figure 1.2. Organisation par hiérarchie de tier plongée dans la topologie physique Dans le but d'optimiser les communications entre ces diérents tiers, il est donc nécessaire de connaître à la fois la capacité des liens physiques les reliant, mais aussi la topologie 4