3A-IIC - Parallélisme & Grid GRID : Prémisses (des applications distribuées à la grille)

Transcription

1 3A-IIC - Parallélisme & Grid GRID : Prémisses (des applications distribuées à la grille) Stéphane Vialle Stephane.Vialle@supelec.fr GRID : Prémisses Projet CASA Projet Synthetic Force Conclusions Distribution de gros calculs sur plusieurs supercalculateurs à travers un réseau Gigabit ( ) Deux objectifs de recherche : Impact des réseaux longue distance et haut débit sur le calcul intensif distribué? Algorithmes et implantations de calcul intensif distribué sur ces réseaux? 1

2 LAN à 800 Mb/s: - réseau HIPPI (High-Performance Parallel Interface) - Switches HIPPI WAN à Gb/s: réseau SONET (Synchronous Optical Network) Réseaux rapides et longue distance déployés : 4-nodes Km Interface LAN-WAN: interface HIPPI-SONET Difficultés rencontrées avec HIPPI : HIPPI Framing Protocol : messages HIPPI natifs - 400Mb/s avec des messages HIPPI natifs Efficace mais développements peu comfortables EXPRESS Protocol : messages de plus haut niveau - EXPRESS implanté sur HIPPI (LAN) ou sur HIPPI+TCP/IP (WAN) Performances dépendentes des tailles relatives des messages EXPRESS et des buffers HIPPI et TCP/IP! Dégradation des performances avec Express+TCP/IP Haut débit sur WAN possible, mais - besoin d utiliser des mécanismes natifs de bas-niveau - ou de faire des réglages fins. Simulation chimique : Code en 3 parties de natures différentes : LHSF (Local Hyperspherical Surface Fonction calculation) Adaptée au calcul vectoriel (Cray YMP) LOG-D (Logarithmic Derivation propagation) Adapté au calcul super-scalaire (Intel-DELTA) ASY (Asymptotic analysis) Partie sans calcul-intensif 2

3 Simulation chimique : Algorithmique distribuée Pipelining entre 2 machines distantes : LHSF Cray YMP réseau LOG-D Intel DELTA Equilibrage des temps d execution : Utiliser un nombre adapté de processeurs de la machine super-scalaire Diminution de l impact du réseau longue distance : Recouvrement des calculs et des communications Pipeline en 3 étages P=Popt t Simulation chimique : Prévision de performances T LHSF sur Cray-YMP = 2.4 minutes (pas de réglage possible) besoin d avoir T LOG-D = 2.4 minutes sur Intel-DELTA or l Intel-DELTA avec 64 processeurs : T LOG-D < 2.4 minutes La machine super-scalaire est assez rapide et Popt < 64 La 1ère partie (LHSF) génère 400 Mo de résultats à chaque appel il faut envoyer 400 Mo à la 2ième partie (LOG-D) en moins de 2.4 minutes pour ne pas retarder les calculs il faut une Bw data > 2.8 Mo/s or Bw(San Diego, Caltech) = 4.8 MB/s, et Latence = 3.2 ms WAN assez rapide pour du calcul distribué intensif sur 200km Simulation chimique : Performances expérimentales Temps de référence : exécution complète sur Cray Y-MP Speedup obtenu : 3.4 Recouvrement des calculs et des communications à 98% Observations : diminution du recouvrement et des performances quand Bw data < 2.8 MB/s besoin de QoS : garantir Bw > BW min 3

4 Calcul de la température à la surface de l océan : 2 types de calculs Code en 3 parties de 2 types : 1 : circulation atmosphérique OGCM : circulation océanique 2 : circulation atmosphérique Code vectoriel Code super-scalaire Code vectoriel Les 2 codes vectoriels peuvent être exécutés en parallèle sur un même Cray-C90 (multiprocesseurs). On fragmente les calculs pour les pipeliner entre deux machines (vectorielle et super-scalaire) avec recouvrement des calculs et des communications. Calcul de la température à la surface de l océan : mise en oeuvre UCLA physique dynamique physique dynamique vector Cray C-90 super-scalar Intel-Paragon (144 PEs) Caltech OGCM OGCM Transfert de données à chaque étape : 1 OGCM : 640Ko/étape OGCM 2 : 128Ko/étape Calcul de la température à la surface de l océan : performances Temps de référence : exécution complète sur Cray C-90 Speedup = 1.53 Communications par TCP/IP trop lentes. Parallélisation et recouvrement calculs-communications par décomposition fine et pipelining : Fonctionne, mais crée de nombreuses petites tâches : sous-optimal si on découpe trop finement! 4

5 GRID : Prémisses ProjetCASA Projet Synthetic Force Conclusions «Synthetic Force»: Distributed Interactive Simulation of war. Kind of distributed Multi-Agent system ( ). Military american project : military people training Simulate planetary military operations, with details about vehicules and soldiers Objective: Size Up ( 100) n entities n vehicules Lessons of Gulf-War : Operators were not adequately prepared Impossible to train in some operation theatres (political pb!) Need for larger and more realistic simulations. Improvement of military and proprietary systems : Systems for: specific real operation control & specific simulations Modular Control Equipment of Air Force First improvements: - communication simulations & scheduling mechanisms - interconnection of different simulation modules, 5

6 Results of first improvements: Simulations of 2000 entities Simulation of operation theatre: ex: it evolves after bombing! Realistic scheduling of operations CPU consuming: 2000 entities 28 Pentium Difficult interconnections Difficult module integration A More distributed approach is needed to support size up SF distributed architecture: Router nodes Standard and specific simulation nodes Data server nodes SF distributed algorithmic: Domain partitioning: one node: an operation theatre part & its local entities Limitation of influence radius: local computations Group of nodes with one router per group: filters inappropriate data (out of influence radius) Result of large distributed approach: March 16, 1998: entities simulation! (Size-up) Heterogeneous distributed architecture Application with various functionalities Very complex configuration and tuning 6

7 GRID : Prémisses ProjetCASA Projet Synthetic Force Conclusions Bilan des expériences La distribution de calculs intensifs à travers des WAN rapides est possible! Elle permet d accéder à des ressources distantes de natures différentes, et d utiliser les ressources les plus adaptées à chaque calcul. Une démarche algorithmique efficace est basée sur le découpage des calculs en sous-étapes, leur pipelining, et le recouvrement des calculs et des communications. Cette démarche de calcul est appelée le meta-computing. Résultats : speedup et size-up Problèmes : complexe à mettre en oeuvre! (bcp de réglages) Besoin d un middleware spécifique middleware de grille GRID : Prémisses FIN 7