Equilibre de charge Equilibre de charge statique Equilibre de charge dynamique Approches centralisées Approches distribuées Approches semi-distribuées Jaillet Info53 - L3 Informatique - 2006 1
Equilibre de charge Faciliter le partage des ressources Faciliter le partage de l'effort de calcul Load balancing Maintenir une répartition équitable des tâches à accomplir Load sharing Maintenir tous les processeurs actifs Critères oix des indicateurs de charge Méthode d'appariement des processeurs Décision centralisée vs distribuée Jaillet M1 Informatique - PPM - 2007/08 2
Programme parallèle Ensemble de tâches, qui communiquent Placer les tâches sur les processeurs disponibles Performance Nécessite une répartition équitable Moment de la décision Équilibre statique Équilibre dynamique à la compilation à l'exécution Jaillet M1 Informatique - PPM - 2007/08 3
Équilibre de charge statique Nécessite de disposer d'info. sur les tâches, AVANT l'ex n Nb de tâches + temps d'exécution Diagrammes de précédence (DAG : Directed Acyclic Graph) t tâches, n proc, sans dépendance => n t poss. [pb NP-complet] Algorithmes exacts Développer toutes les solutions possibles (de répartition) Minimiser la fonction de coût : temps d'exécution de l'appli parallèle Pas d'algo polynomial => OK si pb de petite taille Utilisation d'heuristiques => solution approchée Glouton => rapide ; pb de qualité (ordre de distribution des tâches) Recuit simulé (coûteux, imprévisible), recherche tabou,... Jaillet M1 Informatique - PPM - 2007/08 4
Équilibre de charge dynamique Parce que l'exécution d'une appli est dynamique Questions : "Comment faire pour...?" Réduire au max. les communications? Répartir équitablement l'ensemble du travail entre les proc? Problème Pas de modèle d'exécution unique (un par type de machine) MIMD, SIMD, SPMD Algos MIMD pour machine parallèle Comm. peu coûteuses (réseau d'interconnection performant) Machine considérée comme dédiée à l'application considérée Algos MIMD pour systèmes distribués (réseau de stations)... Jaillet M1 Informatique - PPM - 2007/08 5
Qui est chargé de répartir? Qui est chargé de répartir la charge entre les processeurs? => classification 1. Prise de décision centralisée (généralt) stratégie de type client-serveur / maître-esclave un proc. est chargé de répartir => répartition globale : tous les processeurs sont concernés 2. Prise de décision distribuée À l'initiative de n'importe lequel des processeurs => équilibrage au niveau local ou global 3. Prise de décision semi-distribuée Un proc. responsable de la répartition pour un groupe de procs Jaillet M1 Informatique - PPM - 2007/08 6
Qui est chargé de répartir? Classification statique... Équilibre de charge centralisé client-serveur une liste centralisée une liste / proc. dynamique semi-distribué hiérarchique partitionnement logique distribué serveur initiative source initiative hybride Jaillet M1 Informatique - PPM - 2007/08 7
1. algos centralisés de type client-serveur Largement utilisés Simples à implémenter Efficaces (le plus souvent) Approche 1 : Un processeur unique possède une file d'attente globale (contenant l'ensemble des tâches du système) Le serveur dispose de la file d'attente des tâches Transmet 1 tâche à un proc lorsque celui-ci le demande Les autres proc, clients, traitent les tâches En demandent une à exécuter dès qu'ils sont disponibles Fin = file d'attente vide Jaillet M1 Informatique - PPM - 2007/08 8
1. algos centralisés de type client-serveur Approche 1 : Une file d'attente centralisée => très performant (bon équilibre de charge) Aucune information nécessaire a priori (tps d'ex n, ressources mém.) Sur-coût de communication réduit nbt tâches, n proc => 2* nbt + n-1 messages Tmax = temps de la tâche la plus longue => temps de détection de terminaison par l'ens des proc Tmax => granularité ( temps de découverte de terminaison)... mais granularité fine => coût de comm grand (nbt ) => compromis + éviter qu'un proc. termine avant que le serveur ait fini sa distribution en cours Poss. de granularité dynamique Jaillet rapport t com M1 / Informatique t i pour lisser - PPM - le 2007/08 travail/disponibilité du serveur9
1. algos centralisés de type client-serveur Approche 1 : Une file d'attente centralisée Poss. de granularité dynamique, en modifiant le rapport t com / t i Trop grand => (augmenter la granularité) rend le serveur plus disponible (nb de requêtes ) Nb de requêtes trop faible => affinier la granilarité réduire le temps moyen d'exécution des tâches Attention à l'effet ping-pong? bornes sup et inf du rapport => choix laissé à l'utilisateur NB : Hypothèses Taille des tâches modifiables La taille des tâches influence leur temps d'exécution Jaillet M1 Informatique - PPM - 2007/08 10
1. algos centralisés de type client-serveur Approche 2 : aque proc. dispose d'une file d'attente des tâches à sa charge aque proc. initialise sa file d'attente avec sa liste de tâches Le serveur maintient une file d'attente des proc surchargés Quand un proc. P i devient déchargé, il contacte le serveur => le serveur interroge les processeurs de sa file en choisit un qui puisse partager sa charge : P j en transmet le n à P i => répartition de la charge entre P i et P j Initiative : serveur / P i / P j =>?? Qu'est-ce qu'un proc "surchargé"? Jaillet M1 Informatique - PPM - 2007/08 11
1. algos centralisés de type client-serveur Avantages des approches centralisées : Mise en oeuvre simple Politique de mise à jour des informations simple Réalisée par un seul processeur Bonne efficacité Surcoût faible puisque les clients ne sont pas pénalisés Inconvénients : Serveur goulot d'étrangement lorsque le nb de proc. beaucoup Bcp de clients réclament Serveur : mise à jour des informations disséminées Nb de proc. en attente + nb de tâches en attente / proc. Clients : doivent attendre Jaillet M1 Informatique - PPM - 2007/08 12
2. algorithmes distribués Gestion distribuée de la répartition de la charge aque proc. peut prendre l'initiative d'une phase d'équilibrage 4 catégories : Algos de type source initiative source initiated Algos de type serveur initiative server initiated Algos hybrides Algorithmes à enchères Vocabulaire : Procs source? Procs serveur? (définition d'un système distribué) Ajoutent des tâches dans le système Calculent les tâches : "serveurs de calcul" Jaillet M1 Informatique - PPM - 2007/08 13
2. algorithmes distribués a. algos de type source initiative Gestion de l'équilibre : à la charge des proc. à charge élevée Hypothèses usuelles : Les processeurs sont identiques Les proc. source sont soumis à la même loi d'arrivée des tâches - Stratégie source initiative aléatoire Quand un proc est surchargé, il choisit un proc aléatoirement et lui transmet une tâche Un proc qui reçoit une tâche? retransmet => risque d'instabilité? conserve => se pénalise => retansmission d'1 tâche un nb limité de fois => Aucune information nécessaire sur l'état global du système Jaillet M1 Informatique - PPM - 2007/08 14
2. algorithmes distribués a. algos de type source initiative - Stratégie source initiative à seuil Proc. surchargé : choix aléatoire du proc P i (idem) Transfert si pas de risque de surcharger P i (seuil 1) Sinon, choix d'un autre proc serveur... etc jusqu'à trouver un serveur peu chargé nb de tentatives max (seuil 2) Évite les transferts inutiles de tâches Pas de meilleur choix mais choix améliorant localement Faible niveau d'information nécessaire Jaillet M1 Informatique - PPM - 2007/08 15
2. algorithmes distribués a. algos de type source initiative - Stratégie source initiative du meilleur choix Proc. surchargé : interroge un certain nb de procs aléatoirement => effectue le meilleur choix => lui transfère une tâche s'il n'est pas déjà surchargé (param) Nécessite une grande quantité d'information sur le système COMPARAISON :. aléatoire - et sans besoin d'informations. à seuil ++ et à faible exigence d'information. meileur choix encore mieux mais plus exigeant Jaillet M1 Informatique - PPM - 2007/08 16
2. algorithmes distribués b. algos de type serveur initiative Gestion de l'équilibre : par les proc. à charge faible / oisifs Évite un surcroît de travail pour les procs déjà surchargés Différents types de stratégie : Solutions globales et locales au problème d'équilibre de charge Exemple (solution globale) : méthode du gradient - hyp. de voisinage entre certains processeurs => graphe (support des comm ns ) - chaque proc mesure sa proximité du proc oisif le plus proche incrémental : O si oisif ; sinon, 1 + min voisins => itérer - si chargé, transfert au voisin de plus faible proximité => propage - seuils : "oisif", "chargé" => évite les rééquilibrages trop violents - risque d'instabilité si peu de proc oisifs (les chargés le bombardent) => signaler le transfert : le proc choisi peut refuser Jaillet - coût de communication M1 important Informatique (messages - PPM - 2007/08 de contrôle!) 17
2. algorithmes distribués c. source initiative vs serveur initiative Avantage commun (solutions distribuées) Évite les goulots d'étranglement Inconvénient : besoin de + de comm ns pour un niveau d'info équivalent Les stratégies serveurs initiative simples ont de bons résultats Pas de meilleure stratégies dans tous les cas arge globale très élevée => serveur initiative arge globale faible ou modérée => source initiative Machine dédiée à une appli? Serveur initiative au début (grand nb de tâches, de proc chargés) Source initiative à la fin (peu de proc surchargés, qui sauront trouver un appariement) => approches hybrides Jaillet M1 Informatique - PPM - 2007/08 18
2. algorithmes distribués d. algos de type enchère Mise en place d'une économie de marché : en cas de besoin, Un client fait un appel d'offre aque prestataire répond Le client choisit le mieux offrant (moins coûteux) Les agents : Une tâche peut acheter une ressource (temps CPU, mémoire) Un processeur peut s'offrir une tâche à exécuter Une tâche dispose d'une capacité financière et doit payer pour utiliser un lien de comm. (évite les fluctuations de charge) Les procs envoient de la publicité présentant leurs services et prix Bons résultats, mais coût des comm Risque de saturation de l'interconnect par les publicités Jaillet M1 Informatique - PPM - 2007/08 19
3. algorithmes semidistribués Distribuées Extensibles (informations locales) ; placements moins pertinents Centralisées Efficaces, faciles à implémenter si moins de procs Peu extensibles Algos hiérarchiques : procs organisés comme un arbre Le père d'un sous-arbre dispose de l'information de ses fils (et la sienne propre) prend l'initiative des rééquilibrages pour le sous-arbre Algos à partitionnement logique Réduit le coût d'une phase d'équilibre de charge (direct : + large) Jaillet M1 Informatique - PPM - 2007/08 20
Qualités d'une stratégie Différents critères Stable : ssi évite le déplacement inutile d'une tâche => nécessite plus d'information Intrusion minimale : ssi ne perturbe pas trop l'exécution Nb de messages (trafic, bande passante) / ressources CPU Extensibilité : OK pour les stratégies distribuées Efficacité : ssi bon comportement lorsque le nb de procs résoudre plus vite le porblème posé Accélération : évolution du temps en fonction du nb de procs Efficacité = accélération / nbp Jaillet M1 Informatique - PPM - 2007/08 21