1 / 23 Optimisation for Cloud Computing and Big Data Olivier Beaumont, Lionel Eyraud-Dubois
2 / 23 Aujourd hui Problèmes de fiabilité on va oublier la dynamicité Placement de VMs en programmation par contraintes [ICDCS 2011] Très général Avec contraintes de fiabilité en plus Placement de services constitués de plusieurs VMs Avec fiabilité, non découpable [NOMS 2010] Sans fiabilité, découpable, réaction dynamique à des modifications [WEA 2005, WWW 2007] Avec fiabilité, découpable [HIPC 2014]
3 / 23 Problème général de placement de VMs [ICDCS 2011] Formulation du problème Pour chaque ressource k (CPU, mémoire, réseau,... ), VM v a une occupation sv k PM h a une capacité Ch k Contraintes d indisponibilité I d une VM sur une PM Contraintes de séparation S entre deux VMs v et v Programmation par contraintes Variables p v pour chaque VM v, qui indique sur quel noeud elle est placée Contraintes : j, k, i tq p v=j sk i Cj k (v, h) I, p v h (v, v ) S, p v p v
4 / 23 Fiabilité: placement de VMs Contrainte de k-résilience pour une VM: Tant qu il n y a pas plus que k pannes de machines, la VM peut toujours s exécuter. k peut être différent d une VM à l autre: k v Objectif: pouvoir trouver un emplacement de rechange pour chaque VM présente sur un noeud en panne Comment modifier la formulation précédente pour assurer la résilience?
5 / 23 Fonctions d évacuation Fournir une fonction evac() en plus du placement p v Si le noeud f tombe en panne, nouveau placement: p v = evac(v) si p v = f et si k v 1 p v = p i sinon Le nouveau placement doit être valide, et il faut une nouvelle fonction evac() pour la prochaine panne Pour chaque séquence de pannes (f 1, f 2,..., f u ), on a une séquence de placements P 0,P 1,...,P u valides et de fonctions evac 0 (), evac() 1,..., evac() u
6 / 23 VMs fantômes Idée: placer k v répliques fantômes de la VM v (v 1, v 2,...) Fonctions d évacuations: Pour la i-ème panne, on utilise la réplique numéro i (evac i (v) = p v i ) Et si ce noeud est déjà en panne? Séquence de pannes (f 1, f 2,..., f i ) evac i (v) p v i Tant que evac i (v) = f j, evac i (v) p v j Si les fantômes sont séparés, cette procédure termine Preuve?
7 / 23 Contraintes de faisabilité Séparer les fantômes: v, i < j, p v i p v j Aucun fantôme sur une PM interdite: (v, h) I, i, p v i h Séparation: (u, v) S, p u 0 p v 0 i j, p u i p v j Preuve que ces contraintes garantissent que u et v ne sont jamais ensemble?
8 / 23 Contrainte de capacité Considérons un noeud h, et une VM v tq p v i = h. Si le noeud n tombe en panne en position i, et si n = p v j pour j i, alors v peut être évacuée sur h. Si j = 0, évacuation directe Si j < i, évacuation vers n à la panne j, puis vers h Si j > i, essai d évacuation sur n à la j-ème panne On note E(n, i, h) = {v tq p v i = h et n = p v j, j i} Il suffit d avoir u E(n,i,h) sk i disponible de la ressource k pour garantir assez de capacité en cas de panne du noeud n en position i. Pour la i-ème panne, il suffit d avoir max n h u E(n,i,h) sk i Au total, condition suffisante: k, p v=h sk v + i max n h u E(n,i,h) sk i Ch k
9 / 23 Résultats Pour 16 noeuds et 64 VMs, résolu en 20 secondes Pour 32 noeuds et 128 VMs, résolu en 300 secondes Sur une grosse plate-forme: partitionner en sous-problèmes
10 / 23 Placement de services [Machida 2010] Commençons par un modèle simple Chaque serveur peut contenir p machines virtuelles Chaque service i nécessite c i machines virtuelles On veut un placement qui supporte k pannes Même après k pannes, il reste c i VMs pour le service i Pour cela on alloue plus de machines virtuelles que nécessaire
11 / 23 Borne inférieure Étant donnés (c 1,..., c n ), k et p, combien de PMs sont nécessaires? Après k pannes, il reste (m k)p emplacements. Au total, il faut que tous les services puissent tourner i c i (m k)p m 1 p i c i + k
12 / 23 Première approche, classique On donne c i + k VMs à chaque service On s assure que chacune de ces VMs s exécutent sur des serveurs différents Combien de serveurs sont nécessaires? m max i (c i + k) mp i (c i + k) m 1 = max(max i c i + k, 1 p ( i c i + kn) ) Allocation: On considère les pm 1 emplacements, d abord les premiers emplacements de chaque serveur, puis les seconds, etc. On alloue les VMs d un même service sur des emplacements contigüs. Exemple avec k = 1, p = 3, (c 1, c 2, c 3 ) = (3, 1, 1)
13 / 23 Deuxième approche Si on relâche la contrainte que toutes les VMs d un service doivent s exécuter sur des serveurs différents Il est possible d avoir besoin de plus de k réplicats De combien de réplicats a-t-on besoin pour un service avec c i?
14 / 23 Deuxième approche Supposons qu on a m serveurs, et regardons l allocation sur m k serveurs restants Il en faut c i en tout, donc ci m k sur une partie et ci m k sur l autre Si k serveurs avec ci m k sont en panne Il faut avoir c i + k Et c est suffisant ci m k
15 / 23 Deuxième approche Supposons qu on a m serveurs, et regardons l allocation sur m k serveurs restants Il en faut c i en tout, donc ci m k sur une partie et ci m k sur l autre Si k serveurs avec ci m k sont en panne Il faut avoir c i + k ci m k Et c est suffisant Si c i m k, alors c i = c i + k m, donc pas plus que k réplicats en panne Si (α 1)(m k) c i < α(m k), alors c i = c i +αk, et c i < αm Donc pas plus que αk réplicats en pannes
16 / 23 Deuxième approche: calculer m Condition nécessaire 1 m p i c i + k On peut le retrouver en écrivant c i c i + c i D où i c i m m k i c i Condition suffisante m = 1 p ( i c i + kn)+k m k k
17 / 23 Placement de service dynamique [WEA 2005, WWW 2007] Considérer des services entiers plutôt que des VMs individuelles permet de résoudre des problèmes de plus grandes tailles Étudié dans des articles appliqués [WEA 2005] [WWW 2007] Contexte sans considérations de fiabilité Problème d allocation: m serveurs, vitesses V j et capacité mémoire M j n applications, demande d i, besoins mémoire m i on cherche une répartition de la charge, L ij i, j L ij = d i j, i L ij V j j, i,l ij >0 m i M i Objectifs: minimiser le nombre de modifications d une solution à une autre
18 / 23 Placement de service dynamique Maximum flot dans un graphe biparti Si l allocation est choisie (couples (i, j) tq L i,j > 0) Graphe (A, S, E) Applications, Serveurs, arêtes correspondant à l allocation S il existe un flot de valeur i d i, allocation valide Trouver une allocation Algorithme glouton Trier les serveurs par v j /M j, et les applis par d i /m i On alloue la première application sur le premier serveur, autant que possible Modifier une allocation Calculer le flot maximum S il n est pas suffisant, appliquer le glouton Si ça ne suffit pas, enlever l arête qui minimise L ij /m i
Placement de services dynamique Amélioration du flot calculé Trier les serveurs par mémoire restante M j croissante Rajout d un coût sur les arêtes égal à l ordre dans la liste Conséquence: chaque application i a au plus une instance sur un serveur non saturé u. De plus i a des instances sur des machines saturées dont la mémoire restante est plus petite Et les instances vides de i sont sur des machines dont la mémoire restante est plus grande Preuve : dessin au tableau Modifications de l allocation Il y a des applications incomplètes, et des serveurs avec capacité résiduelle Pour chaque serveur non plein Essayer d enlever x applications en cours (min L ij /m i ) Placer gloutonnement les applications avec la plus grande demande résiduelle Garder le choix de x qui donne la meilleure utilisation du serveur Ensuite, calculer le max-flot 19 / 23
Placement de services avec fiabilité [HIPC 2014] 20 / 23
21 / 23 Aujourd hui Problèmes de fiabilité Placement de VMs en programmation par contraintes [ICDCS 2011] Très général Avec contraintes de fiabilité en plus Ok pour des petits problèmes Placement de services constitués de plusieurs VMs Avec fiabilité, non découpable [NOMS 2010] modèle très simple Sans fiabilité, découpable, réaction dynamique à des modifications [WEA 2005, WWW 2007] modèle plus général (hétérogène), heuristique Avec fiabilité, découpable [HIPC 2014] Homogène, problèmes relativement gros
22 / 23 Biblio: service placement Dynamic Application Placement Under Service and Memory Constraints T. Kimbrel, M. Steinder, M. Sviridenko A. Tantawi, WEA 2005 A Scalable Application Placement Controller for Enterprise Data Centers C. Tang, M. Steinder, M. Spreitzer, G. Pacifici, WWW 2007
23 / 23 Biblio: Reliability in Clouds Web-scale Job Scheduling W. Cirne, E. Frachtenberg, JSSPP 2012 Guaranteeing High Availability Goals for Virtual Machine Placement E. Bin, O. Biran, O. Boni, E. Hadad, E. K. Kolodner, Y. Moatti, D. H. Lorenz, ICDCS 2011 Redundant Virtual Machine Placement for Fault-tolerant Consolidated Server Clusters F. Machida, M. Kawato, Y. Maeno, NOMS 2010 Efficient and Robust Allocation Algorithms in Clouds under Memory Constraints O. Beaumont, L. Eyraud-Dubois, J-A. Lorenzo, P. Renaud-Goud, HiPC 2014