Le code à effacement Mojette : Applications dans les réseaux et dans le Cloud

Transcription

1 Le code à effacement Mojette : Applications dans les réseaux et dans le Cloud Soutenance de l'habilitation à Diriger des Recherches Benoît Parrein (Université de antes, IRCCy/équipe IVC) Mardi 6 Juin 25, Amphi, Bâtiment IRST, Polytech antes

2 Les codes à effacement chez Facebook, c'est PB (87 TB!) de moins à stocker [] 73 serveurs en moins 42% de réduction de la taille de l'infrastructure 2 MW de consommation en moins pour un datacentre [2] [] Muralidhar, S., Lloyd, W., Roy, S., Hill, C., Lin,., Liu, W.,... & Kumar, S. f4: Facebook s Warm BLOB Storage System. In Proceedings of the th USIX conference on Operating Systems Design and Implementation (OSDI) (pp ). USIX Association, October, 24. [2] Orgerie, Anne-Cecile, Assuncao, Marcos Dias de, & Lefevre, Laurent. A survey on techniques for improving the energy efficiency of large-scale distributed systems. ACM Computing Surveys (CSUR), vol. 46, no 4, p. 47, 24. 2

3 Limitation Application uniquement sur des données froides i.e 8 lectures par seconde max 3

4 Les codes à effacement k messages ncoding Codage n paquets Perte k paquets reçus Decoding Décodage k messages 4

5 Le code à effacement Mojette C C I S T U D O 5

6 Le code à effacement Mojette C C I S T U D O (p,q) Proj(,) 6

7 Le code à effacement Mojette Proj(,) C C I S T U D O Proj(,) Proj(-,) 7

8 Le code à effacement Mojette Proj(,) C C I S T U D O Proj(,) Proj(-,) 8

9 Le code à effacement Mojette Proj(,) C C I S T U D O Proj(,) Proj(-,) 9

10 Le code à effacement Mojette Proj(,) C C I S T U D O Proj(,) Proj(-,)

11 Le code à effacement Mojette Proj(,) C C I S T U D O Proj(,) Proj(-,)

12 Le code à effacement Mojette Proj(2,) Proj(-2,) Élément du message Élément du code Proj(,) C C I S T U D O Proj(,) 2 Proj(-,)

13 Le code à effacement Mojette Proj(2,) Proj(-2,) Élément du message Élément du code Proj(,) C C I S T U D O Proj(,) Proj(-,) 3

14 Le code à effacement Mojette Proj(2,) Proj(-2,) Élément du message Élément du code Proj(,) C C I S T U D O Proj(,) C'est encore plus fun sur Proj(-,) 4

15 Questions Comment positionner le code Mojette au sein de la théorie des codes correcteurs? Intérêt pour le stockage distribué? Intérêt pour les réseaux mobiles et P2P? Quelles performances? 5

16 Ben's Time-line : recrutement MCF Travaux de thèse préparation HDR Projet Projet C2M MatchSlide Projet Sereadmo Projet Projet P2PWeb FC4Cloud

17 Ben's Time-line : recrutement MCF Travaux de thèse préparation HDR Projet Projet C2M MatchSlide Projet Sereadmo Projet Projet P2PWeb FC4Cloud

18 Plan de la soutenance Partie : Le code à effacement Mojette Définitions Performances Partie 2 : Applications dans les réseaux auto-organisés Les réseaux ad hoc (le projet SRADMO) Les réseaux P2P (le projet P2PWeb) Partie 3 : Le stockage distribué (le projet FC4Cloud) Le système de fichier distribué RozoFS Comparaison avec Ceph sur Grid5 Conclusions : Conclusions et perspectives Résumé des encadrements Responsabilités collectives 8

19 Partie : Le code Mojette 9

20 Les codes à effacement (MDS) k messages ncoding Codage n paquets Perte k paquets reçus Decoding Décodage k messages MDS : Maximum Distance Separable Code systématique i.e le message apparaît de manière explicite 2

21 Les codes Reed-Solomon (RS) (96) Sont des codes MDS Usage d'une matrice génératrice G (code linéaire) matrice de Cauchy ou Vandermonde c=b.g G={I k P k,n k } permet d'obtenir un code systématique 2

22 Mises en œuvre des codes RS Reed-Solomon Reed-Solomon (matrice de Cauchy [Byers, 995]) (matrice de Vandermonde [Rizzo, 998], RFC55)... [stockage] Cauchy Good [Planck, 28] in Jerasure.2 [stockage] Intel ISA-L par matrices de Vandermonde (inclus instructions SS) 22

23 Le code à effacement Mojette basé sur la transformation Mojette [Guédon, 995] Calcul d'un ensemble de projections D à partir d'un support 2D Proj(,) C C I S T U D O Proj(,) 23 Proj(-,)

24 Le code à effacement Mojette systématique Proj(,) C C I S T U D O Proj(,) Proj(-,) xemple du code Mojette systématique (7,4) Brevet [David et al., 23] 24

25 Conditions de reconstruction Critère de Myron Katz [Katz, 978] p i P i Q qi Q ou i C C I S T U D O P 25

26 Conditions de reconstruction Critère de Myron Katz [Katz, 978] Support de K lignes reconstructibles par K projections [Parrein, 2] 26

27 Conditions de reconstruction Critère de Myron Katz [Katz, 978] Support de K lignes reconstructibles par K projections [Parrein, 2] usage d'angles Mojette de type (p, ) chaque projection est équivalente pour la reconstruction - K projections redondantes 27

28 Décodage Définition des chemins de reconstruction [ormand et al., 26] (une projection reconstruit une ligne, de la gauche vers droite) xample on a 4 lines geometrical buffer with 4 projections +réduction du nombre d'écritures [Féron et al., 24] (brevet Rozo Systems) 28

29 Propriété du code Mojette Code déterministe Code à effacement de type (+є) MDS Forme non systématique (par défaut) et systématique Reconstruction asynchrone Pas de contrainte de primalité Complexité linéaire [O(I)] 29

30 Performances (codage) Coding (k=4,m=6) CPU Cycles ISA-L d 4+2 coding +memcpy Mojette RozoFS 4+2 coding blocksize (Bytes) 3 Résultats : Didier Féron, Rozo Systems

31 Performances (codage) Coding (k=4,m=6) CPU Cycles ISA-L d 4+2 coding +memcpy Mojette RozoFS 4+2 coding blocksize (Bytes) Débit = 6,4 GB/s Ccl : le code Mojette est 2 fois plus rapide que la librarie ISA-L Résultats : Didier Féron, Rozo Systems 3

32 Performances (décodage) Decoding (m=4,k=6) CPU cycles ISA-L d 4+2 decoding +memcpy Mojette RozoFS 4+2 decoding memcpy Blocksize (Bytes) Débit = 9,6 GB/s Ccl : le code Mojette est 3 fois plus rapide que la librarie ISA-L Résultats : Didier Féron, Rozo Systems 32

33 Plan de la soutenance Partie : Le code à effacement Mojette Généralité sur les codes Le code Mojette Performances Partie 2 : Applications dans les réseaux auto-organisés Les réseaux ad hoc (le projet SRADMO) Les réseaux P2P (le projet P2PWeb) Partie 3 : Le stockage distribué (le projet FC4Cloud) Le système de fichier distribué RozoFS Comparaison avec Ceph sur Grid5 Conclusions Conclusions et perspectives Résumé des encadrements Responsabilité collectives 33

34 Partie 2 : Applications dans les réseaux auto-organisés de type ad hoc et P2P 34

35 Mobile Ad hoc Tworks (MAT) A B 35

36 Problèmes Le routage La qualité de service La sécurité 36

37 MP-OLSR basé sur OLSR (RFC3626) modification de l'algorithme de Dijkstra + fonctions auxiliaires application du code à effacement Mojette chaque route convoie une projection 37

38 26-29 : le projet SRADMO Projet collaboratif RRT : Thales (resp.), Université de Poitiers/IRCOM-SIC, IRCCy, Keosys Objectif : Sécurisation des réseaux ad hoc par la transformation Mojette RRT 25 38

39 26-29 : le projet SRADMO Principaux résultats : Définition du protocole MP-OLSR (ITF ID, Manet WG document) Simulation (réaliste)/expérimentation des protocoles MP-OLSR et OLSR Validation dans le cadre de transfert vidéo graduable (H.264/SVC) protégée de manière inégale par un code Mojette 39

40 xpérimentation MP-OLSR Polytech antes, le 2 juin 29 4

41 Les réseaux P2P Sont des réseaux auto-organisés Agissent au niveau de la couche application (couche 7) Système distribué très large échelle Applications dans le stockage et la diffusion live Alternative au modèle centralisé client/serveur 4

42 2-22: le projet P2PWeb Projet collaboratif (Région PdL) : TMG (resp.), LIA, IRCCy Objectifs : delester le modèle centralisé Client/Serveur (C/S) par un modèle distribué (et auto-organisé) pair-à-pair (P2P) proposer une architecture hybride C/S et P2P inclure des codes à effacement (reste à faire!) 42

43 Le protocole P2PWeb 43

44 Validation du protocole P2PWeb 44

45 Plan de la soutenance Partie : Le code à effacement Mojette Généralité sur les codes Le code Mojette Performances Partie 2 : Applications dans les réseaux auto-organisés Les réseaux ad hoc (le projet SRADMO) Les réseaux P2P (le projet P2PWeb) Partie 3 : Le stockage distribué (le projet FC4Cloud) Le système de fichier distribué RozoFS Comparaison avec Ceph sur Grid5 Conclusions Conclusions et perspectives Résumé des encadrements Responsabilité collectives 45

46 Partie 3 : Le stockage distribué haute disponibilité et tolérant aux pannes 46

47 2: Internet Distributed Image Information System GUÉDO, J.; PARRI, B. & ORMAD,. : Internet Distributed Image Information System. In: Integrated Computer-Aided ngineering, 8 (2), r. 3, p

48 Haute disponibilité signifie... accessible à 99, % de la réplication le plus souvent... une infrastructure capable de supporter la charge une haute consommation énergétique...et des problèmes de droit à la vie privée les codes à effacement réduisent fortement la taille de l'infrastructure pour un même taux de disponibilité 48

49 Distributed File Systems (DFS) HDFS (Hadoop) Facebook file system (f4) Scality (basé sur Chord) CephFS, GlusterFS, aucun DFS n'utilise aujourd'hui des codes pour des données soumises à des I/O intensives 49

50 5

51 I/O Centric Distributed File System (DFS) Software Defined Storage (SDS) Scale-Out AS compatible POSIX pas de contrainte matérielle tolérant aux pannes (jusqu'à 4 pannes) code à effacement Mojette (sur blocs de 4Ko ou 8Ko) dédié données froides et chaudes Projet Open source (licence GPL) 5

52 Client ode Metadata Server ol p r t n Co ath Rozofsmount exportd th a pa Dat metadata n Mo g rin ito Storage ode Storaged Storage ode Storage ode Storaged... Pool of storage odes Storaged 52

53 xpérimentations in vivo sur GRID5K Cluster de antes (8 nœuds): Intel Xeon GHz, Gb Layout code Mojette (6,4) vs triplication Ceph lecture aléatoire (blocs 4Ko) par IOZone 53 Résultats Alexandre van Kempen

54 xpérimentations in vivo sur GRID5K Cluster de antes (8 nœuds): Intel Xeon GHz, Gb Layout code Mojette (6,4) vs triplication Ceph écriture aléatoire (blocs 4Ko) par IOZone 54 Résultats Alexandre van Kempen

55 Cas d'usage (validés) de RozoFS Montage vidéo en ligne [Pertin et al., 24] xécution de machines virtuelles (QMU/KVM) Déploiement de bases de données transactionnelles... 55

56 Réduction de l'espace de stockage Capacité de stockage pour Go utile Résultats Bastien Confais 56

57 Réduction de l'espace de stockage Capacité de stockage pour Go utile Réduction d'un facteur 2 de l'espace de stockage Par l'usage des codes à effacement Résultats Bastien Confais 57

58 Le projet FC4Cloud AR 22 (appel mergence) Partenaires: IRCCy (resp.), ISA-SupAéro, SATT-OV Objectif: valorisation et transfert Résultats: accompagnement de Rozo Systems à antes création de la start-up O'Fly Co à Toulouse 58

59 Conclusions 59

60 Conclusions et perspectives (/4) Code à effacement code Mojette systématique et non systématique inscription dans la théorie des codes (algébriques) hautes performances à GB/s Perspectives Évaluation performance Mojette systématique Système de partage de secrets à base de codes linéaires (objectif du projet Privacy4Cloud) 6

61 Conclusions et perspectives (2/4) Stockage distribué er DFS hautes performances basé sur des codes émergence de la société Rozo Systems Perspectives xpérimentations large échelle (Grid5) Comportement dans un contexte Big Data Décentralisation du modèle Cloud (le Fog!) 6

62 Conclusions et perspectives (3/4) Réseaux P2P Protocole hybride client-serveur et P2P QoS/Qo pour diffusion live (voir CFIP 25) Perspectives Recrutement Soufiane Rouibia en septembre! Couplage avec des codes à effacement Transport sans couture entre C/S et P2P (offre OTT de type MPG-DASH) 62

63 Conclusions et perspectives (4/4) Réseaux ad hoc Protocole de routage MP-OLSR (draft ITF) Couplage code MDS (tolérance aux pannes) Application pour la transmission vidéo Perspectives Une RFC! Interaction avec une infrastructure Implémentations embarquées (collab. Université Parana et LIA) (cf Internet des Objets) 63

64 ncadrements doctoraux (/2) Fadi Boulos Trafic audiovisuel à qualité d'usage garantie : caractérisation d'erreurs, de la gêne associée et mécanismes de protection (Directeur Patrick Lecallet) Jiazi Yi Protocole de routage à chemins multiples pour réseaux auto-organisés (Directeur Jeanpierre Guédon) ddy Cizeron Routage multichemins et codage à description multiple dans les réseaux ad hoc (Directeur Jean-François Diouris) Dan Radu fficient communication strategies for mobile ad hoc networks (Directrice Adina Astilean) 64

65 ncadrements doctoraux (2/2) Dimitri Pertin (soutenance prévue avril 26) Code à effacement par géométrie discrète pour le stockage distribué (Directeur icolas ormand) CIFR Rozo Systems Bastien Confais (demande de financement en cours) Du Cloud storage au Fog storage : transition énergétique et intérêt pour l'internet des Objets 65

66 Chronologie des soutenances de thèses Dimitri Jiazi : recrutement MCF Fadi Travaux de thèse préparation HDR Projet Projet C2M MatchSlide Projet Sereadmo Projet Projet P2PWeb FC4Cloud Bastien ddy Dan 66

67 Chronologie des soutenances de thèses Dimitri Jiazi : recrutement MCF Fadi Travaux de thèse préparation HDR Projet Projet C2M MatchSlide Projet Sereadmo Projet Projet P2PWeb FC4Cloud Bastien ddy Dan + 2 stages masters depuis 24 67

68 ncadrements post-doctoraux Asmaa Hassiba Adnane projet Sereadmo Majd Ghareeb projet P2PWeb Alexandre van Kempen projet FC4Cloud 68

69 Responsabilités collectives nseignant en informatique (~25H par an) Co-responsable de l'option Réseaux-Système-Cloud (RSC) à Polytech/IFO depuis 2 Responsable des stages de fin d'étude à Polytech/IFO entre 28-2 Responsable de la formation doctorale entre (D-STIM) Membre du GT Innovation et valorisation de la recherche auprès du VicePrésident Valorisation et Transfert de l'université de antes depuis décembre 24 Participation à la rédaction des documents cadres du RFI umérique et du RFI lectronique (volet Innovation) pour la région Pays de la Loire Membre du GT Science dans le cadre de la fusion IRCCy LIA 69

70 Projet de création d'équipe de recherche Stockage distribué : système de fichier distribué, Software Defined Storage, système large échelle, Cloud/Fog Computing, bilan énergétique, expérimentations in vivo Réseaux : réseaux ad hoc, Internet des Objets, QoS, Software Defined etworks, simulations et expérimentations Sécurité : tolérance aux pannes, résilience, droit à la vie privée, sécurité des systèmes et des réseaux, situation critique, plan de reprise d'activité 7

71 Merci de votre attention! 7

72 Bonus 72

73 Liste publications 2-25 (/2) 73

74 Liste publications 2-25 (2/2) 74

75 Formulation Mojette-Dirac 75

76 Performance du code (#cycles CPU) encodage(6,4) décodage (6,4) Bloc 4K Bloc 8K Source : 76 Dimitri Pertin, Didier Féron, Alexandre Van Kempen, Benoît Parrein, Performance evaluation of the Mojette erasure code for faulttolerant distributed hot data storage, arxiv: [cs.it], 5 pages, Avril 25.

77 MP-OLSR+FC 77

78 MP-OLSR+FC 78

79 RozoFS + xportd xternal etwork Rozofsmount Storage Rozofsmount Storage Rozofsmount Storage Rozofsmount Storage iveau clients/applications Standard Gig Infrastructure Preuve de concept Rozo Systems Gig infrastructure (data storage and metadata)

80 RozoFS et HDFS Résultats Pauline Folz Jeu de données 'Twitter' de 7 Mo 8

81 ncadrements Masters 2 stages master depuis 24 ( ) () Xiang Zhu (28), Polytech antes, Master SG, %, routage ad hoc, aujourd'hui Ingénieur HP China (2) Sylvain David (29), Polytech antes, Ing. Informatique, %, routage ad hoc et code FC, Ingénieur R&D Fizians (3) Wissam Hamdach (2), Polytech antes, Master SG, %, routage ad hoc, ingénieur Télécom à Dubaï (4) Thibaut Perret (2), Polytech antes, Ing. Informatique, %, réseau P2P, thèse au Canada (5) Jean-Daniel Fischer (2), Polytech antes, Ing. Informatique, 5%, network time protocol (TP) and RadClock, ingénieur Bouygues Télécom (6) Giulio d Ippolito (2), Université Roma Tre, Master, 5%, code à effacement, Ingénieur Système en Italie (7) Dimitri Pertin (22), Polytech antes, Ing. Informatique, 5%, code à effacement, thèse CIFR avec moi et l'entreprise Fizians (8) assima Bouzakaria (22), Master Réseaux et Télécom, Université Paul Sabatier Toulouse, 5%, transport vidéo et P2P (9) Pauline Folz (23), Université de antes, Master ALMA, %, traitement distribué dans le Cloud, thèse CIFR à antes Métropole () Vikram Runthla (24), Polytech antes, Master international MDM, %, optimisation de services sur réseaux à faible bande-passante () Chen Chao (25), Polytech antes, Master international MDM, 5 %, Internet of Thing and Cloud infrastructure, collaboration avec Prof. Jinlong Hu, South China University of Technology (SCUT)... 8

82 P2PWeb-Live (soumission CFIP 25) Technologies WebRTC et HLS Ccl : Ça marche! avec un allégement de charge pour le serveur de contenu de 5 % 82

83 Stockage distribué tolérant aux pannes: l'exemple de Facebook Facebook f4 cells (pour données chaudes ) : 4 racks de 5 serveurs, 6.3K de disques (de 4TB chacun) soit 25 PB par cell (B = PB = 8 octets par datacentre) [] Muralidhar, S., Lloyd, W., Roy, S., Hill, C., Lin,., Liu, W.,... & Kumar, S. f4: Facebook s Warm BLOB Storage System. In Proceedings of the th USIX conference on Operating Systems Design and Implementation (OSDI) (pp ). USIX Association, October,

84 Système d'information Facebook xtrait de [] Muralidhar, S., Lloyd, W., Roy, S., Hill, C., Lin,., Liu, W.,... & Kumar, S. f4: Facebook s Warm BLOB Storage System. In Proceedings of the th USIX conference on Operating Systems Design and Implementation (OSDI) (pp ). USIX Association, October,

85 Le code Mojette lettre Proj(-2,) Proj(2,) Proj(,) R C I H H H G S V K Y S C G A C I C C I S T U D O G C T Proj(,) A G Y Q B Élément de la donnée Élément du code M B L W I Proj(-,) 85

86 xpérimentations in vivo sur GRID5K Lecture séquentielle (en Mo/s)

87 xpérimentations in vivo sur GRID5K Écriture séquentielle (en Mo/s) 2