Architecture projet, interconnexions, perspectives

Transcription

1 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 1/50 Architecture projet, interconnexions, perspectives hilippe d Anfray 18 Octobre 2006 hilippe.d-anfray@renater.fr JTR 2006, Lyon, Octobre 2006

2 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 2/50 Applications Simulation numérique moteur dans le domaine des grilles, mais de nombreuses problématiques se retrouvent dans e.g. visio-conférence, télé enseignement, "video on demand", etc... La simulation numérique est largement utilisée dans la recherche et dans l industrie: comprendre le comportement présent et futur de systèmes, d installations; diminuer les temps de conception/développement; dans certains cas l expérimentation n est pas possible (spatial,...) ou trop onéreuse.

3 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 3/50 Aplications roblèmes clefs en simulation numérique: modelisation de phénomènes de plus en plus complexes; taille croissante des problèmes; interactions entre modèles mathématiques, physiques,... visualisation, interprétation et réutilisation des resultats ;... et limites des outils et matériels informatiques. Nombreuses évolutions liées: aux matériels (calcul vectoriel, "clusters",...); aux technologies logicielles (parallélisme, "meta computing"). On a toujours besoin de plus de puissance de calcul, d espace mémoire et de capacité de stockage que ce qui est accessible "localement".

4 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 4/50 Applications... nombreuses évolutions liées: aux projets pluridisciplinaires (physique, mathématique, informatique) qui entraînent une "professionnalisation" des aspects informatiques (plus de "codes de calcul isolés"). aux méthodes de travail: les collaborations impliquent le partage de ressources... certains domaines sont aussi des enjeux de société: modélisation du climat, pollution, médecine, biodiversité,... et imposent des collaborations internationales (collecte et mise à disposition de données,...).

5 "Grid Computing" Une application "grille" peut faire intervenir: plusieurs utilisateurs qui communiquent...; et plusieurs sites interconnectés; un ensemble d applications qui interagissent; de grands volumes de données (senseurs, resultats). JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 5/50

6 "Grid Computing" beaucoup de définitions de la grille... Analogie avec la power grid; producteur, réseau, consommateur: approche "systémique". L utilisateur ne voit pas la complexité du système et accède potentiellement à toute la puissance disponible. La grille est un espace de travail où des communautés d utilisateurs (organisations virtuelles) partagent des ressources géographiquement distribuées. JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 6/50

7 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 7/50 "Grid Computing" Les ressources partagées peuvent être: puissance de calcul; espace mémoire; sites de stockage; réseaux; applications, logiciels; information, bases de données; sources de données (instruments scientifiques,...); "manpower"... grilles de calcul, grilles de données, grilles de communautés,...

8 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 8/50 odèles de grilles grille hautes performances" Aggrégation de ressources "hardware". Typiquement construire un centre de calcul virtuel basé sur: de "vrais" centres de calcul ou des moyens départementaux ("clusters"); quelques "100 sites", caractéristiques requises: - stablilité, autentification, securité. Globus, Unicore, g-lite. EGEE, DEISA,...

9 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 9/50 odèles de grilles systèmes à grande échelle Utilisation d un grand nombre de resources "standard". Limité à des applications très spécifiques. Communauté très large et pas si bien définie... C s standard (ac, Linux ou Windows); plusieurs " nœuds", caractéristiques "courantes": - volatilité, pas d autentification, pas de confiance. 2: calcul ou stockage, (desktop Grid, internet computing (seti@home), Kaaza, Gnutella, napster, OceanStore)

10 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 10/50 odèles de Grilles Dans la pratique, pour l utilisateur, "grilles de communauté", etc.. et... toutes sortes de modèles intermédiaires mais: hétérogénéité (sites, "hardwares", OS s, langages et modèles de programmation, modèles d exécution..., applications, utilisateurs) interopérabilité!!!; dynamicité les grilles se construisent peu à peu (autour d un intergiciel et des outils associés?) et ne sont pas "déployées" à partir de zéro.

11 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 11/50 Grilles.. l intergiciel Quelques besoins de base : 1. système d information: données et applications disponibles, matériels utilisables (calcul, stockage, etc...); 2. système permettant de décrire les travaux à effectuer; 3. système permettant de réserver des ressources; 4. système permettant de lancer les travaux sur l ensemble des sites; 5. système permettant le suivi des tâches et le transfert des données et des résultats; 6. système assurant une sécurité minimale (... ).

12 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 12/50 Grilles... soucis sûreté de fonctionnement, performances à la hauteur (résolu: EGEE); organisation de la confiance entre les différents acteurs; déploiement et maintenance de l intergiciel sur des centaines ou milliers de nœuds; accès aux données à travers les réseaux longue distance; les standards (syntaxe et sémantique des données, etc... ); accès aux informations concernant les travaux en cours; gestion de la synchronicité (workflow, etc... ); la tolérance aux défaillances (au niveau applicatif?); quid des licences pour les applications distribuées et grillifiées ; mesure (et facturation?) des ressources consommées.

13 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 13/50 Applications et Grilles Caractériser les applications candidates, typologie + metriques: cpu intensive, data intensive, IO intensive, network intensive ; distributivité (nombre de composants, de sites); passage à l échelle? dynamicité ("load balancing", adaptatif, application, tolerance aux fautes); synchronicité (couplage, I, etc..); performances sur la grille (du réseau??) (benchmark????). Quantifier les besoins "réseau" (débit, services, etc...)??

14 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 14/50 Applications et Grilles Evaluer l impact de la grillification de l application: modèles de programmation et d exécution adaptés au contexte de grille? (parallélisme, OO, client/serveur, composants, web services, etc... ); (ré)utiliser: encapsuler, restructurer, reécrire... portabilité (la grille est hétérogène); compatibilité autres plates-formes (approches) logicielles (Corba, Java,... ). Evaluer l impact de la "couche réseau"??

15 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 15/50 Applications, grilles... et réseau Les grands projets scientifiques, industriels et commerciaux ont maintenant une dimension grille : partage de ressources au sein de communautés; et puis d autres raisons... évolution technologique: interconnexion de tous les systèmes informatiques et dispositifs électroniques. Le réseau est bien sûr au cœur de tout cela!

16 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 16/50 Grille et reseau réseau... ==> RENATER des "demandes" de la part "des applications" et donc implication dans les projets. aspect "veille" technologique: les intergiciels intègrent de plus en plus de fonctionnalités dont certaines, probablement, migreront vers les systèmes d exploitation OS grid-aware, ou seront intégrées sous forme d intelligence dans les réseaux. Besoin d un travail de synthèse sur les besoins applicatifs et les pratiques des utilisateurs.

17 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 17/50 Renater Réseau National de Télécommunications pour la Technologie, l Enseignement et la Recherche. maîtrise d ouvrage du réseau; aider au développement des réseaux régionaux; assurer la connectivité vers l international; représentation des utilisateurs; 800/900 établissements connectés via RENATER. GI (ENESR, CNRS, CEA, INRIA, CNES,... ).

18 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 18/50 Renater Renater (environ 30 personnes): administration, gestion: appels d offre, relation avec les partenaires, etc... équipe technique: déploiement technologies (QoS), sécurité (CERT), supervision, surveillance, métrologie; services aux utilisateurs finaux (retransmission de cours, visiophonie,... ); participe aux instances de l Internet, partenariat AFNIC, gestion d un serveur DNS, attribution adresses I; activité R&D: participation à des projets de recherche GEANT, iv6,... activités grille ; collaborations internationales (DANTE, TERENA, EUEDCONNECT, ALICE, TEIN).

19 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 19/50 Renater-4 Architecture de RENATER-4 (fin 2005): 30 (env.) points de présence (NR) en France maillage à 2,5Gbit/s (lignes louées) 7 NR en outre-mer SFINX (Global Internet Exchange peering entre FAI); internet de commodité liaison vers GEANT-2 (Réseaux de la recherche Europe, US,... ).

20 Renater-4 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 20/50

21 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 21/50 Renater-4 Zoom sur l ile de France: il n y a pas à proprement parler de réseau régional (mais plusieurs réseaux de collecte); de nombreux sites sont raccordés directement (BNF, INA, IRCA,... ).

22 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 22/50 Renater-4 Zoom sur l ile de France:

23 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 23/50 rojets Grille rojets grille à RENATER: Grille decrypthon (AF, IB, CNRS); ANR/IGTD (avec l IN23, interconnexion avec les US); EGEE, DEISA (projets européens); Grid5000 (recherche en informatique, interconnexion Hollande, Japon,..);

24 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 24/50 rojet Décrypthon artenariat CNRS AF IB Fournir des moyens informatiques (calcul et stockage) à des projets en bioinformatique (sélectionnés sur appel d offres). Grille universitaire: 6 sites.... et éventuellement quelques moyens "humains" post-doc,... RENATER: Comité ressources, configuration et pilotage de la grille. à l étude: utilisation de g-lite, collaboration EGEE

25 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 25/50 rojet IGTD rojet ANR: Interopérabilité des grilles et transferts massifs de données (IN23, INRIA RESO, FNAL...) traitement des données du LHC; collaboration Fermi-Labs à Chicago. Renater: interconnexion avec FNAL Chicago (2x1Gb/s) travail sur la métrologie, travail sur l interopérabilité.

26 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 26/50 rojet Grid5000 rojet "ACI", "outil de recherche en informatique" (à terme) 5000 nœuds de calculs répartis sur 9 sites; VN dédiés puis "infrastructure projet" de RENATER; projets d interconnexion avec des infrastructures similaires (Hollande, Japon). Les utilisateurs font des expériences, et rendent publiques leurs conclusions... rares en ce qui concerne le réseau (peu d applications dans le domaine de la simulation).

27 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 27/50 Infrastructure rojet Nouvelle architecture projet en "fibres noires": chaque lien supporte jusqu à 8 lambdas (16 pour la dorsale aris-lyon) chaque lambda correspondant à un lien à 10Gb/s; extension vers le CERN, interconnexion avec GEANT; les lambdas alloués sont dédiés à des projets de recherche: Grid5000; LHC (CERN); DEISA; puis ITER, etc...

28 Fibre noire JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 28/50

29 Fibre noire JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 29/50

30 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 30/50 Fibre noire Région arisienne (île de France): lambda "trafic I de production" + lambda(s) projet: préfigure la future architecture du réseau.

31 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 31/50 FON-Grid5000 Interconnexion des sites Grid5000: initialement: maillage complet des sites en Giga-Ethernet. VNs sur les lignes louées (complexe et peu évolutif); des lambdas ont été alloués pour le projet Grid5000. Les différents sites sont interconnectés à 10Gb/s et "se voient" dans un VLAN unique. as de routage: bascule de la connexion du routeur au switch (optimisation); l ancienne infrastructure est démontée au fur et à mesure (pas de solution mixte ).

32 FON Grid5000 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 32/50

33 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 33/50 FON Grid5000 L interconnexion avec Geant permet d envisager des plates-formes de test internationales: lambda dédié dans GEANT pour atteindre la grille hollandaise DAS-3; accès à d autres plates formes connectées aux réseaux de la recherche aux US, au Japon, etc...

34 Geant JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 34/50

35 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 35/50 Infrastruture projet Besoin d expérimentationset de retours: comment cette infrastructure (et les services associés) répond aux besoins des utilisateurs: comment elle "résiste" à la charge; à quel moment les applications commencent à être à court de ressources. Cela est aussi utile pour dimensionner la prochaine génération du réseau ex) si 40Gb/s, 40 ou 4x10... c.f. de nouveaux outils sont développés dans le cadre de Grid5000, pour l "injection de traffic".

36 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 36/50 etrologie temps réel L interrogation à intervalles réguliers des IBs (anagment Information Bases) présentes sur les équipements réseaux (switchs et routeurs): l état (up/down) des liens du backbone, la charge des liaisons, les erreurs sur les interfaces, etc... (weathermap) L activation du NetFlow sur les routeurs permet d exporter un descriptif de chaque flux traversant un routeur vers un collecteur: renvoyer ces informations vers des clients distants connectés pour une observation en temps réel des flux. Des sondes déployées sur le backbone, effectuent en continu des mesures actives entre elles (mesures I et RT): le temps de traversée du réseau (délai unidirectionnel), la variation de ce délai (gigue), les pertes de paquets, etc... (Iv4 et Iv6).

37 etrologie weathermap JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 37/50

38 etrologie weathermap JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 38/50

39 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 39/50 etrologie FON+perfsonar Nouveau et intéressant: Ce type de mesures sera très prochainement disponible pour l architecture projet (FON). our les informations de bout en bout erfsonar est installé et peut être interrogé pour la remonté d information (pour le moment seulement la bande passante):

40 etrologie temps de traversée/gigue JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 40/50

41 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 41/50 Classes de service Nouveau et intéressant: Le backbone RENATER permet le transport de flux marqués par le client (le marquage des paquets ne se fait pas au niveau des équipements RENATER, mais bien au niveau des sites RENATER). Les classes de service sont prolongées aux réseaux de collecte (si convention). LBE less than best effort; BE best effort; BBE better than best effort; I remium. plus une classe spécifique supervision et contrôle du réseau.

42 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 42/50 Classes de service LBE (less than best effort): possibilité de disposer d une bande passante très importante, mais non garantie; délais ou temps de réponse variables; pertes de paquets possibles. Classe de service ouverte à l ensemble des sites RENATER. as de limite de bande passante, en cas de congestion, cette classe sera la première impactée (1% de la bande passante de chaque lien est néanmoins réservée); BE (best effort): fourni par défaut à l ensemble des sites RENATER. La bande passante réservée sur tous les liens du backbone pour cette classe de service est de 60%.

43 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 43/50 Classes de service BBE (better than best effort): le BBE est ouvert à tous les sites RENATER. Chaque site peut marquer ses flux en BBE à hauteur d environ 10% du débit RENATER souscrit. I remium garantie de la bande passante; délais ou temps de réponse stables (très faible gigue) pour un chemin donné, quelle que soit la charge des liaisons; pas de pertes de paquets (ou très négligeables). Service I réservé à des projets spécifiques. Bande passante maximum réservée sur tous les liens backbone : 10%.

44 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 44/50 Qui sont les utilisateurs?? "fournisseurs" rencontrent "équipes réseau" e.g. Renater e.g. Inria, CNRS

45 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 44/50 Qui sont les utilisateurs?? "fournisseurs" rencontrent "équipes réseau" e.g. Renater utilisateurs? e.g. Inria, CNRS

46 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 44/50 Qui sont les utilisateurs?? "fournisseurs" rencontrent "équipes réseau" e.g. Renater utilisateurs? e.g. Inria, CNRS "équipes réseau" contactées par communauté HC

47 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 44/50 Qui sont les utilisateurs?? "fournisseurs" rencontrent "équipes réseau" e.g. Renater utilisateurs? e.g. Inria, CNRS "équipes réseau" contactées par communauté HC utilisateurs?

48 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 45/50 Le grand défi "fournisseurs" rencontrent "équipes réseau" e.g. Renater... e.g. Inria, CNRS "équipes réseau" contactées par la communauté HC... "fournisseurs" dialoguent communauté HC utilisateurs 2

49 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 46/50 Utilisateurs Les utilisateurs "ont besoin" du 10Gb/s mais il y a peu de retours d utilisation et les tuyaux sont bien vides.. à part quelques expérimentations du type "data challenge" (le plus souvent point à point, Gridftp,..). ême observation de la part de DAS-3 (plate forme similaire en Hollande). les applications sont elles dimensionnées pour utiliser la bande passante? problème de protocoles inadaptés?? comment aider les utilisateurs à quantifier leurs besoins? "benchmark"? Il n existe pas de mécanisme de réservation de la ressource réseau (?).

50 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 47/50 Utilisateurs Les utilisateurs "ont besoin" de services réseau: QoS, classes de service,... e.g. remium I accessible aux projets n a été utilisé "opérationnellement" que dans le cadre de DEISA?? Ces classes de services vont être accessibles à tous les utilisateurs de RENATER? C est déjà le cas pour les utilisateurs d EGEE qui... ne semblent pas avoir beaucoup de demandes? quelles critères significatifs? comment aider les utilisateurs à quantifier leurs besoins?

51 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 48/50 Utilisateurs Quand on est passé de 1Gb/s à 10Gb/s la latence n a pas été améliorée...(c est même pire...)?

52 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 48/50 Utilisateurs Quand on est passé de 1Gb/s à 10Gb/s la latence n a pas été améliorée...(c est même pire...)? [...] j utilise ping pour mesurer la latence [...] je ne consulte pas la "weather map" du réseau"

53 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 48/50 Utilisateurs Quand on est passé de 1Gb/s à 10Gb/s la latence n a pas été améliorée...(c est même pire...)? [...] j utilise ping pour mesurer la latence [...] je ne consulte pas la "weather map" du réseau" ping est une application.. cf. je mesure une performance de 100 flops avec mon code C++ sur une machine vendue pour 1 Gigaflops. que faut-il mesurer, comment? comment aider les utilisateurs à interprêter ces résultats?

54 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 49/50 Travaux, perspectives "network monitoring" au niveau applicatif: qu est ce qui peut être mesuré? (au niveau optique, switchs, routeurs, certaine informations ne sont pas diffusables, les cartes d acquisition sont coûteuses, problème d interopérabilité des logiciels "propriétaires" de supervision); qu est ce qui est significatif au niveau utilisateur?? (traffic aggrégé..?)

55 JTR 2006 hilippe d Anfray Lyon, Octobre 2006 p. 50/50 Travaux, perspectives Vers un benchmark réseau? concevoir une suite d outils "mesure", "monitoring" (encapsulation intelligente, filtrage adequat de mesures existantes,...) qui permettrait aux utilisateurs de comprendre le comportement (et l impact) de la couche réseau pour leurs applications. Services/supports communs aux projets grille "dans le prolongement des réseaux": cf. grille "nationale"; cf. pérénnisation des infrastructures de production (EGEE); cf. grille de communautés, etc...