Mise en place d'un gestionnaire de données léger, pluridisciplinaire et national pour les données scientifiques

Transcription

1 Mise en place d'un gestionnaire de données léger, pluridisciplinaire et national pour les données scientifiques Catherine Biscarat pour le groupe irods de France Grilles D. Benaben,, Y. Cardenas, P. Gay, B. Hiroux, J.-Y. Nief, J. Pansanel et H. Cordier, G. Mathieu Journées SUCCES, novembre 2013, IPGP Paris 1

2 Paysage scientifique actuel Les communautés scientifiques Production de grandes quantités de données Des collaborateurs souvent dispersés en France/Europe/Monde Deux exemples concrets Prise de données sur lignes de faisceaux distribution des données aux instituts collaborateurs définition des droits d'accès par expérience Institut Laue-Langevin Sciences de la vie des millions de séquences à comparer besoin de traiter les données sur une grille de calcul avec un accès souple aux données Comparaison de génomes 2

3 De nouveaux défis Traitement d'un grand volume de données, distribuées sur plusieurs sites, Collaboration de sites équipés d'infrastructures et de matériels hétérogènes, Organisation physique des fichiers transparente pour les utilisateurs, Recherche de lot de données par métadonnées, Création de listes de contrôle d'accès, Accès à distance aux données. un système de fichiers classique ne suffit pas 3

4 Un outil adapté : irods irule Oriented Data Systems Projet né en 2006, successeur de SRB Open Source, licence BSD Développé par le groupe DICE et quelques collaborateurs (dont le CC-IN2P3) Data Intensive Cyber Environments Group Gestionnaire de données de type «grille» Mécanisme uniforme pour accéder aux données Système de métadonnées pour manipuler les données Plus en détails irods disk disk MS Gestion de collections de données distribuées sur des sites lointains sites équipés d'infrastructures (disque, bande) hétérogènes Organisation logique des fichiers indépendante de leur organisation physique Cohérence et homogénéité dans la gestion des données renforcées intègre la politique de gestion des données (décidée par leur propriétaire) irods ne remplace pas une solution locale pour des accès parallèles massifs 4

5 irods à ce jour Ordres de grandeur Projets internationaux (des centaines de collaborateurs) Centaines de millions de fichiers dans le monde Plusieurs Po de données Exemples d'utilisateurs 5

6 Techniquement Trois éléments principaux définissent un système irods Base de données + «moteur de règles» + ressource Plusieurs ressources distantes peuvent co-exister Plusieurs systèmes peuvent être fédérés Interfaces utilisateurs : APIs, GUIs, CLIs (shell) Authentification : mot de passe, kerberos, certificat Desktop Grid Cloud file Gestion des données Flot des données prédéfini et transparent pour l'utilisateur A la demande 6

7 Fichiers logiques Vue utilisateur [user ~]$ ils /frgrid/home/unecollab/rawdata: C- /frgrid/home/unecollab/rawdata/calibration C- /frgrid/home/unecollab/rawdata/be C- /frgrid/home/unecollab/rawdata/zr [user ~]$ ils -l BE/ /frgrid/home/unecollab/rawdata/be: owner 0 ps-lpsc-lpscdata7-fr :21 owner 0 ps-lpsc-lpscdata7-fr :48 owner 1 iphccache :42 owner 0 ps-lpsc-lpscdata7-fr :21... & & & & run _123.dst run _123.raw run _123.raw run _673.dst 7

8 Métadonnées Vue utilisateur Attachées à : une collection, un fichier, un utilisateur Triplet : nom attribut unité [user ~]$ imeta add -d run _123.raw length 10 cm [user ~]$ imeta add -d run _123.raw hall east [user ~]$ imeta ls -d run _123.raw AVUs defined for dataobj run _123.raw: attribute: length value: 10 units: cm ---attribute: hall value: east units: [user ~]$ imeta -d qu hall east collection: /frgrid/home/unecollab/rawdata/zr dataobj: run _123.raw ---collection: /frgrid/home/unecollab/rawdata/zr dataobj: run _556.raw 8

9 Gestion implicite Vue administrateur Par la définition de règles (actions) Basées sur d'autres règles et les (~250) micro-services proposés par irods Interprétées automatiquement par le moteur de règles unique Transparent pour les utilisateurs AcPostProcForPut { # executed with each new file loaded in irods on ($objpath like "/tempzone/home/cines-test/archivage/*.tar") { acadonis1($objpath,"test"); # untar the file and register all the created files in irods } msisysrepldataobj("sitearesc1","null"); # replication on an other disk space called SiteAResc1 msisysrepldataobj("diskcache,"null"); # replication on an other disk space called diskcache msisysmetamodify("comment++++numrepl=0", Original file"); # modify the file metadata called comment for replica number 0 } 9

10 Reprenons nos exemples Données d'expériences à l'institut Laue-Langevin Les données de EXOGAM ~ 60 To de données produites en quelques semaines Les données reviennent aux participants de l'expérience (pour la plupart européens ; en France : ILL, GANIL, IN2P3 et CEA) Pour leur distribution Infrastructure irods du CC-IN2P3 En collaboration avec le LPSC Injection des données dans irods (irsync) Contrôle d'accès défini par sous-expérience Accès par mot de passe Utilisation légère des métadonnées Détecteur EXOGAM installé à l'ill cache icat MS (30 TB) disk (30 TB) 10

11 Reprenons nos exemples Création d'une base de données de similarité entre les espèces (S. Penel, Rencontres Scientifiques FG 2011) Les données à traiter Cinq millions de nouvelles séquences de génomes Calculs de similarité entre génomes (BLAST) Des milliers de tâches sur cinq sites grille Accès aux données sur la grille Commandes glite Rapatriement fichier par fichier long Infrastructure irods du CC-IN2P3 Accès facile à des lots de données Installation de clients irods sur la grille Post traitement des fichiers via API C irods disk MS icat (extraction sélective de données) 11

12 Mise en place d'un système national 20 TB répliqués Instance irods France Grilles Coordonnée par France Grilles Faciliter l'accès aux ressources à ses communautés d'utilisateurs Une instance de production unique Mutualisation des efforts Mutualisation des ressources Aide aux petites communautés 20 TB 40 TB icat Accueil de nouveaux partenaires 12

13 L'instance Nationale CC-IN2P3 (Lyon) Service Administration IPHC (Strasbourg) LPSC (Grenoble) Monitoring France Grilles Coordination MCIA (Bordeaux) Infrastructure Providers User Support Service Customisation 13

14 Accueil des utilisateurs Profil Données scientifiques Tout domaine Utilisateur seul ou un groupe Linux/Windows/Internet Expression des besoins Etude du cas Stockage et distribution de données Gestion de flots de données plus complexes avec des actions implicites (réplication, création de métadonnées, déclenchement de traitement,... ) Ou test du produit irods (plateforme de test) Acceptation conditions d'utilisation Allocation de ressources Mise en place des règles (administrateurs) Aide à la prise en main Utilisation Copie, réplication, création de métadonnées Contrôle des accès Accès depuis les nœuds de calcul FR-Grilles Chaque année Besoins Utilisation (certificat) Suivi des utilisateurs 14

15 Avancement du projet Identification des partenaires Réelle synergie Volumétrie disponible 80 To nets Ajout de ressources distantes aisé (nouveaux partenariats) icat en production Mise en place des serveurs Finalisation des conditions d'accès Déploiement de clients sur les sites FR-Grilles Etude des interfaces internet Accueil des premiers utilisateurs Définition des principes de bonne conduite Préparation de formations... 15

16 En guise de conclusion Gestionnaire de données commun Mutualiser l'administration Solution fiable pour la gestion des données Soutien des petites communautés Dans le cadre de Coordonner le support et la formation En cours de mise en place Accueil des premiers utilisateurs cet automne Formation : 1 journée à Clermont-Fd février (couplée avec DIRAC) Toute information : Si vous avez des besoins qui correspondent, nous contacter! info@france-grilles.fr 16