Glite et soumission de job sur une grille de calcul

Transcription

1 Glite et soumission de job sur une grille de calcul 20 avril 2011 Autiwa

2 Table des matières 2 Table des matières 1 Avant-propos 3 2 les certicats 3 3 manipuler les proxy Pour les jobs longs Avoir des infos sur la grille Soumission de jobs : JDL Arguments (optionnel) StdInput (optionnel) StdOutput et StdError (obligatoire) InputSandbox (optionnel) OutputSandbox (optionnel) attributs pour les ressources Soumettre un job de A à Z Soumission d'un job visualiser le statut d'un job Récupération de la sortie d'un job Commandes diverses Astuces Collection de jobs Les jobs paramétriques Gestion des données commandes usuelles Copier un chier sur la grille récupérer un chier de la grille Dupliquer des chiers Glossaire 10

3 3 3 manipuler les proxy 1 Avant-propos La grille n'est pas adaptée à du calcul parallèle. Les jobs sont limités à 24h CPU, c'est à dire que chaque job a une durée de vie maximale de 24h. Mais on peut par contre lancer plusieurs centaines voire milliers de jobs. Le problème d'mpi va être de trouver 100 processeurs sur la même machine. Les 100 processeurs disponibles ne seront peut-être pas sur la même machine physique. 2 les certicats Le certicat global est au format pkcs12 (*.p12). Il est crypté et un mot de passe lui est associé. Pour l'importer dans refox, il sut d'aller dans Édition>Préférence>Avancé>Chirement, puis d'aller consulter les certicats personnels et d'en importer un nouveau. Après avoir entré le mot de passe, le certicat est normalement correctement importé. À partir du certicat *.p12, il faut entrer les commandes suivantes pour récupérer les deux chiers nécessaires à l'utilisateur pour une utilisation en dehors du navigateur : openssl pkcs12 -in cert.p12 -clcerts -nokeys -out ~/.globus/usercert.pem openssl pkcs12 -in cert.p12 -nocerts -out ~/.globus/userkey.pem cd ~/.globus ls Mais ce n'est pas susant, il faut aussi les bons droits aux chiers : chmod 400 userkey.pem chmod 444 usercert.pem 3 manipuler les proxy C'est un chier qui permet à un job de fonctionner. Par défaut un proxy est valable 12h. Il doit être généré sur la machine locale avant d'envoyer le job à la grille. An de consulter les informations du proxy, notamment son temps de validité, il faut taper 1 : voms-proxy-info [-all] Pour supprimer le proxy courant, il faut faire voms-proxy-destroy Pour générer un proxy, il faut faire : voms-proxy-init -voms vo.formation.idgrilles.fr Pour attribuer un rôle au proxy, il faut : voms-proxy-init -voms vo.formation.idgrilles.fr:/vo.formation. idgrilles.fr/role=production 3.1 Pour les jobs longs Pour pouvoir faire tourner un job long, il faut attribuer un proxy de longue durée à un serveur myproxy particulier (que l'on dénote ici par f.q.d.n ) : myproxy-init -d -n [ -s f.q.d.n ] La variable d'environnement pour le serveur MyProxy c'est echo $MYPROXY_SERVER 1. l'option -all étant facultative

4 3.2 Avoir des infos sur la grille 4 Dans le script de lancement de job, pour pouvoir bénécier de ce proxy long (le serveur MyProxy va renouveler le proxy court tant que 'son' proxy long sera valable) il faut rajouter la ligne suivante dans le script : MyProxyServer = "f.q.d.n"; Ceci permet à un job de survivre plus longtemps sur la grille, mais ça ne lui permet pas de s'exécuter plus longtemps, c'est juste que ça permet au job d'être mis en attente pendant quelques temps, puis être lancé et se terminer normalement. 3.2 Avoir des infos sur la grille Notamment pour avoir le serveur de stockage le plus proche. Il faut utiliser lcg-infosites. Exemple : lcg-infosites vo alice ce is lxb2006.cern.ch Pour visualiser l'utilisation des processeurs et les jobs lancés, il faut : lcg-infosites --vo vo.formation.idgrilles.fr ce les autres informations que l'on peut récupérer, au lieu de ce sont lfc et wms Remarque : C'est pas clair, je sais pas à quoi ça sert, comment avoir des infos utiles. 4 Soumission de jobs : JDL On spécie au minimum : le programme et ses arguments redirection des outputs et erreurs dans des chiers ce qu'on fait de la sortie (OutputSandbox) Par exemple, un chier de soumission de job minimal serait : Executable = "/bin/echo "; Arguments = "Hello World "; StdOutput = "message.txt "; StdError = "stderror "; OutputSandbox = {"message.txt", "stderror "}; On peut remarquer qu'on déclare des variables et des arguments, et que chaque déclaration se ni par un point-virgule. 4.1 Arguments (optionnel) ce sont les arguments de la ligne de commande du job 4.2 StdInput (optionnel) Standard input du job 4.3 StdOutput et StdError (obligatoire) Standard output/error du job 4.4 InputSandbox (optionnel) C'est la liste des chiers sur le disque local de l'ordinateur de l'utilisateur ou sur un serveur ([grid]ftp, http,...) nécessaires lors de l'éxecution du job Les chiers listés sont envoyés depuis l'ui (l'ordinateur local) sur le serveur de calcul (WN).

5 5 5 Soumettre un job de A à Z 4.5 OutputSandbox (optionnel) Liste des chiers, générés par le job, qui seront récupérés Ces chiers seront envoyés depuis le RB sur l'ui 4.6 attributs pour les ressources Requirements permet de spécier quelle architecture, quel système et quel nombre de processeur est nécessaire Requirements = other.architecture==intel && \ other.opsys==linux && other.freecpus\ >=4; 5 Soumettre un job de A à Z Il faut créer un proxy. J'avais fait voms-proxy-init Mais lors de la soumission du job, même avec l'option --vo vo.formation.idgrilles.fr la soumission échouait avec l'erreur suivante : Warning - Unable to delegate the credential to the endpoint: Stack dump Switching to next WMProxy Server... Error - Operation failed Unable to find any endpoint where to perform service request La solution est de faire voms-proxy-init -voms vo.formation.idgrilles.fr 5.1 Soumission d'un job Alors, la soumission fonctionne : glite-wms-job-submit -a HelloWorld.jdl permet de soumettre un job et retourne le jobid qu'il faut récupérer absolument si on veut pouvoir savoir ce qu'il est devenu. 5.2 visualiser le statut d'un job Remarque : On peut aussi stocker le jobid dans un chier texte. Si on exécute ça pour un autre job, le jobid du deuxième job sera ajouté à la suite du premier. glite-wms-job-submit -a -o jobid.txt HelloWorld.jdl et pour visualiser le ou les jobs dont le jobid est dans le chier texte : glite-wms-job-status -i jobid.txt

6 5.3 Récupération de la sortie d'un job 6 Notez le jobid sans quoi vous ne saurez pas ce qu'il est devenu. Vous ne pourrez pas non plus récupérer le OutputSandbox. On peut maintenant vérier le statut du job : glite-wms-job-status Remarque : On peut utiliser la commande watch pour exécuter une commande dans une boucle. Pour eectuer la commande glite-wms-job-status toutes les 15 secondes, utilisez watch -n 15 glite-wms-job-status <jobid> et tapez Ctrl + c pour sortir. 5.3 Récupération de la sortie d'un job glite-wms-job-output ne fonctionnait pas, j'avais l'erreur suivante : Error - Configuration Error Output Storage pathname doesn't exist (check the configuration file): /tmp/joboutput Ceci vient d'un problème de conguration de l'ui. La solution est de lui spécier un dossier où on veut stocker les outputs, par exemple dans le dossier courant : glite-wms-job-output --dir./ Un dossier est alors créé dans ce répertoire, dans mon cas c'était user06_ptilk-kyyxvtnujldy5cxg/ et il contient les chiers de sortie du job (ceux qu'on a conguré dans le OutputSandbox. 5.4 Commandes diverses glite-wms-job-list-match -a <jobid> liste les ressources compatibles avec la description du job. Elle eectue la correspondance (matchmaking) sans soumettre le job. glite-wms-job-cancel <jobid> permet d'annuler un job. Exemple : glite-wms-job-status Pour voir tous les jobs soumis (à vérier ; cf SoumissionJobs.odp) 5.5 Astuces glite-wms-job-list-match -a HelloWorld.jdl grep " -" wc -l permet de connaître le nombre de sites sur lesquels le job peut se lancer. Les scripts ne sont pas exécutables par défaut à la sortie de l'inputsandbox, seule l'exécutable déni comme tel dans le job l'est. Il faut donc, à partir de ce dernier, faire des chmod pour rendre exécutable les scripts qui nous intéressent.

7 7 5 Soumettre un job de A à Z 5.6 Collection de jobs La bulk submission permet de soumettre une collection de jobs indépendants en une seule commande. Pour cela, il faut mettre tous les JDL dans un même répertoire et utiliser l'option collection avec glitewms-job-submit en donnant comme argument le nom du répertoire contenant les JDL. Ce mécanisme est très performant et préférable à la soumission individuel d'un grand nombre de jobs. Pour soumettre la collection de 3 jobs dans le sous-répertoire./jdl, faire : glite-wms-job-submit -a --collection jdl ou encore glite-wms-job-submit -a -o collid.txt --collection jdl pour stocker l'id dans un chier. Le jobid aché est l'identiant de la collection de job (collid). Comme pour un job seul, il faut utiliser cet identiant pour connaître l'état des jobs ainsi que les jobid correspondants aux jobs de la collection : glite-wms-job-status -i collid.txt La commande glite-wms-job-output sur la collid permet d'obtenir les sorties des jobs qui se sont terminés sans erreur. Les sorties sont rangées dans un sous-directory par job. Remarque : Dans le répertoire contenant les logs des diérents jobs, le chier ids_nodes.map indique quel sous-directory est utilisé pour chaque jobid. Les commandes glite-wms-job-cancel et glite-wms-job-logging-info s'appliquent également sur les collections. 5.7 Les jobs paramétriques Pour cela on fait rajouter une information via la variable Parameters. Deux solutions s'orent à nous : 1. soit on spécie des chaînes de caractères : Parameters = {string1, string2, string3}; On ne met pas les guillemets aux chaînes de caractères contenues dans Parameters. 2. soit on spécie des nombres entiers : Parameters = 5; ParameterStart = 1; ParameterStep = 1; On peut alors appeler dans le script de soumission du job *.jdl la valeur du paramètre via _PARAM_. Voici un exemple de chier : Exemple : JobType = "Parametric"; Executable = "ParametricNum.sh"; Arguments = "_PARAM_"; StdOutput = "std.out"; StdError = "std.err"; InputSandbox = {"ParametricNum.sh", "Input_PARAM_.txt"}; OutputSandbox = {"std.out", "std.err", "Output_PARAM_.txt" }; MyProxyServer = "myproxy.cern.ch"; Parameters = 5; ParameterStart = 1; ParameterStep = 1; Il y a trois choses : 1. On passe la valeur du paramètre en argument de l'exécutable

8 8 2. On dénit le nom du chier d'entrée à aller chercher en fonction de la valeur du paramètre 3. On dénit le nom du chier de sortie à récupérer en fonction de la valeur du paramètre À noter que le lancement de ce script donnera 4 jobs où la valeur du paramètre vaudra respectivement 1, 2, 3 et 4. Pour lancer la liste de jobs paramétrique, il faut faire : glite-wms-job-submit -a -o ParametricNum.jdl ou glite-wms-job-submit -a -o paramid.txt ParametricNum.jdl 6 Gestion des données Pour localiser le SE (storage Element) le plus proche, il faut faire : lcg-infosites --vo gilda closese Sinon, on peut lister toutes les infos d'une VO : lcg-infosites --vo vo.formation.idgrilles.fr all et donc en particulier les SE disponibles. 6.1 commandes usuelles lfc-mkdir crée un dossier sur un SE de la grille lcg-cr permet de copier un chier sur la grille lcg-del permet de supprimer un chier sur la grille lcg-lr permet de lister les réplicas d'un chier donné (identié par son chemin logique (lfn :), son GUID (guid :) ou son SURL lcg-cp récupérer localement un chier de la grille. 6.2 Copier un chier sur la grille lcg-cr --vo vo.formation.idgrilles.fr -d ccsrm02.in2p3.fr my_ascii_file.txt -l lfn:/grid/vo.formation.idgrilles.fr/user06/file.txt va copier le chier my_ascii_file.txt du dossier courant sur l'ui en tant que file.txt dans le dossier user06 sur le SE vo.formation.idgrilles.fr. 6.3 récupérer un chier de la grille lcg-cp --vo vo.formation.idgrilles.fr guid:7ee64a33-ed51-4f52-99c8-554cd13ce549 toto.txt 6.4 Dupliquer des chiers Pour dupliquer des chiers ~> lcg-rep --vo vo.rocfr.in2p3.fr guid:<guid> -d <SEName> ~> lcg-rep --vo vo.rocfr.in2p3.fr lfn:<logicalfilename> -d <SEName> ~> lcg-rep --vo vo.rocfr.in2p3.fr <surl> -d <SEName> si l'option -d n'est pas spéciée, la copie sera faite sur un SE choisi au hasard (souvent le SE le plus proche).

9 9 6 Gestion des données Remarque : C'est cette commande qu'il faut utiliser dans un job pour copier les chiers locaux dans un espace de stockage, de préférence voisin an de ne pas passer trop de temps à les copier.

10 6.4 Dupliquer des chiers 10 Glossaire CA CE Certication Authority : Un organisme autorisé à délivrer des certicats (je crois) Computing Element : interface avec les jobmanagers locaux des sites. Grille GUID Une grille informatique (en anglais, grid) est une infrastructure virtuelle constituée d'un ensemble de ressources informatiques potentiellement partagées, distribuées, hétérogènes, délocalisées et autonomes. Global Unique IDentier : Identiant permanent d'un chier, par opposition au LFN qui ne l'est pas. JDL LFC LFN NGI RB SE SURL UI VO WN Job Description Language : Ce qui permet d'écrire un script de soumission de job. LGC File Catalog : catalogue de nommage des données. Il permet de faire le lien entre le nom logique et les éventuels réplicats du même chier. Si le chier original est modié, le lien sera brisé. Logical File Name : Le nom logique d'un chier identié dans le LFC, par exemple /grid/gilda/myname/macopie.test National Grid Initiative Ressource Broker : le grand ordonnateur en gros, c'est lui qui répartir les tâches je crois Storage Element : point d'accès aux ressources de stockage de données. Storage URL User Interface : point d'accès à la grille. C'est n'importe quelle machine sur laquelle l'utilisateur a un compte personnel. En gros, l'ordinateur de bureau de l'utilisateur. Virtual organizations : groupe virtuel d'utilisateur et/ou de machine à laquelle on peut appartenir. Worker Node : n uds sur lesquels tournent les jobs.

11 11 6 Gestion des données WMS Workload Management System : meta-scheduler faisant la correspondance entre besoin et ressources.