Installation des services

Transcription

1 CNRST, Juin Installation des services glite CE/WN Formation Administrateur de la Grille de Calcul CNRST, Rabat, Juin 2013 Bouchra Rahim Division TIC CNRST, Rabat

2 Introduction-CE Le Computing Element fournit les informations principales liées au site. Fonctionnalités principales: Gestion des jobs (soumission des jobs, control de job) Mettre à jours le statut du job pour WMS Communication avec le BDII site qui publie toutes les informations concernant les computing element (CE) Il peut exécuter plusieurs types de systèmes batch: Torque (pbs) + MAUI LSF SGE Condor rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

3 CNRST, Juin Introduction-Torque/MAUI Service Torque server : pbs_server fournit des services batch de base tels que réception / création d'un job batch Service Torque client : psb_mom place le job pour exécution. Il retourne également les résultats du job vers l'utilisateur. Service MAUI system : job_scheduler contient les politiques du site pour décider quel est le job à exécuter et quand.

4 CNRST, Juin CREAM CREAM = Computing Resource Execution And Management Accepte les requêtes de soumission de job provenant du WMS ou d'un autre gestionnaire de job. Il fournit une interface basée sur les Web services (Java-Axis servlet,tomcat) CEId = <gg_hostname>:<port>/<gg_type>-<lrms_type>-<batch_queue_name> ce3.cnrst.magrid.ma:8443/cream-pbs-magridschool

5 CNRST, Juin BLAH L integration avec le système de batch locale est faite en utilisant le service BLAH (Batch Local Ascii Helper) qui gère : L interaction avec le système de batch local pour executer les opérations de gestion de job (job submit, cancel) La Notification du CREAM à propos des changements du status de job notification à l aide du composant BLParser ( en utilisant les commandes status/history du system batch)

6 CNRST, Juin BLAH L integration avec le système de batch locale est faite en utilisant le service BLAH qui gère : L interaction avec le système de batch local executer les opérations de gestion de job (job submit, cancel) La Notification du CREAM à propos des changements du status de job notification à l aide du composant BLParser ( en utilisant les commandes status/history du system batch)

7 CNRST, Juin WN Les WNs sont les machines qui exécutent réellement le job. Pas d accès directe. Interaction via le Computing Element. Les Jobs tournent sont lancées par un compte générique associé au DN du certificat de l utilisateur. Mapping /C=MA/O=MaGrid/OU=CNRST/CN=Bouchra Rahim magridschool001 Les WNs Doivent accéder à un répertoire partagé d Applications. /opt/exp_soft/magridschool/gate. /opt/exp_soft/magrid/molpro.

8 OS: SL5/SL6 Middleware EMI 2 Installation-CE Autre repos: EPEL, Certification Authority # cd /etc/yum.repos.d/ # rpm -ivh # wget # yum install yum-priorities yum-protectbase #rpm -ivh # yum install -y ca-policy-egi-core # yum install -y emi-cream-ce # yum -y install emi-torque-server emi-torque-utils rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

9 OS: SL5/SL6 Middleware EMI 2 Installation-WN Autre repos: EPEL, Certification Authority # cd /etc/yum.repos.d/ # rpm -ivh # wget # yum install yum-priorities yum-protectbase #rpm -ivh # yum install -y ca-policy-egi-core # yum install -y emi-wn # yum -y install emi-torque-client rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

10 CNRST, Juin Configuration site-info.def: SITE_NAME,CE_CPU_MODEL,CE_CPU_VENDOR,CE_CPU_SPEED, CE_OS,CE_OS_ARCH,CE_MINPHYSMEM,CE_MINVIRTMEM, CE_PHYSCPU,CE_LOGCPU,CE_SMPSIZE,CE_SI00,CE_SF00 BATCH_SERVER=pcXX.magrid.ma JOB_MANAGER=pbs BATCH_LOG_DIR=/var/torque BATCH_VERSION SE_LIST="pcYY.magrid.ma" BDII_HOST=bdii.magrid.ma VO_SW_DIR=/opt/exp_soft VOS QUEUES <queue-name>_group_enable</queue-name>

11 services/glite-creamce CEMON_HOST=pcXX.magrid.ma BLPARSER_HOST=pcXX.magrid.ma wn-list.conf pcyy.magrid.ma pczz.magrid.ma groups.conf Configuration "/magridschool/role=softwaremanager":::sgm: "/magridschool/*":magridschool::: "/magridschool":::: users.conf 7315:sgmmagridschool003:2513,2413:sgmmagridschool,magridschool:magridschool:sgm: 2851:magridschool001:2413:magridschool:magridschool:: vo.d Formation Administrateur de la Grille de Calcul CNRST, Juin

12 CNRST, Juin Authentification munge Depuis la version Torque , "munge" est la méthode d'authentification interne des nœuds : Sur le CE, générer la clé # /usr/sbin/create-munge-key Copier la clé, /etc/munge/munge.key, sur tous les WNs et ajuster les droits: # chown munge:munge /etc/munge/munge.key # chmod 400 /etc/munge/munge.key # service munge start # chkconfig munge on

13 Répertoire partagé pour les applications NFS Au niveau du CE ou SE # mkdir /opt/exp_soft # cat /etc/exports /opt/exp_soft/ *.magrid.ma(rw,sync,no_root_squash) Au niveau des WNs # cat /etc/fstab pcxx.magrid.ma:/opt/exp_soft/ /opt/exp_soft/ nfs rw,defaults 0 0 # mount -a rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

14 Configuration Vérifier les fichiers de configuration : Au niveau du CE # /opt/glite/yaim/bin/yaim -v -s /root/siteinfo/site-info.def -n creamce -n TORQUE_server -n TORQUE_utils Au niveau du WN # /opt/glite/yaim/bin/yaim -v -s /root/siteinfo/site-info.def -n WN -n TORQUE_client Configurer le service Au niveau du CE # /opt/glite/yaim/bin/yaim -c -s /root/siteinfo/site-info.def -n creamce -n TORQUE_server -n TORQUE_utils Au niveau du WN # /opt/glite/yaim/bin/yaim -c -s /root/siteinfo/site-info.def -n WN n TORQUE_client rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

15 CNRST, Juin Au niveau du WN Installation # yum -y install emi-mpi MPI # yum -y install openmpi openmpi-devel # yum -y install mpich2 mpich2-devel Authentification basée sur Hôte entre les WN Au niveau du CE Installation # yum -y install emi-mpi Fichier de configuration : service/glie-mpi MPI_OPENMPI_ENABLE="yes" MPI_OPENMPI_PATH="/usr/lib64/openmpi/1.4-gcc/" MPI_OPENMPI_VERSION="1.4" MPI_OPENMPI_MPIEXEC="/usr/lib64/openmpi/1.4-gcc/bin/mpiexec" MPI_SSH_HOST_BASED_AUTH="yes"

16 CNRST, Juin Au niveau du WN Reconfiguration MPI #/opt/glite/yaim/bin/yaim -c -s /root/siteinfo/site-info.def -n MPI_WN -n WN -n TORQUE_client Au niveau du CE Reconfiguration # /opt/glite/yaim/bin/yaim -c -s /root/siteinfo/site-info.def -n MPI_CE -n creamce -n TORQUE_server -n TORQUE_utils

17 Vérification du service Vérifier le bon démarrage des services # service glite status Torque # qstat -q server: pcxx.magrid.ma # pbsnodes a pcyy.magrid.ma state = free np = 4 pczz.magrid.ma state = free np = 4 rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

18 Soumission de job local : #su - magridschool001 $ qsub -q magrid test.sh $ qstat Soumission de job ce : Vérification du service #glite-ce-job-submit -a -r pcxx.magrid.ma:8443/cream-pbs-magridschool -o testid test.jdl #glite-ce-job-status -i testid #globus-url-copy gsiftp://pcxx.magrid.ma/tmp/test.out file:///home/griduser/test.out Soumission de job WMS: #glite-wms-job-submit -a -r pcxx.magrid.ma:8443/cream-pbs-magrid -o testid test.jdl Service BDII #ldapsearch -xlll -b mds-vo-name=resource,o=grid -p h pcxx.magrid.ma rahim@cnrst.ma Formation Administrateur de la Grille de Calcul CNRST, Juin

19 CNRST, Juin Références