Si tous les ordinateurs du monde... Calcul scientifique vraiment très haute performance sur la grille mondiale

Transcription

1 Si tous les ordinateurs du monde... Calcul scientifique vraiment très haute performance sur la grille mondiale Luc Bougé Département info-télécoms ENS Cachan, Antenne de Ker Lann 25 octobre 2002 Résumé Cet article est la transcription de la leçon inaugurale donnée le 4 octobre 2001 à l occasion de l ouverture du nouveau département d informatique et télécommunications de l Antenne Bretagne de l ENS Cachan. Ce département est créé en appui sur l Université Rennes 1 (IFSIC) en ce qui concerne l enseignement et l Institut de recherche en informatique et système aléatoire (IRISA, UMR 6074) en ce qui concerne la recherche. Le Magistère d informatique et télécommunications (le MIT Rennes!) ouvrira ses portes à la rentrée 2002, avec un flux à terme de 25 élèves par an, dont la moitié de normaliens. 1 Introduction Les premiers ordinateurs réellement dignes de ce nom sont apparus dans les années Aussi curieux que cela puisse paraître, les machines n ont pas fondamentalement évolué en 50 ans. Bien sûr, les processeurs sont de plus en plus puissants, les tailles de stockage de plus en plus grandes, les niveaux d intégration de plus en plus massifs, mais le modèle de fonctionnement de votre PC portable est à peu près le même que celui de ses glorieux ancêtres. Les applications elles aussi n ont guère changé, mais leurs exigences en performance ont connu une extraordinaire évolution. Simulation climatique. Météo France utilise actuellement pour se prévisions climatique un maillage global de la planète avec des mailles de l ordre de 300 km de côté, et un modèle plus fin sur l hexagone avec des mailles de 14 km de côté. Les machines utilisées effectuent de l ordre de mille milliards ( ) d opérations flottantes, par exemple des multiplications, par seconde (Flop/s, floating-point operations per second, on parle donc de téraflop/s). Simulation de collision. La simulation numérique de collision représente un enjeu majeur pour l industrie automobile, tant sur le plan scientifique que sur le plan industriel et économique. La difficulté est de simuler la déformation des structures avec précision. Cela nécessite un partitionnement très fin de ces structures, avec une modification adaptative du maillage pour prendre en compte les pliages ou les contacts. Tous les grands constructeurs automobiles se sont équipés de machines parmi les plus puissantes disponibles actuellement dans ce but. 1

2 Simulation de dynamique moléculaire. La simulation par ordinateur de la dynamique moléculaire est la clé de la conception de médicaments et de la compréhension fine de leur activité, et toutes les grandes sociétés pharmaceutiques ont consenti d énormes investissements dans ce domaine. Pour obtenir un résultat significatif, il est nécessaire de considérer un pas de temps très petit : typiquement de l ordre de la femtoseconde ( ) pour simuler des trajectoires de l ordre de la nanoseconde ( ). 2 Le calcul parallèle Comment fournir aux utilisateurs de telles puissances de traitement? Une solution est de faire coopérer plusieurs machines sur un même calcul, de manière à effectuer les tâches en parallèle et non plus séquentiellement comme dans le modèle de von Neumann. Cette approche séduisante se heurte évidemment à de nombreux obstacles. Il est aussi difficile de faire travailler des machines ensemble que des personnes! La gestion de la synchronisation, des transferts de données, de l ordonnancement des opérations, etc. consomme une part significative des ressources, ce qui peut rendre l approche finalement sans intérêt. La question centrale est résumée par le fameux proverbe : Un bon cheval ne vaut-il finalement pas mieux que poulets? En 1996, le gouvernement américain a lancé une grand programme sur le calcul haute performance (High Performance Computing and Communication, HPCC). Le principe était d identifier un certain nombre de grands défis (grand challenges) dans le domaine de la simulation numérique et de concentrer les ressources sur leur résolution. Ces défis, fondamentaux pour la recherche et le développement, devaient avoir un impact significatif à la fois au niveau économique et scientifique et être inatteignables dans l état actuel de la technologie des ordinateurs parallèles. On peut citer par exemple la simulation du climat, l étude du génome humain, la conception de molécules pharmaceutiques, etc. Un état des lieux prospectif avait été dressé, montrant que la puissance nécessaire était de l ordre de quelques téraflop/s. Les supercalculateurs séquentiels classiques (Cray-YMP, C-90, etc.) étaient limités à des puissances de quelques centaines de méga- Flop/s. Les machines modestement parallèles ne dépassaient pas quelques gigaflop/s. Seules les machines massivement parallèles (Fujitsu VPP500 à 80 processeurs, IBM SP2 à 512 processeurs, Intel Paragon à 6700 processeurs, etc.) avaient le potentiel nécessaire pour passer le cap du téraflop/s. Effectivement, le téraflop/s a été atteint pour la première fois le 17 décembre 1996 par une machine Intel constituée d environ 7000 processeurs Pentium Pro. Ce succès a ouvert la voie à toute une série de monstres. Le dernier en date s appelle ASCI White. Il s agit d une machine construite par IBM et installée en juin 2000 dans un laboratoire californien du Département américain de l énergie (DOE). Elle a été conçue pour les simulations numériques liées aux armes nucléaires. Cette machine est grande comme deux terrains de basket et développe 7,2 téraflop/s observés. Elle est constituée de processeurs, gigaoctets de mémoire vive (RAM) et gigaoctets d espace disque en ligne. Il a fallu 28 camions remorques pour la transporter depuis les laboratoires d IBM. Son prix est confidentiel, peut-être même inconnu... À titre de comparaison, la machine française la plus puissante actuellement est installée au Centre informatique national de l enseignement supérieur (CINES) à Montpellier. Elle est constituée de 472 processeurs SP Power3 IBM, et développe 500 gigaflop/s. Il existe un observatoire indépendant qui publie deux fois par an la liste des 500 machines les plus puissantes du monde, le Top 500. Cette liste est mise à jour tous les 6 mois depuis Il apparaît que la croissance de la puissance disponible suit une loi assez régulière depuis 8 ans, à 2

3 peu près exponentielle. La machine la plus puissante en 1993 atteignait 60 gigaflop/s, soit environ 200 fois moins qu aujourd hui. Il est intéressant de noter que la puissance de la 500 e machine du classement suit une loi similaire. L augmentation de la puissance est donc un phénomène plutôt uniforme au niveau du parc mondial de machines. Mais le point le plus intéressant est que la somme des puissances des 500 machines les plus puissantes suit aussi cette loi, avec un facteur 15 de décalage. Comment tirer parti de cette puissance fantastique potentiellement disponible sur l ensemble de la planète? 3 Si tous les ordinateurs du monde... En novembre 1998 paraissait aux États-Unis un livre intitulé The Grid : BLueprint for a new computing infrastructure. Ce livre, un recueil de textes coordonné par Ian Foster et Carl Kesselman, allait avoir un retentissement considérable sur la communauté informatique. En effet, il proposait une vision où le calcul serait une ressource analogue à l énergie électrique aujourd hui. Quand vous branchez un appareil électrique, vous ne vous préoccupez pas de savoir qui a produit l énergie que vous consommez. Vous exigez que cette énergie soit constamment disponible, que le branchement de votre prise soit possible sans aucun obstacle dans l ensemble du pays, voire de la planète (modulo un adaptateur, tout de même...), et que vous ne soyez facturé que selon votre consommation propre, indépendamment de l infrastructure gigantesque, le réseau électrique (Power Grid, en anglais) international, qui a été mise en oeuvre pour vous fournir cette énergie. Vous ne savez pas qui a produit l énergie que vous consommez, comment elle a été produite, comment elle a été acheminée, selon quelles procédures commerciales et juridiques elle a été négociée, etc. La vision de Foster et Kesselman est exactement celle-ci : acquérir des données, les traiter, les stocker, les transporter, les exploiter, interagir avec elles, devrait être aussi simple que de brancher une prise de courant. L infrastructure informatique planétaire devrait prendre en charge de manière complètement transparente pour l utilisateur l ensemble des tâches accomplies aujourd hui péniblement par chaque possesseur de PC à l aide de disquettes, de CD-ROM, d écrans, de Word, d Excel, de MATLAB et autres Explorer... Et surtout, l utilisateur ne devrait payer que selon les ressources consommées, et non pas l investissement statique d un PC portable et de son environnement logiciel si complexe et si instable! Cette vision prophétique d une Grille de calcul mondiale analogue au réseau électrique international peut se décliner de plusieurs manières. Approche communautaire. Il s agit dans ce cas de récupérer les ressources de calcul inutilisées par les propriétaires des machines, essentiellement des PC. Ces ressources sont exploitées grâce au réseau Internet. Elles sont mises à disposition de manière volontaire, individuelle et gratuite, sur un modèle d action charitable ou communautaire. Il s agit de montages à court terme, légers techniquement, et le plus souvent spécialisés pour un certain type d application d intérêt commun pour la communauté concernée. Approche institutionnelle. Il s agit dans ce cas de mettre en commun des infrastructures matérielles et logicielles lourdes, gérées en général par des institutions publiques (centre de recherche, centre de calcul, etc.). Ces infrastructures peuvent être très diverses : acquisition de données (microscope électronique, accélérateur de particule, satellite, etc.), moyens de calcul et de stockage (ordinateur, système d archivage, etc.), réseaux de communication dédiés à très haut débit, outils d exploitation des résultats (environnement de réalité virtuelle, etc.). Il s agit de montages lourds, planifiés à long terme, avec une approche globale de la chaîne 3

4 de conception. 4 Les approches communautaires : le Global computing Il y a sur la planète à cet instant des centaines de millions de PC inactifs : les nuits et les weekend représentent plus de 60% du temps d une semaine. Il y a aussi des centaines de millions de disques pratiquement vides : même avec quelques gigaoctets par disques, cela représente des milliers de téraoctets. Et parmi les PC utilisés à cet instant, la plupart sont occupés à des connexions Internet ou à des saisies interactives en Word : ils passent en fait leur temps à attendre une frappe au clavier ou un paquet sur la carte réseau... Il y a donc là un gâchis fantastique de ressources. L idée d utiliser les ressources inoccupées de machines dispersées est en fait déjà ancienne. Elle semble avoir été redécouverte à plusieurs reprise. Un exemple célèbre est l utilisation du courrier électronique en 1990 par deux cryptologistes pour factoriser un nombre de 100 chiffres décimaux avec l aide d une centaine de collègues répartis sur toute la planète. Le développement de l Internet au niveau mondial et la très large diffusion des PC sous Windows offre bien sûr aujourd hui un cadre beaucoup plus efficace. Ce type d approche convient particulièrement pour la résolution de problèmes embarrassingly parallel, selon l expression consacrée. Les problèmes de recherche combinatoire, notamment en cryptographie, sont particulièrement bien adaptés. Par exemple, en avril 2000, un prix de Euros a récompensé des chercheurs français pour le craquage d un procédé cryptographique fondé sur la théorie des courbes elliptiques, pourtant réputé particulièrement sûr. Le code était verrouillé par une clé de 109 bits. Ce résultat a nécessité 4 mois de calcul sur PC dispersés à travers 40 pays, mis à disposition par collègues volontaires. Globalement, 500 années.pc de calcul ont été nécessaires. Ceci illustre bien la fragilité des codes cryptographiques actuellement utilisés par rapport à l augmentation vertigineuse de la puissance de calcul mobilisable, même au sein d une communauté aux moyens relativement restreints par rapport aux services secrets des grandes puissances. Un autre exemple plus inattendu de l utilisation ce type de techniques est le programme Seti@home de détection de la vie extraterrestre. Ce programme a été lancé par des universitaires américains. L idée est d analyser les signaux recueillis par de très grands radio-téléscopes pour y détecter des corrélations internes. Le postulat est que si ces signaux, censés être aléatoires, recèlent une cohérence interne, alors ils pourraient provenir d une intelligence extraterrestre tentant de rentrer en contact avec nous. On ne s étendra pas ici sur l argumentation philosophico-scientifique de ce genre de démarche, mais seulement sur la mise en oeuvre. Les signaux reçus sont découpés par l ordinateur maître en petits fragments significatifs et soumis aux PC serveurs participants au programme. Chaque serveur exécute une série de tests statistiques sur les fragments qu il reçoit et renvoie les résultats au maître. Les PC serveurs participant au programme ne traitent les fragments transmis par le maître que lorsqu ils sont inactifs. Dès que leur propriétaire les réveillent, ils laissent ce travail en attente, ce qui rend cette activité pratiquement indétectable pour l utilisateur. Ceci est implémenté simplement en demandant aux participants d utiliser un économiseur d écran particulier au lieu d afficher des poissons rouges sur leur écran comme le font la plupart des humains. Ainsi, les procédures d activation et de mise en veille de l activité d analyse sont entièrement sous le contrôle du système d exploitation et de l utilisateur par les outils de paramétrage habituels. Ce programme apparemment un peu futile a en fait connu un succès extraordinaire, et c est à ce jour la plus grande expérience de calcul communautaire qui ait été conduite. En octobre 2001, 4

5 le nombre de participants dépassait , et plus de années de calcul avaient été effectuées. Le temps moyen donné par chaque PC participant est de 17,5 heures par jour environ, soit plus de 70 % du temps disponible. Le chiffre le plus frappant est certainement la puissance développée : 23,5 téraflop/s, soit plus de 3 fois la puissance de la machine la plus puissante du monde, pour un coût... nul, ou presque! Le succès de ce programme a d ailleurs attiré l attention des plus grands industriels : Sun Microsystems, IBM, HP, etc. mais aussi Fuji Film ou Paramount. Le projet est soutenu par l Exploratorium de San Francisco, et l on peu acheter par correspondance des tasses, des tee-shirts et des casquettes : Use your head to help find intelligent life! Des start-up sont actuellement en cours de lancement pour exploiter ce modèle commercial sur des créneaux plus pérennes que la recherche de la vie extraterrestre : recherche contre le cancer ou les maladies génétiques (Décryptondans le cadre du Téléthon, soutenu par IBM), génomique, prédiction financière, etc. 5 Les approches institutionnelles : le Grid Computing Contrairement aux approches communautaires, il s agit ici de mettre en commun des ressources lourdes de traitement de données contrôlées par des institutions officielles, typiquement les grands centres de calcul des organismes de recherche. L objectif est d exécuter des applications à vraiment très grande échelle, une échelle supérieure à ce qu un pays peut proposer à ses chercheurs au sein d un centre de calcul isolé. Ceci peut concerner l ensemble de la chaîne de traitement, et non seulement la partie de calcul proprement dite : les problèmes d acquisition et de stockage des données, de stockage et d exploitation des résultats, sont au moins aussi cruciaux. Même s il est rendu par une grille de ressources dispersées sur toute la planète, le service offert aux chercheurs devrait être analogue à celui offert par un centre de calcul habituel : transparence d utilisation, performance maximale, administration simple et fiable sur le long terme, évolution des ressources disponibles en fonction des progrès techniques. Il s agit ici de d exécuter des applications en mode de production : les aspects de stabilité, de fiabilité, de sécurité, de confidentialité, etc. sont des paramètres majeurs, et les utilisateurs sont bien sûr prêts à payer le prix nécessaire. Ces techniques sont actuellement au coeur de la stratégie de tous les grands organismes de recherche mondiaux. Par exemple, la construction du nouvel équipement du CERN, le Large Hardon Collider (LHC) a été couplée avec un projet de conception et développement d une grille de calcul DataGrid au niveau européen pour absorber, analyser, stocker et exploiter la centaine de mégaoctets de données significatives qui sera produite chaque seconde. L utilisation de la grille mondiale pour le calcul scientifique vraiment très haute performance est un défi à la fois scientifique, technique, industriel et social. Il s agit de partager des ressources dispersées à l échelle planétaire, pour la résolution coordonnée de problèmes communs, dans le cadre d organisations virtuelles, dynamiques et multi-institutionnelles. Les machines utilisées sont de modèles, de tailles, d âges différents, avec des coûts et des procédures d utilisation différents : le partage de ressources se place dans un cadre fondamentalement hétérogène. Ces ressources sont dispersées à l échelle planétaire, et l utilisateur de la grille n a aucun contrôle sur leur disponibilité ou leur bon fonctionnement : la gestion du calcul doit pouvoir tolérer les pannes. L utilisateur doit pouvoir identifier à un instant donné les ressources disponibles sur la grille (machines, disques, réseaux, etc.), leur degré de disponibilité et leur coût pour optimiser sa stratégie de calcul. Enfin, les problèmes de sécurité et de fiabilité deviennent par dominants par rapport aux performances pures. L analogie avec la gestion du courant électrique est ici particulièrement opérante. On ne 5

6 peut s empêcher de penser aussi aux mouvements de capitaux à l échelle planétaire. L enjeu est évidemment immense, et aucun environnement ne prétend aujourd hui atteindre tous ces objectifs à la fois. L exemple le plus avancé est sans doute l environnement Globus, développé initialement par Foster et Kesselman, et maintenant soutenu par un large consortium académique et industriel. Les premières expériences de grilles ont été présentées à la conférence SuperComputing en 1998 avec la plate-forme GUSTO (Globus Ubiquitous SuperComputing Testbed Organization). En 2000, cette plate-forme comprenait 125 sites répartis sur 123 pays. Un autre exemple majeur de mise en place d une grille est le projet européen DataGRID. Son objectif est de fournir au niveau européen une infrastructure pour le calcul intensif et l analyse de très grandes bases de données (de l ordre du pentaoctet, ) partagées par des communautés scientifiques dispersées sur l ensemble du continent. Les applications pilotes sont les suivantes : analyse des données du Large Hardon Collider en cours de construction au CERN ; traitement d images dans le domaine de la biologie et du médical, piloté par le CNRS ; exploitation des données satellites d observation terrestre, piloté par l Agence spatiale européenne (ESA). L environnement de base qui a été choisi est Globus. Les enjeux de ces développements sont multiples, et ils touchent à tous les aspects des Sciences et technologies de l information et de la communication (STIC). Les enjeux sont bien sûr du domaine informatique : les aspects de sécurité logicielle deviennent par exemple cruciaux. Toute cette construction exige aussi des développements technologiques dans le domaine des réseaux et des télécommunications : les progrès de l électronique et de l optique seront évidemment déterminants. Mais une grille de calcul est aussi une communauté d agents, humains ou institutionnels, qui coopèrent sur une tâche commune, et les verrous sociaux sont au moins aussi déterminants que les verrous informatiques pour le développement de ce domaine. Ces agents doivent mettre en place des politiques d administration autour de standards communs. Ils doivent coopérer pour assurer la sécurité, la protection et la confidentialité. Ils doivent définir des procédures de négociation, notamment pour la facturation équilibrée des tâches. Ils doivent se coordonner pour optimiser leur comportement global dans un environnement fluctuant et incertain. L analogie avec le monde économique, et plus spécialement avec les techniques boursières, est ici frappante, et les outils de mathématiques financières sont probablement cruciaux dans cette direction. 6 Conclusion Il apparaît que la mise en place d infrastructures de calcul scientifique à l échelle planétaire ouvre une nouvelle époque du développement de l informatique. Jusqu ici, l un des objectifs majeurs a été la recherche de performance, avec des succès fulgurants dans la puissance des processeurs, la taille des disques ou la bande passante des réseaux. Aujourd hui, un nouveau défi se présente : le passage à l échelle. Nous avons été éduqués, habitués, à penser l informatique en termes locaux, homogènes, contrôlés. Aujourd hui, le défi est de penser en termes globaux, hétérogènes, fluctuants et incertains. La nouvelle frontière n est plus la performance pure : au niveau mondial, la puissance de calcul disponible est largement suffisante pour tous les problèmes scientifiques en cours d étude actuellement. La nouvelle frontière frontière est bien la gestion coordonnées de ces ressources collectives à l échelle de la planète. 6

7 Pour en savoir plus... Le livre de base est The Grid : Blueprint for a New Computing Infrastructure. Ian Foster, Carl Kesselman (rédacteurs), Morgan Kaufmann, 1998, 500 p. ISBN : Un recueil d articles récents est disponible sur le site Distributed Systems Online de la IEEE Computer Society à l adresse Voir en particulier l article de Foster, Kesselman et Tuecke intitulé TheAnatomyoftheGrid: EnablingScalableVirtualOrganizations publié en janvier Un grand nombre de sites Web fournissent des informations. Le site de Globus est particulièrement bien rédigé : Voir aussi le site de DataGRID pour des informations sur les actions européennes : Il existe une structure de réflexion internationale sur ces problèmes : le Grid Forum, C est un bon point d entrée pour explorer l activité scientifique actuelle et prendre des contacts. Le Top 500 des machines les plus puissantes du monde est en ligne à l adresse il est réactualisé tous les 6 mois. Les grand challenges qui ont initialement motivé ces développements sont décrits sur le site américain Le rapport (HPCC Blue Book) rédigé en 1996 est disponible à l adresse Le point sur la place actuelle de la France dans le domaine des STIC est disponible sur le site de l INRIA à l adresse inria/strategie/rapport-plan.fr.html. La stratégie américaine dans le domaine du supercalcul (programme ASCI) est décrite à l adresse Plusieurs journaux ont récemment consacré des articles à ce sujet. Voir les articles du Monde Informatique sur le site Chercher par exemple le site avec la clé GRID. Des articles d introduction sont Tous les PC au service de la recherche ou Construire le plus gros supercalculateur du monde, ordinateur par ordinateur. 7