MATÉRIEL GRAPHIQUE POUR LE CALCUL SCIENTIFIQUE. François Rousselle LISIC Image et Apprentissage OASIS

Transcription

1 MATÉRIEL GRAPHIQUE POUR LE CALCUL SCIENTIFIQUE François Rousselle LISIC Image et Apprentissage OASIS

2 Cadre BQR 2010 CGR LISIC LMPA : Réalisation d'une plateforme générique de calcul intensif pour cartes graphiques haute performance Décembre 2010 : achat d un calculateur GPU TESLA pour * GPU = Graphics Processing Unit * TESLA = carte de calcul GPU de marque Nvidia Début 2011 : phase de tests du calculateur Aujourd hui : présentation générale sur le calcul scientifique utilisant les cartes graphiques Remarque : pas un séminaire sur la programmation des GPU! LISIC - FRANÇOIS ROUSSELLE 2

3 Plan de la présentation GPU : un choix judicieux? Qu est qu un GPU? GPU pour du calcul générique Comparaison avec les CPU Exploitation du calculateur GPU Performances Equipement du CGR/LISIC/LMPA Conclusion Références GPU NvidiaGF100 équipant les cartes Tesla LISIC - FRANÇOIS ROUSSELLE 3

4 GPU : un choix judicieux? À l origine supercalculateur = machines entièrement spécifiques 1946 : ENIAC 50k Flops (FLoating point Operations Per Second) LISIC - FRANÇOIS ROUSSELLE 4

5 GPU : un choix judicieux? À l origine supercalculateur = machines entièrement spécifiques 1961 : IBM 7030 Stretch 1,2 MFlops LISIC - FRANÇOIS ROUSSELLE 5

6 GPU : un choix judicieux? À l origine supercalculateur = machines entièrement spécifiques 1976 : Cray MFlops LISIC - FRANÇOIS ROUSSELLE 6

7 GPU : un choix judicieux? À l origine supercalculateur = machines entièrement spécifiques 1985 : Cray-2 1,7 GFlops LISIC - FRANÇOIS ROUSSELLE 7

8 GPU : un choix judicieux? Ensuite : architectures parallèle de processeurs centraux (CPU) 1997 : Intel ASCI Red x Pentium Pro 1,07 TFlops LISIC - FRANÇOIS ROUSSELLE 8

9 GPU : un choix judicieux? Ensuite : architectures parallèle de processeurs centraux (CPU) 2007 : IBM Blue Gene/P x PowerPC TFlops LISIC - FRANÇOIS ROUSSELLE 9

10 GPU : un choix judicieux? Enfin : architectures parallèles mixtes CPU + processeurs spécialisés 2008 : IBM Roadrunner AMD Opteron IBM PowerXCell 1,04 PFlops LISIC - FRANÇOIS ROUSSELLE 10

11 GPU : un choix judicieux? Actuellement, les 4 superordinateurs les plus puissants sont : Tianhe-1A(National Supercomputing Center in Tianjin - Chine) 2,56 PFlops Intel Xeon X Tesla C2050 Jaguar Cray(DOE/SC/Oak Ridge National Laboratory- USA) 1,76 PFlops AMD Opteron Nebulae(National Supercomputing Centre in Shenzhen Chine) 1,27 PFlops Intel Xeon X Tesla C2050 Tsubame 2.0 (GSIC Center, Tokyo Institute of Technology- Japon) 1,19 PFlops Intel Xeon X Tesla C2050 LISIC - FRANÇOIS ROUSSELLE 11

12 GPU : un choix judicieux? En résumé : en de CPU spécialisés : Intel Itanium, NEC SX, IBM Power, etc. + en + de CPU plus «grand public» - de station PC : Intel Xeon, AMD Opteron - de CPU d ordinateurs personnels ou de console de jeux! : IBM PowerPC (Apple ->2006, Nintendo Wii, Microsoft Xbox 360) IBM Powercell(Sony PS3) + en + de GPU : - cartes Nvidia Tesla (GPU de cartes graphiques PC) Pourquoi? 1. Bon rapport performance / prix 2. Bon rapport performance / consommation électrique LISIC - FRANÇOIS ROUSSELLE 12

13 Qu est qu un GPU? GPU = processeur programmable dédié à l affichage de scènes polygonales 3D (terme proposé par Nvidia en 1999) Jusque début 90 : processeurs graphiques 3D = exclusivité des stations graphiques professionnelle(silicon Graphics principalement) -> IRIS GL API 1992 : OpenGL Architectural Review Board - nombreuses compagnies 1995 : Direct3D Microsoft 3 ères principales de processeurs graphiques 3D «grand public»: Jusqu en 2000 : architecture de type «machine à états» : architecture parallèle et programmable dédiée à l affichage 2006? : architecture massivement parallèle entièrement programmable LISIC - FRANÇOIS ROUSSELLE 13

14 Qu est qu un GPU? 1 ière ère (jusqu en 2000) : le calcul des images reflète le «pipeline graphique» défini par OpenGL et Direct3D (machine à états) Shade pixels Add textures LISIC - FRANÇOIS ROUSSELLE 14

15 Qu est qu un GPU? 1 ière ère (jusqu en 2000) : déport de + en + important du pipeline sur le processeur graphique LISIC - FRANÇOIS ROUSSELLE 15

16 Qu est qu un GPU? 1999 : NvidiaNV10 (GeForce 256) = premier processeur graphique intégrant l ensemble du pipeline 3D -> le premier GPU LISIC - FRANÇOIS ROUSSELLE 16

17 GPU pour du calcul générique 2 ième ère ( ) : - développement du parallélisme LISIC - FRANÇOIS ROUSSELLE 17

18 GPU pour du calcul générique 2 ième ère ( ) : programmation de shaders Vertex Shader Shade pixels Add Pixel textures Shader LISIC - FRANÇOIS ROUSSELLE 18

19 GPU pour du calcul générique 2 ième ère ( ) : détournement des shaders Vertex Shader Shade pixels Add Pixel textures Shader LISIC - FRANÇOIS ROUSSELLE 19

20 GPU pour du calcul générique Exemple(Ray Engine) : calcul de l intersection d un triangle ABC avec 100 droites définies chacune par un point 3D et un vecteur directeur Coordonnées des 100 points 3D : texture 10x10 Coordonnées des 100 vecteurs directeurs : texture 10x10 Calculs d intersection effectués dans chaque pixel par le pixel shader ABC? Déclenchement? Résultat des intersections dans l image finale 10x10 LISIC - FRANÇOIS ROUSSELLE 20

21 GPU pour du calcul générique Coordonnées des 3 points ABC constituant le triangle : attributs des 4 points du rectangle recouvrant l écran Coord. coin haut gauche + coorda + coord. B + coord. C Coord. coin bas gauche + coorda + coord. B + coord. C Après discrétisation du rectangle et interpolation des attributs aux sommets : 10x10 pixels contenant tous les coordonnées de A, B et C ABC ABC ABC ABC LISIC - FRANÇOIS ROUSSELLE 21

22 GPU pour du calcul générique 2 ième ère ( ) : détournement des shaders 1 rectangle plein écran + ABC attr. de chaque coin Discrétisation en 10x10 pixels Recopie ABC dans chaque pixel calcul dans chaque pixel Shade pixels Add textures Pixel Shader Résult. Points droites Vect. droites LISIC - FRANÇOIS ROUSSELLE 22

23 GPU pour du calcul générique Calculs plus complexes : Plusieurs passes (résultats intermédiaires réutilisés) Plusieurs images résultats X 8 Vertex Shader Shade pixels Add Pixel textures Shader LISIC - FRANÇOIS ROUSSELLE 23

24 GPU pour du calcul générique 3 ième ère (2006-?) : ajout du geometryshader Vertex Shader Geometry Shader Shade pixels Add Pixel textures Shader LISIC - FRANÇOIS ROUSSELLE 24

25 GPU pour du calcul générique 3 ième ère (2006-?) : architecture unifiée massivement parallèle Nvivia Fermi GF cœurs Cuda - 4 Graphic Processing Clusters - 4 Streaming Multiprocessors par GPC - Cache L2 LISIC - FRANÇOIS ROUSSELLE 25

26 GPU pour du calcul générique Nvivia Fermi GF100 Chaque Streaming Multiprocessor - 2 ordonnanceurs - 32 cœurs Cuda(1 FPU + 1 INTU) - 4 Special Function Unit - 16 Load/Store Unit - 4 Texture Unit - Cache L1 LISIC - FRANÇOIS ROUSSELLE 26

27 GPU pour du calcul générique 3 ième ère (2006-?) : architecture unifiée massivement parallèle 2 utilisations possible : 1. Rendu graphique - Utilisation du pipeline graphique OpenGL/D3D avec shaders - Chaque cœur Cuda exécute soit un vertex shader, un geometry shader ou un pixel shader 2. Calcul générique - Utilisation du driver Cuda - Les cœurs exécutent un programme quelconque LISIC - FRANÇOIS ROUSSELLE 27

28 Comparaison avec les CPU Intel Gulftown: 6 cœurs (Corei7 980X Xeon X56xx) LISIC - FRANÇOIS ROUSSELLE 28

29 Comparaison avec les CPU Intel Gulftown: 6 cœurs (Corei7 980X Xeon X56xx) Chaque cœurs = 6 unités d exécution 36 unités d exécution au total mais certaines d entres-elles sont vectorielles (SSE = 2 ou 4 op en //) LISIC - FRANÇOIS ROUSSELLE 29

30 Comparaison avec les CPU Peu d unités de calcul dans un CPU par rapport à un GPU CPU Nehalem6 cœurs (36+ SSE) Intel i7 980x = 107 Gflopsmax DP GPU GF cœurs Cuda Tesla C2050 = 515 Gflopsmax DP 1 Tflopsmax SP LISIC - FRANÇOIS ROUSSELLE 30

31 Comparaison avec les CPU Difficulté de programmation : GPU : CPU : - Calculs parallélisables - Communication avec la mémoire centrale - Organisation des calculs par block (SM) avec chemin d exécution identiques (ou presque) - - Calculs parallélisables entre cœurs - Calculs parallélisables pour unités de calcul vectorielles (SSE) - LISIC - FRANÇOIS ROUSSELLE 31

32 Exploitation du calculateur GPU Programmation des GPU nvidia: C / C++ pour Cuda(nVidia) OpenCL(Open ComputeLanguage Khronosgroup) : API de programmation // pour systèmes hétérogène GPU, CPU, Cell, DirectCompute(Microsoft) : extentionde l API DirectX pour le calcul sur GPU Interfaçage possible avec Fortran, Java, Python,.NET LISIC - FRANÇOIS ROUSSELLE 32

33 Exploitation du calculateur GPU Cuda toolkit: Librairie CUBLAS : multiplication de matrices, transposée Librairie CUFFT : Fast Fourier Transform Librairie CUSPARSE : opérations sur matrices creuses Librairie CURAND : génération de nombres aléatoires Librairie H264 : décodage/encodage de vidéo HD Outil de debogage Interface pour la visualisation des performances Nombreux exemples LISIC - FRANÇOIS ROUSSELLE 33

34 Exploitation du calculateur GPU centre de ressource pour développeurs GPGPU (General-Purpose Computation on Graphics Hardware) Synthèse d images Vision Analyse et traitement d images Algèbre linéaire Simulation physique Nombreux sources disponibles LISIC - FRANÇOIS ROUSSELLE 34

35 Exploitation du calculateur GPU Parallel Computing Toolbox(MathWorks) : Mise en œuvre du parallélisme sous Matlab sans programmation Cuda Support des GPU, CPU multi-cœurs, clusters Prix? LISIC - FRANÇOIS ROUSSELLE 35

36 Performances Pas le temps de faire les tests sur le calculateur de Calais Résultat comparatifs de Nvidia: librairies mathémathiques Cuda/ librairies MKL Intel Conditions de tests : GPU Nvidia Tesla C2050 CPU Intel Corei7 4 cœurs à différentes fréquences LISIC - FRANÇOIS ROUSSELLE 36

37 Equipement du CGR/LISIC/LMPA Serveur de calcul GPU : - 2 Intel Xeon X5650 (6 cœurs) - 8 NvidiaTesla C2050 (448 cœurs + 3Go RAM ECC) 4 Tflopsen DP (200 Gflop pour le NovaScale) 144 Go de RAM centrale ECC SE Linux LISIC - FRANÇOIS ROUSSELLE 37

38 Equipement du CGR/LISIC/LMPA Utilisation du serveur : prévoir un système de réservation? Développements et tests sur PC! Équipement requis : PC GPU Cuda: ( GT220 : 48 cœurs Cuda+ 1 Go RAM pour 65 GTX480 : 480 cœurs Cuda+ 1,5 Go RAM pour 350 (Attention alim. 600W) Axe IA : achat prévu en 2011 d une station graphique avec 1 ou 2 carte Tesla (BQR syntim) LISIC - FRANÇOIS ROUSSELLE 38

39 Conclusion GPU intéressants pour le calcul scientifique : bon rapport performance / prix et performance / consommation Architecture unifiée : plus de contrainte de programmation du pipeline graphique Programmation parallèle (comme pour les CPU actuels) Performances environ x10 / CPU actuellement Développement possible sur un simple PC sans se connecter au calculateur LISIC - FRANÇOIS ROUSSELLE 39

40 Références Top 500 super computer sites: Ranking of the most energy-efficient supercomputers in the world Google images : Calcul scientifique performant sur GPU : GeForce 256 : Nvidia GeForce GF100 : la révolution géométrique? : Intel i7 Nehalem: CPU vs GPU : Flops : Nvidia developper zone : General Purpose Computation on GPUs : CUDA Toolkit 3.2 Math Library Performance : ormance.pdf LISIC - FRANÇOIS ROUSSELLE 40