Rapport de Stage. Département GEII-1 IUT de Cachan Année Encadrant : Nicolas Gac (L2S) Ning Chu (L2S)

Transcription

1 Département GEII-1 IUT de Cachan Année 2013 Rapport de Stage [Accélération sur GPU des méthodes itératives de déconvolution pour la localisation de sources acoustiques] XiangYang GAN 13/05/ /07/2013 Encadrant : Nicolas Gac (L2S) Ning Chu (L2S) Date de réception du rapport : / / à h Impression :

2 Remerciements Tout d abord, je tiens à remercier toute l équipe du groupe Problèmes Inverses du Laboratoire des Signaux et Systèmes pour leur bonne et chaleureuse ambiance. Je remercie tout particulièrement M. Nicolas GAC pour m avoir offert l opportunité de faire ce stage, encadréces travaux, m avoir aidé à m adapter rapidement au projet. J adresse également mes remerciements à Ning CHU, doctorant qui travaille sur ce projet dans le laboratoire. Son expérience m a permis d organiser au mieux mon travail et ses compétences techniques m ont permis d avancer sur ce projet tout en enrichissant mes propres connaissances. Enfin, je tiens également à remercier M. Olivier BARBIE, mon tuteur IUT, pour sa disponibilitéet conseils durant ces dix semaines de stage. Accélération des méthodes pour la localisation de source acoustiques Page 2

3 Table des matières Résumé Abstract Mots Clés Introduction La localisation de source vue comme un problème inverse Groupe du problème inverse (GPI) Localisation de source Modèle direct Résolution du problème inverse Approximation du modèle d acquisition Le calcul matriciel La convolution 2D avec noyau variants La convolution 2D avec noyau invariant La convolution 2D avec noyau séparable Résultats de l optimisation de la convolution Accélération sur GPU La puissance de calcul du GPU comparée avec celle du CPU Architecture du GPU permettant de paralléliser les calculs Programme MATLAB sur les GPUs Accélération sur GPU Résultats de la déconvoluiton Les données simulées MCM V1 sur CPU MCD V2 sur CPU MCDI V3 sur CPU MCDIS V4 sur CPU MCDIS V5 sur GPU MCRQDIS V Conclusion et Perspectives..29 Diagramme de Gantt Références bibliographiques et sitographiques...31 Accélération des méthodes pour la localisation de source acoustiques Page 3

4 Résumé Les méthodes de localisation de sources acoustiques appliquées en industrie dans le domaine de l aéroacoustique, c est-à-dire l étude de la génération de bruit d un écoulement sur une surface (avion, voiture) ne sont pas robustes aux bruits de mesure. Les méthodes développées par Ning CHU, doctorant au L2S permettent de localiser plus précisément les sources acoustiques mais au prix d un coût de calcul trop important. Mon travail est d optimiser l algorithme pour accélérer le calcul tout en conservant une bonne qualité de localisation. Pour cela, nous avons effectué une accélération algorithmique et une accélération matérielle en parallélisant les calculs sur GPU. Abstract Methods of locating acoustic sources applied industry in the field of aeroacoustics, that is the study of noise generation flow on a surface (plane, car) are not robust to measurement noise. The methods developed by Ning CHU, PhD student L2S to locate more precisely the sound sources, but at the cost of computational cost too important. My job is to optimize the algorithm to speed up the computation while maintaining a good quality of the result. For this, we performed an algorithmic acceleration and a hardware acceleration that is parallelizing calculations on GPU. Mots Clés problème inverse, aéroacoustique, algorithme itératif, accélération algorithmique, parallélisation des calculs, GPU Accélération des méthodes pour la localisation de source acoustiques Page 4

5 Introduction J ai effectué mon stage de fin du DUT au Laboratoire de Signaux et Systèmes(L2S) situésur le plateau de Saclay, dans le Groupe Problème Inverse (GPI) du 13 mai au 26 juillet Le Laboratoire de Signaux et Systèmes est une unitémixte de recherche (UMR) du CNRS, de Supélec et de l Université Paris-sud (UPS). Ce laboratoire regroupe 134 personnes qui sont chercheurs, enseignants-chercheurs ou doctorants. Le laboratoire est organiséen 4 divisions : Signal (Modélisation et analyse du signal, problème inverse) Télécom et Réseaux Système Électromagnétisme (DRE) Mon stage a pour champs d application l imagerie acoustique. C est une technique standard pour localiser et déterminer les puissances des sources aéroaoustiques avec des réseaux de microphones. Cette technique est déjàbeaucoup appliquée dans le domaine de la détection de bruits pour le confort aéroacoustique dans les industries automobile et aéronautique. Au cours de ce rapport, nous exposerons tout d abord la manière de présenter le problème de localisation de sources acoustiques comme un problème inverse. C est-à-dire que la distribution des sources est inférée àpartir des mesures acoustiques. Puis nous présenterons une approximation du modèle d acquisition par les microphones faisant appel à un opérateur très utile en traitement du signal : la convolution 2D. Ensuite, afin d accélérer encore les traitements nous paralléliserons le calcul sur les centaines de cœurs des processeurs GPUs. Enfin nous regarderons les résultats que nous obtenons par la méthode proposée. Accélération des méthodes pour la localisation de source acoustiques Page 5

6 1. La localisation de source vue comme un problème inverse Le but de cette partie est de présenter le principe de la localisation de source et la construction du modèle direct, c est-à-dire la modélisation de l acquisition par les microphones. Nous verrons dans une première partie le contexte du projet. Puis nous parlerons de la modélisation d acquisition par un modèle direct. Enfin nous analyserons la méthode pour résoudre ce problème inverse Groupe du problème inverse (GPI) Le GPI est un groupe de recherche de la division Signaux. C est une équipe de 6 permanents et de 7 doctorants. Le travail du GPI est de déterminer les causes d un phénomène à partir des mesures expérimentales de ses effets. Dans notre cas, c est de localiser les sources acoustiques sur la surface de la voiture àpartir des mesures par des capteurs comme microphones dans une soufflerie. Ning Chu effectue sa thèse «Approche bayesienne robuste et super-résolution en imagerie acoustique»au GPI depuis Localisation de source (a) soufflerie Figure 1. Étude en soufflerie (b) imagerie acoustique Le principe de l étude de la soufflerie est de modéliser les conditions rencontrées par une voiture se déplaçant dans l air. Cette expérience réalise un changement relatif, la voiture est fixe et l air en mouvement. C est équivalent pour étudier l effet d un écoulement sur la surface d une voiture en mouvement. La figure ci-dessus à gauche représente l expérience de la soufflerie. Autour de la voiture, il y a des capteurs qui permettent de mesurer la puissance de bruit. Notre objectif est de trouver plus précisément les positions de bruit àpartir de la première mesure comme cela est effectuépar la méthode standard de «Beamforming»[1] comme illustrésur la figure àdroite. Accélération des méthodes pour la localisation de source acoustiques Page 6

7 1.3. Modèle direct Ce modèle de la soufflerie comporte quatre parties : le plan de la puissance de source, le plan de mesure du signal mesure de la puissance. (Array), la propagation acoustique de la puissance, et le plan de Les microphones sur le plan de mesure du signal (Array) mesure directement la pression acoustique du signal qui se propage. Elle contient une information sur l amplitude et la phase de la source du signal. Avec la mesure du signal, il est difficile de retrouver l original du signal car elle contient trois informations inconnues. Or nous souhaitons uniquement connaître l amplitude des sources acoustiques c est pourquoi nous chercherons à obtenir la puissance des sources acoustiques àpartir de la mesure de la puissance. Voici le modèle direct adoptéet représentésur la figure suivante : (a) Source de la puissance (b) C (c) Beamforming Figure 2. Modèle direct de la soufflerie Le modèle direct est la matrice, qui àpartir du vecteur de la puissance des sources acoustiques permet d obtenir les vecteurs des mesures de la puissance : avec la matrice de propagation acoustique de la puissance. Accélération des méthodes pour la localisation de source acoustiques Page 7

8 Dans nos études, nous connaissons les mesures et la matrice de propagation acoustique, et il nous faut déterminer la source réelle. Pour cela, il suffirait de réaliser une simple inversion de la matrice : avec l inverse de la matrice. Mais dans notre cas, on trouve que la matrice est difficilement inversible car elle a une taille très grande et mal conditionnée [2], donc on ne peut pas résoudre directement ce problème inverse Résolution du problème inverse En 2006, Brooks et al [1] ont proposé une approche par déconvolution DAMAS pour résoudre ce problème inverse dans le domaine de l aéroacoustique. Les méthodes de déconvolution [2] ont l avantage d avoir été largement étudiées et sont un exemple de résolution du problème inverse. Nous présentons ici les méthodes les plus standards, basées sur le critère du moindre carréet une régularisation quadratique La méthode des Moindres Carrés (MC) Dans un premier temps, nous faisons une méthode simple sans régularisation qui vise à minimiser le terme d attache aux données : = ArgMin {J ( ) = } (1) avec le résultat de reconstruction, la source àestimer. Dans cette expression, la solution correspond au qui minimise le coût de la fonction J( ) dans un calcul itératif. Pour trouver ce, on le fait par la descente de gradient, dont les expressions sont données ci-dessous : (2) = -2 ( y ) = C (3) (4) avec la matrice transposée de, la mesure estimée, la source estimée future, la source estimée actuelle, le pas de descente. Accélération des méthodes pour la localisation de source acoustiques Page 8

9 La méthode des Moindres Carrés avec Régularisation Quadratique (MCRQ) La méthode avec régularisation consiste à ajouter un terme de régularisation au critère à minimiser : = ArgMin {J ( ) = + } (5) avec le paramètre de régularisation, le noyau de la dérivée partielle. Noyau D : Le terme de régularisation permet de pénaliser les variations fortes de la reconstruction dues aux bruits lors de l estimation de. On veut en plus d être proche des données avoir une solution de dérivée petite. Le gradient du critère avec régularisation : = -2 ( y ) + (6) Le calcul itératif en détail A chaque itération de l algorithme, la source estimée future va se rapprocher selon le gradient de J( ) vers la source réelle. Ce procédé est répété des milliers de fois jusqu à converger vers le minimum global de la fonction quadratique J( ) et donc une source estimée la plus proche de la source originale. L illustration est donnée ci-dessous : Figure 3. Descente de gradient Accélération des méthodes pour la localisation de source acoustiques Page 9

10 Ainsi nous allons maintenant regarder comment calculer la source estimée future àchaque itération. La figure 4 ci-dessous est le schéma de principe de la boucle itérative de déconvolution par descente de gradient : Correction y y n Erreur de mesure c t x n 1 x n x n : la source estimée actuelle x n 1 : la source estimée future y : la mesure réelle y n : la mesure estimée C : la matrice de la propagation acoustique C t : la matrice transposée de C Figure 4. Boucle itérative de déconvolution Au début de l algorithme, nous faisons la multiplication matricielle entre la source estimée et la matrice. On obtient ainsi la mesure estimée. Puis, on calcule la différence entre la mesure estimée et la vraie mesure, le résultat correspond à l erreur de mesure. On fait ensuite encore une fois multiplication matricielle entre cette différence et la transposée de la matrice. Le résultat de cette multiplication représente en fait la correction de l estimation. On va apporter cette correction à l estimation de source actuelle pour la prochaine itération de l algorithme. A la fin, on recommence par la première étape avec la nouvelle source estimée. De cette façon, après quelques milliers d itérations que l on peut arriver à obtenir un résultat qui converge vers la source réelle. Un programme de déconvolution itérative est présentéen Annexe 1. Accélération des méthodes pour la localisation de source acoustiques Page 10

11 Evidement plus le nombre d itération exécuté est grand dans ce programme, meilleur est la qualité de reconstruction. En contrepartie, le temps de traitement serait plus important. C est pourquoi nous devons chercher àaccélérer cet algorithme : par accélération algorithmique dans le Chapitre 2 et par accélération matricielle en parallélisant les calculs sur GPU dans le Chapitre Approximation du modèle d acquisition Comme je l ai déjà dit, la méthode itérative de déconvolution représente un grand nombre d opérations de l opérateur C. Le temps de calcul est bien trop important en pratique si l on espère traiter les mesures rapidement. L objectif de cette partie est de proposer des optimisations purement algorithmiques pour accélérer le calcul matriciel. Nous présenterons le coût de calcul pour chacune des itérations de l algorithme pour une source de taille. La taille de la matrice est donc Le calcul matriciel Je vous rappelle que les calculs de déconvolution sont déjàmontrés dans la Chapitre 1.4.1, les équations 2, 3 et 4. (2) = -2 ( y ) = C (3) (4) Nous constatons qu il s agit de deux calculs matriciels pour une itération, donc le nombre d opérateur est proportionnel à, on note La convolution 2D avec noyaux variants Pour effectuer des optimisations, nous allons tout d abord transformer la multiplication matricielle en une convolution 2D. Grâce àla structure de la matrice, nous pouvons faire cette approximation comme l a proposé Brooks et al [1]. En effet, matrice a en première approximation une architecture Symmetric Toeplitz Block Toeplitz (STBT) comme l a rappelé Ning Chu dans sa thèse [2]. Grace àcette architecture, nous pouvons considérer que cette multiplication matricielle est une convolution 2D entre l image d origine et plusieurs noyaux variantes construits par chaque ligne de la matrice comme l équation ci-dessous : =[C Accélération des méthodes pour la localisation de source acoustiques Page 11

12 avec i : numéro de lignes de la matrice, : ième élément dans la mesure de la puissance En conséquence, nous transformons une multiplication entre deux vecteurs en plusieurs convolutions 2D entre deux images 2D. Les équations théoriques en détail sont données par Ning Chu, dans son article «An invariant convolution model and its Variational Bayesian Approximation approach via Students-t priors for aeroacoustic imaging in non-stationary noises» oùil décrit pourquoi et comment nous pouvons faire cette approximation. Grâce à cette transformation, nous avons obtenu cette fois O ( * ), avec représente la taille de l image, représente la taille du noyau. Cela permet ainsi d accélérer le calcul d une multiplication matricielle d un facteur. Malheureusement, cet algorithme n est pas pratique pour le réaliser sur MATLAB. En effet, MATLAB propose de faire les convolutions 2D entière même si nous avons besoin uniquement d une seule coordonné de l élément Pour éviter cela, il faudrait que nous réécrivions le programme de convolution fournie par MATLAB, c est pourquoi nous avons fait une approximation supplémentaire avec un seul et même noyau invariant pour toutes les mesures La convolution 2D avec un noyau invariant Pour accélérer le calcul de déconvolution en ne faisant qu une seule convolution entière, nous devons choisir un noyau invariant au lieu d utiliser tous les lignes de la matrice. Encore une fois, grâce àla propriétéstbt de la matrice, le noyau àla ligne du milieu comporte la majorité de valeurs importantes pour la convolution, donc nous choisissons le noyau correspondant à la ligne du milieu de la matrice comme le noyau invariant. Cette transformation est aussi proposée dans le même article de Ning Chu [2]. L équation est donnée ci-dessous : avec i = numéro de lignes de la matrice Dans cette équation, les résultats des convolutions de la source x avec les différents noyaux variants est approximée par la convolution de la source avec un noyau invariant correspondant àla ligne du milieu de la matrice. Avec cet algorithme, nous obtenons le même nombre d opération que celui calculéavec les noyaux variants O ( ² * même facteur d accélération 2 ²), ainsi le. L intérêt de cette transformation est de simplifier l algorithme au niveau du programme et de lancer sous MATLAB une seule convolution 2D qui donne directement tous les résultats. Cette fois, nous pouvons tester les programmes sur les données en simulations sur le logiciel MATLAB ou tout autre logiciel ayant une libraire avec une convolution 2D accélérée sur GPU. Accélération des méthodes pour la localisation de source acoustiques Page 12

13 2.4. La convolution 2D avec noyau séparable La troisième technique pour accélérer le calcul de convolution est de séparer le noyau en deux vecteurs, l un horizontal, l autre vertical. Le résultat de la convolution de ces deux vecteurs redonne le noyau original. Cela nous permet encore une fois de diminuer le nombre de l opération, et donc les temps de traitement. La définition mathématique pour un noyau séparable est donnée ci-dessous : h[r,c] = vert[r] * horz[c] Pour un noyau h de taille (r,c), nous pouvons le séparer en deux vecteurs, vert de taille r, et horz de taille c. La convolution complète de vert et horz est équal au noyau h.sur la Figure 6, ce principe est représenté par le filtre 3x3 de Sobel : 2 2 = * 2 Figure 5. Séparation d un filtre de Sobel Cependant tous les noyaux que nous employons ne sont pas séparables, comme les noyaux concernés ont une structure symétrique, donc il est possible de faire l approximation selon la séparabilité du noyau. L expression mathématique de la séparabilité et le programme en détail pour séparer un noyau sont donnés ci-dessous : avec *. * * %%% Separable convolution kernel %%% function [h1,h2,separability]=separable_con_ker(h) [u,s,v] = svd(h); s = diag(s); separability=s(1)/(sum(s)-s(1)); h1 = u(:,1)*s(1); h2 = v(:,1)'; end Figure 6. Programme d un noyau séparable Ainsi, il permet de réduire le nombre d opérations en O (2 ²* ). Avec cette propriété, on peut obtenir une accélération d un facteur. Comparéavec le facteur, lorsque la taille d un noyau est toujours supérieur à 2, donc le nombre d opérations de la méthode avec le noyau 2D est aussi supérieur àcelle avec un noyau séparable en deux vecteurs. Accélération des méthodes pour la localisation de source acoustiques Page 13

14 2.5. Résultats de l optimisation de convolution A l aide des optimisations algorithmiques, nous avons réussi à diminuer le nombre d opérations : Convolution avec différents types de noyau Nombre d opérations par une itération Facteur d accélération Calcul matriciel C x 1 Noyaux variants o ² * ²) Noyau invariant x h O( ² * ²) Noyau invariant séparable x O(4 ² * ) n : taille de l image n h : taille du noyau h i : les noyaux variant qui correspond àchaque ligne de la matrice C i : numéro de la ligne de la matrice C h : le noyau invariant qui correspond àla ligne au milieu de la matrice C Nous regarderons àla fin, nous comparons la qualitéde reconstruction avec les temps de traitements de chacune de les méthode dans le Chapitre 4 Résultat de la déconvolution. Accélération des méthodes pour la localisation de source acoustiques Page 14

15 3. Accélération sur GPU Graphics Processing Unit (GPU), ou Processeur Graphique en français est un circuit intégré sur les cartes graphiques de nos PCs. Il s agit de processeurs «many cœurs»permettant de paralléliser les calculs. Entraînée par la demande sur le marchéde temps réel de scènes 3D (jeux vidéo, CAO, ), en 2006, la compagnie Nvidia a lancé CUDA qui permet d effectuer des calculs en parallèles sur les GPU. Figure 7. GPU NVIDIA Tesla 3.1. La puissance de calcul du GPU comparée avec celle du CPU La figure dessous nous illustre la puissance de calcul des GPU comparée àcelle du CPU. Figure 8. La puissance de calcul du GPU comparéavec celle du CPU Accélération des méthodes pour la localisation de source acoustiques Page 15

16 3.2. Architecture du GPU permettant de paralléliser les calculs Nous présentons ci-dessous les deux représentations schématiques de l architecture d un CPU et celle d un GPU pour analyser les intérêts du calcul sur les GPU. Figure 9. Différences entre le CPU et le GPU Sur cette comparaison de l architecture entre d un CPU et celle d un GPU, on peut facilement comprendre pourquoi la puissance de calcul d un GPU est beaucoup plus grande que celle d un CPU. Les cœurs de calcul (en vert) occupent une place bien plus importante sur le GPU, mais la partie du mémoire est en revanche plus limitée, donc le GPU ne peut pas stocker beaucoup de données Programme MATLAB sur les GPU Durant mon stage, nous avons fait le choix d utiliser une librairie possédant une convolution 2D déjà accéléré sur GPU afin d obtenir des premiers résultats d accélérations. Ces résultats peuvent être améliorés par la suite par un développement en CUDA de tout l algorithme itératif. Depuis la version 2, MATLAB a lancéune librairie qui nous permet de paralléliser les calculs sur des GPU NVIDIA. Les fonctions incluent conv2(a,b, opération ), et des opérations arithmétiques. Pour utiliser les fonctions déjà fournies par MATLAB, il faut d abord réaliser une communication entre le CPU et les GPU pour transférer les données. Une fois les données stockées sur les GPU, nous pouvons appeler les fonctions de calcul. A la fin, nous retirons les données sur les GPU. Voici quelques exemples de fonction que nous employons dans notre programme : G = gpuarray(x) : il permet de copier la valeur de l argument x aux GPU, et retourner une donnée sur les GPU. Comme le calcul en précision single est plus intéressant sur les GPU, nous utilisons souvant G = gpuarray(single(x)) pour transférer les données àles GPU en transformant sa précision. X = gather(g) : c est appelépour récupérer les données G sur GPU, et retourner une donnée sur le CPU. Accélération des méthodes pour la localisation de source acoustiques Page 16

17 C = conv2 (A, B, opération ) : c est pour calculer la convolution entre deux 2D matrices A et B, et il y a trois opération que nous pouvons choisir. Ex : A(n,m), B(h,j). Full : retourner la convolution complète (par défaut), C(n+h-1,m+j-1) ; Same : retourner la convolution de la même taille que A, C(n,m) ; Valid : retourner la convoluiton de la taille A-B, C(n-h+1,m-j+1). Voici une figure qui montre le principe des programmes exécutés sur GPU : CPU => GPU Calculer GPU => CPU Figure 10. principe du programme sur GPU 3.4. Accélération par GPU L idée d accélération par GPU est de paralléliser les calculs sur tous les cœurs du GPU, le plus nombre de cœurs que nous utilisons, la meilleure accélération que nous pouvons obtenir. Donc, nous allons regarder le pourcentage d utilisation de cœurs du GPU (Figure 11) par la convolution de la librairie de MATLAB. Conv non-séparable conv séparable T a u x ( % ) Taille de matrice Figure 11. Taux d utilisation du GPU Accélération des méthodes pour la localisation de source acoustiques Page 17

18 4. Résultats du calcul de déconvolution Nous allons maintenant, présenter les résultats obtenus en termes de qualitéde reconstruction et en temps de calcul pour les différentes optimisations du programme que j ai réalisées au cours du stage. L objectif est d obtenir le meilleur compromis entre le temps de traitement et la qualitéde reconstruction. Pour facilement expliquer ce que j ai fait, tous les programmes suivants sont exécutés sur le logiciel MATLAB 2012a. Il y a en tout six versions du programme de déconvolution : 1. Version 1 : MCM(CPU) par le calcul matriciel sur CPU 2. Version 2 : MCD(CPU) par le calcul de déconvolution sur CPU 3. Version 3 : MCDI(CPU) avec noyau de taille réduite sur CPU 4. Version 4 : MCDIS(CPU) avec noyau séparable de taille réduite sur CPU 5. Version 5 : MCDIS(GPU) avec noyau séparable de taille réduite sur GPU 6. Version 6 : MCRQDIS(CPU) avec noyau séparable de taille réduite 4.1. Les données simulées Pour tester les simulations sur MATLAB, nous avons générédes données simulées, la source simulée, la matrice de propagation acoustique, et aussi la mesure simulée comme représentépar figure ci-dessous : (a) source (b) matrice de la propagation acoustique (c) mesure Figure 12. Données simulées En premier temps, nous prenons l image de mesure de taille 17x27 pour simplifier les calculs. Pour des tests plus évolués, nous utilisons des images 3²fois, 5²fois, 15²fois et jusqu à 31² fois plus grandes. Nous avons choisi trois critères afin de comparer les différents résultats que nous avons obtenus : le temps de traitement, l erreur quantitative (distance quadratique) et la qualitévisuelle de la reconstruction. Accélération des méthodes pour la localisation de source acoustiques Page 18

19 Remarque : ici l erreur signifie l erreur de reconstruction qui est définie comme ci-dessous : Ɛ = avec le résultat de déconvolution, le source originale en simulation MCM V1 sur CPU La première version du programme de déconvolution est de calculer directement les multiplications matricielles, équation (2) et (3) dans le Chapitre 1.4.1, avec aucune approximation. Les résultats sont représentés ci-dessous : (a) reconstruction 17 x 27 (b) reconstruction 255 x 405 Figure 13. Résultat de la déconvolution version 1 Un tableau nous montre les temps de traitement et les qualités de reconstruction sur des données simulées de taille différentes : itérations 17 x x x 837 Erreur 9.3% 16.3% X Temps 20.8 s 2jours 10h 60jours A priori, les résultats que nous obtenons avec le programme version 1 sont les meilleures reconstructions en qualité, en revanche, il demande un temps de calcul très important, notamment, pour les images de grande taille. Si on veut utiliser cet algorithme en industrie pour traiter des images de taille encore plus grande, il faut qu on bien diminue les temps de traitement pour atteindre un temps de l ordre de quelques minutes. Comme on constate que 90% du temps de calcul est pris par le calcul matriciel. Il existe deux techniques pour accélérer le traitement d un algorithme. La première est d optimiser l algorithme et de trouver des approximations du modèle pour simplifier le calcul. La seconde technique qu on emploie est de paralléliser le calcul sur le processeur «many cores»(gpu en anglais). Ainsi, nous devons trouver un bon compromis entre le temps de traitement et la qualitéde reconstruction. Accélération des méthodes pour la localisation de source acoustiques Page 19

20 4.3. MCD V2 sur CPU La deuxième version du programme est d approximer la multiplication matricielle par la convolution de deux images. Pour comparer tous les résultats, il nous faut définir deux paramètres, l un le nombre d itération, l autre la taille du noyau invariant. Nous avons d abord évaluer la qualitéde reconstruction en fonction du nombre d itération pour trouver un nombre d itération suffisant. Ci-dessous une figure représente l erreur de reconstruction du programme version 2 en fonction du nombre d itération pour traiter une image de taille 17x27 : Erreur de reconstruction(%) temps(s) E r r e u r T e m p s Nombre d'itération Figure 14. Erreur de reconstruction On voit que la qualité du résultat devient convenable avec un grand nombre d itérations, ce qui demande des temps de calcul élevés àcause du grand nombre de calcul matriciel. Cette version du programme de déconvolution sur MATLAB, permettait de traiter une donnée de taille 17 x 27 avec itérations en 16.8s. Si on agrandit la taille de l image, le temps de traitement sera largement plus grand comme montrépar ce tableau suivant. Accélération des méthodes pour la localisation de source acoustiques Page 20

21 Un exemple de déconvolution version 2 est présentéci-dessous : (a) source original (b) reconstruction 17 x 27 (c) reconstruction 255 x 405 Figure 15. MCD (CPU) (d) reconstruction 527 x 837 Voici un tableau qui montre le temps de traitement pour les programmes MC version 2 : Taille de l image 17 x x x 837 Erreur 15% 28% X Temps 16.8s 13h 10min 8jour 5h Facteur d accélération par rapport MCM(CPU) itérations Ce tableau correspond àla déconvolution avec un noyau invariant calculésur CPU en itérations. Les tailles du noyau sont choisies par rapport àla taille des images, donc 17 x 17 pour (b), 255 x 255 pour (c), 527 x 527 pour (d) MCDI V3 sur CPU Comme nous avons trouvé un nombre d itération suffisant pour faire une déconvolution avec un résultat satisfaisant, nous effectuons cette fois la déconvolution en variant la taille du noyau. La figure suivante représente l erreur de reconstruction et le temps de traitement de la déconvolution version 3 : Accélération des méthodes pour la localisation de source acoustiques Page 21

22 Erreur (%) Temps (s) E r r e u r T e m p s Taille du noyau 0 Figure 16. MCDI V3 sur CPU Nous trouvons que l erreur de la reconstruction ne varie plus pour une taille de noyau supérieur à 13 x 13. Donc le bon compromis entre le temps de calcul et la qualité de reconstruction est de faire la déconvolution avec un noyau de cette taille. Cela représente environ 40% de la taille de l image originale. J ai fait le même test sur des images de taille plus grande, et j ai trouvé que la meilleure taille du noyau est aussi de 40% de l image traitée : Meilleur taille du noyau = Taille de la donnée * 40% La raison que nous pouvons faire cette approximation, c est que les valeurs utiles dans le noyau sont concentrées au milieu comme montré par figure ci-dessous (page suivant Figure 12), donc la diminution de la taille du noyau nous permet d éviter des calculs inutiles et ainsi de gagner du temps. Noyau initial 17 x 17 Noyau proposé 13 x 13 Figure 17. Noyau initial et proposé Accélération des méthodes pour la localisation de source acoustiques Page 22

23 Avec ce noyau de taille réduite, nous arrivons à accélérer le calcul comme montrépar le tableau ci-dessous : Taille de l image 17 x x x 837 Taille du noyau 13 x x x 415 Erreur 16,2% 28,6% 29,6% Temps 10,7s 7h 40min 16h Facteur d accélération par rapport MCM(CPU) Facteur d accélération par rapport MCD(CPU) itérations 4.5. MCDIS V4 sur CPU Après avoir obtenu les résultats de la première accélération, nous allons maintenant regarder la deuxième optimisation, donc calculer la convolution en séparant le noyau invariant. Avant d appliquer directement cette méthode à une image en simulation, nous allons tout d abord regarder les séparabilités (définition voir Le Chapitre 2.4) des noyaux de différentes tailles : 12 Erreur de séparabilité (%) 10 e r r e u r taille du noyau Figure 18. Erreur de séparabilité Nous avons trouvéque l erreur de séparabilité du noyau est proportionnelle à la taille du noyau, donc pour garder la qualitéde reconstruction, il faut mieux d utiliser des noyaux de taille plus petit. Dans nos études, cette approximation est assez convenable avec une erreur de séparabilité d environ 10%. Nous allons maintenant appliquer les programmes aux données en simulation. Nous utilisons toujours les mêmes données sur MATLAB. La taille de l image est de 17 x 27 afin de simplifier les calculs et de gagner du temps. Nous allons calculer encore une fois avec les noyaux de taille variantes pour vérifier que la meilleure taille du noyau 13 x 13 que nous avons trouvédans la dernière partie est bonne. La figure ci-dessous nous permet de comparer Accélération des méthodes pour la localisation de source acoustiques Page 23

24 la différence entre la déconvolution avec noyau séparable et celui avec le noyau nonséparable : Erreur (%) Erreur sep (%) Temps (s) Temps sep(s) E r r e u r T e m p s taille du noyau 0 Figure 19. MCDI et MCDIS Nous voyons bien qu au niveau de la qualité de reconstruction, il n y a pas de grande différence entre les deux méthodes, l erreur de la déconvolution avec le noyau non séparable est un peu plus basse que celle avec le noyau séparable. En revanche, on peut gagner beaucoup de temps de traitement si on sépare le noyau. Le temps de traitement est proportionnel àla taille du noyau invariant alors que celui avec le noyau non séparable est proportionnel à. C est pour cette raison que nous avons fait cette approximation. Avec le noyau séparable, nous avons obtenu des facteurs d accélération importants, et nous avons trouvé aussi que plus la taille de l image est grande, plus le facteur d accélération de la déconvolution est grand. Comme nous avions déjàchoisi la taille du noyau qui est de 40% par rapport àla taille de l image, nous n analysons que les résultats de déconvolution sur les mesures en simulation de taille plus grande qui correspondent àce choix : Taille de l image 17 x x x 837 Taille du noyau 13 x x x 415 Temps 5,3s 13min 10s 1h 32min Erreur 19,6% 29,6% 30,6% Facteur d accélération ,75 128,99 par rapport MCM(CPU) Facteur d accélération par rapport MCDI(CPU) itérations Accélération des méthodes pour la localisation de source acoustiques Page 24

25 Pour une conclusion sur ces trois approximations algorithmiques, nous avons choisi une meilleure taille du noyau séparable et le séparédans le calcul de déconvolution en itérations. Avec cette première optimisation, nous avons obtenu des résultats assez convenables. Nous avons des facteurs d accélération variant de 3 à 100 par rapport la taille de l image sans perdre beaucoup de la qualité du résultat MCDIS V5 sur GPU Comme nous avons constaté que la déconvolution avec le noyau invariant séparable est beaucoup plus rapide, nous allons ensuite implémenter les programmes sur GPU pour paralléliser le calcul de déconvolution d autant plus que la parallélisations d une convolution séparable sur GPU est beaucoup plus efficace que celle d une convolution séparable sur CPU. Cette fois nous d abord comparerons la différence de la vitesse de calcul entre MCDIS(CPU) et MCDIS(GPU). La figure ci-dessous représente la déconvolution d une image de taille 5 fois plus grande que l image originale, donc 255 x 405. Figure 20. MCDIS V4 et V5 Grâce au calcul parallèle sur les GPU (MCDIS), nous avons obtenu un facteur d accélération de 5.3 et 7 pour une taille de 255x405 et 527x837 par rapport le temps de traitement par MCDIS(CPU). J ai trouvé aussi qu en pratique, ce n est pas intéressant d exécuter les programmes sur les GPU pour la déconvolution des images de talle petite (inférieur à100 x 100). Taille de l image 17 x x x 837 Taille du noyau 13 x x x 415 Temps 33,0s 2min 30s 12min 46s Erreur 19,6% 29,6% 30,6% Facteur d accélération 0,51 314,67 822,17 par rapport V1 Facteur d accélération par rapport V itérations Accélération des méthodes pour la localisation de source acoustiques Page 25

26 En conclusion, nous avons réussi àdiminuer les temps de traitement pour qu ils soient de l ordre de quelques minutes pour des images de grandes tailles. Voici les résultats sur les données en simulation. (a) source original (b) reconstruction 17 x 27 (c) reconstruction 255 x 405 Figure 21. MCDIS V5 (d) reconstruction 527 x 837 Je vous rappelle que toutes les données simulées que nous employons dans les parties précédentes sont des mesures idéales sans bruits. Mais nous ne pouvons pas négliger les bruits dans les données en industrie, c est pour cette raison que nous devons ajouter un terme de régularisation (MCRQDIS) pour isoler les bruits de mesure. Nous allons regarder dans la partie suivante ce qui se passe si l on ajoute des bruits aux mesures simulées. Accélération des méthodes pour la localisation de source acoustiques Page 26

27 4.7. MCRQDIS V5 sur CPU (a) MCM (RSB 40dB) (b) MRQDIS (RSB 40dB) (c) MCM (RSB 20dB) (d) MRQDIS (RSB 20dB) (e) MCM (RSB 10dB) Figure 22. MCM et MCRQDIS (e) MRQDIS (RSB 10dB) Accélération des méthodes pour la localisation de source acoustiques Page 27

28 Remarque :RSB signifie le rapport du signal sur le bruit, ici en unitédb, donc plus cette valeur est grande, la mesure est àmoins bonne qualité. Nous pouvons bien constater que les reconstructions avec régularisation sont plus floues, donc moins sensibles aux bruits. Accélération des méthodes pour la localisation de source acoustiques Page 28

29 Conclusion Le but de mon stage est d optimiser les programmes pour accélérer le programme de déconvolution pour traiter plus rapidement les données en industrie. Pour réaliser cet objective, nous avons choisi d un côté trois approximations pour simplifier les calculs. Premier, nous n utilisons qu un seul noyau, noyau invariant pour faire la déconvolution au lieu de calculer avec plusieurs noyaux variants. Deuxième, nous avons réduit la taille du noyau sans perdre beaucoup de temps, mais obtenir un facteur d accélération environ 2. Troisième, nous avons réalisé une méthode pour séparer le noyau. Grâce à cette transformation, nous avons réussi de passer le temps de traitement des heures même des jours aux minutes. D un autre côté, nous avons parallélisé le calcul sur GPU, c est une optimisation matérielle. Cette méthode nous donne un facteur d accélération de 3 à 7 qui dépend la taille des images que nous voulons traiter. Perspectives Il reste plusieurs travaux àfaire pour ce projet àplus long terme. D abord il faut réécrire les fonctions de convolution sur GPU pour mieux paralléliser les calculs sur GPU et aussi paralléliser le plus globalement possible l intérieur de la boucle itérative car actuellement nous avons une parallélisations «ligne par ligne». Puis, nous devons chercher les régularisations plus élaborépour obtenir les meilleurs résultats. Quand nous aurons fini ce nouveau programme, nous pourrons traiter les vraies données en industrie. Accélération des méthodes pour la localisation de source acoustiques Page 29

30 Diagramme de Gantt Accélération des méthodes pour la localisation de source acoustiques Page 30

31 Source [1]. T. Brooks, W. Humphreys, A Deconvolution Approach for the Mapping of Acoustic Sources (DAMAS) determined from phased microphone arrays, Journal of Sound and Vibration 294 (4-5) (2006) [2]. J. Idier, Ed., Approche bayésienne pour les problèmes inverses, TraitéIC2, Série traitement du signal et de l'image, Hermès, Paris, nov [3]. N. CHU, A.M. Djafari, N. Gac, and J. Picheral, An efficient variational Bayesian inference approach via Studient's-t priors for acoustic imaging in colored noises, Journal of the Acoustical Society of America, Vol. 133, No.5. Pt.2, POMA Vol 19, pp , [4]. N. CHU, A.M. Djafari, N. Gac, and J. Picheral, An invariant convolution model and its Variational Bayesian Approximation approach via Students-t priors for aeroacoustic imaging in non -stationary noises, Journal of the Acoustical Society of America, to submit, [5]. R.Navarre, Traitement de données spectrales de Mars. [6]. B.Pencrec, Accélération d algorithmes de convolution sur processeurs graphiques. [7]. CUDA_C_Pragramming_Guide, Accélération des méthodes pour la localisation de source acoustiques Page 31

32 Annexe 1 Programme de la boucle itératif : for l=1:loop yh=a_near*x; xh=a_near_t*(y-yh); %% calculer le gradient du critère xh=-2*xh; xh_matrice=converter_matrice(xh,size_x,size_y); Hgk=a_near*xh; %% calculer pas de descente u=1/2*sum(xh(:).^2)/(sum(hgk(:).^2)+sum(hgd(:).^2)); x=x-u*xh; %% estimer x x=abs(x); end Annexe 2 Un exemple de programme de transfert de variables entre le CPU et les GPUs : %% transferer les variables sur GPU noyau=gpuarray(single(noyau)); x=gpuarray(single(x)); y=gpuarray(single(y)); y_estime=gpuarray(single(y_estime)); u=gpuarray(single(u)); %% récupérer les variables sur GPU erreur_deconv_cpu=gather(erreur_deconv_gpu); Accélération des méthodes pour la localisation de source acoustiques Page 32