Déconvolution d images, modèles markoviens, algorithmes stochastiques 112

Dimension: px

Commencer à balayer dès la page:

Download "Déconvolution d images, modèles markoviens, algorithmes stochastiques 112"

Henriette Émond
il y a 6 ans
Total affichages :

1 V. Déconvolution d images, modèles markoviens, algorithmes stochastiques Déconvolution d images, modèles markoviens, algorithmes stochastiques 112 Modélisation markovienne en imagerie Résumé des épisodes précédents Règle de Bayes f(x z) f(z x)f(x), f(x) exp { Ω(x)} Loi a priori gaussienne = régularisation quadratique Ω(x) = (x m x ) t R 1 x (x m x ), e.g., Ω PTT(x) = D (q) x 2 Lois a priori blanches non gaussiennes Critères convexes Ω(x) = Σ i G(x i ), G p (x) = x p, G 21 (x) = s 2 + x 2 Variables cachées : modèle Bernoulli-Gaussien x = (r, q)

2 Déconvolution d images, modèles markoviens, algorithmes stochastiques 113 Modèles pour les images? ligne 80 différences ligne colonne 117 différences colonne histogramme des différences interpixels Déconvolution d images, modèles markoviens, algorithmes stochastiques 114 Champs de Gibbs-Markov f(x) = 1 exp Ω(x), Z f T (x) = 1 exp { Ω(x)/T } Z(T ) ( Ω séparable X «bruit blanc» Ω(x) = s S Σ G s (x s ) f(x) = s S Π f s (x s ) ) Ω énergie de Gibbs X markovien Ω(x) = Σ c C G c (x) f(x s x r, r S s) = f(x s x r, r V s ) Ω(x) < x V s = {r c s, r s} c C P(S) clique, voisinage du site s G c potentiel associé (Théorème de Hammersley-Clifford)

3 Déconvolution d images, modèles markoviens, algorithmes stochastiques 115 Exemple : champ de Markov d ordre 1, i.e., aux plus proches voisins Ω(x) = G(x r x s ) C = {{r, s}, r s = 1} = {r,s} C {, } N s = G 22 (x) = x 2 G 21 (x) = t 2 + x 2 t G 20 (x) = min{x 2, t 2 } Déconvolution d images, modèles markoviens, algorithmes stochastiques 116 Exemple (ordre 1) : G 21 (x) = Critère et optimisation convexes {r,s}, r s =1 s2 (x r x s ) 2 application : restauration d images, en minimisant J(x) = z Hx 2 + αg 21 (x), x [0, x max ] S image originale image observée résultat gaussien G 22 résultat G 21

4 Déconvolution d images, modèles markoviens, algorithmes stochastiques 117 Test comparatif (débruitage : H = I) x = arg min z x 2 + ασ G(x m x m 1 ) x m G(x) = x 2 S2 + x 2 ln(s 2 + x 2 ) x 2 S 2 + x 2 z x x 1 / x 1 = 12,5% 6,2% 5,67% 5,6% (minimal en α, S) Déconvolution d images, modèles markoviens, algorithmes stochastiques 118 Stabilité de x(z) J convexe x(z) continue [Bouman et Sauer 1993] stabilité au sens de Hadamard Contre-exemple pour J non convexe : (d après [Li et coll. 1995] ; voir aussi [Künsch 1994])

5 Déconvolution d images, modèles markoviens, algorithmes stochastiques 119 [Blake et Zisserman 1987] Principe de détection, variables cachées min β z x,l A(x) 2 + {r,s} C Σ (1 l rs )(x r x s ) 2 + l rs S 2 = min β z A(x) 2 + x {r,s} C Σ min { (x r x s ) 2, S 2} r rs s Variables cachées l rs {0, 1} problème de détection-estimation (X, L), champ de Markov composite. Déconvolution d images, modèles markoviens, algorithmes stochastiques 120 Non convexité graduelle (GNC) J = J ˆx ˆx c ˆx 0 J c J 0 convexe G 20 : le cas du débruitage [Blake et Zisserman 1987] J c (x) = β z x 2 + G G c (x r x s ) G 0 {r,s} C

Déconvolution d images, modèles markoviens, algorithmes stochastiques 121 Régularité des contours [Geman et Geman 1984, Jeng et Woods 1991] Exemple : min x,l β z A(x) 2 + {r,s} C Σ (1 l rs )(x r x s

6 Déconvolution d images, modèles markoviens, algorithmes stochastiques 121 Régularité des contours [Geman et Geman 1984, Jeng et Woods 1991] Exemple : min x,l β z A(x) 2 + {r,s} C Σ (1 l rs )(x r x s ) 2 + c CL Σ G c (l) c C L G c (l) 0 2, 7 1, 8 0, 9 1, 8 2, 7 Déconvolution d images, modèles markoviens, algorithmes stochastiques 122 Échantillonnage stochastique Application en synthèse d image Exemple d échantillon pour Φ(x) = 1 + (xs x r ) 2 {r,s}, r s =1

7 Déconvolution d images, modèles markoviens, algorithmes stochastiques 123 Application à l inférence Contexte : z = [z 1,..., z N ] t vecteur observé x = [x 1,..., x M ] t vecteur inconnu z est relié à x sous forme probabiliste : on connaît la loi de (X, Z), typiquement, sous la forme f X,Z (x, z) = f Z X (z x)f X (x) On veut estimer x sous la forme x = X(z) Déconvolution d images, modèles markoviens, algorithmes stochastiques Estimation à coût bayésien séparable : Si {X (k) } est stationnaire ergodique et de loi instantanée f(x z), alors x EAP (z) = E [ X z ] K 1 = lim Σ x (k) K K k=1 2 Estimation MAP (principe du recuit simulé) : Si la loi instantanée de {X (k) } est f T (k) (x z), avec T (k) 0 et f T (x z) (f(x z)) 1/T, alors : lim f T (x z) = δ T 0 X b map(x) f 4 (x) f 2 (x) f(x) f 1/2 (x) f 1/5 (x) 3 Estimation non supervisée (principe de l augmentation de données) : Z Θ (k) f(θ z) = f(x, θ z) dx {X (k), Θ (k) } f(x, θ z) = Z X (k) f(x z) = f(x, θ z) dθ.

8 Déconvolution d images, modèles markoviens, algorithmes stochastiques 125 Méthodes d échantillonnage i.i.d. (X faible dimension) directes : lois uniformes, par transformation : discrètes, normales, lois avec F 1 explicite, etc. par réjection [Press et coll. 1992] f(x) = Mq(x) p(x) y (x, y) x 1 Trouver une densité q et M > 0 tel que x, f(x) = Mq(x) > p(x). 2 Tirer X = x suivant q. 3 Tirer Y = y suivant U([0, f(x)]). 4 Accepter x si y 6 p(x), sinon retour en 2 Déconvolution d images, modèles markoviens, algorithmes stochastiques 126 Méthodes d échantillonnage MCMC (Monte-Carlo Markov chain) {X (k) } est une chaîne de Markov : f(x (k) x (k 1),..., x (k) ) = f(x (k) x (k 1) ) Théorème 1 : Soit {X (k) } k N une chaîne de Markov homogène «ergodique» (irréductible récurrente positive de période 1) dont le noyau de transition ϕ vérifie la condition d équilibre ϕ(x x)f(x) = ϕ(x x )f(x ), alors la densité de probabilité de X ( ) est f. Théorème 2 (loi des grands nombres) : si E f [ ψ 2 ] <, lim K 1 K K Σ ψ(x (k) [ ] ) = E f ψ k=1

9 Déconvolution d images, modèles markoviens, algorithmes stochastiques 127 MCMC 1 : Algorithme de Metropolis [Metropolis et coll. 1953] Soit f(x) à échantillonner et g(x x) un noyau de proposition symétrique 0 Configuration courante : x 1 Proposer x par échantillonnage de g(x x) ; 2 Si f(x ) f(x), x remplace x ; Si f(x ) < f(x), P (x remplace x) = f(x )/f(x) ; retour en 0 Application à X champ de Gibbs : f(x) = 1 Z exp Σ c G c (x) Noyau de proposition : g(x x) = h(x s x s )/Card S si r s, x r = x r = 0 sinon f(x )/f(x) = exp Σ c s (G c (x) G c (x )) Extensions : balayage systématique, partiellement parallélisable Déconvolution d images, modèles markoviens, algorithmes stochastiques 128 Exemple Simulation d un champ de Ising Initialisation Itération 1 Itération 10 Itération 100

10 Déconvolution d images, modèles markoviens, algorithmes stochastiques 129 MCMC 2 : Échantillonneur de Gibbs [Geman et Geman 1984] 0 Configuration courante : x 1 Choisir s «au hasard» ou cycliquement ; 2 r s, x r = x r ; échantillonner x s suivant f(x s x s ), x s = {x r, r s}. Remarque : MCMC 1 et 2 sont des cas particuliers de l échantillonneur de Métropolis-Hastings [Hastings 1970]. Bibliographie 130

11 Bibliographie 131 [Besag 1974] J. E. Besag (1974), < Spatial interaction and the statistical analysis of lattice systems (With discussion) >, Journal of the Royal Statistical Society B, 36, 2, pages [Besag 1986] J. E. Besag (1986), < On the statistical analysis of dirty pictures (With discussion) >, Journal of the Royal Statistical Society B, 48, 3, pages [Blake et Zisserman 1987] A. Blake et A. Zisserman (1987), Visual reconstruction, The mit Press, Cambridge, ma, usa. [Bouman et Sauer 1993] C. A. Bouman et K. D. Sauer (1993), < A generalized Gaussian image model for edge-preserving map estimation >, IEEE Transactions on Image Processing, 2, 3, pages [Geman et Geman 1984] S. Geman et D. Geman (1984), < Stochastic relaxation, Gibbs distributions, and the Bayesian restoration of images >, IEEE Transactions on Pattern Analysis and Machine Intelligence, PAMI-6, 6, pages [Hastings 1970] W. K. Hastings (1970), < Monte Carlo sampling methods using Markov Chains and their applications >, Biometrika, 57, pages 97. [Jeng et Woods 1991] F. C. Jeng et J. W. Woods (1991), < Compound Gauss-Markov random fields for image estimation >, IEEE Transactions on Signal Processing, 39, 3, pages [Künsch 1994] H. R. Künsch (1994), < Robust priors for smoothing and image restoration >, Annals of Institute of Statistical Mathematics, 46, 1, pages [Li et coll. 1995] S. Z. Li, Y. H. Huang et J. S. Fu (1995), < Convex mrf potential functions >, dans Proceedings of the International Conference on Image Processing, volume 2, pages , Washington dc, usa. [Marroquin et coll. 1987] J. L. Marroquin, S. K. Mitter et T. A. Poggio (1987), < Probabilistic solution of ill-posed problems in computational vision >, J. Amer. Stat. Assoc., 82, pages [Metropolis et coll. 1953] N. Metropolis, A. W. Rosenbluth, M. N. Rosenbluth, A. H. Teller et E. Teller (1953), < Equations of state calculations by fast computing machines >, Journal of chemical physics, 21, pages [Press et coll. 1992] W. H. Press, S. A. Teukolsky, W. T. Vetterling et B. P. Flannery (1992), Numerical recipes in C, the art of scientific computing, Cambridge Univ. Press, New York, 2nd edition. [Robert 1992] C. Robert (1992), L analyse statistique bayésienne, Economica, Paris. [Robert 1996] C. Robert (1996), Méthodes de Monte-Carlo par chaînes de Markov, Economica, Paris. [Winkler 1995] G. Winkler (1995), Image Analysis, Random Fields and Dynamic Monte Carlo Methods, Springer Verlag, Berlin, Allemagne.

Documents pareils

MCMC et approximations en champ moyen pour les modèles de Markov

MCMC et approximations en champ moyen pour les modèles de Markov Gersende FORT LTCI CNRS - TELECOM ParisTech En collaboration avec Florence FORBES (Projet MISTIS, INRIA Rhône-Alpes). Basé sur l article: