Algorithmes et méthodes pour la fiabilité numérique : Partie 3 : transformation de programmes

Transcription

1 Algorithmes et méthodes pour la fiabilité numérique : Partie 3 : transformation de programmes Matthieu Martel Laboratoire ELIAUS-DALI Université de Perpignan Via Domitia matthieu.martel@univ-perp.fr 1 / 37

2 Objectif Définition d une nouvelle transformation de programmes Exemple : aire d un parallélépipède rectangle allongé a A = 2 ( (a b) + (b c) + (c a) ) b implémentation directe : 2*(((a*b)+(b*c))+(c*a)) c transformé en : (((c*a)*2)+(2*(b*c)))+(2*(a*b)) plus petites valeurs sommées d abord, produit distribué 2 / 37

3 Principe Transformation sémantique pour améliorer la précision de l évaluation des expressions arithmétiques Modèle x 2 +2x+1=(x+1) 2 =... Implémentation ((x*x)+(2*x))+1 (x+1)*(x+1) Première sémantique : expression décrit une formule mathématique usuelle l évaluation en précision donne résultat exact lois algébriques autorisées (associativité, commutativité, etc.) Seconde sémantique : les expressions suivent l arithmétique des nombres flottants erreurs d arrondi, lois algébriques non-valides But : transformer une expression e en une expression e t.q. : e et e sont mathématiquement égales (modèle) e s évalue plus précisément que e sur ordinateur 3 / 37

4 Example (floating-point) E l = (a + l 2 (b + l 1 (c + l 0 d))) l 3 e E l float = `[ 3, 4], [ , ], [ , ], [ , ], [ , ] 4 / 37

5 Example (fixed-point) E l = (a + l 2 (b + l 1 (c + l 0 d))) l 3 e Local max: E l fixed = ( [ 3, 4], 5, 4, 2, 3 ) Global max: E l fixed = ( [ 3, 4], 5, 5, 5, 5 ) 5 / 37

6 Example E float = (a + (b + (c + d))) e Floating-point arithmetics: E float = ((a + b) e) + ((c + d) e) E float = ( [ 3, 4], [ , 0] ) E float = ( [ 3, 4], [ , ] ) Fixed-point arithmetics: E fixed = e ((a + d) + (b + c)) E fixed = ( [ 3, 4], 5 ) E fixed = ( [ 3, 4], 4 ) 6 / 37

7 Transformation sémantique : principe Programme source P Analyse statique S P, S(P) Transformation syntaxique t Programme transformé t(p) P(t(S(P),!(S(P)))) S P S P S P Sémantique du programme source S(P) Abstraction sémantique! P),!(S(P)) Transformation sémantique t Sémantique du programme transformé t(s(p),!(s(p))) S(t(P))! O " O! O " O " O! O! O (S(P)) =! O (t(s(p),!(! O (S(P)))) =! O (S(t(P))) Patrick et Radhia Cousot : Systematic Design of Program Transformation Frameworks by Abstract Interpretation, 2002, POPL 7 / 37

8 1 Introduction 2 Deux sémantiques concrètes 3 Interprétation abstraite 4 Transformation sémantique 5 Résultats expérimentaux 6 Conclusion 8 / 37

9 Sémantique (modèle) Modèle x 2 +2x+1=(x+1) 2 =... Implémentation ((x*x)+(2*x))+1 (x+1)*(x+1) 9 / 37

10 Sémantique (modèle) Sémantique fondée sur l arithmétique des réels : R v = v 1 + R v 2 v 1 + v 2 v v = v 1 R v 2 v 1 v 2 v e 1 e 1 e 1 + e 2 e 1 + e 2 e 1 e 1 e 1 e 2 e 1 e 2 e e 1 e 1 e 1 e 1 e e e Modèle x 2 +2x+1=(x+1) 2 =... Implémentation ((x*x)+(2*x))+1 (x+1)*(x+1) (e 1 + e 2 ) + e 3 e 1 + (e 2 + e 3 ) e 1 + e 2 e 2 + e 1 e e + 0 (e 1 e 2 ) e 3 e 1 (e 2 e 3 ) e 1 e 2 e 2 e 1 e e 1 e 1 (e 2 + e 3 ) e 1 e 2 + e 1 e 3 Propriété (confluence faible) Soit e une expression arithmétique. Si e R e 1 et e R e 2 alors il existe e t.q. e 1 R e et e 2 R e 10 / 37

11 Sémantique (machine) Modèle x 2 +2x+1=(x+1) 2 =... Implémentation ((x*x)+(2*x))+1 (x+1)*(x+1) 11 / 37

12 La norme IEEE754 : arrondis 4 modes d arrondi : vers, vers +, au plus près, vers 0 : R F spécifie l arrondi d un nombre réel pour les opérations élémentaires {+,,,, }: x 1 F, x 2 = (x 1 R x 2 ) : R R donne l erreur d arrondi : (r) = r (r) 12 / 37

13 Arithmétique pour l estimation des erreurs Estimation des erreurs : l arithmétique E (Fluctuat) E = F R. Dans (x, µ) E, µ mesure la distance entre le résultat machine x et le résultat exact pour v 1 = (x 1, µ 1 ) et v 2 = (x 2, µ 2 ) : v 1 + E v 2 = ( (x 1 + R x 2 ), [µ 1 + µ 2 + (x 1 + R x 2 )]) v 1 E v 2 = ( (x 1 R x 2 ), [µ 1 µ 2 + (x 1 R x 2 )]) v 1 E v 2 = ( (x 1 R x 2 ), [µ 1 x 2 + R µ 2 x 1 + R µ 1 µ 2 + R (x 1 R x 2 )]) R F μ 13 / 37

14 Sémantique (machine) La sémantique E v = v 1 + E v 2 v 1 + v 2 v v = v 1 E v 2 v 1 v 2 v e 1 e 1 e 1 + e 2 e 1 + e 2 e 1 e 1 e 1 e 2 e 1 e 2 e e 1 e 1 e 1 e 1 e e e Modèle x 2 +2x+1=(x+1) 2 =... Implémentation ((x*x)+(2*x))+1 (x+1)*(x+1) (e 1 + e 2 ) + e 3 e 1 + (e 2 + e 3 ) e 1 + e 2 e 2 + e 1 e e + 0 (e 1 e 2 ) e 3 e 1 (e 2 e 3 ) e 1 e 2 e 2 e 1 e e 1 e 1 (e 2 + e 3 ) e 1 e 2 + e 1 e 3 Propriété (absence de confluence) En général, pour une expression arithmétique e, il existe des pas de réduction e E e 1 et e E e 2 t.q. il n existe pas d expression e t.q. e 1 E e et e 2 E e F R μ 14 / 37

15 Bilan Sémantique machine (E) Sémantique abstraite Sémantique idéale (R) F R μ μ Etape suivante : objectif: utiliser E pour trouver le meilleur chemin trop de chemins! abstraction de E fondée sur une sémantique non-standard 15 / 37

16 Bilan (2) Programme source P Analyse statique S P, S(P) Transformation syntaxique t Programme transformé t(p) P(t(S(P),!(S(P)))) S P S P S P! F R! Sémantique du programme source S(P) Abstraction sémantique! P),!(S(P)) Transformation sémantique t Sémantique du programme transformé t(s(p),!(s(p))) S(t(P)) " O " O! O! O " O! O! O (S(P)) =! O (t(s(p),!(! O (S(P)))) =! O (S(t(P))) 16 / 37

18 Sémantique non-standard (fondée sur E ) Principe se souvenir de comment chaque valeur a été obtenue une étiquette l L est attachée à chaque valeur des expressions deux environnements : ρ : L Expr ρ(l) = e si e v l σ : Expr E σ(e) = v si e v v = v 1 + E v 2 l Dom(ρ) ρ, σ, v l v l 2 2 ρ[l ρ(l 1) + ρ(l 2 )], σ[ρ(l 1 ) + ρ(l 2 ) v], v l e e 1 ρ, σ, e 1 ρ, σ, e 1 e 1 e ρ, σ, e ρ, σ, e (1 a +(3 b +5 c )) 2 d (1 a +8 e ) 2 d 9 f 2 d 18 g ρ σ e 3 b +5 c f 1 a +(3 b +5 c ) g 2 d (1 a +(3 b +5 c )) 3 b +5 c 8 1 a +(3 b +5 c ) 9 2 d (1 a +(3 b +5 c )) / 37

19 Sémantique abstraite Principe Fusionner des traces dans lesquelles des sous-expressions ont été évaluées à peu près de la même manière Expr k ensemble des expressions de hauteur au plus k e k remplace par tous les sous-arbres de niveau k qui ne sont pas des valeurs (1+(3+5))*2 = (1+(5+3))*2 = (1+T)* T k les valeurs des environnements abstraits sont des intervalles 19 / 37

20 Sémantique abstraite (2) (1+(3+5))*2 = (1+(5 3))*2 = (1+T)* T k σ σ σ # [18,32] v = σ (η 1 ) + E σ (η 2 ) η 1 ρ (l 1 ) η 2 ρ (l 2 ) E = η 1 + η 2 k σ = σ η 1 ρ (l 1 ) η 2 ρ (l 2 ) η 1 ρ (l 1 ), η 2 ρ (l 2 ) η = η 1 + η 2 k ν = σ (η 1 ) + σ (η 2 ) ρ, σ, v l v l 1 1 l=l 1 +l 2 k ρ [l ρ (l) E], σ, v l [η σ (η) ν] 20 / 37

21 Sémantique abstraite : exemple Sémantique non-standard (1 a +(3 b +5 c )) 2 d (1 a +8 e ) 2 d 9 f 2 d 18 g ρ σ e 3 b +5 c f 1 a +(3 b +5 c ) g 2 d (1 a +(3 b +5 c )) 3 b +5 c 8 1 a +(3 b +5 c ) 9 2 d (1 a +(3 b +5 c )) 18 Sémantique abstraite (1 a +(3 b +5 c )) 2 d (1 a +8 e ) 2 d 9 f 2 d 18 g ρ # σ # e 3 b +5 c f 1 a +(3 b +5 c ) g 2 d (1 a +T) 3 b +5 c [8] 1 a +(3 b +5 c ) [9] 2 d (1 a +T) [18] 21 / 37

22 Nouvelle relation d équivalence Dans la sémantique non-standard : utilisation de (équivalence mathématique) à partir de e, une transition par expression e t.q. e e nombre exponentiel de transitions (pire cas: n i=1 x i) Dans la sémantique abstraite : nouvelle relation d équivalence e k e ssi e k = e k la sémantique abstraite utilise la relation quotient k ssi / k e k e 1 e 1 e 1 e 1 k e e e Au pire, la classe par k de e contient O(n k ) éléments e e 22 / 37

24 Transformation sémantique Programme source P Analyse statique S P, S(P) Transformation syntaxique t Programme transformé t(p) P(t(S(P),!(S(P)))) S P S P S P! F R! Sémantique du programme source S(P) Abstraction sémantique! P),!(S(P)) Transformation sémantique t Sémantique du programme transformé t(s(p),!(s(p))) S(t(P)) " O " O! O! O " O! O! O (S(P)) =! O (t(s(p),!(! O (S(P)))) =! O (S(t(P))) Transformation R! F! 24 / 37

25 Transformation sémantique Principe : 1 choisir la trace abstraite qui minimise l erreur 2 construire une nouvelle trace qui n utilise pas Transformation R des actions sont attachées aux transitions abstraites les actions indiquent comment de nouvelles étiquettes ont été générées μ F! Exemple 2 (1+(3+5)) 4=1+3 2 (4+5)) 8= = = (1+3) / 37

26 Transformation sémantique (correction) Correction : la trace d origine et la trace transformée sont égales à observation près intuitivement les deux traces mènent au même résultat réel α O abstraction observationnelle : α O : E R (x, µ) x + µ 26 / 37

28 Résultats expérimentaux En simple précision, e 8 = 1.0 tandis que (2 5e 8 ) 1.0 avec e = a ((b + c) + d) a = [56789, 98765] b = [0, 1] c = [0, 5e 8 ] d = [0, 5e 8 ] (a*((b+c)+d)) -> ((a*b)+(a*(c+d))) k=2 borne d erreur sur borne d erreur sur (a*((b+c)+d)) : [ E-2,1.5680E-2] ((a*b)+(a*(c+d))) : [ E-3,7.8126E-3] 28 / 37

29 Résultats expérimentaux s = 4 i=0 x i, avec x i = [2 i, 2 i+1 ] : a, b, c, d et e remplacent x 0, x 1, x 2, x 3 et x 4 k Expression Borne d erreur expression source (((e+d)+c)+b)+a [ E-6,7.6294E-6] k = 1 (b+a)+(c+(e+d)) [ E-6,5.9605E-6] k = 2 (c+(b+a))+(e+d) [ E-6,4.5300E-6] k = 3 (d+(c+(a+b)))+e [ E-6,3.5763E-6] 29 / 37

30 Résultats expérimentaux (2) Polynômes, x = ([0, 2], [0, ]) : Cas Expression Borne d erreur expression source x+(x*x) [ E-3, E-3] k = 2 (1.0+x)*x [ E-4, E-4] expression source (x*(x*x))+(x*x) [ E-3, E-3] k = 3 (x+1.0)*(x*x) [ E-4, E-3] k = 4 ((1.0+x)*x)*x [ E-5, E-3] 30 / 37

31 Résultats expérimentaux (3) (a + b) 2 avec b a, a = [5, 10] et b = [0, 0.001] Cas Expression Borne d erreur Source (a+b)*(a+b) [ E-5, E-5] k = 2 ((b*(a+b))+(a*b))+(a*a) [ E-6, E-6] k = 3 (((b*a)+(b*b))+(b*a))+(a*a) [ E-6, E-6] k = 3 transformation = identité remarquable k = 2 autre formule qui améliore sensiblement la précision 31 / 37

32 Résultats expérimentaux : x i = [2 i, 2 i+1 ] int i=0; int i=0; float s=0.0; float s=0.0; while (i<n) { while (i<n/2) { s=s+x[i]; l=x[i]+x[i+1]; i=i+1; s=s+l; } i=i+2; } Case Error for p Error for p t N=4 [0.0, E-6] [0.0, E-6] N=6 [0.0, E-5] [0.0, E-5] N=8 [0.0, E-4] [0.0, E-5] N=10 [0.0, E-4] [0.0, E-4] 32 / 37

33 Résultats expérimentaux : autre programme float a=[0.0,100.0]; float a=[0.0,100.0]; float b=[0.0,0.001]; float b=[0.0,0.001]; float c=[5.0,10.0]; float c=[5.0,10.0]; float d=2.0; float d=2.0; if (a>0.1) { if (a>0.1) { r=d*(a+(b+c)); r=d*(a+(b+c)); } else { } else { r=d*(a+(b+c)); r=d*((a+b)+c); } } Case Error bound on r p, a > 0.1 [ E-6, E-6] p t, a 0.1 [ E-6, E-7] p, a > 0.1 [ E-6, E-6] p t, a 0.1 [ E-7, E-7] 33 / 37

35 Conclusion sous l hypothèse qu un programme fonctionnerait correctement dans les réels : possibilité de corriger automatiquement (en partie) les erreurs d arrondi résultats expérimentaux encourageants possibilité de retrouver les meilleurs schémas d évaluation en général (Horner, tri, etc.)? utilité des transformations sémantiques vs transformation syntaxique 35 / 37

36 Perspectives Traiter un langage complet (boucles, affectations, conditions, etc.) Calculs définis sur plusieurs lignes de code Dépliage de boucles, modification des affectations Amélioration de l abstraction (optimisaton globale) Amélioration de la relation d équivalence (plus de lois) Développement d autres applications : calculs en virgule fixe offuscation de code sans perte de précision Vers un outil (langage source? destination?) 36 / 37

37 questions? 37 / 37