Peut-on avoir confiance en l informatique?

Transcription

1 Peut-on avoir confiance en l informatique? René David et Christophe Raffalli Mai 2007

2 Introduction Progrès de l informatique Depuis 20 ans les performances des ordinateurs ont été multipliées par Un calcul qui aurait pris une année en 1983 est maintenant effectué en moins d une heure. Le revers de la médaille La rançon de ce progrès est élevée : la fiabilité des systèmes informatiques a été négligée. Les ordinateurs se bloquent, les sites Internet se déconnectent... Les budgets de maintenance, de réparation et de fonctionnement dépassent les coûts totaux en matériel et logiciels. Il y a des bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

3 Introduction Progrès de l informatique Depuis 20 ans les performances des ordinateurs ont été multipliées par Un calcul qui aurait pris une année en 1983 est maintenant effectué en moins d une heure. Le revers de la médaille La rançon de ce progrès est élevée : la fiabilité des systèmes informatiques a été négligée. Les ordinateurs se bloquent, les sites Internet se déconnectent... Les budgets de maintenance, de réparation et de fonctionnement dépassent les coûts totaux en matériel et logiciels. Il y a des bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

4 Introduction Progrès de l informatique Depuis 20 ans les performances des ordinateurs ont été multipliées par Un calcul qui aurait pris une année en 1983 est maintenant effectué en moins d une heure. Le revers de la médaille La rançon de ce progrès est élevée : la fiabilité des systèmes informatiques a été négligée. Les ordinateurs se bloquent, les sites Internet se déconnectent... Les budgets de maintenance, de réparation et de fonctionnement dépassent les coûts totaux en matériel et logiciels. Il y a des bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

5 Introduction Progrès de l informatique Depuis 20 ans les performances des ordinateurs ont été multipliées par Un calcul qui aurait pris une année en 1983 est maintenant effectué en moins d une heure. Le revers de la médaille La rançon de ce progrès est élevée : la fiabilité des systèmes informatiques a été négligée. Les ordinateurs se bloquent, les sites Internet se déconnectent... Les budgets de maintenance, de réparation et de fonctionnement dépassent les coûts totaux en matériel et logiciels. Il y a des bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

6 Introduction Progrès de l informatique Depuis 20 ans les performances des ordinateurs ont été multipliées par Un calcul qui aurait pris une année en 1983 est maintenant effectué en moins d une heure. Le revers de la médaille La rançon de ce progrès est élevée : la fiabilité des systèmes informatiques a été négligée. Les ordinateurs se bloquent, les sites Internet se déconnectent... Les budgets de maintenance, de réparation et de fonctionnement dépassent les coûts totaux en matériel et logiciels. Il y a des bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

7 Introduction R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

8 Introduction Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

9 Brève histoire de l informatique Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

10 Brève histoire de l informatique (1) Les hommes Alan Turing ( ) Angleterre Modèle théorique des ordinateurs Logique Mathématique Machine de Turing R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

11 Brève histoire de l informatique (1) Les hommes Alonzo Church ( ) USA Modèle théorique de la programmation Le λ-calcul, ancêtre des langages fonctionnels (Lisp, ML,...) R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

12 Brève histoire de l informatique (1) Les hommes John von Newmann ( ) USA Concepteur des ordinateurs modernes Un pionnier de l informatique Il a aussi introduit les automates cellulaires et donc le calcul parallèle. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

13 Brève histoire de l informatique (2) Le matériel Les premières calculatrices mécaniques (elles font les 4 opérations) La machine de Pascal (1650) La machine de Leibniz (1694) R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

14 Brève histoire de l informatique (2) Le matériel La première machine programmable La machine de Jacquard (1801), elle ne servait pas à calculer! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

15 Brève histoire de l informatique (2) Le matériel La première machine (presque) programmable pour calculer des polynômes La machine de C. Babbage (1833), elle n a jamais vraiment fonctionné R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

16 Brève histoire de l informatique (2) Le matériel La première machine électro-mécanique La machine de H. Aiken (1943), elle pesait 5 tonnes R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

17 Brève histoire de l informatique (2) Le matériel Les machines électroniques (vers 1950) R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

18 Brève histoire de l informatique (2) Le matériel Les machines électroniques (suite) Machine utilisant des cartes perforées (vers 1960) R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

19 Brève histoire de l informatique (2) Le matériel Les machines modernes Depuis 1980 les machines utilisent des circuits intégrés... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

20 Brève histoire de l informatique (3) Le logiciel Les programmes La notion de programme, d algorithme existait bien avant que l on ne sache construire des ordinateurs : algorithme d Euclide ( BC, Alexandrie), Al Khuwarizmi ( ). R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

21 Brève histoire de l informatique (3) Le logiciel Un ordinateur ne fait que manipuler des 0 et 1 Dans les années 40 : on programme avec des 0 et des 1 et le fer à souder. Début des années 50 : on programme en «assembleur», les instructions ont un nom. Depuis la fin des années 50 : on utilise des langages de programmation. Les langages de programmation On utilise un langage lisible par l être humain et un «compilateur» pour traduire en langage machine. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

22 Brève histoire de l informatique Les langages de programmation (classement chronologique) Avant 1950 : Algorithmes et machines à calculer : pas de langage : Fortran, Lisp, Cobol, Algol : Apl, Basic, Pl/1, Logo : Pascal, Prolog, SmallTalk, C, Ada, : Dbase, C++, Eiffel, Mathematica, Maple, : VisualBasic, Java, Php, Mysql,... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

23 Brève histoire de l informatique Les langages de programmation (classement par trait) Langages impératifs : APL - ASP - Assembleur - BASIC - C - Cobol - Forth - Fortran - Limbo - Logo - Pascal - Perl PHP -... Langages à objets : 4D - C++ - D - Delphi - Eiffel - Groovy - Java - Python - Ruby - Simula - Smalltalk - Visual Basic - WinDev -... Langages fonctionnels : Haskell - SML/OCaml - Lisp Common Lisp - Scheme - XSLT -... Langages déclaratifs : Clips - Prolog - Lambda-Prolog -... Langages concurrents : Ada 95 - Erlang -... Langage de balisage : TeX - LaTeX - HTML - SGML - XML - PHP -... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

24 Brève histoire de l informatique Les programmes ont des bugs! Maurice Wilkes, l un des créateurs des ordinateurs (1949) «Dès que nous avons commencé à programmer, nous avons découvert, à notre grande surprise, qu il n était pas aussi facile d obtenir des programmes corrects que nous le pensions. J ai alors réalisé qu une grande partie de ma vie serait consacrée à découvrir des fautes dans mes propres programmes.» R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

25 Quelques exemples de gros «bugs» Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

26 Quelques exemples de gros «bugs» Quelques exemples de gros «Bugs» Il y en a des milliers... Il y a même des journaux qui répertorient tous ces bugs : Risk Digest,... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

27 Quelques exemples de gros «bugs» L explosion de la fusée Ariane 5 R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

28 Quelques exemples de gros «bugs» L explosion de la fusée Ariane 5 Le premier tir eut lieu le 4 juin 1996 à Kourou. Le lanceur fut détruit après approximativement 40 secondes de vol. L échec est dû à une erreur informatique : un programme d un composant (un gyroscope) provenant d Ariane 4 n a pas été re-testé. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

29 Quelques exemples de gros «bugs» L explosion de la fusée Ariane 5 Le programme était destiné à recalibrer les gyroscopes. Ce cas de figure, envisagé initialement pour Ariane 3, était depuis longtemps exclu des procédures de tir. L erreur a été provoquée par un programme qui ne servait à rien. C est l une des erreurs informatiques les plus coûteuses de l histoire. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

30 Quelques exemples de gros «bugs» Première guerre d Irak : bug d un missile patriot R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

31 Quelques exemples de gros «bugs» Bug d un missile patriot Dans la nuit du 25/02/91, un missile Patriot opérant de Dhahran (en Arabie Saoudite) n a pas pu intercepter un Scud. Le missile iraquien a tué 28 soldats américains et en a blessé 98. Le problème était un problème informatique : la place mémoire prévue pour stocker la vitesse de la cible n était pas suffisante et cela a donné des erreurs d arrondis... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

32 Quelques exemples de gros «bugs» Mars Climate Orbiter a loupé sa cible R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

33 Quelques exemples de gros «bugs» Mars Climate Orbiter a loupé sa cible Les unités de mesure au sol et dans la sonde n étaient pas les mêmes : anglaise d un coté, système métrique de l autre. On avait repris un logiciel venant de Mars global Surveyor et pas vérifié la compatibilité. Ce genre de vérification étaient faites pour des missions précédentes mais supprimées à cause de coupures budgétaires. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

34 Quelques exemples de gros «bugs» Problèmes médicaux avec le Thérac-25 R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

35 Quelques exemples de gros «bugs» Bug du Thérac-25 Le 3 juin 1985, en Géorgie, une femme de 61 ans atteinte d un cancer du sein débuta un traitement avec le Therac-25, une machine de radiothérapie. Peu après le traitement, la patiente souffrit de douleurs dans la région irradiée. Elle continua à souffrir de ses brûlures et son bras resta paralysé. Quelques mois plus tard, une autre personne mourut des suites des blessures occasionnées. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

36 Quelques exemples de gros «bugs» Bug du Thérac-25 L erreur était un manque de fiabilité du logiciel gérant la machine. Des dépassements de capacité se produisaient et engendraient la désactivation de certains tests de sécurité. L ensemble était programmé en assembleur, un langage courant à l époque mais difficile à analyser et «débogguer» par rapport aux langages de plus haut niveau. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

37 Quelques exemples de gros «bugs» Machine à voter en Belgique R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

38 Quelques exemples de gros «bugs» Machine à voter en Belgique Le 18 mai 2003 à Schaerbeek (Belgique), le décompte des voix exprimées dépasse de plus de le nombre d inscrits dans la circonscription. Les experts concluent que «l erreur a très probablement été occasionnée par une inversion spontanée et aléatoire d un bit». Ils ajoutent que «ce phénomène est abondamment décrit dans la littérature spécialisée». Il ne l est pas dans le code électoral... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

39 Quelques exemples de gros «bugs» Machine à voter en Belgique Le 18 mai 2003 à Schaerbeek (Belgique), le décompte des voix exprimées dépasse de plus de le nombre d inscrits dans la circonscription. Les experts concluent que «l erreur a très probablement été occasionnée par une inversion spontanée et aléatoire d un bit». Ils ajoutent que «ce phénomène est abondamment décrit dans la littérature spécialisée». Il ne l est pas dans le code électoral... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

40 Qu est ce qu un bug? Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

41 Qu est ce qu un bug? Qu est ce qu un bug? Il s est passé quelque-chose de non souhaité, non prévu,... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

42 Qu est ce qu un bug? Qui est coupable? (d après A Fox et D Patterson - Pour la science 2003) Materiel : 15% Logiciel : 34% Humain : 51% R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

43 Qu est ce qu un bug? Les erreurs humaines Mauvaise compréhension de la documentation Erreurs de manipulation... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

44 Qu est ce qu un bug? Les erreurs matériel Panne d un composant : un circuit a «grillé» Erreur de communication, erreur de stockage : codes correcteurs d erreurs. Les rayons cosmiques peuvent perturber le fonctionnement des machines. Erreur de conception : la puce ne fait pas ce qu il faut... même si on sait souvent «prouver» les circuits. Bug très proche du bug logiciel.... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

45 Qu est ce qu un bug? Les erreurs matériel Les rayons cosmiques Les rayons cosmiques provoquent des erreurs dans les ordinateurs. Ce sont les neutrons qui posent problème. À 10 kilomètres d altitude, il y a neutrons qui traversent chaque centimètre carré par heure. Un chercheur du CNRS estime qu un PC portable, en avion, a un risque de planter toutes les 5 heures. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

46 Qu est ce qu un bug? Les erreurs matériel Bug du pentium En 1994, un chercheur découvre un bug dans l unité de valeur en virgule flottante du Pentium. Dans un premier temps, Intel nie le problème mais ces erreurs dans les divisions sont rapidement confirmées par d autres personnes. L erreur provient de l initialisation incomplète (dans le silicium) d une table de valeurs servant à un nouvel algorithme plus rapide. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

47 Qu est ce qu un bug? Les erreurs matériel Bug du pentium Si x = , y = et z = x x y y On devrait trouver 0 mais la puce répond 256. Des organismes indépendants montrèrent cependant le peu d importance des conséquences du bug et que l effet était négligeable dans la plupart des utilisations. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

48 Qu est ce qu un bug? Les erreurs logiciel Les bugs logiciel Un programme qui ne fait pas ce que l on veut. Le reste de l exposé Qu est ce que l on veut? Comment l obtient-on? R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

49 Qu est ce qu un bug? Les erreurs logiciel Les bugs logiciel Un programme qui ne fait pas ce que l on veut. Les erreurs logiciel classiques Diviser par zéro Dépassement des bornes d un tableau Accès mémoire non autorisé Utilisation d une variable non initialisée Les erreurs d arrondis dans les calculs Erreur «logique» (on ne calcule pas ce que l on veut)... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

50 Qu est ce qu un bug? Les erreurs d arrondis En math ( ) = 1 Pour un ordinateur ( ) = 0 R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

51 Qu est ce qu un bug? Les erreurs d arrondis En math ( ) = 1 Pour un ordinateur ( ) = 0 R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

52 Qu est ce qu un bug? Erreurs d arrondis à la bourse de Vancouver En 1982, on introduit un indice initialisé à Après chaque transaction, il est réactualisé. 22 mois plus tard, sa valeur est à 525. La vraie valeur était de Les erreurs d arrondis (allant toujours dans le même sens) s étaient cumulées. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

53 Qu est ce qu un bug? Erreurs d arrondis à la bourse de Vancouver En 1982, on introduit un indice initialisé à Après chaque transaction, il est réactualisé. 22 mois plus tard, sa valeur est à 525. La vraie valeur était de Les erreurs d arrondis (allant toujours dans le même sens) s étaient cumulées. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

54 Qu est ce qu un bug? Erreur logique dans les élections au parlement de Schleswig-Holstein en 1992 En Allemagne, pour avoir des sièges, un parti doit avoir au moins 5% des voix. Les verts, crédités de 5%, obtiennent donc des élus. En fait le pourcentage était de 4.97%... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

55 Qu est ce qu un bug? Erreur logique dans les élections au parlement de Schleswig-Holstein en 1992 En Allemagne, pour avoir des sièges, un parti doit avoir au moins 5% des voix. Les verts, crédités de 5%, obtiennent donc des élus. En fait le pourcentage était de 4.97%... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

56 Pourquoi traquer les bugs, c est difficile? Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

57 Pourquoi traquer les bugs, c est difficile? R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

58 Pourquoi traquer les bugs, c est difficile? R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

59 Pourquoi traquer les bugs, c est difficile? (1) Les limitations dues à la vitesse Question : Combien d opérations un ordinateur qui fait opérations à la seconde qui calculerait depuis le Big Bang aurait-il fait? Il est généralement estimé que notre cerveau, avec ses neurones et synapses, fait entre et opérations à la seconde. Réponse : opérations, c est à dire 1 suivi de 31 zéros ce qui est très grand mais quand même trop petit... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

60 Pourquoi traquer les bugs, c est difficile? (1) Les limitations dues à la vitesse Question : Combien d opérations un ordinateur qui fait opérations à la seconde qui calculerait depuis le Big Bang aurait-il fait? Il est généralement estimé que notre cerveau, avec ses neurones et synapses, fait entre et opérations à la seconde. Réponse : opérations, c est à dire 1 suivi de 31 zéros ce qui est très grand mais quand même trop petit... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

61 Pourquoi traquer les bugs, c est difficile? (1) Les limitations dues à la vitesse Question : Combien d opérations un ordinateur qui fait opérations à la seconde qui calculerait depuis le Big Bang aurait-il fait? Il est généralement estimé que notre cerveau, avec ses neurones et synapses, fait entre et opérations à la seconde. Réponse : opérations, c est à dire 1 suivi de 31 zéros ce qui est très grand mais quand même trop petit... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

62 Pourquoi traquer les bugs, c est difficile? (2) Problèmes indécidables Théorème Il existe des problèmes indécidables, c est à dire qu il n y a pas d algorithme général pour les résoudre. begin i := i + 1 ; end Ce programme va-t-il s arrêter? Ce programme va-t-il utiliser cette instruction? Ce programme a-t-il exactement le même comportement que tel autre? R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

63 Pourquoi traquer les bugs, c est difficile? (3) Complexité croissante des systèmes Taille des systèmes : nombre de lignes de code (place mémoire de Windows XP et Vista). Systèmes «distribués» (même si ce n est pas le cas des applications critiques). R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

64 Pourquoi traquer les bugs, c est difficile? (4) Préciser «ce que l on veut» n est pas si simple Quelques examples : le passage à niveau, le bug de l an 2000, les unités de mesure pour Mars voyager. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

65 Pourquoi traquer les bugs, c est difficile? (5) Définir «ce que fait un programme» n est pas si simple On ne peut pas vérifier qu un programme fait «ce que l on veut» si on ne sait pas ce que le programme fait. Il faut donner un sens parfaitement précis aux programmes, ce qu on appelle une «sémantique mathématique». De bons langages (avec une bonne «sémantique») réduisent le taux d erreurs de façon majeure. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

66 Pourquoi traquer les bugs, c est difficile? (6) Rigidité du monde industriel Difficile d intégrer les progrès de la recherche dans le monde industriel. Les choix technologiques du monde industriel sont trop souvent «spontanés» : pourquoi C++ et pas objective C, pourquoi Java et pas ML, pourquoi Perl. Il faut souvent attendre d avoir des bugs majeurs pour promouvoir la recherche dans ce domaine. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

67 Qu est ce que l absence de bug? Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

68 Qu est ce que l absence de bug? L absence de bug est parfois une propriété indispensable Pour les logiciels embarqués dans les avions, les voitures ou les appareils médicaux, la sécurité est absolument fondamentale. Il n est pas question de diffuser des versions plus ou moins buggées en demandant aux utilisateurs de télécharger les nouvelles versions quand on trouve un problème. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

69 Qu est ce que l absence de bug? La norme ISO/CEI 9126 Elle décrit les exigences qualité des logiciels Capacité fonctionnelle : Est-ce que le logiciel répond aux besoins fonctionnels exprimés? Fiabilité : Est-ce que le logiciel maintient son niveau de service dans des conditions précises et pendant une période déterminée? Facilité d utilisation : Est-ce que le logiciel requiert peu d effort à l utilisation?... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

70 Qu est ce que l absence de bug? Absence de bugs = présence de propriétés Ne plante pas = ne s arrête pas de manière inattendue. Le logiciel a un comportement correct : certaines situations sont impossibles ; certains événements vont se produire. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

71 Qu est ce que l absence de bug? Absence de bugs = présence de propriétés Solution On décrit tout cela grâce aux MATHÉMATIQUES. Les spécifications C est le nom que l on donne aux propriétés mathématiques qu un programme doit satisfaire pour être correct (sans bug). R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

72 Qu est ce que l absence de bug? Un exemple : le passage à niveau Si un train passe : les barrières sont fermées depuis N minutes. Les barrières sont parfois ouvertes! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

73 Qu est ce que l absence de bug? Un exemple : le passage à niveau Si un train passe : les barrières sont fermées depuis N minutes. Les barrières sont parfois ouvertes! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

74 Qu est ce que l absence de bug? Un exemple : le passage à niveau Si un train passe : les barrières sont fermées depuis N minutes. Les barrières sont parfois ouvertes! Au moins P minutes entre une ouverture et une fermeture et un signal P minutes avant la fermeture! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

75 Qu est ce que l absence de bug? Les spécifications sont utiles en elles mêmes Les spécifications formelles sont un cahier des charges fiable pour le logiciel. Bug de l an 2000 Les spécifications ont mis (auraient du mettre?) le problème en évidence. Mars orbiter Des spécifications complètes auraient précisé les unités. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

76 Les solutions actuelles Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

77 Les solutions actuelles Le test du logiciel On produit un vecteur de tests : une liste d entrées, les sorties correspondantes. On vérifie la sortie du programme sur chaque entrée du vecteur. Les tests peuvent être écrits à la main, générés. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

78 Les solutions actuelles Exemple de l ascenseur Un immeuble de 9 étages + RDC Entrée : étage + boutons appuyés. Sortie : monte, descend, ne fait rien. Il y a millions d entrées possibles. Conclusion Le test complet est impossible. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

79 Les solutions actuelles Exemple de l ascenseur Un immeuble de 9 étages + RDC Entrée : étage + boutons appuyés. Sortie : monte, descend, ne fait rien. Il y a millions d entrées possibles. Conclusion Le test complet est impossible. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

80 Les solutions actuelles Les limites du test Test exhaustif presque toujours impossible. Test partiel risque de bugs. Tests générés à la main risque de bugs. Tests générés automatiquement un programme de plus avec ses bugs! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

81 Les solutions actuelles Le «model checking» Introduit au début des années 80. Très utilisé pour la preuve de circuits. Améliorations du test : Spécification pour vérifier le vecteur de tests. On ne teste pas tous les cas. Pour le passage à niveau à 2 voies : 2 cas au lieu de 4. Repose sur la théorie des modèles fondement mathématique fiable. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

82 Les solutions actuelles Le «model checking» Introduit au début des années 80. Très utilisé pour la preuve de circuits. Améliorations du test : Spécification pour vérifier le vecteur de tests. On ne teste pas tous les cas. Pour le passage à niveau à 2 voies : 2 cas au lieu de 4. Repose sur la théorie des modèles fondement mathématique fiable. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

83 Les solutions actuelles Les langages plus évolués Les langages ne sont pas tous égaux : Assembleur < C < C++ < Java < ML Pourquoi? 1 + "toto" : possible en C, pas en ML! En ML ceci est un théorème, pas en Java! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

84 Les solutions actuelles Les contraintes du langage augmentent la fiabilité Accès mémoire illégal : Solution : entier différent de adresse mémoire. Une chaîne à la place d un entier : Solution : typage statique. On utilise un objet que l on a détruit : Solution : «garbage collector». Nouveaux paradigmes programmes plus courts et plus clairs, moins de bugs, réutilisation de codes éprouvés programmes plus sûrs. Mais plus de contraintes! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

85 Les solutions actuelles Comparaison C - OCaml En C En OCaml int valeur(expr e) { switch(e->tag) { constante : return valeur(e->u.cst) ; somme : return valeur(e->u.args.arg1) + valeur(e->u.args.arg2) ;... } let rec valeur = function constante(n)-> n Somme(e1,e2)-> valeur(e1) + valeur(e2)... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

86 Logiciels et preuves mathématiques Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

87 Logiciels et preuves mathématiques Nécessité de prouver les programmes Exigence de sécurité Depuis 1995, en Europe, les ITSEC (Information Technology Security Evaluation Criteria) exigent l usage de méthodes formelles à partir d un certain niveau de sécurité. Transports, médecine Banques, Télécommunications,... Les «méthodes formelles» comprennent Spécification Test Model-Checking Preuve de logiciel R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

88 Logiciels et preuves mathématiques Spécification et preuves Question Puisque spécifications = formules mathématiques, pourquoi ne pas faire des preuves? Oui mais : Même en mathématiques on fait des erreurs dans les preuves. En mathématiques, la «communauté»vérifie les preuves. En informatique, personne ne relira une preuve d un programme! R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

89 Logiciels et preuves mathématiques Spécification et preuves Question Puisque spécifications = formules mathématiques, pourquoi ne pas faire des preuves? Solution : On peut vérifier une preuve à l aide d un ordinateur. Degré de fiabilité très très élevé (mais pas 100%). R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

90 Logiciels et preuves mathématiques Correspondance de Curry-Howard Spécification = Théorème. Preuve = Programme. On prouve : e s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s en fonction de l entrée e. Limitations peu efficace, très dur d écrire le programme que l on veut. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

91 Logiciels et preuves mathématiques Correspondance de Curry-Howard Spécification = Théorème. Preuve = Programme. On prouve : e s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s en fonction de l entrée e. Limitations peu efficace, très dur d écrire le programme que l on veut. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

92 Logiciels et preuves mathématiques Correspondance de Curry-Howard Spécification = Théorème. Preuve = Programme. On prouve : e s Specif(e, s) De la preuve, on extrait un programme correct calculant la sortie s en fonction de l entrée e. Limitations peu efficace, très dur d écrire le programme que l on veut. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

93 Logiciels et preuves mathématiques Preuve de programmes Qu est ce que c est? On prouve que le logiciel satisfait ses spécifications. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

94 Logiciels et preuves mathématiques Preuve de programmes Deux méthodes principales : Programmes impératifs : logique de Hoare Méthode B : Ligne de métro 14 à Paris,... Approche fonctionnelle Boyer-Moore : preuve d un micro processeur, d un compilateur Pascal,... Plus de limites... en principe R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

95 Logiciels et preuves mathématiques Logique de Hoare (methode B) Appliquée aux programmes impératifs : Affectation, Boucles (invariants...). À partir du programme et des spécifications on génère des «obligations de preuves». La théorie mathématique sous jacente à la logique de Hoare assure que cela suffit. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

96 Logiciels et preuves mathématiques Logique de Hoare (exemple) X := a ; while ( X 2 a e) do X := 1 2 (X + a X ) ; done ; return(x) ; Preuve : Invariant de boucle : X > 0 (non nul). Post-condition : X a < e. Obligations de preuve : a > 0, X > (X + a X ) > 0. (e est la marge d erreur) rappel : attention aux erreurs d arrondis. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

97 Logiciels et preuves mathématiques Langage fonctionnel Remarque : Les fonctions existent en mathématiques. Exemple : f (X) = X si X 2 a < e et f (X) = f ( 1 2 (X + a X )) sinon Preuve Même contenu que pour la logique de Hoare. Mais proche d une preuve mathématique usuelle. Justification de la méthode un peu plus simple. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

98 Logiciels et preuves mathématiques Limitation de la preuve de programme Demande du temps, mais pas forcément plus que la recherche et la correction des bugs. On doit le faire avant de vendre le produit. Les industriels actuels n ont pas fait assez de maths. Les industriels changent difficilement de langage de programmation. R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

99 Conclusion Plan 1 Brève histoire de l informatique 2 Quelques exemples de gros «bugs» 3 Qu est ce qu un bug? 4 Pourquoi traquer les bugs, c est difficile? 5 Qu est ce que l absence de bug? 6 Les solutions actuelles 7 Logiciels et preuves mathématiques 8 Conclusion R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

100 Conclusion Peut-on avoir confiance en l informatique? Bureautique et informatique courante Les industriels ont conscience du problème. Pression économique encourageant les bugs! Outils peu ou pas utilisés. Des bugs, encore des bugs,... Systèmes critiques Les industriels ont conscience du problème. Pression économique encourageant la sécurité. Outils en progrès constant. On peut avoir confiance... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

101 Conclusion Peut-on avoir confiance en l informatique? Bureautique et informatique courante Les industriels ont conscience du problème. Pression économique encourageant les bugs! Outils peu ou pas utilisés. Des bugs, encore des bugs,... Systèmes critiques Les industriels ont conscience du problème. Pression économique encourageant la sécurité. Outils en progrès constant. On peut avoir confiance... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

102 Conclusion Peut-on avoir confiance en l informatique? Bureautique et informatique courante Les industriels ont conscience du problème. Pression économique encourageant les bugs! Outils peu ou pas utilisés. Des bugs, encore des bugs,... Systèmes critiques Les industriels ont conscience du problème. Pression économique encourageant la sécurité. Outils en progrès constant. On peut avoir confiance... R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78

103 Conclusion Fin R.David - C.Raffalli Avoir confiance en l informatique? Mai / 78