PATRICK BELLOT ÉCOLE NATIONALE SUPÉRIEURE DES TÉLÉCOMMUNICATIONS. relu et corrigé par

PATRICK BELLOT ÉCOLE NATIONALE SUPÉRIEURE DES TÉLÉCOMMUNICATIONS relu et corrigé par AKIM DEMAILLE ÉCOLE POUR L INFORMATIQUE ET LES TECHNIQUES AVANCÉES

2

3 LICENCE DES DROITS D USAGE DE CE DOCUMENT Par le téléchargement ou la consultation de ce document, l utilisateur accepte la licence d utilisation qui y est attachée, telle que détaillée dans les dispositions suivantes, et s engage à la respecter intégralement. La licence confère à l utilisateur un droit d usage sur le document consulté ou téléchargé, totalement ou en partie, dans les conditions définies ci-après, et à l exclusion de toute utilisation commerciale. Le droit d usage défini par la licence autorise un usage dans un cadre académique, par un utilisateur donnant des cours dans un établissement d enseignement secondaire ou supérieur et à l exclusion expresse des formations commerciales et notamment de formation continue. Ce droit comprend : le droit de reproduire tout ou partie du document sur support informatique ou papier, le droit de diffuser tout ou partie du document à destination des élèves ou étudiants. Aucune modification du document dans son contenu, sa forme ou sa présentation n est autorisé. Les mentions relatives à la source du document et/ou à son auteur doivent être conservées dans leur intégralité. Le droit d usage défini par la licence est personnel, non exclusif et non transmissible. Tout autre usage que ceux prévus par la licence est soumis à autorisation préalable et expresse de l auteur : bellot@enst.fr.

4

5 Liste des chapitres Chapitre I INTRODUCTION À LA LOGIQUE............ 7 Chapitre II FORMALISMES LOGIQUES............... 25 Chapitre III ÉLIMINATION DES COUPURES............. 57 Chapitre IV THÉORIE DES TYPES.................. 67 Chapitre V L ISOMORPHISME DE CURRY-HOWARD....... 87 Chapitre VI RÉALISABILITÉ..................... 101 Chapitre VII LE SYSTÈME AF 2.................... 117

6

7 I INTRODUCTION À LA LOGIQUE Citons LOGIQUE ET INFORMATIQUE, UNE INTRODUCTION B. Courcelle ed. INRIA, Collection Didactique 1991 et LOGIC : FORM AND FUNCTIONS J.A. Robinson Edinburgh University Press, Edinburgh, Écosse 1979 La logique est la théorie qui tente de mathématiser le raisonnement, c est-à-dire d en faire un objet mathématique comme un autre sur lequel on puisse démontrer des théorèmes. Elle s occupe principalement du raisonnement mathématique, beaucoup plus que du raisonnement courant qui est plus difficilement appréhendable. En ce sens, la logique fait partie des méta-mathématiques, i.e. des mathématiques à propos des mathématiques. Jusqu à l apparition des ordinateurs et de l informatique, elle était fort peu utile car les mathématiciens non-logiciens font peu de cas de l étude du raisonnement. Lorsqu au début du siècle, Bertrand Russel commença à découvrir le

8 CHAPITRE I. INTRODUCTION À LA LOGIQUE paradoxe qui porte son nom, Henri Poincaré déclara en 1906 :... La logique n est plus stérile! Elle engendre des contradictions... Cela en dit long sur certaines mentalités. Pourtant, mathématiser le raisonnement permet d en discuter et de se convaincre sur des bases posées par la logique. Encore faut-il que ces bases soient admises par tous! 1 La logique est déclarative Comme nous venons de le dire, la logique étudie les raisonnements qui sont composés de déductions faites sur des propositions. Comme le remarque le professeur André Chauvin, logicien français spécialisé dans l étude du calculable, on distingue trois usages des propositions : l usage déclaratif : la proposition est appelée déclaration ou assertion ; l usage interrogatif : la proposition est appelée question ; l usage impératif : la proposition est appelée instruction ou commandement. Même si l informatique nous a appris la nécessité de ces trois usages, la logique classique s est attachée à l usage déclaratif des propositions. Les raisons sur lesquelles nous reviendrons peuvent être explicitées comme suit. Tout d abord, les mathématiques assimilent implicitement les objets de leur discours à des êtres matériels tous présents. Nous n avons pas à les créer mais seulement à les découvrir. André Chauvin cite l exemple des nombres réels et du sous-ensemble des nombres transcendants 1. Les mathématiques les considèrent comme présents. De sorte qu une question telle que La constante C d Euler 2 est-elle un nombre transcendant? possède une réponse même si nous le la connaissons pas aujourd hui. Toute question possède une réponse, à nous de la découvrir. On peut se passer des questions au bénéfice des déclarations dont on démontre la vérité ou la fausseté. De même, on peut se passer des commandements puisque les mathématiques travaillent dans un univers pré-existant. 1. Un nombre est transcendant si et seulement si il n est racine d aucun polynôme à coefficients rationnels. [( 2. C = lim 1 + 1 + 1 + + ) ] 1 n 2 3 n ln n

2 Les schémas hilbertiens des propositions 9 Le point de vue qui vient d être expliqué régnera sans partage sur la logique théorique : toute proposition se ramène à une déclaration. Si questions et commandements figurent dans les traités de logique, ils sont exprimés dans la langue naturelle et non dans le langage de la logique. Cette logique déclarative est appelée logique de Hilbert qui en a donné une définition axiomatique rigoureuse et élégante. 2 Les schémas hilbertiens des propositions Les propositions logiques sont des déclarations à propos d objets. Quand ces objets ne sont pas spécifiés, on peut les représenter par des variables libres. Une variable libres est une lettre représentant un objet non spécifié dans un contexte et il s agit du même objet quelle que soit l occurrence de la variable libre. Lorsque nous ne voulons pas spécifier la proposition, nous utilisons des symboles tels que P (x) ou Q(x, y). P (x) désigne une proposition parlant d un objet x tandis que Q(x, y) désigne une proposition parlant de deux objets x et y. Ce type d écriture est appelé un schéma de proposition. Les lettres P ou Q sont appelés des lettres de proposition ou des propositionlettre. H.B. Curry les appelle des prédicateurs. Hilbert propose de continuer en prenant une proposition précise R 0 (x, y). R 0 (x, y) peut être par exemple l égalité x = y. Pour deux objets x 0 et y 0 spécifiés, R 0 (x 0, y 0 ) est vraie ou fausse (principe du tiers-exclu). On peut choisir de lui associer un symbole v si la proposition est vraie et un symbole f si la proposition est fausse. On peut donc considérer R 0 comme une fonction à deux arguments et à valeur dans {v, f}. On voit immédiatement l analogie entre le prédicat vu par Hilbert et la fonction caractéristique d une ensemble, celui des couples (x 0, y 0 ) tel que R 0 (x 0, y 0 ) est vrai. Mais..., et c est très important, la logique est antérieure à la théorie des ensembles qui la suppose connue pour formaliser ses axiomes. Aussi les prédicats sont des fonctions «plus générales» que les fonctions ensemblistes définie par des graphes, elles ont le même caractères que les fonctions processus définies par exemple avec les combinateurs.

10 CHAPITRE I. INTRODUCTION À LA LOGIQUE 3 Naissance de la logique mathématique On peut faire remonter les premiers pas de la logique à Aristote puisqu on lui doit le syllogisme «Tous les hommes sont mortels, les Athéniens sont des hommes, donc ils sont mortels». C est peut-être la première mise en évidence d une règle de déduction formelle : «tous les B sont des C, les A sont des B, donc tous les A sont des C». Au 17 ème siècle, Gottfried Leibniz, alors plus philosophe que mathématicien, proposait la recherche d une Characteristica Universalis, i.e. une langue à vocation universelle qui permettrait une vision particulièrement claire de la vérité des propositions, et celle d un Calculus Ratiocinator, méthode de manipulation des propositions qui permettrait de déterminer leurs vérités. Le logicien J.A. Robinson ne fait-il pas remarquer que ce qui a rendu célèbre Isaac Newton n est pas tant les faits qu il découvre concernant la gravitation ou l optique mais bien plus le formalisme qu il a créé pour les étudier avec principalement les calculs différentiel et intégral? Ce que recherche Leibniz n est rien moins que la même chose pour le raisonnement. La création d un formalisme logique du raisonnement était selon le philosophe Thomas Hobbes l objet même de la logique. Il publie en 1655 un traité, De Corpore, où il avance que la raisonnement n est rien d autre qu un calcul comme un autre. L histoire raconte que Hobbes fut séduit par la logique du raisonnement de la démonstration du théorème de Pythagore dans les Éléments d Euclide, démonstration qu il lut à rebours découvrant les propositions utilisées par celle-ci, puis les propositions utilisées pour démontrer les premières propositions et ainsi de suite... jusqu à atteindre les axiomes. Il fut tellement séduit par la rigueur et l infaillibilité du discours mathématiques qu il passa le reste de sa vie à rechercher une sorte d alchimie du raisonnement permettant de combiner des concepts vrais en nouveaux concepts vrais. Dans Computatio Sive Logica, il écrivait qu il ne fallait pas penser que le calcul se faisait uniquement avec des nombres. G. Leibniz qui n avait que 8 ans quand Hobbes formula ses idées commença à travailler les concepts de Hobbes en 1666 à l âge de 19 ans. Dans son De Arte Combinatoria, il rend grâce à Hobbes de lui avoir insufflé l idée d un système de calcul pour le raisonnement. Il tenta de développer ce type de calcul en représentant les concepts par des nombres. La période moderne, i.e. non plus seulement philosophique, de la lo-

4 Naissance de la logique formelle 11 gique commence probablement avec Gottlob Frege quand il publia en 1879 le Begriffsschrift, i.e. Écriture de concepts. Il y définit une syntaxe graphique pour représenter les notions logiques d implication, de négation,... clamant que la représentation textuelle, que nous connaissons bien, n était pas la plus confortable. On lui doit les quantificateurs universel ( ) et existentiel ( ) et le symbole d assertion ( ). 4 Naissance de la logique formelle C est à Bertrand Russel et Alfred Whitehead que l on doit la forme moderne de la logique mathématique. Dans les Principia Mathemtica en 1910, ils donnent le cadre formalisé de développement dont la logique mathématique n est pratiquement pas sortie : un langage rigoureux définissant des expressions appelées formules et des règles formelles de manipulations des expressions de ce langage. Dans ces règles, on trouve des axiomes disant que certaines formules sont vraies et l on trouve des règles de déduction affirmant la véracité d une certaine formule, la conclusion, pourvu que certaines autres formules, les hypothèses, soient vraies. Ces règles sont formelles, ce qui signifie qu elles sont basées sur la forme des formules concernées et non sur leur sens. D un point de vue informatique cela est intéressant puisque les ordinateurs sont eux-aussi des machines formelles. On répertorie plusieurs façons de présenter un système logique : déduction naturelle, systèmes hilbertien et calcul des séquents. Celles-ci seront abordées plus loin. 5 La fin d un rêve Le rêve de ce début de 20 ème siècle était de faire de la logique un calcul et donc de mécaniser le raisonnement, puis par suite toutes les mathématiques et puisque toutes les sciences sont plus ou moins basées sur les mathématiques, on aurait fini par mécaniser toutes les sciences... C était le rêve de David Hilbert et l objectif du trop fameux Programme de Hilbert, témoin d une époque scientifiquement conquérante et positiviste. D. Hilbert ne déclarait-il pas lors d un colloque à l université de Königsberg en 1930 :... Nous devons savoir, nous saurons...

12 CHAPITRE I. INTRODUCTION À LA LOGIQUE Las, deux jours auparavant, dans le même lieu mais dans le cadre d un autre colloque scientifique, Kurt Gödel avait présenté son résultat d incomplétude selon lequel il n était pas possible d axiomatiser formellement, et surtout récursivement, les vérités de l arithmétique. Le rêve de la mécanisation des mathématiques avait pris l eau abîmé par deux icebergs : celui de la complétude : on ne peut pas axiomatiser convenablement toutes les vérités d un système mathématique dès lors que celui-ci intègre la simple arithmétique des entiers naturels ; celui de la décidabilité : il n existe par de procédure automatisable permettant de savoir dans le cas général si un énoncé est vrai ou pas. 6 L hérésie intuitionniste Toujours en ce début de siècle, et peut-être par réaction au courant positiviste des sciences, est née une école mathématique et logique entraînée par Luitzen Brouwer et connue sous le nom d école intuitionniste. Les intuitionnistes ont créé une logique, la logique intuitionniste, qui est celle qui intéresse les informaticiens. Les intuitionnistes remarquent tout d abord que la logique classique, classique par opposition à la logique intuitionniste, ne construit pas les vérités qu elle démontre, elle les découvre. Elle pré-suppose que les choses sont soit vraies, soit fausses. Les mathématiques se placent dans un univers platonicien. Cela se traduit par l axiome du tiers-exclu : A A (tertium non datur) Cet axiome dont le sens littéral est qu étant donnée une proposition, celleci est vraie ou bien sa négation est vraie. Il justifie de nombreux raisonnements comme le raisonnement par l absurde, reductio ad absurdum : pour prouver A, je suppose A, j en déduis une contradiction et donc A est vraie. Mais présupposer que toute chose est soit vraie soit fausse est une croyance philosophique, voire théologique comme le soutient le grand logicien Haskell Curry. Peut-on raisonnablement construire les mathématiques sur une base théologique? Un autre aspect de la logique classique inconvenant pour le logicien intuitionniste est le fait que l on peut montrer classiquement l existence de quelque chose vérifiant une propriété, une formule du type x A(x), sans

6 L hérésie intuitionniste 13 être pour autant capable d exhiber le x en question. Clairement, la logique classique n est pas constructive car elle ne construit pas ce dont elle prétend l existence. Les livres mathématiques sont pleins de démonstrations de la rationalité de certains nombres sans pour autant être capable d exhiber les deux membres de la fraction. Exemple. Démontrons qu il existe des nombres réels irrationnels et positifs a et b tels que a b soit rationnel. On considère 2 2 sachant que 2 est irrationnel : si 2 2 est rationnel, on choisit a = b = 2 ; si 2 2 est irrationnel, on choisit a = 2 2 et b = 2 car a b = 2. La rédaction formelle et rigoureuse de la démonstration oblige à écrire à un moment ou à un autre que l on a A A avec A étant la proposition «2 2 est rationnel». Exemple. Soit le nombre σ construit comme suit : j écris le développement du nombre π en base 10. En dessous de chaque chiffre du développement de π, j écris le chiffre 3 et je ne m arrête que si je trouve la séquence de chiffres 0 1 2 3 4 5 6 7 8 9 dans le développement décimal de π. Deux cas peuvent se présenter : il existe une séquence 0 1 2 3 4 5 6 7 8 9 dans le développement décimal de π, le nombre σ sera donc 0.33...3 où k, le nombre de chiffres 3, est égal au rang du chiffre 9 de la séquence dans le développement décimal de π ; alors σ = 10k 1 ; 3.10 k soit une telle séquence n existe pas et σ est égal à 0.33333... soit 1 3. Dans les deux cas, on peut démontrer que σ est rationnel mais on n en possède pas de paire numérateur-dénominateur. Le type de raisonnement précédent est basé sur le tiers-exclu puisque l on suppose formellement que soit la séquence 0 1 2 3 4 5 6 7 8 9 existe dans le développement décimal de π, soit elle n y existe pas.

14 CHAPITRE I. INTRODUCTION À LA LOGIQUE Un autre aspect des mathématiques classiques, qui ne concerne pas véritablement la logique, celui de l infini actuel est aussi rejeté par les intuitionnistes. Ce principe accepte l idée de pouvoir considérer comme actuellement présents tous les éléments d un ensemble infini comme celui des nombres réels. On parle d infini-actuel de Platon-Cantor. Avec par exemple l axiome du choix qui stipule grossièrement que si l on possède une infinité d ensembles (E i ) i 0, il est possible de sélectionner instantanément un élément dans chacun des ensembles : il existe une fonction f telle que f(i) E i pour tout i 0. Effectivement, si je prends une infinité de paires de chaussures, je peux choisir par exemple toutes les chaussures gauches et mon choix est instantané. Je peux aussi choisir la chaussure gauche quand i est pair, la chaussure droite quand i est impair. Mais prenons un autre exemple : celui d une infinité de paires de chaussettes. Dans une paire de chaussettes, les deux chaussettes sont entièrement semblables mais cependant distinctes. Comment décrire instantanément un choix d une chaussette dans chacune des paires? Les intuitionnistes refusent cet état de fait et se proposent de reconstruire les mathématiques sur de nouvelles bases. Ils rejettent le caractère non constructif de la logique classique qui est matérialisé par l axiome du tiers-exclu. Ils refusent aussi la notion d infini actuel, c est-à-dire le fait que l on puisse considérer les nombres réels (où tout autre ensemble ayant le même caractère) comme étant tous présents. En fait, ils rejettent la vision platonicienne des mathématiques où une preuve est un moyen de découvrir une vérité pré-existante. Luitzen Brouwer en 1923 a même comparé les mathématiques classiques à une activité criminelle : «Une théorie incorrecte qui n est pas arrêtée par une contradiction n en est pas moins incorrecte, exactement comme une politique criminelle qui n est pas réprimée par une cour de justice n en est pas moins criminelle». 7 Les fondements intuitionnistes Quels sont les fondements proposés par les intuitionnistes? D un point de vue mathématiques, on rejette ce qui pourrait être qualifié de croyance et l on se base sur ce qui est intuitivement accepté par tous les individus pensants : la suite des nombres naturels 0, 1, 2, 3,... Le reste n existe pas! D un point de vue logique, on ne place plus la vérité au centre de la logique mais plutôt la preuve. La vérité ne se trouve plus dans un univers extérieur mais dans les preuves et la combinaison des preuves entre elles.

7 Les fondements intuitionnistes 15 La vérité n est pas découverte grâce à la preuve mais construite avec la preuve. Sans preuve, il n est pas de vérité. Ainsi dire qu une formule A est soit vraie soit fausse n a de sens que si l on a prouvé qu elle était vraie ou bien si l on a prouvé qu elle était fausse. D où le rejet de l axiome du tiers-exclu. Par ailleurs, les intuitionnistes font la supposition fondamentale suivante : le fait qu une preuve p prouve une proposition A doit être décidable. D un point de vue solipsiste 3, cela apparaît clairement : si l on n est pas capable de décider si p est une preuve de A alors p ne peut pas être considérée comme une preuve de A. De plus, les preuves intuitionnistes ne sont pas des preuves ordinaires, elles doivent être constructives. En fait, ce sont toutes les mathématiques intuitionnistes qui sont constructives. Pour pouvoir parler d un objet mathématique, il faut être capable de le construire intuitivement. C est-à-dire qu il doit exister un processus mental de construction de cet objet. Ce processus n a pas besoin d être réaliste en terme de temps d exécution ou de ressources nécessaires à sa réalisation. Il lui suffit d exister et d être communicable à quelqu un d autre qui pourrait le reproduire. On peut ainsi construire mentalement la suite des entiers naturels et tout le monde est capable de le faire. En revanche, une définition comme : { le plus grand nombre premier tel que L 2 est aussi premier L = 1 si un tel nombre premier n existe pas n a de sens qui si l on peut trancher entre les deux alternatives, c est-àdire si l on dispose d une preuve qu un tel nombre premier existe ou bien si l on dispose d une preuve qu il n existe pas. En l absence de l une de ces deux preuves, la définition ci-dessus n a pas de sens. Le côté constructif des preuves se retrouve dans les deux propriétés suivantes : Propriété d existence. Si une formule x A(x) est prouvable, la preuve de cette formule doit permettre de retrouver le témoin x 0 tel que A(x 0 ) est aussi prouvable. Propriété de disjonction. Si une formule A B est prouvable alors soit A est prouvable soit B est prouvable et l examen de la preuve de A B doit permettre de savoir lequel des deux est prouvable. 3. Rien n existe hors de la pensée individuelle.

16 CHAPITRE I. INTRODUCTION À LA LOGIQUE Ces deux propriétés sont obtenues d une part en refusant l axiome du tiers-exclu et d autre part par des artifices syntaxiques, le mot est peut-être un peu fort, dans la présentation de la logique. 7.1 Une démonstration classique troublante En logique classique, i.e. non intuitionniste, on peut démontrer le théorème suivant : ((F G) H) = ((F H) (G H)) On peut montrer ce résultat en se servant des équivalences logiques, dites lois de Morgan. Le symbole se lit ici «est logiquement équivalent à» : (A B) ( A) ( B) ; (A B) ( A) ( B). On se sert également de : A B ( A) B ; A A. Notons que cette dernière équivalence n est pas vraie en logique intuitionniste. Nous nous servons également des propriétés d associativité, de commutativité et d idempotence de la disjonction. On a : (F G) H ( (F G)) H (( F ) ( G)) H ( F ) ( G) H ( F ) ( G) H H (( F ) H) (( G) H) (F H) (G H) Donc, de (F G) H, on peut déduire (F H) (G H). Prenons pour F, G, et H les propositions suivantes : x = 0 pour F, y = 0 pour G et (x, y) = (0, 0) pour H. On a bien : (x = 0) (y = 0) (x, y) = (0, 0) D après le théorème, on a aussi : (x = 0 (x, y) = (0, 0)) (y = 0 (x, y) = (0, 0))

8 La sémantique des preuves 17 et cela semble pour le moins bizarre... N.B. Notons qu aucune astuce n a été utilisée et que ce théorème peut être rigoureusement démontré en logique classique (cf. section~10). La solution de l énigme réside, comme nous le verrons, dans l interprétation classiques des symboles de la logique. 8 La sémantique des preuves Les intuitionnistes vont plus loin encore dans l expression de leurs concepts puisqu ils définissent également ce qu est une preuve. Cette définition des preuves est appelée la sémantique des preuves intuitionnistes de Heyting-Kolmogorov. Les preuves sont définies en termes de processus effectivement calculables, notion qui recouvre toutes les notions de processus automatisables d une manière ou d une autre : Logique Combinatoire, λ-calcul, machines de Turing, algorithmes, etc. et dont la thèse de Church affirme qu elle est une notion identifiable à celle de fonction λ-définissable, i.e. de fonction définissable dans le λ-calcul. C est cet aspect des preuves qui reliera fortement, nous le verrons, logique et informatique. La sémantique des preuves intuitionnistes se définit comme suit. La preuve d une formule atomique est une méthode automatisable permettant de vérifier que la formule atomique est vraie. Par exemple, une preuve de 99 + 102 = 201 peut être un algorithme qui calcule la somme de 99 et 102 et vérifie que le résultat est bien 201. La preuve d une conjonction A B, i.e. A et B, est formée d une preuve de A et d une preuve de B. La preuve d un disjonction A B, i.e. A ou B, est formée d une preuve de A ou bien d une preuve de B plus une indication permettant de savoir lequel a été prouvé. La preuve d une négation A, i.e. non A, est la donnée d un processus effectivement calculable qui transforme toute preuve de A en une preuve d une contradiction, 0 = 1 par exemple. La preuve d une implication, A B, i.e. A implique B, est un processus effectivement calculable transformant toute preuve de A en une preuve de B. La preuve d une quantification existentielle, x A(x), est formée d un élément t du domaine de quantification et d une preuve de A(t). La preuve d une quantification existentielle, x A(x), est la donnée d un processus effectivement calculable qui transforme tout élément

18 CHAPITRE I. INTRODUCTION À LA LOGIQUE t du domaine de quantification en une preuve de A(t). Quelques remarques s imposent. 8.1 Implication et quantification universelle Dans la définition des preuves de formules A B et x A(x), nous avons fait intervenir un «processus effectivement calculable qui transforme en». Il manque un élément dans cette description : il faut prouver que le processus effectivement calculable fait bien ce qui est annoncé. Ainsi, dans le cas de l implication, il faudrait prouver que la preuve transforme bien toute preuve de A en une preuve de B. C est un élément pas très clair de cette sémantique des preuves qui fut utilisé par les opposants à l intuitionnisme. 8.2 La négation intuitionniste Il ne faut pas confondre la définition de la négation avec le raisonnement par l absurde. En logique intuitionniste, pour montrer A, il faut montrer A où est une contradiction, 0 = 1 par exemple. La logique intuitionniste dit donc «de A, déduire A». Le raisonnement par l absurde dit «de ( A), déduire A» et il est une conséquence de l axiome du tiers-exclu qui rend logiquement équivalent A et A. 8.3 Jusqu au dogmatisme... La dogmatisme de certains logiciens intuitionnistes alla très loin. Ainsi, G.F. Griss, rejetait-il même la négation intuitionniste avec le raisonnement suivant. Si je veux démontrer qu il n existe pas de cercle carré, je vais supposer qu il en existe un, aboutir à une contradiction et déduire mon résultat. Mais puisqu un carré circulaire est une absurdité, comment puis-je raisonnablement supposer qu il en existe un? Comment puis-je avoir une vision claire de ce qu est un carré circulaire pour pouvoir en déduire une contradiction? Cela est contradictoire avec l idée que tout objet manipulé par les mathématiciens intuitionnistes doit pouvoir être construit mentalement. Griss propose donc de faire reposer les mathématiques sur des raisonnements exclusivement positifs. Ainsi pour montrer qu il n existe pas de carré circulaire, on peut démontrer qu un carré n est pas un cercle

9 Que reste-t-il de l intuitionnisme? 19 en ce sens qu on ne peut lui trouver un centre : quelque soit le point P du plan que je choisisse, je peux toujours trouver deux points Q et R du carré tels que la distance P Q soit différente de la distance P R. 9 Que reste-t-il de l intuitionnisme? Il va de soi qu en prenant comme base les seules constructions mentales intuitives et communicables et en rejetant des raisonnements comme celui par l absurde, on se limite vraiment. David Hilbert en 1928 déclarait : «... Ôter la loi du tiers-exclu au mathématicien reviendrait à priver l astronome de son télescope et le boxeur de son poing...». Si, en plus, on décide de rejeter la négation comme le fait Griss, on a encore moins de puissance d expression. Néanmoins, l école a reconstruit inutilement mais avec des méthodes très différentes la plupart des résultats mathématiques connus. Ce fut un travail long, extrêmement fastidieux, difficile et réalisé en marge de la communauté mathématique internationale. Ainsi, l école intuitionniste n a pratiquement pas eu droit de citer en France où le pragmatisme l a emporté. 9.1 Le raisonnement intuitionniste Il reste alors la logique intuitionniste. Celle-ci est certes moins puissante que la logique classique. Les résultats intuitionnistes peuvent être obtenus par la logique classique mais la réciproque n est pas vraie. En revanche, les démonstrations intuitionnistes sont constructives : pour savoir si un résultat classique est aussi intuitionniste, on peut et on doit bien sûr le redémontrer avec l axiomatisation intuitionniste mais on peut aussi préalablement vérifier que ce résultat est intuitivement valable vis-à-vis de la sémantique des preuves de Heyting. Par exemple, on peut déduire classiquement (A B C) de (A B C). Ce résultat a-t-il un sens en terme de sémantique de Heyting? Si p est un processus effectivement calculable prenant un argument x, on note p(x) l application du processus p à l argument x et son résultat. Une preuve de (A B C) est un processus p qui transforme une preuve a en une preuve p(a) de (B C). Et p(a) est un processus qui transforme une preuve b de B en une preuve p(a)(b) de C. Supposons à présent que j aie une preuve x de A B, alors x est une paire formée

20 CHAPITRE I. INTRODUCTION À LA LOGIQUE de π 1 (x), preuve de A, et π 2 (x), preuve de B. Je définis le processus q(x) par «calculer a = π 1 (x), calculer y = p(a), calculer b = π 2 (x), calculer y(b)». Clairement puisque p et les deux projections π 1, π 2 sont calculables alors q est aussi calculable. Par ailleurs, puisque a est une preuve de A, y est une preuve de (B C). Puisque b est une preuve de B, y(b) est une preuve de C. On a donc q, processus effectivement calculable défini par q(x) = p(π 1 (x))(π 2 (x)), qui transforme toute preuve de A B en preuve de C. On peut donc raisonnablement penser que le résultat de départ est aussi un résultat intuitionniste. Un exemple de théorème classique mais non intuitionniste cité par J-Y. Girard est la formule suivante x ( y A(x) A(y)). Cette formule peut sembler paradoxale, elle dit qu il existe un x tel que si cet objet x possède une propriété A alors tous les autres objets la possèdent. Par exemple, il existe un homme sur la terre tel que s il porte un chapeau tous les autres hommes portent aussi un chapeau. La justification classique est la suivante : si tous les hommes portent un chapeau, prenons-en un au hasard et il sera cet x pour qui le résultat est évidemment vrai puisque tous les hommes y portent un chapeau. Si au moins un homme ne porte pas de chapeau, prenons cet homme pour x et de nouveau tout se passe bien puisque l on peut toujours écrire A(x) A(y) puisque A(x) n est pas vrai. On peut bien sûr démontrer rigoureusement ce résultat avec les axiomes de la logique classique. Un examen de cette formule en terme de sémantique des preuves de Heyting permet de constater qu il ne peut exister de preuve intuitionniste de cette formule. Il reste, et nous le verrons plus loin, que l on peut transformer toute preuve intuitionniste d existence d un objet vérifiant certaines propriétés en un programme calculant un objet ayant ces propriétés. Bien évidemment, les preuves intuitionnistes sont plus difficiles à construire que les preuves classiques. 10 Différents ordres de logique On distingue différents ordres dans les logiques. Seuls les trois premiers semblent présenter un intérêt. Nous verrons des systèmes de chacun d eux. La logique d ordre 0, ou Logique des propositions, est la logique s occupant uniquement de la combinaison des propositions indépendam-

11 La logique linéaire 21 ment de leurs sens. La combinaison se fait à l aide des connecteurs classiques (conjonction), (disjonction), (implication), etc. La logique d ordre 1, ou Logique des prédicats, suppose un domaine formé d objets constants, des fonctions sur les objets de ce domaine et des prédicats concernant les objets du domaine. Elle introduit des variables d individus qui parcourent le domaine et les deux quantifications universelle x A(x) et existentielle x A(x). La logique d ordre 2 introduit des variables de prédicats ou variable de relations parcourant l ensemble des relations entre objets. Il est bien entendu possible de quantifier sur les relations. Sa puissance d expression est bien supérieure à celle de la logique des prédicats. Elle permet par exemple d exprimer l axiome de récursivité : P [P (0) ( x P (x) P (x + 1)) x P (x)] La logique d ordre 3 permet de quantifier sur les relations entre relations, celle d ordre 4 sur les relations entre relations de relations, et ainsi de suite. Elles n ont pas d utilité évidente. 11 La logique linéaire La Logique Linéaire est le résultat des travaux au long cours du logicien français Jean-Yves Girard. Celui-ci poursuit des buts divers qui sont exposés dans les sections introductives de ses différents articles et livres. Ses études très profondes des mécanismes de la logique et de la démonstration valent indépendamment de la Logique Linéaire. 11.1 Intensionalité et extensionalité Un objet mathématique est défini en intention s il est défini par un processus de type algorithmique dans chacun de ses détails. Un objet mathématique est défini en extension s il est défini globalement par des considérations extérieures, c est-à-dire que la définition ne permet pas d exhiber directement l objet. Exemple. L exemple le plus simple de ces deux notions apparaît avec les fonctions. On peut écrire différents algorithmes qui calculeront, de manières différentes, une même fonction. Ainsi :

22 CHAPITRE I. INTRODUCTION À LA LOGIQUE (λ + n (/( n (s n))2) calcule la somme des n premiers entiers naturels lorsque n est un entier de Church ; mais on peut également se baser sur la définition récursive : f(n) si n = 0 alors 0 sinon n + f(n 1) finsi pour obtenir le terme Y (λ + f (λ + n (z n 0 (+ n (f (p n)))))). Ces deux définitions sont des définitions en intention de la fonction qui calcule la somme des n premiers entiers naturels car, en plus de désigner cette fonction, chacune de ces définitions donne un moyen déterminé de la calculer. Lorsque l on dit «la fonction qui calcule la somme de n premiers entiers», on désigne la même fonction mais on ne donne aucun moyen de la calculer. C est une définition en extension mais qui reste informelle. La définition mathématique en extension de la même fonction est la définition de son graphe, c est-à-dire de l ensemble des couples (x, y) où x est un argument possible de la fonction et y le résultat pour cet argument. 11.2 Logique et intentionnalité Pour J-Y. Girard, la logique en général, par ses aspects syntaxiques et formels, est intentionnelle. Ainsi prouver (A B) C et prouver A (B C), c est prouver deux formules logiquement équivalentes mais qui conservent dans leur syntaxe des traces de leurs preuves : les parenthèses. J-Y. Girard remarque que «la syntaxe représente un objet et une manière de le décomposer». Dans le cas de logique, la syntaxe d une formule, cf. l exemple ci-dessus, garde la trace de la manière dont on a prouvé cette formule. Mais une fois réussie la démonstration de cette formule, on devrait pouvoir «oublier sa preuve» et considérer de manière simple A B C car cette formule est bien celle que l on a prouvée. Mais même ainsi, la syntaxe conserve un ordre dans la formule : A puis B puis C. Là aussi se dissimule une trace de la preuve. La logique lie donc de manière très forte l histoire de la formule, c est-à-dire la manière dont on l a prouvée, et sa syntaxe. La même remarque s applique aussi bien à la logique intuitionniste. Nous verrons lors de l étude du calcul des séquents intuitionnistes que

11 La logique linéaire 23 le caractère intuitionniste de la logique est obtenu par des artifices syntaxiques. L un des buts de J-Y. Girard est d essayer de faire disparaître ces informations redondantes au caractère évidemment intentionnel «en recherchant des régularités derrière l arbitraire apparent de la syntaxe». Pour cela, il développera sa Géométrie de l interaction permettant de donner une sémantique nouvelle aux preuves des systèmes logiques et plus précisément à la Logique Linéaire. Citons pour le plaisir cette phrase de J-Y. Girard : «... Les intuitionnistes ont conservé la distinction intentionnel/extensionel avec le manque d imagination d un copiste du moyen-âge...» 4. Nous en citerons d autres tant la manière d argumenter de J-Y. Girard est empreinte d originalité. 11.3 Actions et situations J-Y. Girard remarque que la logique mathématique, aussi bien classique qu intuitionniste, raisonne dans un monde de vérités éternelles et immuables. Ainsi, si l on a A B et A qui sont prouvés, on peut en déduire B mais... A est toujours vraie. Cela est parfait en mathématiques où une vérité telle que «2 est pair» est vraie et restera vraie. Cela ne l est pas dans la vie courante où l implication est causale. En logique mathématique, A B est une proposition vraie si B est vraie lorsque A est vraie. Il n y a aucune relation de causalité. Mais pour tout un chacun, l implication doit être causale et son utilisation modifie généralement l hypothèse A dans un processus appelé réaction. 11.4 En résumé... En résumé, la logique linéaire prend en compte la notion d hypothèse consommable. Cela s obtient en supprimant des règles de la logique classique. Cependant, le but ultime de J-Y. Girard est d ordre plus théorique : il veut une logique débarrassée de ses tares héréditaires. Nous avons exposé une de ces tares : l intentionnalité. L exposé complet du point de vue de J-Y. Girard prendrait des dizaines de pages. 4. L une de mes amies, historienne, m a fait la remarque que, pour bien tournée que soit cette phrase, les copistes du moyen-âge avaient beaucoup trop d imagination quand ils recopiaient les manuscrits...

24

25 II FORMALISMES LOGIQUES Citons INTRODUCTION TO METAMATHEMATICS S.C. Kleene Biblioteca Mathematica, North Holland 1952 et PROOFS AND TYPES J.Y. Girard & Y. Lafont & P. Taylor Cambridge Tracts in T.C.S., Cambridge, Angleterre 1989 et LOGIQUE, RÉDUCTION, RÉSOLUTION R. Lalement Études et recherches en Informatique, Masson, Paris 1990 La logique étant ce qu elle est avec ses connecteurs et ses quantificateurs, on la présente en tant que système formel. Mais il existe différents types de systèmes formels, l important étant que les règles soient de nature purement syntaxique. Nous allons passer en revue différentes manières de présenter une théorie logique.

26 CHAPITRE II. FORMALISMES LOGIQUES 1 Formules et syntaxe Le langage de la logique des prédicats comprend et étend celui de la logique des propositions. C est un langage du premier ordre qui fut introduit par Frege en 1879. Un langage du premier ordre permet de décrire un domaine dans lequel des objets atomiques sont représentés par des constantes et où l on peut exprimer d autres objets par des termes fonctionnels. Des prédicats permettent de décrire des propriétés de ces objets. 1.1 Vocabulaire Le langage de la logique du premier ordre utilise : un ensemble dénombrable de constantes notées avec les lettres a, b, c,... éventuellement indicées par des entiers ; un ensemble dénombrable de fonctions ayant une arité, nombre d arguments, et notées avec les lettres f, g, h,... éventuellement indicées par des entiers ; un ensemble dénombrable de variables d individus notées avec les lettres x, y, z,... éventuellement indicées par des entiers ; un ensemble dénombrable de prédicats ayant une arité, nombre d arguments, et notés p, q, r,... éventuellement indicées par des entiers ; un ensemble dénombrable de variables propositionnelles notées avec les lettres A, B, C,... éventuellement indicées par des entiers ; le connecteur unaire de négation noté ; les connecteurs binaires de conjonction noté, de disjonction noté, d implication noté ; le quantificateur universel noté, le quantificateur existentiel noté ; les parenthèses ( et ) ou bien [ et ], le point ; éventuellement d autres connecteurs. 1.2 Les termes Les termes désignent les objets du langage : toute variable d individu est un terme ; toute constante est un terme ; si f est une fonction d arité n 0 et si t 1,..., t n sont des termes alors

1 Formules et syntaxe 27 l application f(t 1,..., t n ) est un terme ; (règle de fermeture). 1.3 Les formules propositionnelles Les formules de la logique des propositions ou logique d ordre zéro sont définies par induction : toute variable propositionnelle est une formule ; si A est une formule, ( A) est une formule ; si A et B sont des formules, (A B), (A B) et (A B) sont des formules. La logique des propositions étudie simplement les relations entre les propositions indépendamment du sens des propositions. On ne considère pas de domaine particulier. 1.4 Les formules du premier ordre Les formules de la logique des prédicats sont définies par induction : toute variable propositionnelle est une formule ; si p est un prédicat d arité n 0 et si t 1,..., t n sont des termes alors l application p(t 1,..., t n ) est une formule ; si A est une formule, ( A) est une formule ; si A et B sont des formules, (A B), (A B) et (A B) sont des formules ; si x est une variable d individu et si A est une formule, ( x A) et ( x A) sont des formules ; (règle de fermeture). 1.5 Conventions syntaxiques Afin de supprimer certaines paires de parenthèses dans l écriture des formules, on admet les conventions syntaxiques suivantes : les connecteurs et ont associatifs à gauche. Donc : A B C ((A B) C) ;

28 CHAPITRE II. FORMALISMES LOGIQUES le connecteur est associatif à droite. Donc : A B C (A (B C)) ; le connecteur de négation est syntaxiquement plus prioritaire que les connecteurs binaires et qui sont eux-mêmes plus prioritaires que, lui-même plus prioritaire que les quantificateurs. Donc : A B (( A) B) ; A B C D ((A B) (( C) D)). Par ailleurs on autorisera d utiliser les crochets [ et ] en lieu et place des parenthèses pour rendre une formule plus lisible. 1.6 Variables libres et liées Les variables libres et liées dans une formule sont définies comme en λ- calcul pour les termes. Les opérateurs liants sont les quantificateurs et. On notera F V (A) l ensemble des variables libres d une formule A. F V (A) est défini par induction : F V (X) = si X est une variable propositionnelle ; F V (p(t 1,..., t n )) = {x 1,, x m } où x 1,, x m sont les variables ayant au moins une occurrence dans t 1,, t n ; F V ( A) = F V (A) ; F V (A B) = F V (A B) = F V (A B) = F V (A) F V (B) ; F V ( x A) = F V ( x A) = F V (A) {x}. Une variable qui possède une occurrence dans une formule et n est pas libre dans cette formule est dite liée. Dans une même formule, une même variable peut avoir des occurrences libres et des occurrences liées. Par exemple, dans la formule (x = 0) ( x x + 0 = 0), la première occurrence de x est libre et la deuxième occurrence est liée. Une occurrence libre de x dans A devient liée dans x A, on dit qu elle est liée par le quantificateur. La même remarque s applique avec le quantificateur.

1 Formules et syntaxe 29 1.7 Renommage des variables liées La principale caractéristique des variables liées est que l on peut les renommer sans changer le sens de la formule à condition de prendre comme nouveau nom une nouvelle variable. Exemple II.1 Les formules x x + 0 = x et y y + 0 = y ont le même sens. Pour obtenir la deuxième, il faut renommer x en y. Contre exemple II.2 Prenons la formule vraie suivante : x y (y + y = x) (y + y + 1 = x). Si nous renommons x en y, nous obtenons la formule fausse : y y (y + y = y) (y + y + 1 = y). Cela montre qu on ne peut pas renommer une variable aussi simplement qu on le souhaite. Terminologie II.3 Le renommage de variable est appelé α-conversion dans la terminologie du λ-calcul. 1.8 Substitution La substitution d un terme t aux occurrences libres d une variable d individu x dans une formule A est définie à la manière du λ-calcul. Elle est notée [t/x]a, à lire t à la place de x dans A. La substitution, étendue aux termes, est définie par les règles suivantes : [t/x]x def t ; [t/x]a def a si a est un atome, variable ou constante, différent de x ; [t/x]f(t 1,..., t n ) def f([t/x]t 1,..., [t/x]t n ) si f est une fonction d arité n et t 1,..., t n sont des termes ; [t/x]p(t 1,..., t n ) def p([t/x]t 1,..., [t/x]t n ) si p est un prédicat d arité n et t 1,..., t n sont des termes ; [t/x]x def X si X est une variable propositionnelle ; [t/x]( A) def ([t/x]a) si A est une formule ; [t/x](a B) def ([t/x]a) ([t/x]b) si A et B sont des formules ; [t/x](a B) def ([t/x]a) ([t/x]b) si A et B sont des formules ; [t/x](a B) def ([t/x]a) ([t/x]b) si A et B sont des formules ;

30 CHAPITRE II. FORMALISMES LOGIQUES [t/x]( y A) def y [t/x]a si y est une variable et A une formule et si x / F V ( y A) ou si y / F V (t) ; [t/x]( y A) def z ([t/x][z/y]a) si y est une variable et A une formule et où z est une nouvelle variable introduite pour renommer y (α-conversion) ; [t/x]( y A) def y [t/x]a si y est une variable et A une formule et si x / F V ( y A) ou si y / F V (t) ; [t/x]( y A) def z ([t/x][z/y]a) si y est une variable et A une formule et où z est une nouvelle variable introduite pour renommer y (α-conversion). La substitution, dans le cas général, est une opération complexe comme le montrent les quatre dernières règles que l on retrouve également dans la substitution du λ-calcul : [t/x](λy A) def λy [t/x]a si y est une variable et A une formule et si x / F V ( y A) ou si y / F V (t) ; [t/x](λy A) def λz ([t/x][z/y]a) si y est une variable et A une formule et où z est une nouvelle variable introduite pour renommer y (α-conversion). Sans les gardes-fous introduits par ces deux règles, la substitution ne fonctionne pas. Il est utile de rappeler que des logiciens, et parmi les meilleurs se sont cassés les dents sur la substitution. Notation II.4 La substitution de t à x dans une formule ou un terme A que nous avons notée [t/x]a, en suivant les notations de J.R. HINDLEY, est parfois notée A[t/x] ou [x/t]a. 2 Systèmes de preuves Une fois le langage défini, il existe plusieurs manières de présenter les axiomes et les preuves d un système logique et ceci, indépendamment de la nature de la logique : classique, intuitionniste, linéaire, etc. Nous allons examiner les systèmes suivants : les systèmes hilbertiens ; les systèmes de déduction naturelle ; les calculs des séquents ; les systèmes de déduction naturelle en calcul des séquents. qui sont énumérés dans l ordre chronologique de leurs apparitions.

2 Systèmes de preuves 31 Dans un système de preuve, on prouve certaines formules. Elles sont appelées des jugements. Un jugement prouvé est un théorème. Ces formules peuvent être les formules de la logique ou d autres formules. Ainsi le calcul des séquents ne prouve pas directement des formules de la logique mais des séquents qui sont des objets légèrement plus complexes. Pour prouver ces formules, le système propose un ensemble d axiomes ou de schémas d axiomes et des règles d inférence. Les preuves ont la forme d arbres. 2.1 Axiomes Les axiomes sont des formules considérées comme vraies a priori. Exemple II.5 La formule : x x + 0 = x peut être un axiome de l arithmétique. 2.2 Schémas d axiomes Dans un schéma d axiomes, on utilise des méta-variables qui sont définies par leurs noms et leurs domaines qui doivent être dénombrables. On donne alors une formule utilisant ces méta-variables. Cette formule désigne en fait la famille des formules obtenues en donnant aux métavariables toutes les valeurs de leurs domaines. Toutes ces formules sont alors considérées comme des axiomes. Exemple II.6 Ainsi le schéma d axiomes : X + Y = Y + X où X et Y sont des méta-variables parcourant l ensemble des entiers naturels pourrait être un schéma d axiomes de l arithmétique. Ce schéma d axiomes désigne comme axiomes l ensemble des formules obtenues en donnant à X et Y toutes les valeurs qu elles peuvent prendre. Ce schéma d axiomes désigne donc l infinité d axiomes : 0 + 0 = 0 + 0 0 + 1 = 1 + 0 0 + 2 = 2 + 0 0 + 3 = 3 + 0 0 + 4 = 4 + 0 1 + 0 = 0 + 1 1 + 1 = 1 + 1 1 + 2 = 2 + 1 1 + 3 = 3 + 1 1 + 4 = 4 + 1 2 + 0 = 0 + 2 2 + 1 = 1 + 2 2 + 2 = 2 + 2 2 + 3 = 3 + 2 2 + 4 = 4 + 2.....

32 CHAPITRE II. FORMALISMES LOGIQUES Les méta-variables sont usuellement notées avec des lettres majuscules pour les distinguer des variables. Les variables font partie du langage de la théorie tandis que les méta-variables font partie du méta-langage de la théorie, c est-à-dire du langage qui permet de parler de la théorie. De fait, le schéma d axiomes n est pas un élément de la théorie mais il permet de désigner un certain nombre d axiomes, une infinité dans l exemple cidessus, qui eux font partie de la théorie. On introduit des schémas d axiomes plutôt que des axiomes lorsqu on ne veut pas introduire d opérateurs liants comme les quantificateurs. C est le cas avec la Logique Combinatoire où l on se donne les deux schémas d axiomes (S) et (K) où := est le symbole de réduction : (S) S X Y Z := X Z (Y Z) (K) K X Y := X On peut également rajouter I avec l axiome : (I) I X := X mais ce n est pas absolument nécessaire puisque l on peut définir I par I def S K K. On introduit aussi des schémas d axiomes plutôt que des axiomes lorsqu il se créerait des interférences entre différents opérateurs liants. C est le cas en λ-calcul entre un éventuel quantificateur sur les termes et l opérateur λ. Enfin, on introduit des schémas d axiomes lorsqu on ne peut pas quantifier sur le domaine des méta-variables. C est le cas en logique classique où l on introduira le schéma d axiomes : A A (tiers exclu) où A est une méta-variable parcourant l ensemble des formules sur lequel on ne peut pas quantifier en logique du premier ordre. 2.3 Règles d inférence Une règle d inférence s écrit sous la forme : H 1 H 2 H n (r) C

2 Systèmes de preuves 33 où (r) est le nom de la règle, H 1, H 2,..., H n sont des hypothèses ou prémisses et C est la conclusion. Une telle règle signifie que si H 1, H 2,..., H n sont toutes prouvées alors la conclusion C est aussi prouvée. Exemple II.7 Dans une axiomatisation de l arithmétique avec un prédicat d égalité, on pourra avoir les règles d inférence suivantes exprimant la symétrie et la transitivité de l égalité : X = Y Y = X (sym) X = Y X = Z Y = Z (tr) 2.4 Démontrer un théorème Dans un système ayant des axiomes et des règles d inférence, une preuve se présente normalement sous la forme d un arbre. L arbre est présenté racine en bas et feuilles en haut. La racine de l arbre est le théorème démontré. Les feuilles de l arbre sont des axiomes. On passe des fils d un nœud au nœud père par l utilisation de l une des règles d inférence. Exemple. Pour démontrer que S S (K I) f x := f x x en Logique Combinatoire, on écrit l arbre suivant : (K) K I f := I (al) (S) S S (K I) f := S f (K I f) S f (K I f) := S f I (I) I x := x (tr) (al) S S (K I) f := S f I (S) S f I x := f x (I x) f x (I x) := f x x (ar) (tr) S S (K I) f x := S f I x S f I x := f x x (tr) S S (K I) f x := f x x Ceci est une preuve rigoureuse et formelle de S S (K I) f x := f x x. Une autre preuve rigoureuse mais non formelle est obtenue en écrivant : S S (K I) f x := S f (K I f) x := S f I x := f x (I x) := f x x mais cette preuve n est pas réalisée dans le système formel. N.B. L intérêt de cette formalisation des preuves sous forme d arbre est en partie qu elle permet des raisonnements sur les preuves : raisonnement