Comme les physiciens, les mathématiciens proposent des théories
provisoires, infirmées par des contradictions. Celles-ci ne
menacent pas les mathématiques, mais sont sources d'inspiration.
Un étudiant demanda au logicien anglais Bertrand Russell :
«Prétendez-vous que de 2 + 2 = 5, on peut déduire que
vous êtes le pape ?» «Certainement, répliqua le
grand logicien... Réfléchissez un peu. Supposons que 2 +
2 = 5. En soustrayant 2 de chaque côté du signe égal,
on obtient que 2 = 3. Par symétrie, on a aussi que 3 = 2 et, en
soustrayant un de chaque côté, 2 =1. Maintenant le pape et
moi nous sommes deux, mais, puisque 2 = 1, le pape et moi ne sommes qu'un,
et donc je suis le pape.»
Cette propriété de la logique classique, appelée
ex-falso quodlibet, énonce que, si une proposition est
à la fois fausse et vraie, alors tout autre énoncé
est vrai ; dans l'exemple, Russell est le pape...
Donc, si vous prouvez que 0 = 1, comme vous savez que 0 <> 1, vous
pouvez en déduire, généralement en raisonnant par
l'absurde, que n'importe quel théorème mathématique
est vrai, et, par exemple, qu'il existe une infinité de nombres
premiers pairs! Une seule contradiction détruirait-elle l'édifice
mathématique, une montagne de merveilles édifiée
par 40 siècles de travail?
Heureusement, les mathématiciens n'envisagent pas sérieusement
qu'une affirmation soit à la fois vraie et fausse : la contradiction
leur est insupportable, et ils font tout pour l'éviter. Ils classent
les énoncés mathématiques en deux catégories,
les vrais et les faux, et tentent de savoir à quelle catégorie
chacun appartient. Ils ne réussissent pas toujours, et certains
problèmes restent ouverts des années, voire des siècles.
De surcroît, certaines questions sont si délicates que
les mathématiciens ne savent pas s'ils pourront jamais trancher :
ces propositions sont indécidables, ni vraies ni fausses.
Dans une théorie possédant une contradiction, pour éviter
que tout ne s'effondre dans le non-sens, il faudrait s'interdire de raisonner
par l'absurde. Impossible, car tout le monde accepte ce principe de raisonnement,
l'instrument de travail quotidien du mathématicien. Même
les mathématiciens intuitionnistes (lesquels, par peur des contradictions
dont l'infini pourrait être responsable, choisissent d'utiliser
une logique moins puissante que la logique classique) conservent le raisonnement
par l'absurde.
Théories contradictoires à jeter
Plusieurs fois dans l'histoire des mathématiques, des contradictions
ont provoqué de graves inquiétudes.
Les Grecs ressentirent la découverte de l'irrationalité
de la diagonale du carré (autrement dit, que la racine carrée
de 2 n'est pas le quotient de deux entiers) comme une contradiction,
car ils pensaient implicitement que toute grandeur pouvait être
exprimée par une fraction. La diagonale du carré existait
géométriquement, mais pas en tant que nombre! Il fallait
définir un autre type de nombre. Cela n'était pas
aisé, et pendant des siècles les mathématiciens
se méfièrent des extensions de la notion de nombres :
ils se replièrent sur la géométrie, et il a fallu
plus d'un millénaire pour qu'ils s'en dégagent.
Au XVIIIe siècle, les premières présentations
du calcul infinitésimal de Newton et de Leibniz permettaient d'obtenir
sans mal une démonstration de 0 = 1 (c'est-à-dire une contradiction).
C'est d'ailleurs pour cela que l'évêque Berkeley, fondateur
de la doctrine idéaliste, refusait de prendre au sérieux
ce nouveau calcul, et disait, non sans humour, que, lorsqu'on croit au
calcul des fluxions (nom donné par Newton à sa théorie),
il n'est pas difficile de croire aux mystères de la religion. Curieux
argument de la part d'un évêque!
Plus tard encore, à la fin du XIXe siècle, la
première version de la théorie des ensembles, formalisée
par Frege, permettait de mener un raisonnement analogue à celui
concernant le barbier qui rase tous les barbiers qui ne se rasent pas
eux-mêmes (se rase-t-il lui-même?). Craignant une contamination
de toutes les mathématiques, le grand Henri Poincaré avait
proposé de renoncer complètement à la très
prometteuse théorie des ensembles.
Plus récemment, certains physiciens utilisaient dans leurs calculs
ce qu'ils appellent la fonction d'Heaviside ; cette fonction n'est
pas conforme avec ce que l'on considère habituellement comme
une fonction. Les calculs auraient amené des contradictions si
on les avait pris au pied de la lettre.
Pourtant jamais, au grand jamais, ces absurdités apparentes n'ont
entraîné de catastrophes majeures : elles ont, au
contraire, été bénéfiques.
Guérisons des théories malades
Circonscrire une contradiction revient souvent à renoncer à
un principe qu'on croyait évident. Dans le cas des irrationnels,
il a fallu renoncer à l'idée que deux grandeurs sont toujours
commensurables. Ce renoncement élimine la contradiction et, bien
loin d'en être irrémédiablement perturbée,
la théorie des nombres s'est nourrie des irrationnels.
Le calcul infinitésimal a été établi sur des
fondements solides, d'abord au XVIIIe et au XIXe
siècle par la mise au point de bonnes règles de calcul et
l'introduction d'une notion rigoureuse de limite, puis plus récemment,
au XXe siècle, grâce à l'analyse non standard
qui définit une manipulation non contradictoire des infiniment
petits. Cela a donné raison à ceux qui avaient eu le génie
de prendre quelques risques et tort à l'évêque Berkeley
qui voulait tout rejeter.
Pour remédier aux contradictions des nouvelles méthodes
d'analyse, les mathématiciens utilisent les quantités avec
lesquelles ils veulent calculer (infinitésimaux, sommes et produits
infinis), mais sans suivre certaines règles de manipulation de
l'algèbre qu'on croyait intangibles et consubstantielles. Par exemple,
selon la façon de placer les parenthèses, la somme :
1 - 1 + 1 - 1 + 1 - 1 + 1 - 1 + 1 - 1 + ...
vaut 0 ou 1 :
(1 - 1) + (1 - 1) + (1 - 1) + (1 - 1) + ... = 0 + 0 + 0 + ... = 0
1 + (2 + 1) + (2 + 1) + (2 + 1) + ... = 1 + 0 + 0 + 0 ... = 1
Pour éviter cette contradiction, il faut d'abord admettre que toute
somme infinie ne désigne pas un nombre : ici, la somme infinie
n'a pas de sens. Les manipulations effectuées ne signifient rien,
et la contradiction obtenue n'a pas à être acceptée.
Même lorsque les sommes infinies ont un sens, les opérations
qu'on faisait sur les sommes finies ne sont plus nécessairement
autorisées. C'est ce que montre la somme infinie suivante :
s = 1 - 1/2 + 1/3 - 1/4 + 1/5 - 1/6 + 1/7 - 1/8 + 1/9 - 1/10 + 1/11
...
En changeant l'ordre des termes et en les regroupant, on obtient :
s = (1 - 1/2) - 1/4 + (1/3 - 1/6) - 1/8 + (1/5 - 1/10) - 1/12 + ...
= 1/2 - 1/4 + 1/6 - 1/8 + 1/10 - 1/12 + ... = 1/2 (1 - 1/2 + 1/3 - 1/4
+ 1/5 - 1/6 + 1/7 + 1/8 - ...) = 1/2 s
Alors s = 1/2 s, donc s = 0, ce qui contredit le fait qu'en regroupant
les termes deux par deux, dans l'ordre, la somme (1 - 1/2) + (1/3 - 1/4)
+ ... est une somme de nombres strictement positifs, donc strictement
positive. La somme infinie s, si l'on accepte d'en permuter les termes
et de les regrouper, est à la fois nulle et strictement positive!
Pour éviter cette contradiction, il faut renoncer à changer
l'ordre des termes des séries infinies, même si elles sont
convergentes. Quelques précautions de ce genre et l'élaboration
du concept de limite éliminent toutes les contradictions des méthodes
de calcul introduites par Newton et par Leibniz.
La théorie des ensembles a su se prémunir des antinomies
(noms donnés alors aux contradictions qu'on y a trouvées)
et elle constitue aujourd'hui un socle pour toutes les mathématiques,
dont elle a unifié et simplifié la présentation.
Dans son cas, plusieurs remèdes différents ont été
proposés. L'axiomatisation de Zermelo-Fraenkel est la plus souvent
adoptée : elle se fonde sur l'idée que n'importe quel
regroupement d'objets ne doit pas être considéré comme
un ensemble et qu'en particulier les regroupements trop gros (comme celui
de tous les ensembles) sont à éviter. Même si la solution
retenue aujourd'hui apparaît ad hoc à certains logiciens,
elle fonctionne parfaitement, et, depuis plus de 70 ans, aucune nouvelle
antinomie n'a été découverte.
Le calcul des distributions, inventé par Laurent Schwartz dans
les années 1950, a justifié a posteriori les fantaisies
des physiciens. Il se fonde sur une généralisation de la
notion de fonction continue, qu'on appelle distribution ; dans un
cadre nettoyé de toute contradiction, ce qui est devenu la «distribution
d'Heaviside» a pu s'épanouir. Dans cette théorie,
même les distributions correspondant à des fonctions non
continues sont dérivables (et on peut même y dériver
les fonctions 1,5 fois ou pi fois!).
Notons que d'autres méthodes de calcul utilisées en physique
(par exemple les techniques dites de renormalisation qui consistent à
faire des manipulations étranges avec des quantités infinies)
n'ont pas aujourd'hui de justifications mathématiques totalement
satisfaisantes (autrement dit, sont contradictoires dans les cadres actuels
où l'on pourrait les faire tenir) et attendent leur sauveur.
Confrontés à une contradiction, les mathématiciens
réussissent toujours à l'éliminer, et une contradiction
n'a jamais durablement mis en danger les mathématiques. Mieux,
en stimulant la recherche, toute contradiction amène un enrichissement.
La situation en mathématiques serait donc semblable à celle
de la physique, où toute expérience venant contredire les
théories admises stimule les imaginations et amène une reformulation
complète des vieilles théories et une avancée générale.
Aussi, bien qu'il ne soit jamais envisageable de laisser sans traitement
une contradiction, sa découverte devrait nous réjouir, car
c'est l'indice que nous allons devoir la maîtriser et que cela nous
enrichira. Nicolas Bourbaki a exprimé cette placidité du
mathématicien : «Nous croyons que la mathématique
est destinée à survivre et qu'on ne verra jamais les parties
essentielles de ce majestueux édifice s'écrouler du fait
d'une contradiction soudain manifestée. [...] Voilà 25 siècles
que les mathématiciens ont l'habitude de corriger leurs erreurs
et d'en voir leur science enrichie, non appauvrie ; cela leur donne
le droit d'envisager l'avenir avec sérénité.»
Hélas, il n'existe pas de méthode toute prête permettant
d'éliminer à coup sûr les contradictions. Interdire
juste le raisonnement qui conduit à la contradiction n'est pas
possible : dans une théorie, lorsqu'un raisonnement permet
de trouver une contradiction, il y en a de nombreux autres. Les réparations
à faire demandent à chaque fois de l'imagination, voire
de la subtilité ou même du génie. On peut donc légitimement
ne pas partager l'optimisme de Bourbaki : ce n'est pas parce qu'on
a échappé dix fois à la mort qu'on y échappera
toujours.
Rassurer les inquiets
Est-on sûr donc qu'on saura se débarrasser de toute contradiction
dans l'avenir? Est-on seulement certain que les théories résultant
des réparations antérieures sont exemptes de contradictions?
Il s'en faut. Le logicien Edward Nelson pense que, parmi d'autres
théories, l'arithmétique - la théorie permettant
de traiter des nombres entiers et de leurs propriétés
- est contradictoire. Ce serait vraiment très ennuyeux, car l'arithmétique
est le noyau central des mathématiques et il ne resterait plus
rien d'intéressant en mathématiques sans l'arithmétique.
Comment rassurer les inquiets ?
Pour régler l'affaire, ne peut-on pas prouver (évidemment
par des moyens élémentaires) que les méthodes de
raisonnement que nous utilisons ne conduiront jamais à des contradictions?
Et si l'on ne réussit pas à traiter d'un coup toutes
les mathématiques, ne peut-on pas au moins fournir des garanties
pour certaines théories? Comme celles-ci s'organisent en un schéma
hiérarchique où, progressivement, on s'élève
des théories les moins puissantes (l'arithmétique) à
d'autres plus puissantes (comme l'analyse), jusqu'à la théorie
des ensembles, ne peut-on pas au moins garantir les premiers échelons
de la hiérarchie?
C'est l'idée du programme proposé par le grand mathématicien
allemand David Hilbert dans les années 1920. Ce programme, comme
le notait récemment le mathématicien Daniel Vellman, est
toujours d'actualité : la démonstration du théorème
de Fermat, proposée il y a trois ans par Andrew Wiles, bien que
ne concernant que les entiers, utilise la théorie des ensembles,
c'est-à-dire une théorie bien plus risquée que la
simple arithmétique. La démonstration de A. Wiles ne signifie
vraiment qu'on ne trouvera jamais de x > 0, y> 0, z > 0 et a > 2 tels
que xa + ya = za (ce qui est une affirmation
très concrète) que si la théorie des ensembles est
non contradictoire, ce que proposait entre autres choses d'établir
le programme de Hilbert. Cette actualité renouvelée du programme
de Hilbert nous remémore les deux résultats importants auxquels
il a conduit.
Le premier est la preuve par Kurt Gödel en 1931 que, dès qu'un
domaine mathématique est assez large (précisément
dès qu'il inclut l'arithmétique), alors la démonstration
de sa non-contradiction ne peut se faire qu'à l'aide de systèmes
plus puissants que lui. C'est ce qu'on appelle le second théorème
d'incomplétude, et il signifie qu'aucune démonstration vraiment
satisfaisante de non-contradiction ne sera donc jamais donnée.
L'autre résultat - plus positif - du programme de Hilbert est le
développement d'un domaine de la logique mathématique, appelée
théorie de la preuve, où l'on établit des énoncés
de non-contradiction relative, c'est-à-dire du genre : «Si
la théorie X est non contradictoire, alors la théorie Y
l'est aussi.» Un exemple de 1938 concerne l'axiome du choix (qui
dit qu'associé à tout ensemble X d'ensembles non vides,
il y a au moins un nouvel ensemble F comportant un élément
exactement de chaque ensemble de X) : si la théorie des ensembles
sans l'axiome du choix est non contradictoire, alors la théorie
avec l'axiome du choix est aussi non contradictoire.
Bien d'autres énoncés de non-contradiction relative ont
été donnés, en particulier que, si la théorie
des ensembles est non contradictoire, alors l'analyse aussi, de même
que la géométrie et l'arithmétique. Ainsi, dans la
hiérarchie des théories, plus on s'élève,
plus on prend le risque d'obtenir des contradictions. La confiance en
l'arithmétique est quasi absolue (sauf peut-être pour E.
Nelson). À l'autre extrême, la théorie des ensembles
est nettement moins sûre. Insistons là-dessus : même
si l'on pense que le risque de contradiction dans la théorie
des ensembles est sérieux, cela ne signifie pas qu'on doit l'abandonner :
si une contradiction se manifeste, on saura sans doute la contourner.
L'incertain et les arguments de Lucas
Acceptons l'idée que les mathématiciens vivent dans l'incertain
et le provisoire. Plusieurs fois dans le passé, des théories
qui semblaient assurées se sont révélées
contradictoires. Peut-être aurons-nous à ajuster nos théories
et à les réparer, mais tel est le cours normal des choses.
Cette incertitude sans gravité ne semble pas avoir été
comprise par ceux qui utilisent les théorèmes d'incomplétude
de Gödel pour démontrer que l'esprit humain est supérieur
à celui de toute machine possible et donc que les recherches en
intelligence artificielle sont d'avance condamnées à l'échec.
Le raisonnement qu'ils avancent avait été proposé,
il y a déjà plus de 30 ans, par le philosophe américain
J. Lucas. Il est périodiquement remis à la mode, notamment
et à deux reprises (perseverare diabolicum), par Roger Penrose.
«Une machine, disent nos philosophes, peut être identifiée
à une théorie mathématique, car, comme elle, elle
est définie par un nombre fini de règles mécaniques
fixées une fois pour toutes. D'après le second théorème
d'incomplétude de Gödel, une machine ne peut pas savoir
d'elle-même qu'elle est non contradictoire.» Jusque-là,
ça va. «Nous, à l'inverse, grâce à la
compréhension que nous avons de ce que représentent les
symboles de nos théories, grâce à notre intuition
des objets mathématiques, et parce que nous pouvons nous élever
dans la hiérarchie des théories, nous réussissons
à savoir avec certitude que certaines théories ne sont
pas contradictoires, et que nous ne nous contredisons pas. Nous ne sommes
pas équivalents à des machines et aucune ne nous égalera
jamais.»
Cet argumentaire oublie simplement que nous avons parfois de mauvaises
intuitions. Même si Frege associait des réalités aux
symboles de la théorie des ensembles qu'il proposait et donc était
certain de sa non-contradiction (au point d'écrire un livre pour
la présenter), il se trompait, et sa théorie était
contradictoire. Bien souvent, des théories ont été
proposées par des gens certains de la cohérence de leurs
idées et pourtant se sont écroulées et ont dû
être réparées. Pour les théories les plus élevées
de la hiérarchie mathématique, on n'a vraiment aucune raison
sérieuse (autre que leur utilisation pendant une plus ou moins
longue période) de croire qu'elles sont non contradictoires. Quant
à jurer, quand il s'agit de nous-mêmes, que nous ne nous
contredirons jamais, c'est renoncer à toute discussion de
problèmes politiques et sociaux entre amis!
L'histoire des mathématiques et les théorèmes de
Gödel montrent que nous ne pourrons jamais être certains
de la non-contradiction des théories que nous utilisons. Que
nous soyons des machines ou pas ne change rien : les théories
mathématiques comme les théories physiques ne proposent
pas des certitudes, mais sont des instruments qui fonctionnent plus
ou moins bien, plus ou moins longtemps et qu'il faut ajuster ou changer
de temps en temps. Peut-être réussira-t-on un jour à
démontrer que nous ne sommes pas des machines, mais cela ne se
fera pas par l'invocation des théorèmes d'incomplétude
de Gödel!
Vivre avec les contradictions
C'est sans doute à cause de l'improuvabilité de la non-contradiction
que des tentatives ont été menées récemment
pour l'accepter franchement. L'idée est de modifier la logique
classique pour éviter la contagion généralisée
des contradictions, autrement dit empêcher l'effet du ex-falso
quodlibet. Après tout, lorsque nous nous contredisons, nous
ne nous mettons pas à délirer aussitôt à
propos de tout : nous savons circonscrire les effets d'une contradiction.
Plusieurs voies semblent ouvertes et ont conduit à ce qu'on appelle
les logiques paraconsistantes, où l'on décrit des règles
de raisonnement n'incluant pas le ex-falso quodlibet et qui bien
sûr ne permettent pas de le retrouver. Ces systèmes qui sont
assez complexes provoquent souvent une gêne à cause de leurs
propriétés non classiques. Par exemple, le système
défendu par Graham Priest propose d'accepter sérieusement
que des énoncés soient à la fois vrais et faux.
Ces recherches ont cependant un double intérêt. D'une part,
elles conduisent à développer des programmes d'ordinateurs
simulant les raisonnements humains et résistant à l'apparition
de contradictions. D'autre part, elles suggèrent de reconsidérer
le programme de Hilbert en le modifiant un peu. De manière à
ne pas avoir à craindre un effondrement général des
mathématiques, nous devrions utiliser une logique paraconsistante
et nous assurer que notre nouvelle présentation (i) préserve
toutes les mathématiques intéressantes (tous les résultats
vrais des mathématiques doivent l'être encore, car on ne
veut évidemment pas perdre le travail des siècles précédents),
(ii) est non triviale, c'est-à-dire que tout n'y est pas simultanément
vrai et faux, et (iii) laisse la place à une preuve, par
des raisonnements élémentaires, des deux propriétés
précédentes.
On aurait alors, comme Hilbert l'espérait, une garantie que tout
ne sera pas à jeter suite à une découverte malencontreuse
de contradiction, et donc l'assurance d'un progrès continu et sans
retour en arrière des mathématiques. Un tel programme de
Hilbert modifié peut-il aboutir? Les avis divergent aujourd'hui,
mais les grandes idées, comme celles de Newton, Leibniz, Frege
ou Hilbert, à défaut de fonctionner du premier coup, s'imposent
à la longue.
Jean-Paul Delahaye est directeur adjoint du Laboratoire d'informatique
fondamentale de Lille du CNRS.
Bibliographie :
Sur la controverse de Berkeley à propos du calcul infinitésimal :
P. Davis et R. Hersch, L'univers mathématique, Gauthier-Villars,
Paris, 1982.
J.-L. Gardies, Le raisonnement par l'absurde, Bibliothèque
d'histoire des sciences, PUF, Paris, 1991.
R. Penrose, Les ombres de l'esprit. À la recherche d'une science
de la conscience, InterÉditions, 1995.
G. Priest, In Contradiction : A Study of the Transconsistent,
Martinus Nijhoff Publishers, Kluwer Academic Publisher Group, Dordrecht,
1987, (Les logiques paraconsistantes et leur importance philosophique).
D. Vellmann, Fermat's Last Theorem and Hilbert's Program, in The Mathematical
Intelligencer, 19, 1, pp. 64-67, 1997.
P. Besnard et T. Shaub, Circumscribing Inconsistency, IJCAI (Internationnal
Joint Conference Artificial Intelligence), 1997.
Le lien d'origine
N° 241 Pour la Science Novembre 1997 http://www.pourlascience.com
|