Les mathématiques occupent une place d'exception dans la connaissance et il n'est pas rare qu'on voit en elles la création symbolique la plus originale de l'esprit humain. Quelle est la nature de cette science ? Y a-t-il une réalité mathématique, indépendante de nos facultés et pourtant connaissable ? Comment comprendre qu'il y ait une physique mathématique, une science de la nature où la contingence, la mobilité et le devenir soient canalisés par des entités et des procédures atemporelles et immuables ? Comment expliquer que les mathématiques soient plus exactes et plus universelles que les autres sciences, ou les mathématiques sont-elles plutôt un art ? L'histoire des idées montre que ces questions n'ont pas reçu de réponses unanimes et qu'elles sont liées à des réflexions métaphysiques plus générales concernant la nature de la pensée et du monde.

Pythagore et le pythagorisme

La tradition attribue à l'école pythagoricienne, secte philosophique et politique fondée au 6ème siècle av. J.-C. par Pythagore, les thèses selon lesquelles :

  1. l'essence des choses est le nombre doté d'une signification transcendante et symbolique
  2. tout s'explique par le nombre
  3. chaque être, étant un rapport harmonieux, se définit par un nombre particulier.

Connaître, c'est déterminer des rapports numériques. Les pythagoriciens étaient sans doute les auteurs d'une des rares révolutions scientifiques — terme victime d’abus aujourd’hui — car, contrairement à ce qui était devenu une habitude, ils n'ont pas cherché à trouver réponse à la question sur l'ultime constituant de la nature parmi les éléments matériels, l'eau, la terre, l'air, le feu, mais parmi des abstractions, les nombres. C'est pourquoi l'observation faite par quelques-uns de nos contemporains sur la nature du monde à l'échelle de l'infiniment petit, où la matière semble se dissoudre en équations, apparaît comme un hommage lointain à Pythagore.

L'affirmation que tout est nombre se révèle moins bizarre si on se rend compte que les pythagoriciens les dessinaient à peu près comme on le fait aujourd'hui sur les pièces du jeu de dominos dont une face est marquée de points. On peut donc voir les points comme des unités de base de la matière physique. Un peu plus tard, Leucippe et Démocrite ont imaginé des unités de matière, les atomes, à la place des points. Ils pensaient que les seules propriétés des atomes étaient géométriques, et c’est ainsi qu’une partie des mathématiques et une partie de la physique se sont unies pour toujours.

La figuration matérielle des nombres devient un instrument d'analyse et un moyen simple de voir certaines relations numériques fondamentales. Sur des nombres ainsi représentés on peut ensuite faire des observations géométriques telles que «le 3 est le triangle», «le 4 est le tétraèdre». Les nombres impairs sont parfois appelés gnomons parce qu'ils peuvent être représentés sous la forme d'une équerre. Pour affirmer que la nature intime des choses est le nombre il a fallu transporter la méthode mathématique non seulement à l'intérieur de la physique de l’époque (astronomie, acoustique, etc.), mais encore à l'intérieur de la métaphysique. Si l'essence des choses est le nombre, on comprend l'émotion éveillée dans la secte pythagoricienne par la découverte des nombres irrationnels. Voici une grandeur incommensurable : que vaut le côté du carré dont l'aire est le double de l'aire d'un carré donné de côté a ? (D'après une légende, celui qui a découvert les irrationnels est mort noyé, puni par les dieux ou par ses condisciples.)

Ce bref rappel des idées pythagoriciennes montre que les mathématiques acquièrent toute leur signification et leur intérêt à condition de ne pas les couper de leur contexte culturel fait de préoccupations mythiques, cosmologiques et physiques. Les mathématiques sont avant tout des idées qui entretiennent des rapports vivants avec d'autres idées. On ne comprendrait pas l'intérêt des mathématiques grecques sans leur arrière-plan physique, mythique et métaphysique, tout comme on ne comprendrait pas les mathématiques modernes, par exemple la naissance du calcul infinitésimal, sans les préoccupations physiques et métaphysiques des fondateurs, Leibniz et Newton. L'idée que les mathématiques sont un stock de formules insignifiantes, un jeu comparable aux échecs, une série de structures vides, juste un symbolisme arbitrairement développé, tout cela relève d'une méprise formaliste récente et assez répandue qu'il faudrait corriger.

La croyance pythagoricienne que le réel est mathématique et que l'explication ultime du réel est, par conséquent, mathématique, a toujours été présente dans la physique moderne et en particulier dans le développement de la mécanique rationnelle. L'existence du mécanisme, noyau des théories physiques, est largement possible grâce aux ressources des mathématiques. En mécanique classique, en physique newtonienne et relativiste, les mathématiques ont une portée réelle, elles font référence au réel physique et l'expliquent, alors qu'en mécanique quantique, l'étude des domaines atomique et subatomique, les mathématiques ont tendance à perdre leur rôle explicatif et ne fonctionnent que comme une procédure de calcul utile pour la prédiction et le contrôle des événements. Cette nouvelle mécanique, en affirmant que le réel est calculable mais non pas compréhensible, va à rebours de l'espoir pythagoricien de donner une explication ultime et mathématique du monde. En ce sens, la mécanique quantique n’est pas héritière de l’idéal pythagoricien. Mais les théories contiennent des strates abstraites faillibles — c’est pour cela que les théories sont corrigées, améliorées ou remplacées — et il serait sage de ne pas se laisser impressionner outre mesure par le dernier mot de telle ou telle théorie.

Platon et le platonisme

Les pythagoriciens, et ensuite Euclide, ont eu une conception, pour ainsi dire, dynamique et biologique des êtres mathématiques lesquels étaient engendrés, sauf le 1 : l'unité croît et engendre le 2 ; avec 2 points on engendre une courbe (un segment dont les extrémités sont 2 points). Cela contraste avec le caractère statique reconnu par Platon (428 / 427 - 347 av. J.C.) aux Idées d'Unité, de Dyade, etc. Par exemple, la Dyade ne se forme pas par croissance ou multiplication de l'unité.

Pour comprendre la nature et la place des mathématiques chez Platon, il faut dire un mot sur ses croyances les plus générales. Bien qu'il n'ait pas été le premier à faire la distinction entre la réalité et l'apparence, personne ne nous fait douter avec autant de beauté poétique que l’auteur de La République du caractère réel du monde sensible dans lequel nous vivons : et si notre corps, et si les choses matérielles qui nous entourent, et si la Terre dans laquelle nous vivons, et si le ciel que nous voyons n'étaient qu'apparence ! Quelle idée terrible ! Pourquoi apparence ? Parce que tout ce qui est sensible, y compris nous-mêmes, devient, est éphémère. La marque de la réalité est l'identité, la stabilité, l'éternité, pense Platon. Or les seuls êtres qui remplissent cette condition si exigeante sont les Idées. Elles sont parfaites, éminemment réelles et ne peuvent, de ce fait, habiter ce bas monde mouvant. Les Idées peuplent le Monde Intelligible, le seul doté de substance et de lumière, et les choses sensibles n'existent et ne sont connaissables que dans la mesure où elles participent du Monde Intelligible qui les contrôle, et qui nous contrôle, d'une façon mystérieuse que nous n'arrivons pas à deviner.

Ce critère de réalité, l'éternité, se déplie engendrant un critère de connaissance : il n'y a pas de vérité sans la saisie d'un morceau d'éternité. Aux antipodes de la formule relativiste de Protagoras «l’homme est la mesure de toutes choses, de celles qui sont, du fait qu’elles sont ; de celles qui ne sont pas, du fait qu’elles ne sont pas», pour Platon la science n'est pas l'opinion. Des choses qui bougent, seule est possible une opinion corrigée ou remplacée ensuite à mesure que les objets sensibles changent. Par contre, la science, faite de vérités éternelles, n'est possible que des Idées. Et si « le semblable est connu par le semblable » (Empédocle), alors notre corps n’est pas tout : nous sommes, en partie, un esprit éternel, seul capable d'entrer en relation avec les Idées.

Les êtres mathématiques, immobiles et éternels, habitent le Monde Intelligible, bien qu'ils y occupent une place subordonnée à celle des Idées. Alors que chaque Idée est unique, l'objet mathématique admet des réalisations multiples et semblables de la même entité. En attirant l'attention sur l'écart entre l'exactitude des entités mathématiques et le caractère approximatif des objets sensibles, Platon a inauguré le problème suivant auquel toute philosophie des mathématiques devra répondre : comment comprendre que malgré l'écart entre ces deux genres d’entités les mathématiques soient centrales à notre compréhension du monde physique ?

Les arguments en faveur de l'existence des mathématiques dans le Monde Intelligible ont souvent la même structure. On commence par reconnaître la vérité d'une théorie mathématique, par exemple celle de la géométrie euclidienne. Ensuite, d’après le critère de signification répandu chez les grecs selon lequel la signification implique l'existence — pas de vrai concept sans référence ou sans contenu — on affirme que des illustrations parfaites des Idées de la géométrie euclidienne doivent exister et que, par conséquent, elles existent. Or, étant donné leurs propriétés, leur existence est impossible dans un monde d’ombres passagères : ces illustrations existent seulement dans le Monde Intelligible. Nous trouvons là les mathématiques philosophiques ou parfaites où une courbe peut être coupée à l'infini, où la somme des angles intérieurs d'un triangle est effectivement de 180°, alors que dans le monde sensible il y a une mathématique populaire, approximative, où les points ont une étendue et demeurent tant que dure leur support matériel.

A l'heure actuelle, quand on parle de platonisme en philosophie des mathématiques, on n'a pas à l'esprit la doctrine historique exacte de Platon, mais quelques notions générales attribuables à une tradition issue de lui. Elle se caractérise par la croyance qu'il y a des êtres mathématiques dotés d'une réalité objective indépendante de nous, tout comme les objets physiques. Par exemple, si nous connaissons un théorème, il y a bien quelque chose que nous connaissons. Ces objets mathématiques sont abstraits, c’est-à-dire en dehors de l'espace et du temps, ce qui distingue le platonisme d'autres formes de réalisme selon lesquelles rien ne peut exister en dehors de l'espace et du temps naturels. Les êtres parfaits entretiennent des relations qui forment des vérités éternelles, que nous les connaissions ou non. Cette hypothèse concernant ce qui existe engendre, nous l’avons rappelé, la croyance qu’il existe en nous l'organe et les moyens effectifs pour connaître, au moins une partie, de la réalité abstraite. Ainsi, à côté de la perception sensible de l'objet physique il y aurait en nous une intuition intellectuelle des êtres abstraits.

Il faut retenir ici que la notion principale est celle d'être mathématique, rejetée par les penseurs non platoniciens qui nient, typiquement, qu'il y ait des êtres abstraits. Ils affirment que tout ce qui existe est concret, individuel, sujet au devenir, et, d’après certains d’entre eux, en mathématiques il ne faut jamais voir d’objets ni de faits réels mais seulement des structures vides faites de symboles et de relations entre eux.

Aristote et l’abstractionnisme

Aristote a élaboré son naturalisme en commençant souvent par une critique de son maître, mais passé le choc de la première impression, une fois ses idées assimilées, on se rend compte que finalement leurs différences sont un peu moins considérables qu’on les avait imaginées. Il y a une telle nécessité réelle dans la nature, et cognitive dans les problèmes, que quand on les comprend correctement on peut difficilement trouver des vues très différentes. Aristote partage avec Platon l'idéal scientifique : la marque de la science est la vérité qui ne change pas, mais il ne croyait pas nécessaire, pour l'obtenir et l'expliquer, de faire appel à un monde autre que la nature sensible.

L'appel au Monde Intelligible était pour le Maître de ceux qui savent (l’Aristote de Dante) le résultat d'un égarement : Platon ne s'était pas rendu compte que la connaissance, et en particulier la connaissance mathématique, existe parce que notre intellect est capable d'abstraction. Les objets naturels (p.ex. une orange) possèdent plusieurs propriétés (p.ex. la sphéricité) et abstraire signifie séparer mentalement ces propriétés des objets. Toute substance est un composé de matière et de forme, et c'est parce que les choses ont une forme qu'elles sont connaissables. La matière (le bois, l'eau, etc.) ne peut pénétrer dans notre intellect, alors que les concepts d'une définition, la forme géométrique, la figure, l'enveloppe des choses, leurs relations peuvent avoir une existence dans la pensée.

La matière intelligible est un substrat universel, un flux présent dans tout, un aspect de la substance et constitue le contenu de la connaissance. Cette matière intelligible se traduit en concepts, et quelques-uns sont de nature mathématique : le point, le nombre, la mesure, la ligne, la surface, le volume, etc. L'affirmation principale d'Aristote dans ce contexte est que les propriétés mathématiques telles que la sphéricité de la Lune, la linéarité d’un chemin, existent dans les choses naturelles, réelles. Elles ne sont pas des créations libres de l'esprit humain, au contraire, ce sont des concepts dérivés d’intuitions naturelles.

Cela reconnu, il ne faut pas conclure que les êtres mathématiques existent dans les choses physiques tels qu'ils sont conçus par le mathématicien. L'objet mathématique n'est pas tout à fait le même dans la chose que dans l'intellect. Il existe dans l’objet physique seulement en puissance. Cela signifie que l'esprit doit intervenir pour que l'être mathématique puisse passer à l'acte. Abstraire, cela a été dit, signifie séparer intellectuellement ce qui en réalité est uni. Il s’ensuit que la perfection de l’être mathématique s’explique, primo, parce qu’il a été séparé du sensible et du devenir, secundo, parce que notre appareil symbolique le définit ainsi. Le cercle en géométrie euclidienne est conçu symboliquement, théoriquement, avec une telle exactitude, que rien ne lui correspond tout à fait dans le monde sensible. (Cette capacité de définition symbolique, liée à l’abstraction, a égaré Platon à tel point que, on s’en souvient, il a cru nécessaire d’imaginer un autre monde pour loger les entités parfaites).

L'abstraction n'entraîne pas de fausseté — elle est légitime —, et les abstractions mathématiques ont l'avantage, sur les concepts des autres sciences, d'être complètes. Ainsi, une fois que la sphère est abstraite d’un objet sensible sphérique, rien n'est gagné en retournant aux sphères sensibles du départ, alors que le biologiste par exemple, pour améliorer sa connaissance, doit retourner sans cesse à la matière vivante. De cette façon, Aristote croyait avoir répondu aux exigences de Platon sans placer les êtres mathématiques dans un monde à part.

Parmi les nombreux concepts magistraux que le Stagirite a légués à l’humanité on trouve l’opérateur en tant que. Le mathématicien étudie les propriétés sensibles en tant qu’êtres en puissance, le physicien, en tant qu’aspects physiques des corps, et, de ce fait, il ne fait abstraction ni de la matière ni du devenir. L'être mathématique est saisi, vu par l’intellect. Il ne faudrait donc pas confondre l'idée d'Aristote avec l'empirisme de certains modernes pour qui les êtres et les lois mathématiques sont obtenues par généralisation de l'observation des cas particuliers. L'abstraction est un acte de vision intellectuelle, tandis que la généralisation empirique est un acte logique qui consiste à étendre aux éléments non rencontrés d'une classe les propriétés observées dans quelques éléments.

Les modernes, présupposant que les propriétés naturelles sont limitées en nombre, reprochent à Aristote d'avoir reconnu une source naturelle unique aux mathématiques, ce qui tendrait à limiter rapidement la quantité de concepts que l'on peut former. Par-devers soi l’auteur de la Physique était d'avis que, pour préserver l'intelligibilité naturelle, on n'a pas le droit de former de nouveaux concepts en mélangent des grandeurs hétérogènes. Cette attitude conservatrice, d’une part, favorise la compréhension, d’autre part, ne favorisa pas le développement de la mathématique moderne ni la naissance de la physique mathématique. Aristote trouvait illégitime, par exemple, d'étudier la droite et la courbe en oubliant qu'elles expriment des grandeurs incommensurables, et il n'aurait pas été d'accord pour inventer le concept de vitesse qui mélange une grandeur spatiale et une grandeur temporelle. L’attitude adoptée par rapport à ce genre de situation est cruciale à la distinction, si marquée aujourd’hui, entre une science en continuité avec la philosophie car orientée vers la compréhension, et la technoscience qui se satisfait de la prévision et du contrôle des phénomènes.

En croyant que les mathématiques sont autonomes par rapport à la physique, Platon aurait posé une base plus favorable à la fois aux mathématiques modernes et à la physique mathématique faite de lois abstraites qui décrivent le comportement des êtres inobservables. On peut penser que Platon aurait accordé l'existence à l'infini actuel, l'infini comme une réalité achevée, différent de l'infini potentiel qui serait la capacité humaine d’itérer un processus sans fin — c’était la conception raisonnable d’Aristote. Il est indéniable qu’une connaissance trop abstraite est beaucoup moins apte à éveiller en nous le sentiment d’avoir compris qu’une connaissance basée sur notre intuition naturelle. Cette dernière était la voie privilégiée par Aristote. En effet, pourquoi croire à l'existence de quelque chose qui est au-delà de notre intuition, et comment contrôler une connaissance tellement abstraite que nous sommes incapables de la ramener à notre expérience ?

Un autre trait satisfaisant de la pensée aristotélicienne est qu'elle montre pourquoi les mathématiques ne peuvent pas tout expliquer, évitant ainsi de tomber dans un panmathématisme auquel conduit Platon. Etant donné que les propriétés mathématiques n'épuisent pas la substance naturelle, la science mathématique est une description partielle du monde. La raison se trouve, encore une fois, dans la théorie aristotélicienne de l'abstraction. La substance naturelle possède de nombreuses propriétés et chaque science se singularise par les aspects qu’elle choisit d’examiner. Voici une autre contribution fondamentale et définitive d’Aristote pour l’avenir de la pensée : l'idée d'une pluralité de sciences. Finalement, à la question : pourquoi les mathématiques s'appliquent-elles si bien au monde sensible ? Aristote a la meilleure réponse qu'on puisse imaginer : c'est parce que leurs racines sont plongées dans la nature.

Pythagore, Platon et Aristote sont les piliers de toute philosophie réaliste des mathématiques.