Bon, voilà une présentation du sujet sur lequel j'ai réfléchi la semaine passée avec un copain, et avec l'aide bien précieuse de Wikipedia. Je poste à mesure que j'écris. Voilà déjà l'introduction et la première partie.
QU'APPORTE AU MATHÉMATICIEN L'HISTOIRE DES MATHÉMATIQUES ?
Les mathématiques sont à la fois :
- le domaine de connaissance se rapportant aux objets que sont les nombres, les figures, les structures et les changements.
- les études et recherches portant sur ce domaine
- l'enseignement de cette discipline
Parmi les sciences, elle entretient avec le réel un rapport particulier, en ce qu'elle semble n'avoir aucun contenu sensible ; on peut donc la dire formelle et a priori, car indépendante de l'expérience. Même s'il n'existait aucun cercle dans la nature, il serait toujours possible à l'esprit humain de concevoir les propriétés du cercle.
Paradoxalement, les mathématiques trouvent des applications très variées dans les autres sciences, et dans la technique.
Le mathématicien pourrait à la limite ne travailler que sur des objets purements idéels sans se soucier de leur adéquation avec le réel. Les mathématiques ont en effet ce caractère d'être vraies intemporellement (la formule pour mesurer le diamètre du cercle ne change pas selon les siècles) et d'aller toujours du nécessaire au nécessaire par la méthode hypothético-déductive.
Seulement, un aperçu rapide sur l'histoire de la discipline met en doute cette belle évidence, que les mathématiques seraient hors du temps et de la contingence. A considérer une des procédures centrales en mathématiques, la démonstration, on verra que ce Euclide pouvait entendre par ce terme est bien différent de ce qu'on exige au 20ème siècle. Des mathématiciens non seulement ne considérerons pas les mêmes axiomes de base, mais encore ils ne donneront pas la même définition d'un même objet.
L'histoire des mathématiques, loin d'être un paisible et majestueux fleuve, est faite, comme pour toute science, de ruptures, de crises, d'impasses, de tensions. Or l'histoire est le domaine du contingent et du devenir, de l'évènement (de ce qui est nouveau et n'a lieu qu'une fois). Terme à terme, les caractéristiques des mathématiques et de l'histoire s'opposent.
Les mathématiques se veulent anhistoriques, mais en même temps, elles ne peuvent échapper à la contingence historique. Le mathématicien est donc pris entre l'exigence de dégager des propriétés valables universellement, et sa position historique, qui le rend tributaire des réussites, des échecs et des tentatives de ses prédécesseurs. Le mathématicien ne peut ignorer le devenir de sa discipline, mais les mathématiques ne peuvent admettre la contingence.
==> Qu'apporte au mathématicien l'histoire des mathématiques ?
Dans un premier temps, nous établirons que le mathématicien a un rapport essentiellement intemporel à sa discipline (aspect classique/apollinien); puis, nous montrerons que l'histoire des mathématiques est celle des ruptures, des changements, de la mise en cause des fondements les mieux établis (aspect baroque) ; c'est en affrontant remise en questions et changements que le mathématicien peut adopter une philosophie d'engagement et d'invention dans sa discipline (aspect dionysiaque).
I) Le mathématicien se rapporte à sa discipline de façon anhistorique
1) Comme tout scientifique, le mathématicien s'inscrit dans son époque. Il travaille donc selon le paradigme de son temps. Mais il peut aussi bien, par sa discipline, être le contemporain des hommes du passé. On connaît le cas de Pascal, génie précoce démontrant le 32e postulat d'Euclide dès son enfance à 11 ans, s'intéressant à la géométrie à 12 ans et travaillant sur les coniques de Desargues dès son adolescence. Pascal a donc pu s'intéresser à la mathématique grecque qu'à la science de son temps. Mais il n'a pas eu besoin d'une connaissance historique, académique, de sa discipline pour exercer son génie. Les mathématiques sont indépendantes de leur histoire. Les problèmes posés par les mathématiques sont intemporels : ils ne sont pas relatifs à une culture, ils sont valables universellement -bien que les mathématiques permettent des développements culturels historiquement et géographiquement situés : les machines d'Archimède, les temples grecs, l'astronomie etc.
2) Le mathématicien ne s'intéresse pas à l'histoire même de sa discipline, mais à des problèmes cruciaux, indépendamment de savoir où et quand ils ont été énoncés pour la première fois. Il est contingent qu'un résultat soit obtenu par un Grec ou Chinois ou que l'auteur d'une conjecture soit Arabe plutôt que Français. Le mathématicien parle un langage universel, car les symboles qu'il utilise doivent être sans ambiguité ; ils sont transparents à eux-mêmes, parfaitement définis ; ce qu'il démontre est obtenu rigoureusement, nécessairement. La langue mathématique ne souffre donc pas des "impuretés" des langues naturelles, car son sens tend à être entièrement explicité. Si, comme le dit Galilée, "la nature est un grand livre écrit en langage mathématique", alors le mathématicien parle d'objets réels, des structures fondamentales de la nature.
A la limite, il importe même peu de savoir si les premiers principes de la science sont obtenus par la contemplation des Idées (position platonicienne) ou trouvés en contact avec l'expérience (position "empiriste" d'Aristote). Il suffit que le mathématicien parle un langage formellement vrai, car exacte, cohérent et rigoureux.
Le mathématicien se rapport à sa discipline d'une façon non-historique. Il n'oublie pas nécessairement tout ce qui s'est fait avant lui, mais le laps de temps entre lui et son interlocuteur n'importe pas.
Formelles, les mathématiques sont aussi anhistoriques ; il s'agit d'apprendre les règles du raisonnement juste, car la rationalité de la démonstration et des autres procédures n'évolue pas.
Ainsi, la géométrie euclidienne apparaît naturelle à l'esprit humain, et elle a été celle aussi bien des Grecs, qui ont construit grâce à elle leurs temples, que des Chinois ou des Arabes. Il est d'ailleurs à noter que, quand bien même le postulat de l'impossibilité pour deux parallèles de se croiser, n'est pas formellement établi, comme chez Euclide, il est tenu pour intuitivement valable dans d'autres civilisations.
3) Il faut pourtant, avec Kant, insister sur l'importance de connaître les travaux des "anciens mathématiciens", en tant qu'ils servent de modèle et d'exemples. cf. Critique de la faculté de juger, §32, "Première caractéristique du jugement de goût". Kant y dit "qu'il n'existe absolument aucun usage de nos forces, si libre qu'il puisse être, ni même de la raison (laquelle doit puiser a priori tous ses jugements à la source commune), qui ne s'engagrait dans des tentatives manquées si chaque sujet devait toujours partir intégralement des dispositions brutes, et si d'autres ne l'avaient précédé à travers leurs propres recherches ; non pas pour faire que leurs sucesseurs deviennent de simples imitateurs, mais pour en mettre d'autres sur la voie par leur démarche, afin qu'ils cherchent en eux-mêmes les principes, et suivent ainsi leur chemin propre, souvent meilleur."
Le sujet ne perd donc pas l'autonomie dans l'usage de ses facultés en imitant ses prédécesseurs. Au contraire. C'est seulement en imitant ce que d'autres ont fait que l'on pourra devenir authentiquement disposé à sa discipline. Seul un sujet autonome est capable de se constituer librement en se rapportant à ceux qui, avant lui, furent aussi autonomes et le devinrent en imitant leurs prédécesseurs. Il ne faut donc pas craindre que la connaissance des Anciens ne tue l'envie de chercher ou ne prive le scientifique, et l'homme de goût, de son originalité. Pour devenir auteur de sa pensée, il faut commencer par étudier, imiter, c'est à dire admettre son hétéronomie, son incapacité à se donner à soi-même sa propre loi.
"La raison est là aussi imitatrice et [les anciens mathématiciens] témoignent de son impuissance (à la raison) à produire d'elle-même des démonstrations rigoureuses procédant avec la plus haute intuition par construction de concepts."
Il est incontestable que les mathématiques ne sont pas historiques. Ce n'est pas l'histoire de la discipline en tant que telle qui importe au mathématicien, mais seulement qu'il trouve dans le passé les travaux d'autres mathématiciens qui "nourriront" ses propres travaux. Mais ni le devenir ni la contingence n'entrent en ligne de compte : à la limite, les mathématiciens sont comme des visiteurs se promenant dans une grande galerie située en aucun temps et nulle part. Tous parlent la même langue, et tous peuvent donc se comprendre par delà le temps et l'espace. Frege dit que nous avons besoin "d'un ensemble de signes, purifiés de toute ambiguité, et dont la forme logique ne laisse pas échapper le contenu" (in Ecrits logiques et philosophiques).
Les hommes qui servent d'exemple sont des classiques, et les classiques sont intemporels. Leur exemple sert en tous temps et en tous lieux. Ils sont sans cesse à fréquenter, car l'exigence mathématique ne connaît pas de variation fondamentale dans l'histoire. Des théorèmes sont démontrés, d'autres sont invalidés, mais toujours demeure la même volonté de radicalité dans l'établissement du vrai.
--> Cette élégante rigueur confère aux mathématiques leur charme propre. Le mathématicien découvre donc dans sa discipline un encouragement au vrai, qui est également le beau, et qui est par définition intemporel, soustrait à l'histoire.
II) Le mathématicien découvre dans l'histoire de sa discipline contigence et devenir
1) Fermat et le devenir d'une conjecture
Par la connaissance des travaux de ses prédécesseurs, le mathématicien découvre des modèles de rigueur et des exemples de méthodes pour résoudre des problèmes.
Il trouve dans le passé, en quelque sorte, un legs précieux : les résultats des grands esprits, des fondements solides pour ses raisonnements, des systèmes clairs et achevés de connaissance. En disant cela, nous mettons en valeur l'aspect éminemment "apollinien" des mathématiques. Mais l'histoire des mathématiques n'est-elle, pour le mathématicien, qu'un Panthéon ou un Olympe de grandes figures immortelles ?
On peut déjà noter que le mathématicien ne découvre pas, dans le passé de sa discipline, tous les problèmes achevés et résolus. Le legs historique est celui aussi des travaux inachevés, des tentatives qui n'ont pu être menées à bout. Ainsi de la conjecture de Fermat.
Fermat, mathématicien du 17ème siècle, dit que l'équation : a^n + b^n = c^n, avec (a,b,c) donnés et n entier naturel positif, n'a pas de solution lorsque n>2.
On parle de grand théorème de Fermat. Seulement, l'auteur n'ayant pas fourni de démonstration, on ne peut que parler de conjecture. Ce n'est que grâce à Andrew Wiles que cette conjecture est devenue théorème, en1994, grâce à des centaines de pages de démonstration mettant en oeuvre des moyens mathématiques inconnus au 17e siècle. Si bien qu'à la limite, c'est l'utilisation des outils de démonstration qui a plus d'intérêt que d'arriver à prouver la conjecture.
On a retrouvé un manuscrit annoté de la main de Fermat, où il affirme : "J'ai une démonstration véritablement merveilleuse de cette proposition, que cette marge est trop étroite pour contenir."
Vraisemblablement, Fermat n'avait pas les moyens de prouver sa conjecture. Mais qui sait, comme l'a dit Wiles, il reste une possibilité infime qu'il existe une solution élégante datant du 17è siècle.
On parle maintenant du théorème de Fermat-Wiles.
Exemple : l'équation a^n + b^n = c^n a une infinité de solutions lorsque n=1. C'est à dire qu'il y une infinité de triplets-solution (a,b,c) à l'équation : a+b=c.
De même lorsque n=2. a²+b²=c² a des solutions. On se trouve dans le cas du théorème de Pythagore, où c est la longueur de l'hypoténuse, a et b celles des autres côtés.
La solution la plus célèbre est (3, 4, 5). 3²+4²=5² <=> 9+16=25.
Tout triangle dont on sait que ses côtés mesure 3, 4 et 5 est rectangle.
Maintenant, Fermat conjecture qu'il n'y a pas de solution pour n=3 ou plus.
L'équation a^3+b^3=c^3 n'a pas de solution.
Autrement dit, en termes géométriques, on peut trouver un segment dont la longueur soit la somme des longueurs de deux autres segments (a+b=c), un carré dont la surface soit la somme des surfaces de deux autres carrés (a²+b²=c²) mais pas de cube tel, ni de figures de la quatrième, cinquième dimension !
Philosophiquement, l'intérêt de cette conjecture et de sa démonstration est de montrer que la vérité scientifique n'est pas donnée immédiatement, sub specie aeternitatis (contre Spinoza, par exemple, posant dans le Traité de la réforme de l'entendement, l'équivalence Dieu=Certitude=Vérité). Maintenant, nous savons que la science est en devenir, et nos connaissances sans cesse révisables (il a fallu attendre 350 ans pour résoudre Fermat).
2) Des objets ambigus
L'évolution historique de la discipline est en réalité essentielle, car tout ne peut être résolu d'un coup en mathématiques, en un seul lieu et un seul temps. On dira que chaque mathématicien ne découvre qu'une partie de la vérité, que chacun d'entre eux ne peut obtenir que des résultats partiels.
Un résultat valable est un résultat démontré.
Mais le mathématicien ne découvre-t-il dans l'histoire que des certitudes et des raisons de prendre confiance dans sa discipline ? Nous allons voir au contraire que l'étude historique est l'occasion de mise en doute qui peuvent être radicales.
Loin que les grands ancêtres soient des classiques qui nous offrent une vision achevée et pleine du monde, ils sont ceux aussi ceux qui mettent en doute nos certitudes, et nous rappellent que la recherche se fait dans le tâtonnement, l'incertitude, même dans un domaine comme les mathématiques. Il ne suffit pas de respecter toujours la bonne procédure ou de prendre le temps d'accorder sa volonté à son entendement pour ne pas se tromper. Certains objets sont en eux-mêmes douteux.
Ainsi, le mathématicien Desargues. Descartes l'a lu et estimé, mais l'a trouvé obscur, tandis que le jeune Pascal l'a étudié. Desargues a travaillé sur les coniques et leur perspective, dans Brouillon project d'une atteinte aux evenemens des rencontres du cone avec un plan. La nouveauté arguesienne est de remarquer que, dans une perspective s'étendant à l'infini, des droites parallèles finissent par devenir concourantes, tandis que des concourantes, par perspective, peuvent devenir parallèles. Ces droites ont un point commun situé à l'infini. Ainsi, par perspective, les points de l'espace ordinaire et les points fictifs situés à l'infini peuvent-ils échanger leurs propriétés. Le cône pourra devenir cylindre par perspective et le cylindre, cône. Desargues peut réunir ces deux volumes sous l'appellation de rouleaux. Notre mathématicien dit que c'est "sous une seule et mesme énonciation" que l'on peut parler des cônes et des cylindres.
La découverte de l'infini et de ses paradoxes bouleverse donc les cadres de pensées hérités de la Grèce, qui refusait l'infini, comme illimité, inachevé. On peut bien parler du passage d'un cosmos organisé à nature géométrisée, du "monde clos à l'univers infini" (Koyré). L'avancée de Désargues est aussi une cassure dans le modèle de stabilité offert par les mathématiques, et on pourrait proprement parler de vision baroque chez Désargues, avec ces perspectives changeantes, mouvantes, qui peuvent devenir une chose ou l'autre selon le point de vue.
Désargues a donc permis de faire avancer la théorie des transformations, qui permet de penser le passage d'une figure à une autre, quitte à ce que cette "seule et mesme énonciation" devienne un problème purement de langage, détaché de considérations géométriques.
Si certains objets sont ambigus, changeants, ils permettent aussi au mathématicien de penser le changement, quitte à réintroduire du dynamisme dans des objets statiques. Mais on dira que si certains objets se prêtent à une telle mobilité, il n'en va pas de même des principes de base, ou des procédures les plus indispensables, qui sont achevées, définitives.
Mais qu'en serait-il si ce qu'on appelle démonstration, cette procédure fondamentale, avait elle aussi changé de sens au cours du temps ?
3) Prenons l'exemple de la proposition 4 du livre I des Elèments d'Euclide. ll s'agit d'établir l'identité de deux triangles ABC et DEF. La démonstration d'Euclide, a bien des égards, paraîtra bizarre. Euclide n'hésite pas en effet à recourir au sens commun, en faisant appel à la possibilité de superposer un triangle sur l'autre, à ajuster une droite ou des angles, comme si l'on manipulait des figures en bois par exemple. Ainsi, la position d'Euclide est réaliste. Le triangle existe vraiment dans la nature, et il ne faut pas hésiter à faire appel à l'évidence matérielle pour démontrer l'égalité de deux triangles.
Mais maintenant, il n'est plus possible de considérer l'évidence sensible comme gage du vrai. Au contraire, on dirait que le recours à l'évidence entache la démonstration d'impuretés, qu'Euclide commet demeure trop réaliste. Et, restant réaliste, il ne parvient pas suffisamment à démontrer, par les seuls moyens du langage mathématique, ses postulats. C'est au 19è siècle qu'on s'intéresse de nouveaux aux Elèments, pour découvrir qu'ils ne satisfont plus aux exigences du temps. Hilbert se proposera de redémontrer l'ensemble du corpus euclidien. Dans les Fondements de la géométrie (1899), il remplace les 5 axiomes de base d'Euclide par 21, censées être irréfutables. Au lieu de se concentrer sur la nature "réelle" des objets considérés (figures, points, plan...), on s'intéressera uniquement à leur définition langagière et à leurs relations entre elles : le triangle n'est pas une figure à trois côtés mais seulement trois points non alignés. Les termes ne renvoient plus à une signification extérieure. Seuls les termes fondamentaux, les axiomes, renvoient à des faits fondamentaux donnés par intuition. Le but de Hilbert était donc de reprendre entièrement Euclide pour le clarifier et l'épurer de ses faiblesses. Refusant l'appel à du hors-langage, Hilbert tend donc à éliminer la question du sens en mathématiques, pour arriver à un fonctionnement purement formaliste : les objets mathématiques sont réduits à des objets de discours.
Toutefois, Hilbert conserve une part d'intuition, et pourra donc dire qu'en mathématique se trouvent deux tendances, l'une qui va vers l'abstraction ("to crystallise the logical relations inherent to the maze of material that is being studied, and to correlate the material in a systematic and orderly manner" ), l'autre qui va vers une compréhension intuitive des objets ("which stresses the concrete meaning of their relations" ).
Au cours de l'histoire, on voit donc que les mathématiciens eux-mêmes ont mis en danger les fondements de leur discipline, à savoir non seulement le statut des objets, mais aussi leur signification.
Même l'évidence n'est pas épargnée. On l'a vu avec Désargues, puis Hilbert. On le verra encore mieux sur l'exemple des géométries non-euclidiennes.
4) Lobatchevski se proposait de démontrer rigoureusement un des postulats les plus célèbres d'Euclide, le 5e, celui qui énonce que par un point extérieur à une droite on ne peut faire passer qu'une seule droite parallèle à la première. Ce qui revient à énoncer que deux parallèles ne sont pas concourantes. Postulat considéré comme l'un des plus évidents, et repris par des mathématiciens aussi bien Arabes ou Chinois, sans qu'ils aient eu connaissance d'Euclide. Comme si ce postulat était l'un des plus intuitifs, qu'il était en quelque sorte consubstantiel à l'esprit humain.
Déjà, sur l'exemple de Désargues, nous avons vu comment la géométrie en perspective mettait en danger cette évidence.
Lobatchevski se proposait donc d'établir formellement ce postulat, de manière à en faire un véritable axiome. La méthode employée par notre mathématicien était une procédure parfaitement incontestable : la démonstration par l'absurde. Puisqu'on ne pouvait montrer directement la vérité du 5e postulat, il fallait montrer qu'une géométrie fondée sur le postulat inverse finissait par se contredire, qu'elle était par conséquent fausse.
La surprise de Lobatchevski fut de découvrir que son système non-euclidien restait parfaitement cohérent. Il ne découvrait aucune contradiction. Ainsi, sans avoir invalidé Euclide, il montrait qu'une autre conception géométrique de l'espace est possible, que la loi de l'espace n'est pas intuitivement perçue par l'esprit.
Les conséquences de cette découverte involontaire sont innombrables. En particulier :
(*] Mettre en question la validité des jugements que Kant a nommés synthétiques a priori : ces jugements étant établis par intuition pure n'ont aucun contenu sensible, mais se rapportent juste à la cette forme pure du sens externe qu'est l'espace. Mais pour Kant, cet espace est euclidien. Mais si un espace euclidien est concevable sans contradiction, qu'en est-il de la valeur de ces jugements synthétiques a priori, censés étendre notre connaissance ? Les logiciens du cercle de Vienne ont pour leur part tenté de détruire de tels jugements, pour s'en tenir aux jugements de fait, de manière à éliminer le contenu métaphysique du langage, dans l'espoir d'arriver à ne garder que les propositions des sciences de la nature. C'est notamment l'objet du Tractatus Logico-philosophicus de Wittgenstein.
- Mettre en question ce qu'on appelle vrai en mathématiques. Si deux géométries peuvent coexister, chacune se tenant, laquelle est la plus "vraie" ? On est alors obligé de préférer le critère de cohérence interne du système à celui de vérité.
- Mais alors demeure la question : quelle est la vraie géométrie ? Quelle est la vraie doctrine de l'espace ?... L'espace de Lobatchevski se fondant sur l'espace sphérique a le mérite d'utiliser un objet, la sphère, qui reçoit la même définition dans l'espace d'Euclide ou l'espace non-euclidien. On peut admettre que l'espace plane est l'espace de l'expérience commune, que l'entendement est par conséquent modelé sur cette expérience. Mais c'est mettre fin a l'a priorisme kantien et revenir à une conception empirique de l'entendement, au moins dans l'intuition de l'espace.
- On peut même en venir à se demander ce qui est géométrique, et ce qui ne l'est pas, du moment que l'on peut bâtir des espaces au gré des changements d'axiomes, en faisant exprès de bâtir des systèmes contre-intuitifs, pour montrer qu'ils demeurent cohérents.
- C'est donc à la fois élargir et rendre plus floue la notion d'espace.
Ces quelques aperçus nous ont donc permis d'établir que l'histoire des mathématiques est aussi celle des rencontres, des contingences ; des ruptures, des surprises et des remises en question. Le mathématicien ne peut donc espérer trouver dans l'histoire de sa discipline une paisible promenade dans un Parthénon, mais plutôt l'imprévu au sein d'une forêt pleine d'impasses.
L'aventure d'Euclide et de ses remises en cause porte atteinte à la notion d'évidence et d'invariance de la procédure démonstrative, tandis que l'aventure de Fermat-Wiles nous a montré que le domaine de la mathématique, tout comme celui de la physique, de la biologie, des sciences humaines, de la musique ou de la littérature, est inachevé, en devenir. Les mathématiciens ne vivent donc peut-être pas plus que les autres hommes d'esprit sur un Olympe où le ciel est toujours bleu, à l'abri des atteintes de ce monde changeant.
III) L'histoire des mathématiques apporte au mathématicien sens des problème et goût de l'invention
Après avoir montré que l'histoire des mathématiques fournit aussi bien un modèle de rigueur et d'exigence que l'expérience du tâtonnement et de l'incertitude, il faut tâcher de voir les rapports entre la discipline des mathématiques et son épistémologie.
1) Mathématiques, récit et histoire
Dans sa préface à une Histoire des mathématiques, Jean-Toussaint Desanti écrit que l'histoire s'entend au moins en deux sens. "Historiographie, d'une part: récit selon un ordre chronologique de ce qui s'est passé dans tel ou tel domaine de l'activité humaine (l'activité des gens nommés « mathématiciens », par exemple). Genèse d'autre part: formation, persistance et transformations de la chose même que cette activité concerne. « D'une part », « D'autre part ». Sitôt écrites, ces expressions se révèlent fautives. Sans une stricte recollection des oeuvres selon la succession des temps, on ne peut espérer saisir les moments d'une genèse. A l'inverse, cette recollection ne sert à rien si elle ne débouche sur la connaissance et la compréhension du mode de formation de l'objet même qui existe historiquement: les mathématiques, dans le cas présent."
On ne peut faire l'économie du récit ordonné des faits concernant le champ historique dont on s'occupe. Mais l'histoire est aussi explication de la genèse et du devenir de la chose étudiée. Et ce n'est que par le récit qu'on peut saisir cette évolution, cette évolution étant racontée par le récit historique. Ce qui pose, comme on va le redire plus loin, la question de Paul Veyne, celle des invariants historiques, telle qu'elle est étudiée dans lL'inventaire des différences.
Mais continuons avec Desanti :
"Il est à souhaiter que beaucoup d'apprentis mathématiciens (et d'autres aussi qui ont cessé d'apprendre les éléments), lisent attentivement ce titre. Ils apprendront que les mathématiques aussi ont leur mémoire; et que, comme toute mémoire, elle comporte des replis, des lieux cachés, qu'il importe de débusquer pour les ramener au jour. Pourquoi les ramener au jour? Et pour quel bénéfice? Faut-il, pour « apprendre les mathématiques », parcourir encore tous les chemins du passé; revivre encore tous ces détours, affronter de nouveau, comme s'ils étaient les nôtres, tous ces problèmes aujourd'hui résolus? Tous, certainement pas. Qui le pourrait jamais? Quelques-uns oui. Il le faut. Qui laisse totalement dormir sa mémoire devient étranger à son présent même, au point d'oublier le sens de ce qu'il fait."
Qui dit histoire dit mémoire, c'est à dire préservation et recollection des faits du passé. Le mathématicien n'échappe pas à l'évolution de sa discipline. Et s'il veut oublier le passé, il risque surtout de passer à côté de son temps, faute de comprendre comment il s'est construit par rapport à ce qui le précède. S'il n'est pas possible de reprendre exhaustivement tout ce qui s'est fait sous le nom de mathématique, il n'en demeure pas moins indispensable au mathématicien de rejouer certains évènements cruciaux de l'histoire de son domaine. Il trouvera ainsi non seulement le sens de ce qu'il fait, mais encore, loin de connaître comment certaines procédures ont réussi ou échoué, il comprendra ce qu'est la passion propre au mathématicien :
"Les mathématiques ne sortent pas toutes faites de la tête du maître qui écrit au tableau noir. Elles ne résident pas, toutes faites, dans le traité, si achevé en sa belle ordonnance. Nullement. Leur état présent et décanté, par quoi nous commençons de les apprendre, n'est lui même qu'une figure d'équilibre, précieuse aujourd'hui, mais transitoire comme d'autres qui l'ont précédée et dont elle porte la marque. Apprendre à déchiffrer ces marques, c'est réveiller la mémoire. Le moins qu'on puisse y gagner, c'est un peu d'humour. On apprendra la peine qu'a coûté le moindre « pont aux ânes ». Mais on y gagnera bien davantage encore: plus de conscience; une autre clarté que celle qui naît de la stricte observance des procédures, parce qu'elle concerne les motivations qui ont exigé ces procédures mêmes*. « Pourquoi des mathématiques? » dit-on. Et on ajoute aussi: « A quoi bon? ». Un titre comme celui-ci montre comment « des mathématiques » se sont produites. Il montre quelle sorte de travaux, non homogènes, cette production a coûtés, à quelles exigences, à quelles contraintes internes et externes de tels travaux ont dû se plier. En cela il peut permettre de répondre à la double question « Pourquoi? » et « A quoi bon? ».
(*je souligne)
Nous citons ce texte pour insister sur le terme de motivation, que celui de "procédure" tendrait à occulter. La motivation est bien au coeur de toute recherche, et l'histoire d'un domaine en porte le témoignage. Le scientifique peut justifier sa démarche selon l'entendement, alors que ce qui l'anime est dans l'imagination, la création, la recherche du plaisir de créer, la joie de voir son système s'animer, devenir vivant.
2) Cette dimension de motivation et d'histoire de la discipline a un aspect éminemment institutionnel.
Pour publier dans une revue de référence, comme Nature, et ainsi voir valider le caractère scientifique de sa démarche, le scientifique doit masquer les intuitions, les émotions, les tatonnements, tout l'aspect proprement dionysiaque de la recherche ; rhétoriquement, il réinterprête sa démarche, après coup ; il la reformate pour satisfaire aux standards de scientificité dans la présentation de ses résultats. C'est dire aussi que le scientifique inventera après coup le récit fondateur de sa découverte, comme Andrew Wiles qui dit avoir découvert enfant la conjecture de Fermat, et s'être juré depuis de la démontrer. Le scientifique doit, institutionnellement, mêler sa petite histoire personnelle à la grande histoire, à caractère mythologique, de la Science pérenne. C'est donc au mathématicien, comme aux autres scientifiques, de montrer ce que ses travaux apportent à l'histoire de sa discipline. Quels résultats il léguera à la postérité, ce qu'on retiendra de lui ; d'ajouter son nom dans la galerie des grands ancêtres, tel Wiles accolant son nom à celui de Fermat, une fois la conjecture démontrée.
Pour mieux cerner cette inscription du mathématicien dans l'histoire, on peut encore mieux le montrer sur l'exemple d'un évènement, authentiquement historique et mathématique, et en voir les conséquences sur la pratique du mathématicien.
3) Un évènement mathématique : la crise des fondements
On a parlé au 19ème siècle d'une crise des fondements des mathématiques, à un moment où les bases de la discipline s'avèrent fragiles et incohérentes. Frege ou Russell avaient tenté de redonner des assises solides aux mathématiques, ou Cantor avec notamment la théorie des ensembles. Mais Russell montre qu'un ensemble ne peut pas sans contradiction s'inclure lui-même. Ce qui est illustré par le paradoxe du barbier : un barbier déclare qu'il va raser tous les hommes de la ville qui ne se rasent pas eux-mêmes. Le barbier doit-il se raser ? Si oui, il ne doit pas se raser, car il se rase lui-même ; sinon, il ment, car il ne rase pas tous ceux qui ne se rasent pas eux-mêmes. Donc le barbier n'appartient ni à l'ensemble de ceux qui se rasent, ni à l'ensemble de ceux qui ne se rasent pas.
Conclusion de Russell : le barbier n'existe pas.
De façon similaire, Gödel pose, avec son théorème d'incomplétude qu'un système comprenant des élèments algébriques doit supposer des vérités que ce système ne peut pas démontrer par ses seuls moyens. Il ne peut être à la fois cohérent et complet : il ne peut pas tout démontrer ni établir la valeur de vérité de chacune de ses propositions.
D'où l'impossibilité d'une auto-fondation des mathématiques. Trois solutions peuvent alors être apportées, qui sont trois attitudes par rapport au fondement des mathématiques :
- l'intuitionnisme, avec Brouwer
- le formalisme, avec Hilbert
- le logicisme, par Russell et Whitehead
Chaque position a sa validité et ses limites.
Le logicisme, qui veut réduire les mathématiques à la logique, se heurte à la difficulté de tout exposer en termes strictements logiques : comment y parvenir de façon concise et claire, sans allonger indéfiniment les démonstrations ?
Le formalisme, avec Hilbert, se veut d'abord méthodologique. Etant très efficace, il est inévitable qu'il se croit une portée ontologique, toute méthode cherchant en fait à exprimer la structure même du domaine où elle s'applique. Mais Hilbert conserve une part d'intuition, pour ce qui concerne les signes fondamentaux.
Il ne semble donc ni possible de garder l'intuition, ni de l'éliminer. On peut alors dire que le but des mathématiques, paradoxalement, est de construire de l'intuitivement évident, quitte à bouleverser les règles supposées naturelles de l'entendement. Le formalisme le plus abstrait est alors un détour indispensable pour en revenir à de l'intuitif, intuitif qui ne peut se suffire à lui-même. "Il ne faut toutefois pas se départir de cette prescription qu'une question mathématique ne doit pas être considérée comme complétement épuisée alors qu'elle n'est pas encore devenue intuitivement évidente ; découvrir au moyen de l'Analyse, c'est bien faire un pas très important, mais ce n'est que faire le premier pas." (Félix Klein, Le programme d'Erlangen).
CONCLUSION
La recherche mathématique mêle donc irréductiblement trois aspects : l'intuitif, le théorique et l'expérimental. On peut dire, avec Ferdinand Gonseth que l'heuristique doit renoncer à une stratégie de fondement, qui vise à un commencement absolu, pour accepter la relativité du domaine de recherche, et accepter une stratégie d'engagement dans son domaine, quitte à revoir au fur et à mesure des avancées les fondements de sa recherche. Le mathématicien accepte ainsi que sa pratique, ses objets et ses méthodes soient en devenir.
Distinguons alors trois sortes d'épistémologie qui peuvent accompagner la pratique du mathématicien :
- Epistémologie de fondement, qui s'interroge sur les règles de légimitation de l'activit scientifique.
- Epistémologie de fonctionnement, qui porte sur les règles et procédures à adopter pour conduire la recherche.
- Epistémologie de problématique, qui s'interroge sur l'évolution et le devenir des théories, dans leur façon d'aborder et résoudre des problèmes, cette troisième épistémologie permettant d'articuler les deux autres.
On retrouve en quelque sorte un modèle kantien : fondement des connaissances, règles pour l'exercice des facultés et problématique de la raison pure. L'apport historique des mathématiques est en ce sens intrinsquément problématique.
APPENDICE : LES MATHEMATIQUES AUJOURD'HUI
La crise des fondements constitue bien un évènement dans l'histoire des mathématiques. Toutefois, cette crise n'a pas eu un retentissement spectaculaire sur les mathématiciens. Elle n'a pas changé leur façon d'aborder la discipline. Beaucoup ont estimé que le problème venait d'un désir de présenter leur discipline de manière trop formelle. C'est un fait que les mathématiques ne sont pas étudiées de façon historique et qu'on peut très bien faire des mathématiques sans prendre parti sur leurs fondements. Un groupe de mathématiciens, réunis sous le nom fictif de Nicolas Bourbaki, s'est proposé alors de reprendre l'ensemble du corpus mathématique pour en simplifier l'écriture. Travail de titan, pas encore achevé à l'heure actuelle, qui a introduit par exemple l'usage des signes ∀ ("pour tout élèment..." ) et ∃ ("existe" ).
On ne doit pas surestimer l'apport historique sur la pratique du mathématicien. Au 20ème siècle, le nombre de chercheurs dans cette discipline a explosé, passant à plusieurs dizaines de milliers de mathématiciens d'un niveau équivalent au doctorat. On a démontré plus de théorèmes en un siècle que pendant 25 siècles d'histoire. De plus en plus, la discipline se subdivise et se spécialise, et nulle n'en connaît toutes les ramifications. En mathématique comme dans les autres sciences, la figure du génie solitaire proposant une synthèse totale laisse place aux collectifs de chercheurs, aux laboratoires du monde entier travaillant et échangeant leurs résultats. Les mathématiques n'échappent donc pas aux boulerversements affectant le monde scientifique. Les mathématiques ont trouvé de nombreuses applications nouvelles au 20è siècle, dans l'ensemble des sciences et techniques. Les chercheurs tendent donc à se spécialiser, pour répondre à des demandes émanant des différents acteurs du monde social. Mais ces changements ne changent pas fondamentalement le travail du mathématicien.
---------------
Mon roman d'anticipation, L'I.A. qui m'aimait : https://tinyurl.com/mtz2p872 | Blog ciné/JV : http://cinecourt.over-blog.com