Tous ensemble ? Sur le rapport d’Alain Badiou aux mathématiques David Rabouin L

Tous ensemble ? Sur le rapport d’Alain Badiou aux mathématiques David Rabouin Laboratoire SPHERE, UMR 7219 CNRS – Université Paris Diderot 1. « Mathématiques = ontologie » En première approche, le rapport de la philosophie d’Alain Badiou aux mathématiques se trouve tout entier ramassé, au moins à partir de L’Etre et l’événement1, dans la formule célèbre et provocante : « les mathématiques sont l’ontologie » (EE, p. 10). Selon une telle conception, positiviste en son sens le plus noble, le philosophe doit abandonner la prétention à dire « ce qui est » à partir de l’inspection de son seul esprit et se mettre à l’école des scientifiques, en l’occurrence des mathématiciens, qui se donnent les moyens d’une description rigoureuse des formes de l’être ou, plus exactement, de « l’être en tant qu’être ». Elle n’implique a priori aucun choix parmi les théories mathématiques qui sont toutes en droit des modalités d’effectuation de l’ontologie : « un traité sur l’être (…), écrit Badiou, n’est jamais qu’un traité de mathématique, par exemple, la formidable Introduction à l’analyse en 9 volumes, de Jean Dieudonné » (EE, p. 20). Pas plus ne privilégie-t-elle un certain état des mathématiques qui ont toujours décrit les formes de l’être et continuent à enrichir leurs modes de description au fur et à mesure de leur développement. Contrairement à une lecture très répandue – dont on verra qu’elle semble avoir fini par devenir paradoxalement celle de l’auteur lui-même –, la théorie des ensembles ne se trouve donc pas identifiée à l’ontologie et notre slogan initial dit bien que les mathématiques sont l’ontologie. Si cette théorie est privilégiée, ce n’est pas non plus parce qu’il s’agirait d’y réduire les mathématiques, mais très clairement parce qu’elle a constitué un discours unifiant que le mathématicien est parvenu à mettre au point pour la description de toutes les entités qu’il rencontrait. La « révolution cantorienne » ne consiste donc pas à avoir permis soudainement à la mathématique d’être une ontologie (elle l’a toujours été, si notre slogan est vrai !), mais d’avoir fourni, dit Badiou, « un langage universel pour toutes les branches des mathématiques » (EE, p. 49). Là où la mathématique antérieure croyait parler de nombres, de grandeurs, de quantités, d’espaces, s’est peu à peu dessiné la claire conscience qu’il ne s’agissait, sous ces différentes figures, que d’un seul type d’être : le multiple pur (ou « ensemble »). Ainsi « l’être en tant qu’être » se manifeste-t-il à nous sous la forme qu’il a toujours eue (celle du multiple pur), mais que tel ou tel nom (grandeur, quantité, nombre), telle ou telle croyance (il n’y a de multiples que composée d’unités irréductibles, un infini ne peut être donné en acte) a pu empêcher de saisir dans sa pleine évidence – où se reconnaît, 1 L’Etre et l’événement, Paris, Seuil, 1988, coll. « L’ordre philosophique » [désormais EE]. Texte paru dans F. Tarby et I. Vodoz (ed.), Autour d’Alain Badiou, Germina, 2011, pp. 81-102. soit dit en passant, une forme de téléologie du vrai (ou « récurrence historique ») typique de l’école française de philosophie des mathématiques. Certes, le paradigme ensembliste implique un certain nombre de choix qui, en apparence, semblent limiter la portée du slogan « mathématiques = ontologie ». Même à titre de simple discours, l’adoption d’un vocabulaire de description ne nous condamne-t-elle pas à limiter a priori les formes possibles de ce qui peut être décrit ? Certes, mais il est frappant – et heureux pour le philosophe – que les alternatives à la théorie des ensembles dans les débats fondationnels se soient généralement présentées comme des restrictions (finitisme, constructivisme, intuitionnisme, refus de l’axiome du choix…). Parallèlement, l’éventail des possibles dessinés par cette théorie permettait des développements féconds dont le mathématicien au travail peine à accepter de se passer (d’où la célèbre formule de Hilbert : « Personne ne pourra nous chasser du paradis que Cantor a créé pour nous »). De ce point de vue, il y a certainement un sens à qualifier la théorie des ensembles de langage « universel » et la position de Badiou, en ce point très proche de celle des bourbakistes, est plus neutre qu’il n’y paraît. Elle ne réduit pas la mathématique à la théorie des ensembles, ni n’exclut que le discours réflexif (ou fondationnel ou méta-ontologique) du mathématicien ne puisse évoluer, mais elle prend acte d’un certain état des mathématiques (celui que nous connaissons d’ailleurs encore aujourd’hui) dans lequel la description des objets en termes d’ensembles s’avère féconde - description qu’elle refuse de restreindre a priori pour des motifs extérieurs au développement de la pratique elle-même. Que ce discours puisse ensuite évoluer n’implique nullement que l’on se débarrassera alors des ensembles, pas plus que la notion de grandeur formalisée par Euclide et Archimède n’est devenue soudainement caduque avec le développement de concepts plus larges de quantité (incluant même éventuellement la possibilité de grandeurs « non-archimédiennes ») ou que la géométrie euclidienne n’est devenue fausse avec le développement des géométries non-euclidiennes. Je ne reviendrai pas ici sur la manière dont, fort du soutien fourni par cette mathématique unifiée par le paradigme ensembliste, Alain Badiou a pu alors s’appuyer sur la description axiomatique standard de ses fondements (Théorie dite « ZFC » pour « Zermelo-Fraenkel avec Axiome du Choix ») pour déployer les éléments de sa théorie philosophique propre. Une telle démarche ne serait qu’une paraphrase de l’Etre et l’événement qui, à bien des égards, n’est lui-même qu’un long commentaire de cette théorie, depuis ces postulats de base (axiome du vide, d’extensionalité, de remplacement, de séparation, etc.) jusqu’à la difficile question de l’organisation de ses « modèles » (via la méthode du forcing mise au point par Cohen en 1963 et qui sert de support aux concepts centraux de « vérité », d’« événement » et de « sujet » chez Badiou). Tout ceci a déjà été abondamment explicité et commenté. Mon propos est plutôt d’interroger la manière dont se joue ici un certain rapport de la philosophie aux mathématiques. Or deux aspects rendent la description précédente immédiatement problématique, même quand on fait effort, comme je m’y astreins ici, pour accepter une approche des mathématiques qui peut sembler excessivement « fondationnelle » et « logique ». Le premier, que je ne ferai pour le moment que mentionner, tient au fait que l’unification (ou « l’universalité ») fournie par le paradigme ensembliste procède en fait de deux ressorts assez différents : de fait, les « ensembles » ont d’abord procuré, on l’a vu, un certain langage de description et ne se sont trouvés formalisés dans une théorie axiomatisée que dans un second temps. Or si « révolution cantorienne » il y eut, c’est indéniablement sur le premier plan qu’elle opéra2, alors que c’est sur le second que se place Badiou pour déployer sa réflexion philosophique. On peut d’ailleurs se demander si ce niveau du discours n’est pas, encore aujourd’hui, celui où se place le mathématicien au travail (il est bien connu que la plupart des mathématiciens ignorent, en fait, la simple liste des axiomes de la théorie des ensembles)3. Techniquement, la question est alors de déterminer ce qui est réellement nécessaire de la théorie des ensembles dans la pratique que les mathématiciens décrivent avec un langage ensembliste – en se gardant donc de supposer trop vite que l’acceptation du second implique ipso facto le soutien de la première. Comme nous le verrons, la question est encore largement ouverte aujourd’hui, mais le seul fait qu’elle le soit change très profondément le sens du geste badiousien : derrière son positivisme affiché, il récupère, en effet, tous les traits d’une décision philosophique (sur la transparence du langage ensembliste à la théorie sous-jacente)4. Le second aspect problématique, déjà pointé par Desanti5, se situe directement au seul niveau de la théorie des ensembles : à supposer, en effet, que cette théorie agisse en qualité de fondements et que ces fondements soient remplacés par d’autres, comme cela est arrivé si souvent au cours de l’histoire des mathématiques, comment pourrait-on maintenir son universalité ? Si le concept de grandeur formalisé par Euclide au livre V des Eléments n’est pas rendu caduque par la possibilité de grandeurs « non archimédiennes », son universalité, elle, ne peut survivre à une telle extension. Dans le cas des ensembles, le doute apparaît d’autant plus justifié qu’émerge précisément dans les années 1960 un nouveau prétendant au titre de « langage universel » avec la théorie dite « des catégories », dont une axiomatisation est alors proposée par William Lawvere à partir de la notion de « topos élémentaire » et dont Alexandre Grothendieck indiquait, au même moment, la très grande fécondité dans la résolution de problèmes ardus de géométrie algébrique6. Autrement dit, il nous faut ici vérifier 2 Du simple fait que Cantor et Dedekind intervinrent avant l’axiomatisation de la notion d’ensemble pour élaborer leurs théories propres (théorie des cardinaux transfinis, théorie des coupures, théorie des idéaux, premiers pas de la topologie générale). 3 Sur l’histoire de la théorie des ensembles et la distinction entre uploads/Philosophie/ tous-ensemble-sur-le-rapport-d-alain-bad.pdf

  • 25
  • 0
  • 0
Afficher les détails des licences
Licence et utilisation
Gratuit pour un usage personnel Attribution requise
Partager