Parution Novembre 2000:
Modèles et pensées de l'action (Paris,
L'Harmattan, Collection Action et savoir).
Les mathématiques sont là,
elles existent depuis de long siècles. Même si
la conviction commune de leur force, de leur
centralité, du rôle qu'elles jouent dans
l'inimaginable succès du connaître, même
si l'incomparable prestige de leur rite initiatique, le
crédit d'une mythique excellence accordé
à leurs héros venaient à se dissoudre
soudain, par la vertu d'un étrange sortilège,
on devine qu'il resterait encore, dans la simple
considération de ce monument de pensée
accumulée qu'elles sont, de quoi reconstituer en leur
faveur l'amour que leur portent tous ceux qui les sentent
pour ce qu'elles sont. Mais cette valeur, comment la dire ?
Cette modalité nonpareille de l'approfondissement, de
la recherche, de la littérature, comment la
réfléchir, la faire valoir devant quelque
tribunal universel ? Comment rendre aux mathématiques
l'hommage qu'elles méritent loin des facilités
que fournissent leur utilité séculaire ou la
chevalerie compétitive qu'elles motivent ?
Nous avons le sentiment, les uns et les
autres, qu'il y a une valeur des mathématiques par
delà ces indices trop commodes, que cette valeur fait
d'elles un bien commun de l'humanité, singulier parmi
les biens de même calibre, et, notamment, singulier
par sa destination illimitée : nulle manière
d'être homme ne coupe de la vraie grandeur des
mathématiques, nulle conformation raciale, nul
entêtement traditional, nulle langue, nulle coutume,
nulle voie politique. Donc, cette valeur, cette grandeur
devraient pouvoir se dire dans un langage de même
qualité, de même universalité, de
même illimitation. Il semble contradictoire qu'on soit
à ce point sûr de cette densité, de
cette épaisseur, de ce rayonnement des
mathématiques, et qu'on puisse concéder ne pas
pouvoir les réfléchir
fidèlement.
Pourtant, il semble bien qu'il y ait
à cela une difficulté essentielle : les
mathématiques sont un faire si spécifique que
toute tentative d'en restituer l'importance et le sel hors
du régime de discours qu'elles sont échoue, ne
pouvant jamais être autre chose, peut-être,
qu'une trahison. Et en même temps, ce discours tel
quel, tel qu'il se dit et se vit, se réserve à
la très minoritaire confrérie de ceux qui en
ont longuement enduré les méandres et les
complexités. C'est ainsi qu'en fin de compte, la plus
ouverte des écoles, le moins excluant des exercices
de la pensée, retombe dans un confinement
élitaire qui l'égale a posteriori à
tout ce dont il est en principe le divorce même : les
mathématiques sont le jeu d'une race de
surdoués, la tradition schizophrène d'une
ethnie dissimulée comme telle, la langue
inventée qui forclot le lien avec les réseaux
partagés du sens, la coutume déviante de
subjectivités moins adhérentes à
l'amour que les autres, la non-politique de personnes qui ne
supportent aucune cité réelle.
Cette impasse, pourtant, un certain
nombre de démarches, elles-mêmes
vénérables, prétendent nous
éviter de venir nous y enfermer. Au premier rang de
celles-ci, l'histoire des mathématiques. Mais aussi,
la philosophie des mathématiques,
l'élaboration pour une large part technique de la
question des fondements des mathématiques, et
pourquoi ne pas les nommer aussi, la sociologie des
mathématiques, la psychologie cognitive des
mathématiques, etc. On dispose donc d'une
série d'approches prétendant à la
réflexion des mathématiques,
apparentées à ce qu'on appelle "sciences
humaines et sociales" pour la plupart.
Mon sujet, je peux désormais le
délimiter : je veux ici m'interroger sur ce que peut
la réflexion des mathématiques, sur les styles
qui lui sont disponibles et sur les pouvoirs de ces styles,
que j'essaierai d'évaluer par rapport à
l'exigence ultime de la non-trahison. Y a-t-il une
réflexion des mathématiques qui ne les trahit
pas, plus simplement même qui ne les oublie pas, qui
ne s'engage pas dans un problème et un régime
de pensée absolument étrangers à elles
?
Pour répondre, il faut commencer
par décrire un peu mieux cette difficulté en
évoquant ce qui se fait en matière de
réflexion des mathématiques.
Immanence de l'histoire des
mathématiques
L'histoire des mathématiques est
déjà présente à l'exercice
même de la mathématique : le
mathématicien n'a pas besoin de sortir de soi pour
être conducteur de sa propre histoire. Certains
contenus s'enseignent naturellement en termes de leur
histoire. Dans son petit livre rouge, David Mumford remonte
à Klein pour nous convaincre de ce que le
schéma était l'objet attendu par ceux qui
étudiaient les corps de nombres et les corps de
fonctions (1). Cela fait partie du rythme même de
l'accumulation et de la communication du savoir que, de
temps à autre, un livre récapitulatif ou un
grand article de synthèse raconte dans quel ordre les
concepts ont été introduits et par qui. Les
mathématiciens sont même enclins naturellement
- en dépit de l'adoration qu'ils portent
généralement à la présente
façon de dire, à ce langage chèrement
acquis où tout se place et se laisse comprendre -
à minimiser la différence entre les grands
anciens et les grands modernes, et à écouter
tel ou tel fragment d'un maître fameux des temps
révolus en étant prêt à lui
reconnaître la prescience, non seulement du
présent, mais encore du futur : Gauss, Euler,
Poincaré, seront relus dans ce climat de
religiosité intemporelle qui rend l'histoire vivante
en la niant.
Plus simplement, les historiens des
mathématiques, du moins dès que la
mathématique est suffisamment proche, sont
génériquement des mathématiciens, la
plupart du temps de haute compétence. Leurs colloques
incorporent volontiers les artisans de la nouvelle
compréhension mathématique. Retracer
l'histoire de la mathématique, c'est, sans doute,
débroussailler l'entrelacs des mémoires, des
notes de cours, des traités, retrouver l'information
qui permet de comprendre le cheminement de la trouvaille,
c'est, en bref, situer le développement de l'anecdote
conceptuelle de la mathématique dans le temps
objectif/universel/historique. Mais c'est aussi et avant
tout comprendre ce qui a été affirmé,
démontré, conjecturé, et saisir dans sa
précision ce qui a été
l'enchaînement conceptuel d'un moment à l'autre
de l'aventure. Jean Dhombres, à Genève l'an
dernier, exposant l'histoire fort récente de la
théorie topologique de la dimension, conclut en
concédant que l'histoire ne faisait jamais autre
chose que dire "Z est venu après Y qui venait
après X" : il me semble comprendre qu'il voulait dire
qu'elle n'ajoutait rien à la teneur technique des
œuvres que le marquage de leur succession. Mais bien
sûr, il ne l'ignorait pas et voulait sans doute aussi
le signifier, c'est tout un travail de marquer la succession
comme telle, de dire et montrer en quoi consiste la reprise,
la généralisation, l'approfondissement. Ce
travail, pourtant, ne se sépare pas essentiellement
de la mathématique, de son projet, de son tribunal,
de l'amour de ce qui la motive, oserait-on dire. Giusti, au
petit déjeuner à Marseilles-Lumigny, il y a
sept ans, nous disait que l'historien était celui qui
recensait et localisait les si nombreuses pierres qui
composent telle voûte, vestige romain, et que
l'insight philosophique, de ce point de vue, ne pouvait
jamais être que la mention de la clef de voûte,
celle qui fait tout tenir mais ne le peut qu'en raison de la
présence de toutes les autres. Fidélité
du détail et proximité à son objet de
l'histoire des mathématiques, réduisant la
mission d'une philosophie manifestant la pensée de la
mathématique à un supplément
infinitésimal, même si l'on est prêt
à le dire nécessaire.
Pourtant, cette histoire n'est pas, comme
réflexivité, suffisante à
elle-même. De son intérêt
passionné pour la mathématique naissent
forcément des questions qui échappent
radicalement à sa compétence. Soit par exemple
la discussion archi-classique sur l'origine du calcul
infinitésimal : faut-il acquiescer à la
tradition qui nous dit que le calcul infinitésimal a
été inventé par Newton et Leibniz de
manière indépendante et à des dates
comparables ? faut-il proposer au contraire une
réécriture révolutionnaire de la
tradition, et prêter à Barrow, Cavalieri ou
Pascal la véritable initiative de cette mutation
prodigieuse ? Quelques arguments purement historiques, sur
ce qui, de fait, est inscrit dans les œuvres de tel ou tel,
peuvent sans doute être échangés. Mais
le fond de l'affaire est bien évidemment de savoir si
tel raisonnement de Pascal qui se donne le pouvoir du calcul
différentiel sans en avoir le langage et la
thématique, tel calcul mis sur pied par Cavalieri
sans conscience évidente de sa
systématicité et de sa
généralité valent comme
découverte du calcul infinitésimal. Qu'est-ce
qui fait critère pour l'acquisition d'une
époque de la mathématique : le frayage de la
résolution d'un problème, l'institution d'un
langage, ou la circonscription pensante d'un objet ? Mais
cette question, de toute évidence, appelle une
méditation de philosophie des
mathématiques.
C'est, de fait, un trait de notre
"histoire des mathématiques intrinsèque"
qu'elle ne cesse de confiner à la philosophie ; un
peu comme notre critique littéraire, ce qui nous
rappelle que la France est le pays du tour philosophique de
la critique, plus certainement que celui de la critique ou
de la philosophie.
Histoire et philosophie des
mathématiques
Mais justement, qu'en est-il de la
philosophie des mathématiques, que je nomme comme une
rivale possible de son histoire vis-à-vis de la
tâche de réfléchir les
mathématiques ? Elle n'est pas conçue de la
même manière ici et là, et notamment de
part et d'autre de l'Atlantique (ou de la Manche,
déjà). Mais si nous commençons par
prendre en considération celle qui a cours chez nous,
nous découvrons aussitôt une dépendance
symétrique, et plus surprenante que la
première. La philosophie des mathématiques ne
sait pas si bien se distinguer de l'histoire des
mathématiques. J.-T. Desanti, auteur avec les
Idéalités
mathématiques
d'un des ouvrages les plus représentatifs de la
philosophie des mathématiques au cours des
dernières décades, n'a pas écrit en la
matière un texte qui s'écarte beaucoup des
standards de l'histoire des mathématiques. La part
centrale du livre, en effet, est d'abord une reconstitution
minutieuse du parcours suivi par Zermelo après Cantor
pour arriver à la formulation moderne de la
théorie des ensembles. Et l'histoire ne
s'arrête pas là : Corps et Modèles
de Hourya Sinaceur est solidement organisé autour
d'un thème historique ; même le récent
livre de G. Châtelet, en dépit de l'intention
sienne de réanimer la vision de la Naturphilosophie, ou
plus radicalement peut-être, de manifester la vie et
la force du tour dialectique de la pensée, passe par
une évocation des textes qui se coule pour une part
dans l'humus historique. L'auteur de cet article
espère que vous pourrez bientôt lire son Le
constructivisme non
standard, qui, bien que
constamment organisé autour d'une thèse
strictement philosophique sur l'objectivité
constructive et l'objectivité corrélative, se
présente aussi, indubitablement, comme une histoire
récente (et partiale) de l'analyse non
standard.
C'est que la philosophie des
mathématiques ne veut pas trahir, et pour ne pas
trahir le génie de la mathématique, elle ne
trouve d'autre moyen que de la faire parler. Mais alors,
c'est une simple conséquence de l'assomption de son
poste de parole, en tant qu'il se distingue de celui de la
mathématique en marche, qu'elle brosse l'histoire de
la mathématique au moment où elle lui donne la
parole, qu'elle le veuille ou non. J'ai écrit
ailleurs (2) cette complicité essentielle entre le
projet de restituer la mathématique et celui de faire
son histoire, en y voyant ce qui définit une des
modalités fondamentales de
l'épistémologie aujourd'hui.
N'y a-t-il pas, pourtant, moyen de faire
une philosophie au plus près de la
mathématique sans en faire l'histoire ? A. Lautman a
proposé une façon de faire qui paraît
remplir ce programme. Lautman, on le sait, tient que la
mathématique est le développement dialectique
d'idées
problématiques, à
travers les théories qui s'affichent dans l'histoire
des mathématiques. Il identifie ces idées - en
partie en se réclamant de la méthode
platonicienne de la dichotomie - au moyen d'un couple de
contraires métaphysiques, ainsi le couple
local/global. Il ne lui reste alors qu'à retracer
comment les théories connues de lui, qu'il choisit
préférentiellement parmi la recherche
contemporaine de son travail, donnent une signification plus
complète et plus saisissable - en même temps
que plus pénétrante - au potentiel contrastif
de tels couples. Ce cheminement parmi les démarches
de la mathématique présente est aussi à
ses yeux ce qui en manifeste l'unité :
l'unité n'est pas dans le fondement commun - logique
ou relation à un mode archétypal de l'objet -
mais elle est l'inter-résonance des théories,
il s'agit de ce qu'on peut appeler avec Jean Petitot (3) une
unité sémantique,
unité du grand récit de la mathématique
en quelque sorte, à comprendre comme unité du
drame du développement des idées
problématiques.
Lautman, donc, semble avoir trouvé
une façon de faire parler la mathématique dans
la philosophie qui ne manque pas simultanément
à la tâche de réfléchir
philosophiquement la mathématique. Et, qui,
corrolairement, évite le piège de l'histoire
comme lieu impuissant mais privilégié de la
réflexion du mathématique.
Mais est-il si sûr qu'il ait
tracé pour nous une telle voie ? Ou plutôt, sa
façon de l'avoir tracée ne proroge-t-elle pas
le piège autant qu'elle le déjoue ? L'examen
de l'opération effective du texte de Lautman, en
effet, nous révèle que l'intégration
des segments restitutifs de la mathématique aux
segments proprement philosophiques n'y est pas certaine, n'y
est pas évidente ou en tout cas n'est pas
commandée par la facture et le rythme propre de
l'exposition. Il y a d'un côté l'explication de
la conception directrice pour lui des idées
problématiques et de leur incarnation dans des
théories, explication qui se fait dans le genre
philosophique et sans recours aux illustrations techniques :
discussion du rapport entre les Idées et
les Nombres chez Platon (4), de la proximité de la
notion de genèse
mise en avant pour décrire
l'effectuation des Idées dans les théories et
la notion de déclosion chez
Heidegger (5), etc. Et il y a de l'autre la restitution des
théories mathématiques jugées
pertinentes. Certes, le raccord se fait en ce sens que
Lautman dit bien comment la théorie "distribue" les
rôles du couple contradictoire de l'idée, il y
a un travail de rattachement au contenu idéel qui est
en fait un travail d'ordre interprétatif, à
chaque fois. Et ce travail serait la réflexion
philosophique des mathématiques proprement dite. Mais
c'est justement la part du travail de Lautman que sa
philosophie n'assume pas, au sens où elle ne la
relève pas au plan d'un discours de la
méthode, ayant valeur d'institution et de promotion
d'un genre.
Il en résulte que le texte de
Lautman est menacé d'un éclatement auquel son
projet ne survivrait pas : de cet éclatement
résulterait le face à face sans rapport de
sens entre
- une restitution des
mathématiques qui tôt ou tard, céderait
à la conceptualité purement
mathématique, l'unité ne se donnant plus
à lire par rapport à l'esquisse
idéelle, mais dans l'explicitation
unifiante/structurante procurée par les objets et les
stratégies du mathématique lui-même
;
- et une théorie philosophique des
idées problématiques source du
déploiement conceptuel de la mathématique
purement sous juridiction philosophique, la tentative
d'établir la communauté de sens entre les
contenus esquissés dans ces idées et les
contenus articulés dans les théories
n'étant plus assumée.
Mais, demandera-t-on, dans quelle mesure
est-il possible de soutenir que ce danger est
évité, qu'il n'en est pas ainsi ? Dans la
mesure, bien évidemment, où l'activité
interprétative des théories
mathématiques est accomplie, et où
l'identité des idées mathématiques
transcendant ces théories, mais de part en part
responsables d'elles, est recherchée pas seulement
comme une variante philosophique de l'idée
d'idée, mais aussi comme singularité historiale
appartenant à la tradition mathématique autant
qu'elle en est le ressort secret. Mais le lieu ou
l'élément qui sauve ainsi le projet lautmanien
est à l'évidence un lieu de l'histoire : ce
n'est sans doute pas toute histoire des mathématiques
qui est par là impliquée, mais
l'interprétation des théories par rapport
à la transcendance idéelle qui leur convient
ne saurait accéder à la rectitude à
laquelle elle se doit ailleurs ou autrement que dans
l'histoire. En d'autre termes, c'est l'histoire des
mathématiques qui avère si tel contenu
informel présentable comme esquisse peut en effet
valoir comme le coup de dés problématique en
regard duquel les théories sont des incarnations, des
réponses, des élaborations
recouvrantes.
La réflexion
fondationnelle
Mais n'y a-t-il pas, après tout,
une réflexion des mathématiques ayant pignon
sur rue, ayant prouvé sa profondeur, son
efficacité, sa fécondité depuis un
siècle environ, et dont l'étrangeté
à l'égard de l'histoire est certaine ?
Comment, traitant d'une telle question, négliger ce
qui est sans nul doute le mode de réflexion des
mathématiques le mieux installé à
l'échelle mondiale, à savoir le
mode fondationnel ?
Le point de départ à la
fois conceptuel et historique de cette réflexion est
un mouvement intérieur à la
mathématique : ce sont les mathématiciens
eux-mêmes, à la fin du siècle
précédent et surtout au début de
celui-ci, qui, pour un ensemble de motifs complexes et
variés, en sont venus à penser - et plus
précisément à penser techniquement -
les fondements des mathématiques. D'un
côté, l'exigence de l'évolution de
l'analyse - c'est-à-dire au fond le vœu de plus en
plus marqué de représenter les nombres
inscriptibles et les fonctions explicitables au sein d'un
monde infiniment vaste de possibilités - de l'autre
les difficultés logiques soulevées au fur et
à mesure par l'ébauche de reformulation des
mathématiques comme connaissance des ensembles, ont conduit
à la nomination d'un certain nombre de
problèmes fondationnels, à la
définition de la notion de système formel et de méta-mathématique, et de
proche en proche au déploiement de tout le continent
logico-mathématique, avec les théories de
l'effectivité, la théorie des modèles,
la théorie de la démonstration, la
théorie axiomatique des ensembles et ses
développements (théorie descriptive, grands
cardinaux), la théorie des catégories et ses
emplois fondationnels ou logiques divers (versions
catégoriques de la constructivité, fondements
toposiques).
En principe, le caractère
intérieur aux mathématiques des recherches
fondationnelles est d'emblée garanti par la
technicité de ces recherches : la méthode pour
arriver à des résultats, énoncer des
conclusions, même dans ce que celles-ci ont de
relativement, apparemment ou extérieurement
philosophique est le raisonnement constructif ou la
déduction dans des systèmes formels
convenablement spécifiés, comme il en va - de
nouveau en principe - dans les mathématiques
ordinaires, non fondationnelles, dites en
général "intuitives".
La question que je veux poser est
simplement : les recherches fondationnelles
réfléchissent-elles réellement les
mathématiques ?
En un sens, les recherches
fondationnelles réfléchissent certainement les
mathématiques : partant de celles-ci comme un
factum rationis, elles en élucident certains aspects
absolument décisifs. Il est de fait que la
mathématique se manifeste spontanément comme
discours prédicatif quantifié, et la
définition canonique de la logique des
prédicats du premier ordre aussi bien que la
théorie de la démonstration - disons le calcul
des séquents de Gentzen - explicitent de
manière achevée (pour un sujet intuitionniste)
ce que sont les phrases formelles et la déduction
dans un système formel. Nul doute que ces concepts,
ces règles, ces théorèmes n'expriment
une structure attestée ou un usage en vigueur dans
l'activité mathématique ; et ce en
dépit de l'énorme distance, reconnue
même par Bourbaki dans son traité inaugural,
qui existe entre le parler effectif d'un
mathématicien en activité et l'épure
formaliste du langage et de la preuve. De même la
théorie des modèles est sans nul doute une
expression adéquate, comme résultat de
réflexion, du dialogue naturellement engagé
dans la mathématique entre les listes d'axiomes et
leur réalisations. Donc, en un certain sens du mot
réflexion, il est indéniable que les
développements fondationnels sont une
réflexion. Mais en même temps, ils n'en sont
pas. Le mot réflexion
désigne ici le travail par lequel un immanent est
abstrait, à vrai dire, est inventé comme
possiblement abstrayable. Le réfléchi incarne
alors une idéalité de la justification
possible, un espace de légitimation où
pourrait se projeter l'exercice de la mathématique
sans se défigurer d'une manière essentielle,
mais au prix d'un travail de projection justement, qui
soustrait la mathématique à sa vie
propre.
C'est que mathématique est en fait
un jeu qui refuse la séparation du fondement, la
limitation de l'exactitude au fondement. L'exactitude, y
compris scripturale, conceptuelle, linguistique, anime de
part en part la mathématique. L'énonciation de
n'importe quelle règle du jeu, la
caractérisation de n'importe quel objet en mode
axiomatique, la conduite de n'importe quel calcul, quel que
soit le degré d'irréfragabilité
fondationnelle que la réflexion logique lui accorde,
est porteuse de l'exactitude mathématique dans toute
son envergure. En sorte que la réflexion
fondationnelle, en ne retenant en quelque sorte du mode
exact de la mathématique que sa fonction
structurante, en perd la trame essentielle : le récit
qu'elle est, la vision prophético-fantasmagorique
d'un monde d'objets qu'elle ne cesse d'accomplir, comme
laquelle elle ne cesse de se motiver elle-même. Une
réflexion "grammaticale" n'est pas une
réflexion au sens plein du mot, surtout pas, en
dépit de ce qu'une pensée courte pourrait
croire, pour une discipline qui habite en permanence
l'exactitude grammaticale. Et tel est bien le grief latent
toujours adressé par les mathématiciens aux
logiciens, leurs semblables, leurs frères.
On pourrait objecter à cela, non
sans pertinence, que la logique mathématique
contemporaine est justement largement sortie de cette
position. La théorie des modèles telle que la
concevait A. Robinson, et comme l'a expliqué de
façon très pénétrante Hourya
Sinaceur, n'était pas une pure et simple
réflexion fondationnelle des mathématiques
comme discours de vérité ou axiomatique
réalisée. Il s'agissait plutôt d'une
"méta-algèbre générale" ou d'une
heuristique linguistique supérieure (6): la
possibilité technique et contingente de voir les
classes d'objets comme classe des modèles de
certaines théories du premier ordre ouvrait la voie
à une animation intelligente des stratégies de
démonstration, à la fois à une saisie
unitaire mathématiquement intéressante des
théories existantes et à l'introduction de
nouvelles notions liées à la recherche
modèle-théorique (telle la notion de corps
différentiel clos ou celle d'élargissement du
corps des réels ouvrant la voie à l'analyse
non standard). De même la théorie des
catégories est-elle originairement une
réflexion des mathématiques (autre que la
théorie des ensembles) dégagée pour les
besoins du développement de l'algèbre
homologique, elle-même outil au service de la
topologie et de la géométrie
algébriques. Mais les théorisations de type
logique que la théorie des catégories apporte
depuis quelques années ne sont
généralement pas, ou pas toutes, ou
guère des réflexions fondationnelles au sens
strict. Que la théorie des topos bien pointés
supporte l'interprétation en elle de ZF - et soit
donc un fondement possible de la mathématique sans
axiome du choix - est sans doute un aspect moins important
de la moderne logique catégorique que la mobilisation
de la notion de catégorie de faisceaux au service de
l'intuition d'ensembles "en évolution", ou que
l'analyse profonde des conditions catégoriques d'un
discours de la localité
autorisée par la
théorie des topologies de Grothendieck ou de
Lawvere-Tierney.
En résumé, on peut dire que
la logique mathématique s'est justement
émancipée de l'intérêt
fondationnel depuis l'après-guerre en gros, et
qu'elle serait maintenant une authentique réflexion
de l'intrigue mathématique elle-même, et non
plus de son soubassement ou sa norme d'exactitude.
Certes. Mais cette évolution,
d'une part, n'emporte pas la totalité de la logique,
d'autre part, elle modifie le sens du mot réflexion. Il
n'est pas généralement vrai que la
mobilisation de l'outil logique, lorsqu'elle est de ce
nouveau type, fournisse une réflexion au sens d'un
rapatriement de la signification mathématique
auprès du rapport de soi à soi du sujet,
auprès de son auto-affection pensante
pré-formelle. Si l'explicitation des doctrines
fondationnelles, en durcissant ce qui est à entendre
comme objet, construction, calcul, phrase, opère ce
genre de retour, le jeu passionnant de la réflexion
logique du mathématique, le plus souvent, passe par
un outil logique de bonne complexité
mathématique, en sorte que c'est en termes
mathématiques seulement, en fin de compte, que la
réflexion peut être comprise comme
telle.
Donc l'évolution de la logique
semble nous mettre en présence d'une part d'une
véritable réflexion fondationnelle, mais qui
perd une part essentielle de ce qui est à
réfléchir, et d'autre part d'une fausse
réflexion mathématique, bien en prise sur le
jeu vivant de la mathématique, mais non
réellement réflexive au sens fixé
depuis le début de cet article.
Mais peut-on combler cet écart
entre la réflexion fondationnelle et la
réflexion mathématique ? Une
élaboration technique des fondements devrait,
à cette fin, satisfaire à une double exigence
:
- être un véritable discours
conceptuel, et pas un calcul, dire et situer des
significations, et non pas déployer une intrigue
objective ;
- exprimer quelque chose de ce qui est
l'enjeu et la vie pour les mathématiques, et qui a
tout à voir, on le sent, avec les structures et les
objets dont il s'y agit.
Le problème, peut-être,
découle de la différence des
temporalités concernées par les deux
exigences, avant même qu'il soit question de la
difficulté la plus évidente, et qui est que
tout discours technique est de prime abord une dissimulation
du sens. Un discours, une théorie, un schème
fondationnel, se présentent comme antérieures
au sens de
l'antériorité logique au discours mathématique fondé. La
mise en place du calcul des prédicats, avec un de ses
modes d'inférence, la réduction des
mathématiques à la dérivation en ce
sens au sein de la théorie du premier ordre
particulière qu'est ZFC, est à la fois une
œuvre intemporelle, détachée de tout
cheminement démonstratif particulier et daté,
et quelque chose qui, pour autant que la réduction
réussisse, sera présenté comme
"l'avant" de chaque production de savoir mathématique
répertoriée de l'histoire.
À côté de cela, "ce
qui est l'enjeu et la vie" pour les mathématiques est
une notion nécessairement liée à un
temps singulier de l'activité et j'oserais dire du
désir mathématiques. Cela ne peut s'expliciter
que par rapport à une certaine représentation
du paysage des objets et des problèmes, un certain
état des valorisations ambiantes, et même la
sédimentation d'une certaine histoire de la
recherche, de l'encyclopédie, de l'université,
de l'institution d'enseignement. Pour beaucoup de ceux qui
ont aujourd'hui entre quarante et soixante ans, la
géométrie algébrique grothendickienne
vaut comme épicentre mythique de la vie
mathématique, et cette valeur n'est
indépendante, ni de la place qu'a tenu
l'encyclopédisation bourbachique dans la conscience
nationale (que J. Dieudonné soit co-rédacteur
des SGA compte), ni de ce que les outils de cette
géométrie algébrique française
ont été progressivement investis dans
l'approche des grands problèmes de la théorie
des nombres, jusqu'à Fermat, ni finalement de
l'implantation - puis du démantèlement - des
mathématiques dite modernes dans l'enseignement. Mais
d'autres assignations de l'"enjeu et la vie", plus
présentes à d'autres esprits abordant la
mathématique autrement et souvent à un autre
moment sont possibles (ainsi la vision de la
géométrie - ou de la théorie des
systèmes dynamiques - comme la grande affaire ou
encore l'appréhension de l'essor des
mathématiques discrètes et du point de vue
constructif comme l'élan majeur).
La tâche d'une réflexion
fondationnelle qui serait une véritable
réflexion des mathématiques serait au fond de
produire une systématisation fondationnelle qui soit
en rapport avec ce qui est senti comme et se manifeste comme
l'enjeu et la vie à un moment. De mettre en quelque
sorte le temps de l'antériorité logique au
service du temps propre de la mathématisation, du
temps en lequel et par lequel la tension de la
mathématique vers son accomplissement s'exerce. Le
discours fondationnel montrerait en quelque sorte avec quel
jeu sur les grandes options logiques fondamentales
concernant les moments catégoriaux de la
mathématique le développement vivant de cette
dernière dans sa complexité entre en
résonance. Il le ferait en emportant quelque chose de
cette complexité dans la grande
simplification/épuration qu'il opérerait afin
de dégager le rôle de ces moments
catégoriaux. Il s'agirait au fond d'un emploi des
ressources logiques ou fondationnelles analogue de l'emploi
préconisé par Lautman des "idées
problématiques platoniciennes" : on établirait
la connivence philosophique entre les mathématiques
et certains éléments conceptuels, mais ceux-ci
seraient plutôt vus comme les moments
présupposés par un usage logique que comme des
esquisses transcendant tout système inscrit (les
idées de Lautman).
Pour moi, ce qui compte, on l'aura
deviné, c'est que cette véritable
réflexion fondationnelle, telle que je l'anticipe,
n'est plus exempte d'attitude historique. Elle passe
nécessairement par une appréhension historique
d'une situation mathématique, au moins en un certain
sens du mot histoire, puisqu'elle doit dégager le
fondationnel pertinent pour un enrichissement daté de
la théorisation mathématique.
L'impossibilité d'échapper à la
fenêtre historique pour la réflexion des
mathématiques s'affirme à nouveau, d'une
façon assez semblable à ce que nous avions vu
à propos de la philosophie des mathématiques
lautmanienne.
Mais, dira-t-on, toutes les
modalités de la réflexion mathématique
envisagées jusqu'ici ont quelque chose de commun. Il
s'agit de réflexions qui prennent le parti de
respecter infiniment la mathématique effective et son
régime de vérité. Ce n'est guère
surprenant puisque nous avions inclus l'exigence de
fidélité dans la définition de ce que
nous appelions réflexion des mathématiques.
Mais la fidélité ne peut-elle s'accomplir que
par la voie de ce type d'attention et de proximité ?
Une autre hypothèse est que l'essence de la
mathématique est son caractère de science, et
que la réflexion fidèle est donc celle qui
réfléchit les mathématiques de
manière scientifique. De nos jours, deux sortes de
démarche prétendent réussir une telle
opération : la démarche cognitive et celle des
science studies.
(1) Mumford D., Introduction to Algebraic
Geometry, 122.
(2) Cf. L'herméneutique formelle, Paris,
Editions du CNRS, 213 - 216.
(3) Lequel est certainement, parmi les auteurs que font
vivre la philosophie des mathématiques en France
aujourd'hui, celui qui, s'attachant à reprendre le
projet de Lautman, reste le plus à distance du point
de vue de vue historique: sauf peut-être, de
manière implicite et négative - en voulant
toujours prendre en compte de manière
privilégiée les résultats les plus
récents de la mathématique.
(4) Cf. "Essai sur les notions de structure et
d'existence en mathématique", in Lautman, Essai
sur l'unité des mathématiques, Paris,
Union générale d'Editions, 1977, 143-146.
(5) Cf. "Nouvelles recherchers sur la structure
dialectique des mathématiques", ibid.,
204-209.
(6) Cf. notamment l'article Une origine du concept
d'analyse non standard, in La mathématique non
standard, paris : 1989 Editions du CNRS, p.143-156.
ggggg