Mathématiques, Mind et Geist (1)

Jean-Michel Salanskis

 

 

Accueil | Biblio-net | Philo-net magazine | Agenda | liens | Recherche

  Professeur de philosophie à Nanterre, Jean-Michel Salanskis est l'auteur de L'herméneutique formelle (Paris: Editions du CNRS, 1991), Heidegger (Paris: Les Belles Lettres, 1997), Le temps du sens (Orléans: Hyx, 1997), Husserl (Paris, Les Belles Lettres, 1998), Le constructivisme non standard (Lille, Presses Universitaire du Septentrion, 1999).

Parution Novembre 2000: Modèles et pensées de l'action (Paris, L'Harmattan, Collection Action et savoir). 

La situation contemporaine impose en quelque sorte deux notions d'esprit : jouant sur les possibilités de traduction, je distinguerai dans ce qui suit entre l'esprit comme Mind et l'esprit comme Geist. J'aurai à cœur, non seulement de définir le Mind, objet congénital des recherches cognitives, et d'exposer le conflit entre les deux constructions mathématiques dont il relève, mais encore de présenter le Geist de la philosophie lui aussi dans une relation constitutive avec les mathématiques, pour explorer diverses résonances et surdéterminations entre la duplicité Mind-Mind et la polarité Mind-Geist. Dans un second temps de cette étude, je tâcherai de donner une définition personnelle du Geist et du Mind, puis d'interroger à nouveau la mathématique dans son rapport à chacun d'eux suivant cette nouvelle perspective, plus spécifiquement philosophique.

Commençons donc par le Mind et sa double interprétation.

L'aporie du Mind

Le Mind est, donc, l'esprit de la philosophy of mind, celui qui est une partie de la nature, et dont on veut fournir une description ou une explication de type scientifique, suivant le projet des sciences cognitives.

Si, par le passé, la visée d'une science de l'esprit a pu donner lieu à divers savoirs de type philosophique au sens le plus large, de l'herméneutique diltheyienne à la sémiotique structurale, le projet cognitif inclut en quelque sorte dans sa définition qu'il ne puisse pas en aller de même cette fois. La réduction cognitive de l'esprit se doit d'être une vraie réduction à ce que la science a de plus scientifique, à la science répondant au type de la physique mathématique s'entend. L'immensité du projet est suffisamment ressentie pour qu'on s'accommode d'hésitations stratégiques profondes, qu'on se dise prêt à des aggiornamento radicaux, au gré desquels, par exemple, il pourrait être décidé de mettre en position directrice pour un temps la biologie et les neurosciences, il n'en reste pas moins que dans une telle hypothèse, ces disciplines elles-mêmes seraient mises en jeu en tant que virtuellement susceptibles d'être ramenées au standard de la physique. Si les neurosciences "rendaient compte" de la performance intelligente de l'homme sans sortir de leur caractère largement descriptif, taxinomique, l'entreprise cognitive, il me semble, ne pourrait être estimée avoir réussi, un doute s'élèverait sur la nouveauté du résultat, il resterait possible d'imaginer qu'on s'est une fois de plus contenté de raconter l'esprit en termes de lui-même. Donc, il s'agit de se donner un traitement scientifique du comportement spirituel qui soit semblable au traitement de la nature par la physique mathématique, l'intervention des mathématiques est quelque part décisive pour garantir que la couverture de l'esprit proposée n'est pas réflexive, circulaire, interprétative.

Le Mind ne peut être consacré Mind que par une mathématisation. En sorte qu'il n'y a rien de surprenant à ce que les grands paradigmes s'affrontant aujourd'hui dans le champ cognitif se laissent définir comme deux façons de concevoir l'instrumentalisation des mathématiques au service d'une science de l'esprit.

En bref et en substance, le "computo-représentationnalisme" - la doctrine fixant ce qu'on appelle paradigme symbolique - se caractérise de manière optimale par la thèse selon laquelle le propre mathématique de l'esprit est la logique, ou encore selon laquelle la modélisation adéquate du fonctionnement mental est donnée par la métaphore de l'ordinateur, ou, pour le redire dans le langage même de l'instance modélisante, la modélisation de l'esprit repose sur l'égalisation de son fonctionnement à un calcul ou une dérivation formelle.

De son côté, la modélisation "dynamiciste" de l'esprit a pour article fondateur cette idée que la "pensée" est à chaque fois la stabilisation d'une dynamique spirituelle en l'un de ses attracteurs. Idée qui a été formulée en propres termes par C. Zeeman dans le sillage de R. Thom (c'est ce qu'on appelle le modèle de Thom-Zeeman), et qui a été reprise telle quelle mais sans la mémoire de ce précédent par le connexionnisme moderne. Le dynamicisme existe à vrai dire en une variante radicale qui garde l'idée de stabilisation mais ne croit plus en la localisation représentationnelle de la pensée, ni même sans doute en la localisation cérébrale de la dynamique pertinente : c'est la variante du constructivisme pur et dur, du paradigme de l'enaction, de la vie artificielle, qui demande qu'on remonte au dynamisme sous-jacent au processus vital, ce qui veut dire notamment que l'on ne comprendra pas la pensée en se donnant le sujet tout fait, avec des modes de traitement prédonnés de la stimulation externe, fussent-ils non logiques.

Il n'est au fond pac exclu, je l'écris pour le moment à titre de remarque en passant, que cette dilution trans-subjective ou plutôt "Être-au-monde-iste" de la mathématisation dynamiciste de l'esprit ne soit également possible dans le cadre du paradigme symbolique : on obtient alors une conception cognitive de type wittgensteinien, qui accepte que le sens et son élaboration soient figurés au niveau logique, mais qui refuse l'idée de l'implantation subjective d'une machine logique de cette élaboration fondamentale du sens (la machine pertinente est sociale ; de plus, elle est sans doute indéterministe, ce qui commence, il est vrai, à gauchir sérieusement le modèle, mais pas pour ce qui regarde son "style" mathé-ma-tique).

Cette affaire de subjectivation et de localisation, cela dit, n'est pas immédiatement ce qui nous occupe. Ce qui nous concerne est plutôt l'aporie de la confrontation des deux intentions de modélisation, qu'on pourrait appeler aporie du face-à-face Fodor-Pylyshyn/Smolensky. En effet les deux modélisations s'affrontent clairement comme celle du discret et celle du continu, mais chacune est profondément entamée, envahie par l'idée de la légiti-mité de l'autre, la bataille épistémologique portant simplement sur la plausibilité de la capture par l'une ou l'autre de ces modéli-sations de ce qui lui manque.

La modélisation symbolique sait qu'elle doit résoudre le triple problème de la tranduction sensorielle, de l'implantation (= de l'architecture fonctionnelle) et de la tranduction motrice, qui est un triple problème de "quotientage" d'une configuration continue en vue de l'obtention de structures discrètes. Il faut comprendre comment les flux d'information sensorielle, nécessairement donnés dans une paramétrisation continue par le naturalisme physique, sont convertis en de l'information symbolique pertinente pour le "calculateur spirituel" par un processus physiologique lui-même appréhendé par une biologie tenant compte de cette paramétrisation. Il faut comprendre comment les processus neurophysiologiques effectuent les opérations symboliques de base, présupposées par une architecture fonctionnelle que l'on a été amené à spécifier sur la base d'indices behaviouristes : de nouveau, le hiatus épistémologique est celui du continu et du discret, les affaires chimio-électriques du cerveau n'ont aucune raison d'être d'emblées "discrètes". Il faut enfin comprendre la transduction motrice, c'est-à-dire la restitution d'actions continues du corps à partir de la "sortie" du calcul mental. Or les problèmes techniques et théoriques soulevés par cette triple entreprise sont visiblement immenses. On a le sentiment, et de multiples indices "expérimentaux" l'attestent, qu'il n'est jamais vrai que l'information ou la pensée se "retirent" dans un quotient discret, que la variation continue d'en bas ou du fond ne cesse jamais de pouvoir compter, qu'il n'y a pas de critère physique de similitude susceptible de fonder ou justifier l'oubli, que l'esprit reste constamment en prise sur la totalité du réel qui le meut/qu'il meut, cette totalité étant à proprement parler sa situation.

Symétriquement, la perspective connexionniste ou dynamiciste ne peut jamais effacer l'achèvement langagier-catégoriel de la pensée. Au bout du compte, il n'y a rien que nous appelions intelligence qui se manifeste autrement que par des verbalisations compétentes dans des langues. Lorsque le jeu d'un grand numéro 10 (Pelé, Crujiff, Maradona, Platini, Zidane) est analysé comme intelligent ou génial, cela signifie toujours qu'il est "entendu" au-delà de la série de gestes datés en lesquels il a consisté, ou plutôt que cette donnée gestuelle est récapitulée et ressaisie dans son adaptation à des fins, cette adaptation elle-même étant nécessairement jugée par rapport à un système de places, de qualités, de circonstances nommables et par avance discrétisées. Ce n'est pas la trajectoire des coups francs de Platini, dans sa déterminité ensembliste, qui est l'intelligence, mais c'est d'une part la solution du problème complexe posé par le mur, la distance au but et l'angle d'approche qu'elle fournit - accessoirement avec l'additif d'un jeu de feinte avec les partenaires - d'autre part l'élément esthétique et analogique exprimé par l'adjectif "feuille morte" dans son application au tir : jamais le continu comme tel, mais des déterminations "à issue discrète" qui s'affectent à ce continu. En dépit du rôle tout à fait essentiel que joue la forme, la morphè pour l'accomplissement de la pensée ou l'intelligence comme telles, cette morphè n'est pas pas suffisante à nous placer dans le registre de ce qui vaut comme pensée, il y faut encore la signature d'une verbalisation ou d'une catégorialité. Strictement la forme de la trajectoire avec la pénétration ultime du mobile dans l'aire du but n'est pas encore le "coup", la performance cognitive, elle reste à ce stade insensée : la qualification multiple évoquée à l'instant, en termes de conditions environnantes nommables, de la notion métamathématique de problème, et de prédicats esthétiques synthétisants est ce qui proprement fait sortir la configuration spatio-temporelle ontique de l'insignifance. Cette dépendance de la pensée, de la cognition sur le langagier et le catégoriel dépend elle-même de ce que nous entendons et comprenons sous le nom de sens. Au bout du compte, pour que nous parlions de comportement cognitif, il faut qu'il y ait production de sens, et cela ne se peut que pour autant que du dicible renvoie à du dicible, il n'y a sens qu'autant qu'un renvoi est instauré dans le champ du dicible. L'importance du catégoriel, à cet égard, correspond à une modalité du renvoi, la modalité de subsomption.

La discussion technique-critique de la modélisation connexionniste, rapportée par exemple par Livet dans son [1995] (1), me semble ne pas avoir un autre objet. La systématicité et la compositionnalité qui sont mises en avant par Fodor et Pylyshyn comme requisits à l'égard de tout modèle cognitif correspondent à cette idée du renvoi et de la catégorialité : la systématicité (le fait que, si je sais penser la subsomption de x sous F et de y sous G, je sais aussi penser la subsomption de x sous G et de y sous F) correspond à l'idée que le catégorial se sépare comme quelque chose à quoi il peut être renvoyé de façon stable, et ne reste pas absurdement l'enveloppe singulière et exceptionnelle d'un singulier à chaque fois ; la compositionnalité correspond à l'idée que la structure de certaines performances, qui sont privilégiées pour un compte rendu particulier au titre de leur structure justement, s'explicite comme renvoi mutuel des termes assemblés et du terme assemblant, ce qui, on le sait, sur un plan logico-mathématique, se figure au moyen d'arbres. Or, ce qui ne semble pas possible, en substance, c'est que la fiabilité régulière de ces renvois, leur façon d'avoir cours au titre de la règle, d'avoir cours sur le mode récurrent, d'avoir cours en quelque sorte en réponse à un appel immanent au niveau où ils ont cours puissent être considérées comme commandées et comprises à partir du continu et de la variation continue qui constituent le substrat des entités et des formes en cause. Constamment, ce qui peut être mis en évidence par les modélisateurs émergentistes, c'est la projection d'une diversité sous-jacente et de ses micro-événements sur des entités de haut niveau et des événements du même niveau. Mais jamais une telle projection ne constitue le renvoi de haut niveau comme légalité, dans aucune de ses modalités (catégorielle ou syntaxique).

Cette rapide analyse, tout à fait classique dans son contenu, de la double aporie, nous permet de souligner l'élément mathématique sur lequel elle se fixe : celui du quotient et de la projection. L'insuffisance de la modélisation dynamiciste, aussi bien que de la modélisation symbolique, a à voir avec le schème mathématique de la surjection canonique E ®E/R qui les met en rapport. Les codes du paradigme symbolique résument des diversités dont les éléments sont assimilés, ce qui est présupposé est que la nature factorise le réel externe et le réel biologique pour les besoins de l'esprit, comme Pylyshyn l'explique admirablement bien dans la section The bridge from physical to symbolic de son célèbre traité (2). De même, l'explication connexioniste ou plus généralement morphodynamique doit nous dire comment la dynamique des substrats pertinents, qu'elle nous présente, se projette sur les entités et les mécanismes de haut niveau que nous connaissons. Ce qui s'appelle ici projection est encore de l'ordre de la surjection canonique, seulement la relation d'équivalence sous-jacente est donnée par un critère topologico-dynamique. Prototypiquement, deux points sont assimilés s'ils sont dans le bassin du même attracteur, ce qui se définit au moyen des ouverts de la variété interne et du flot du champ de vecteur. Mais la surjection canonique est une trahison en deux sens, ou encore "dans les deux sens" :

1) la détermination situationnelle intégrale de la pensée par la totalité de ce qui vaut comme son support ontico-événementiel ne peut jamais être oblitérée, on ne peut jamais tenir pour assuré que l'on a eu raison de réduire à l'identité une différence qu'on a déjà enregistrée comme pertinente pour l'organisme "quelque part" en professant la connaître depuis le dispositif épistémique ;

2) le mécanisme du renvoi langagier-catégoriel se définit en revanche par l'oubli et l'autonomie à l'égard de ce substrat, et une modélisation qui l'y ramène en trahit par principe le mode de récurrence escompté.

Telle est donc l'aporie de la modélisation, l'aporie Mind-Mind. Venons-en à l'aporie Mind-Geist.

L'idée de la subjectivité mathématique : Geist vs Mind

Mais par ailleurs, les mathématiques et l'esprit sont dans un second rapport, qui ne doit rien à cette affaire de modélisation, un rapport qui préexiste de fort loin à l'ère cognitive.

Présentation philosophique du Geist

On se fait, depuis Platon en tout cas, une certaine idée philosophique de l'esprit, que je choisis d'emblématiser par le terme allemand Geist : à l'exercice de la rationalité universalisante, on est tenté d'associer une faculté, un sujet, et c'est ce sujet ou cette faculté qui reçoit le nom d'esprit au sens du Geist. Mais de plus, cette volonté philosophique de l'universel est liée aux ma-thé-ma-ti-ques par une sorte de complicité profonde. Chez Platon, le lien est décrit et promulgué de façon exemplaire : l'exercice de la mathématique est présenté dans République, VII, comme propédeutique de la considération de l'intelligible, tournant le dos aux simulacres, et la clause statutaire du "Nul n'entre ici s'il n'est géomètre" s'y accorde naturellement. Mais l'idée de cette provenance mathématique de la quête philosophique se maintient tout au long de la tradition, pour trouver par exemple chez Husserl, tout près de nous, une corroboration éclatante.

La volonté de l'universel que je nomme Geist me semble en principe inobjectivable : je regarde le Je pense kantien ou l'ego transcendantal husserlien comme ses avatars modernes, et c'est pour cette raison, sans doute, que je lui donne un nom allemand. En première approximation, le Geist de la philosophie est donc un autre du Mind des sciences cognitives, trouvant dans la mathématique son expérience fondatrice plutôt que la voie de son objectivation.

Bien entendu, la tradition philosophique abrite aussi des projets de compréhension naturaliste de l'esprit. Husserl décrit ainsi les démarches de Locke, Berkeley ou Hume, ses pseudo-prédécesseurs anglais. Spinoza, dans le De mente, affiche, si j'en crois Pierre Macherey, l'intention de théoriser l'esprit au sein de la nature, et non pas "tamquam imperium in imperio", comme exception irrationnelle. Pourtant, même chez lui, l'idée d'une activité universaliste affine ou résonnante avec la ma-thé-ma-ti-que, sous le nom de connaissance du second ou du troisième genre, semble nettement affirmée, en sorte que j'hésiterais à le compter comme omettant la figure du Geist.

Au point où nous en sommes, je ne veux pas tenter de définir plus le Geist, ni de tirer un bilan sur son insistance dans l'histoire de la philosophie. Plusieurs autres éclairages, qui vont venir, aideront à mieux cerner la notion. Je tenterai même, un peu plus loin, de formuler une définition du Geist dans des termes personnels. Je voudrais seulement terminer cette section en allant au devant d'une objection qui me semble naturelle.

On pourrait dire, en effet, que c'est seulement la philosophie continentale qui a conçu le lien de la mathématique et du Geist. Mais il me semble qu'il n'en est rien. La philosophie analytique, au contraire, est née de l'idée d'une identification possible de la rationalité avec la "forme" extraite par Frege de l'arithmétique : la logique des prédicats du premier ordre, qui n'a pas tardée à être complétée par sa sémantique, donnant naissance à la figure que j'appelle celle du LPC-SL (3)) , et qui est à l'évidence, dans l'aire analytique, une figure normative, fixant le sens de ce qui s'appelle démarche rationnelle. C'est ce qui explique, par exemple, que Carnap ait pu envisager une réforme de la raison à partir du LPC-SL. C'est aussi ce qui explique, a contrario, que Putnam puisse aujourd'hui essayer de réfuter l'idée d'un ancrage expérientiel ou cognitif de la raison en faisant fond sur le LPC-SL, pourvoyeur de modèles inattendus en l'occurrence. Citons encore l'interprétation de la science par Popper, et l'on aura assez prouvé que la philosophie analytique connaît aussi un Geist, de substance logique plutôt que mathématique en l'occurrence. Pour la tradition analytique aussi, il y a un "esprit" dont émanent toutes les démarches d'analyse et de compréhension, de portée universelle, auxquelles s'identifie la philosophie. Seulement la philosophie analytique témoigne de ce qu'il y a une alternative au "mathématisme" platoniste : ce serait le "logicisme" qu'on peut faire remonter à Aristote, et qui consiste à voir dans la forme et dans la règle logique le "modèle" de l'activité d'élucidation propre à la philosophie (4) .

(1) "Connzxionnisme et fonctionnalisme, Intellectica, 1995/2, n°21 (Fonctionnalismes), pp. 175-197.

(2) Pylyshyn, Z., Computation and Cognition, Cambridge, Massachussetts, MIT Press, 147-191.

(3) Cf. "Systématisation et dépossession, en mode continental ou analytique", in Revue de Métaphysique et de Morale, n°3, 1995, 373-404.

(4) La tradition du Geist logique, à y bien réfléchir, n'a jamais cessé d'être illustrée tout au long de l'histoire de la philosophie, y compris, parfois, par es auteurs se situant en même temps, parallèlement, dans la lignée du mathématisme platonicien (comme Leibniz).