Le cerveau-machine
Critique du computationnisme

Patrick Juignet, Philosciences.com, 2011.

cervordinateur

Le corps est « une machine qui se remue de soi-même ». Cette formule employée par Descartes, dans une lettre au Marquis de Newcastle le 23 novembre 1646, résume bien sa position. Un siècle plus tard La Mettrie publie son célèbre ouvrage L’homme-Machine (1748), dans lequel il expose une conception mécaniste de l’homme incluant l'esprit. Cette visée s'est poursuivie et développée depuis. Ici, nous allons voir plus particulièrement comment le cerveau humain a pu être assimilé à une machine informatique.

Le projet prend forme avec Leibnitz. De Leibniz au computationnisme, c’est-à-dire sur trois siècles, nous allons suivre deux rêves qui se sont mêlés, celui du philosophe et celui de l’ingénieur. Le rêve du philosophe serait d’avoir une méthode assurée pour raisonner juste. Le rêve de l’ingénieur serait d’avoir une machine pour calculer rapidement et sans erreur. Plus encore, pour le philosophe ambitieux, ce serait de trouver le ressort de la pensée humaine et pour l’ingénieur d’avoir une machine calculante universelle et exacte. Voilà deux formes d’un même idéal, celui d’accéder au savoir grâce à un procédé sans faille. La pierre philosophale de la pensée et de la connaissance !

Vers la fin du XIXe siècle, la réalisation simultanée de ces deux rêves est apparue possible grâce à la logique. Il faudrait trouver une logique universelle dont les opérations puissent être faites par une machine. Ce serait la clé de la réussite. Au fil du temps le rêve s’est réalisé, tant sur le plan technique que sur le plan théorique. La logique nécessaire à cette ambition de vérité formelle a été ramenée à du calcul et ce calcul a pu être reproduit par des machines de type digitale, d'abord mécaniques puis informatiques .

Au fur et à mesure que ces rêves se sont réalisés, ils sont devenus inquiétants. Le calcul a été considéré comme le fondement de la pensée humaine et en retournant le raisonnement, certains ont prétendu que le cerveau était identique aux mécanismes fabriqués pour reproduire ce type de calcul. On est passé du rêve leibnizien à la fiction computationniste d’un cerveau-machine.

Nous allons brièvement montrer comment on en est arrivé là. Très, très brièvement, car c’est un domaine immense auquel ont contribué les plus grands penseurs des quatre siècles précédents. Il concerne les rapports de la pensée et du calcul, ainsi que leurs relations avec le traitement du signal et l'informatique (l'information au sens physique), le computationnisme aboutissant à poser leur équivalence, ce qui n'est pas démontré.

PLAN DE L'ARTICLE

1/ Histoire sommaire

1/ Histoire sommaire

De Pascal à Leibnitz

Pascal, le premier, réalisa en 1642 une machine mécanique nommée la Pascaline qui permettait d’effectuer les quatre opérations arithmétiques. C’est le début des machines à calculer mécaniques. Mais notre histoire commence vraiment lorsque Gottfried Wilhelm Leibniz, publie en 1666 De Arte combinatoria, ouvrage dans lequel il reprend l’idée classique selon laquelle la logique doit reposer sur une déduction d’idées vraies. Toutefois, Leibniz innove en proposant une méthode de décomposition des idées. Toute idée complexe pourrait, selon lui, se décomposer en idées plus simples, et ainsi de suite, jusqu’aux idées les plus primitives et indémontrables.

Leibnitz est à la recherche de ce qu’il appelle un « Alphabet général de la pensée humaine », un alphabet qui recenserait toutes les idées simples. Ce catalogue de base permettrait de recomposer les idées complexes selon un principe qu’il nomme la « Caractéristique universelle ». Les éléments de cet alphabet universel permettraient de former des idées, comme les mots permettent de former des phrases. Leibniz espérait que le nombre d’idées simples soit suffisamment restreint pour permettre l’apprentissage rapide et naturel de cette « langue universelle des concepts ».

Sur un plan technique, dans les années suivantes, Leibniz inventa une Machine arithmétique (1673) permettant d’effectuer les quatre opérations et une Machine algébrique pour résoudre les équations (1674).

Ultérieurement, à partir de 1675, il tenta de concevoir les règles de composition et de déduction de sa langue logique universelle de façon mathématique. Sa « caractéristique universelle » devient ce qu’il nomme en latin le calculus ratiocinator, le calcul logique. La formation des idées complexes à partir des idées simples et la déduction des vérités deviennent un calcul. Ce « calcul logique », Leibniz l’imaginait analogue au calcul arithmétique ou algébrique. Il exigeait donc la définition de symboles et des règles de calcul. Ce projet n’aboutira pas et restera un rêve.

Le projet de Babbage

Babbage n’est pas philosophe et ses préoccupations sont purement techniques. Un siècle après Leibniz, il reprend le projet de machine à calculer et le fait avancer considérablement bien que sans le réaliser concrètement faute des moyens techniques indispensables.

L’apport de Babbage tient au fait qu’il comprend qu’il est possible de stocker les données numériques et les instructions numériques en utilisant la carte perforée. Ainsi apparaît le stockage sous une même forme concrète de données et d’instructions. Cette innovation fait de sa machine analytique la première machine à calculer programmable. Ce qu’aujourd’hui nous appelons « programme informatique » est amorcé par le « patron de calcul » de la machine analytique de Babbage.

Le rêve de Boole

Deux siècles après le « calculus ratiotinator » de Leibniz, le projet n’a pas progressé et la logique reste héritière de la tradition aristotélicienne. George Boole va reprendre le rêve leibitzien. Il est à l'origine de la notion de « classes of things » et du calcul sur ces classes ce qui est exposé dans The Mathematical Analysis of Logic (1847).

Boole transforme un regroupement contenant des éléments en concept mathématique nommé « classe ». Une classe se définit comme un ensemble d’éléments pourvus du même critère distinctif non ambigu. Le procédé de conceptualisation consiste à considérer l’ensemble en négligeant le contenu en se fondant sur un critère commun à tous les éléments, puis à noter tout cela en un seul symbole. Les « symboles » utilisés sont des lettres.

Puis, Boole énonce les relations possibles entre les classes qui se réduisent à trois : l’intersection, l’union, la complémentation. Il utilise la notation arithmétique pour les opérations et ce sera respectivement, le symbole multiplier, additionner et soustraire. Il faut bien comprendre que les relations entre les classes sont des choix de sélection de leurs composants faits selon les critères caractéristiques des composants. Ainsi, la multiplication est l’opération qui combine les critères propres aux éléments des différentes classes. L’addition cumule les critères propres aux éléments de différentes classes. La soustraction exclut les éléments dont les caractères sont différents de ceux composant la classe considérée.

Par ce procédé le rêve philosophique se réalise, il est possible d’effectuer des manipulations purement algorithmiques sur les classes et d’obtenir un résultat juste. C’est par le biais des classes qu’il a pu lier la logique au calcul algébrique, car les classes permettent de formaliser des notions ordinaires.

Dans son ouvrage suivant, An investigation of the laws of thought, on which are founded the Mathematical of logic and Probability (1854), Boole reprend ses précédents travaux et les avance considérablement.

« Le but de ce traité est d’étudier les lois fondamentales des opérations de l’esprit par lesquelles s’effectue le raisonnement ; de les exprimer dans le langage symbolique d’un calcul, puis sur un tel fondement, d’établir la science de la logique et de constituer sa méthode puis de faire de cette méthode elle-même la base d’une méthode générale que l’on puisse appliquer à la théorie mathématique des probabilités ; et enfin, de dégager des différents éléments de vérité qui seront apparus au cours de ces enquêtes des conjectures probables concernant la nature et la constitution de l’esprit humain ». (Les lois de la pensée, Vrin, Paris, 1992, p. 21 )

L’analogie que propose Boole entre les propositions logiques et leurs « équivalents » algébriques ouvre la voie à une résolution algorithmique des syllogismes. C’est un moment important dans l’évolution de la pensée. La possibilité de négliger le concept pour s’en tenir à des opérations et d’obtenir un résultat se fait jour. On obtient mécaniquement (de manière séquentielle et nécessaire) le résultat par le maniement de lettres et d’opérateurs. Ce qui ouvre la voie à la mécanisation concrète.

Un de ses compatriotes, William Stanley Jevons (1835-1882) va plus loin. Jevons, est économiste. Séduit par les idées de Boole, il a écrit un manuel de logique booléenne et a poursuivi le projet booléen de promouvoir le calcul algébrique des propositions logiques. Mais il va plus loin, reliant le projet logique à celui de la machine à calculer, dans un article de 1870 « Réalisation mécanique de l’inférence logique », il présente les principes et les plans sommaires d’une machine qui permettrait de mécaniser la logique booléenne. Cette machine ressemble étrangement à un piano, d’où son surnom de piano logique.

Esprit humain, raisonnement, logique, calcul et machine, sont étroitement liés à partir de la fin du XIXe siècle.

La démarche de Turing

Le rêve philosophique se poursuit en 1936. Turing partant d’une question mathématique débattue depuis Hilbert, celle de la calculabilité d’un nombre, passe pour traiter ce problème par l’intermédiaire d’une machine formelle (une procédure algorithmique). Son apport à la calculabilité et à la décidabilité est passé en arrière-plan, alors que sa « machine » est devenue l’une des pierres fondatrices de notre modernité.

Sa machine n’est pas concrète, c’est une procédure formelle reproduisant la manière humaine de calculer. La machine imaginée a des capacités de lecture, écriture, mémorisation, effacement de symboles, déplacements successifs, faits en se référant à des tables de calcul préexistantes. Le modèle des séquences est toujours le même, il peut donc être répété autant de fois que nécessaire. Ces séquences sont commandées par les instructions successives du programme de la machine.

Le calcul se réalise parce que la programmation de la machine, sa table des états internes, est identique dans sa forme à la procédure que l’on suit pour calculer. La capacité de la machine est plus large que toutes celles des machines précédentes, car elle peut imiter tout type de calcul. Le rêve d’un calculateur automatique et universel avance d’un grand pas.

Turing fait le lien de la machine et la pensée 14 ans après son article princeps, alors que la donne technique a changé, puisque les premiers calculateurs électroniques ont été construits. Dans un nouvel article devenu classique « Computing machinery and Intelligence » (1950), Turing se demande si une machine peut penser. Après une argutie sans fondement pour justifier de ne pas avoir à définir la pensée, il reprend la stratégie qu’il avait adopté pour concevoir ses machines, c’est-à-dire l’observation du comportement et l’imitation. Il propose le « jeu de l’imitation ». La machine imiterait le comportement langagier d’un être humain et un juge comparerait le comportement écrit d’un humain à celui de la machine en posant des questions. Turing conjecture que dans les cinquante années qui suivront la parution de l’article, les machines deviendront assez puissantes pour tromper le juge trois ou quatre fois sur dix. À ce moment, selon Turing, la sagesse populaire admettra l’idée que les machines peuvent penser. C’est l’amorce du computationnisme.

Les travaux de Shannon et Aiken

Le projet de Boole se concrétisera grâce à Shannon. Ce dernier invente une méthode pour construire un circuit électrique de telle sorte qu’il reproduise la logique de Boole (1947). Il propose des schémas symboliques du calcul binaire de type booléen pouvant en même temps être les plans d’un circuit composé de relais à deux états (ouvert ou fermé). La description étant la même pour les deux, Shannon en déduit que l’on peut comprendre le circuit (un réseau de relais et de commutateurs) comme un ensemble de propositions logiques.

Ultérieurement, H.H. Aiken élaborera un circuit électronique réalisant une fonction logique. Ni Shannon ni Aiken n’ont contribué à l’évolution de la métaphore de la pensée comme calcul car, comme Babbage, ils se sont situés uniquement dans le domaine de l’ingénieur. Toutefois le parallélisme parfait établi entre composant électrique et opérateur logique, et donc leur quasi-équivalence, a manifestement servi de modèle à l’assimilation du cerveau et de l’ordinateur qui apparaîtra peu après.

L’idéologie computationniste

Nous définissons le computationnisme comme le courant de recherche fondé sur le postulat selon lequel la cognition est fondamentalement un calcul qui peut être effectué par un dispositif matériel. L'hypothèse computationniste fut posée dans les années 1950 par Mc Culloch et Pitts. Selon ces auteurs, la cognition (ou la pensée) peut être ramenée à une computation de représentations symboliques et cela peut être fait aussi bien par le cerveau que par une machine.

Warren Sturgis Mc Culloch, philosophe et neurologue, et Walter Pitts, logicien et mathématicien, publièrent en 1943 « A Logical Calculus of Immanent Ideas in Nervous Activity ». Fort de la récente découverte faite par Edgar Adrian en 1928, les neurones réagissent selon la loi du « tout ou rien », ils firent l’hypothèse que l’activité nerveuse correspondait à la logique de Boole. « À chaque réaction d’un neurone correspond une assertion d’une proposition élémentaire. » Mc Culloch, et Pitts inventèrent une notation fondée sur le calcul booléen pour illustrer l’organisation des réseaux neuronaux. Leur intention mécaniste est évidente. En 1955, Mc Culloch précise sa pensée : « Les machines faites de la main de l’homme ne sont pas des cerveaux, mais les cerveaux sont une variété, très mal comprise, de machines computationnelles » (Mc Culloch, et W. Pitts, « Un calcul logique des idées immanentes dans l’activité nerveuse », in Sciences cognitives : textes fondateurs (1943-1950), Paris, PUF, 1995, p. 64).

Ceci aboutit à la « Nouvelle synthèse » proclamée vers 1945 par Stephen Pinker et Henry Plotkin. Pour ces auteurs, le calcul est enraciné dans le substrat biologique du cerveau humain et, qui plus est, de manière innée. Au même moment, Alan Nexell et Herbert Simon, lancent le dogme selon lequel l’intelligence, ou l’esprit, est un calcul symbolique de type logique. Suit « l’information processing paradigm » annonçant que tous les aspects cognitifs (perception, apprentissage, intelligence, langage) sont des opérations de traitement de l’information (signal) similaires à celles que l’on peut implémenter dans un ordinateur. Il s’agit de chercher « comment les phénomènes mentaux peuvent être matériellement réalisés », écrit Dan Sperber.

La phase suivante se déroule dans les années 1950 lorsque divers auteurs comme Herbert Simon, Noam Chomsky, Marvin Minsky et John McCarthy appuyèrent l'idée que la cognition pouvait être définie par le calcul symbolique, la computation de représentations symboliques. Que le rapport cognition-cerveau soit assimilable au fonctionnement d'un ordinateur devient une thèse reconnue. Le traitement cognitif par l'esprit/cerveau est une opération qui est effectuée sur des symboles de la même façon que le fait un ordinateur.

Proche de cette tendance on trouve " l'information processing paradigm" de Herbert Simon. Pour cet auteur, l’intelligence artificielle mime le raisonnement humain parce que, comme le cerveau, un ordinateur traite de l'information. L'information correspond à "des formes physiques ... qui peuvent se présenter comme des ... symboles » (H.Simon, 1969). (voir l'article sur La théorie de l'information).

La thèse ramène la pensée à un traitement syntaxique, un calcul opérant sur des représentations symboliques, qui correspondent elles-mêmes à des traces, des marques matérielles maniées par le cerveau ou indifféremment une machine électronique. On arrive à la thèse annoncée dans notre tire du "cerveau-machine". C’est le postulat du computationniste. La cognition est fondamentalement du calcul et peut être donc effectuée par un dispositif matériel. Il y a un parallélisme entre cognition et traitement matériel électronique (ou neurologique) puisque tout calcul peut être effectué par une machine. Il y a au cœur (et à l'origine) du computationnisme une thèse réductrice. Nous la résumerons ainsi : Au vu de la possible réification électronique d’un type de logique (l’algèbre de Boole), on suppose par analogie que l’esprit est en dernier ressort une logique de ce type implémentée dans le cerveau-machine de l’homme fonctionnant comme un ordinateur. Le rêve du philosophe et le rêve de l’ingénieur se sont emboutis l’un dans l’autre.

La thèse de Fodor

Tout un courant de la philosophie de l’esprit est venu s’inscrire dans la lignée computationniste. Le porte-parole en est Jerry Fodor. Pour cet auteur, toute théorie psychologique doit rendre compte des représentations mentales et des « attitudes propositionnelles » pour expliquer le comportement. C’est une perspective traditionnelle qui se "computationise" lorsqu’il énonce que ces aspects mentaux sont sous-tendus par des éléments syntaxiques manipulés par l’esprit-cerveau comme le ferait une machine.

En 1975, Jerry Fodor publie The Language of Thought, livre dans lequel il défend la thèse d’un langage inné de la pensée. Autrement dit, selon Fodor, il existerait dès la naissance un langage analogue à celui d’une machine à calculer. Ce langage de base permettrait, d’une part l’apprentissage de la langue maternelle et, d’autre part, assurerait la mise en ordre logique de nos pensées propositionnelles. Ce serait un langage computationnel qui permet d’exécuter des opérations logiques simples analogues aux opérations de calculs booléens d’une machine à calculer digitale.

Dan Sperber résume très bien la généralisation computationniste : si l'on considère une opération cognitive complexe, " il s'agit de décomposer le processus en opérations élémentaires et de ramener les représentations à des structures formelles dont la réalisation matérielle est concevable". (in : Introduction aux sciences cognitives, Paris, Gallimard, 1992, p. 405). La computation est généralisée et étendue à la pensée ordinaire. Les croyances et déductions diverses seraient formalisables en une sorte de langage de la pensée. Ce rêve a nourri toute une génération de chercheurs à partir de l’après-guerre jusqu’aux années 90.

On retrouve en 1989 le même projet exprimé par John Haugeland. « La pensée est une manipulation de symboles » et « la science cognitive repose sur l’hypothèse … que tout intelligence, humaine ou non, est concrètement une manipulation de symboles quasi linguistiques » (Haugeland J., L’esprit dans la machine, Paris, Odile Jacob, 1989). Haugeland affirme que les questions qui tracassent les philosophes depuis plusieurs millénaires ont trouvé une réponse. L’esprit est un système formel car « la pensée et le calcul sont identiques ». « La pensée (l’intellect) est essentiellement une manipulation de symboles (c’est-à-dire d’idées) ».

L’inflexion du structuralisme français

Cette recherche de formalisation de l’esprit a affecté les sciences de l’homme. Pour Lévi-Strauss la « fonction symbolique » propre à l’esprit humain peut être décrite selon des formes logiques élémentaires. Dans le livre sur la parenté, il propose une formalisation et un essai d’énoncé mathématique (fait par André Weil) concernant le système de parenté très complexe de la tribu Murngin (Nord de l’Australie). À la fin d’un article consacré à Wladimir Propp, Claude Lévi-Strauss propose un tableau à double entrée, définissant et formalisant les différents types d’opérations supposées être à l’oeuvre dans les mythes. (Anthropologie structurale II, Paris, Plon, 1973, p. 164,165). Il semblerait aussi que les groupes booléens s’appliquent aux mythes. Lévi-Strauss a cherché une structure sous-jacente aux diverses conduites culturelles humaines, de façon à pouvoir les expliquer. Cela l’a conduit à formaliser cette structure en termes d’apparence logico-mathématiques.

Cet excès d’extension se retrouve chez Lacan et ses suiveurs qui ont tenté d’imposer l’idée que l’inconscient affectif et relationnel de la psychanalyse serait lui aussi gouverné par une structure syntaxique. À partir de 1954, Lacan commence à tout repenser au travers de la notion de « signifiant ». La relation de l’homme au symbolique devient « la relation de l’homme au signifiant ». Lacan sépare le signifiant du signifié, faisant du premier un élément à caractère matériel, une « lettre », c’est à dire « ce support matériel que le discours concret emprunte au langage ». La « suprématie du signifiant » le rend tout à fait distinct du signifié. Globalement Lacan en vient à répudier le sens. Le langage est « dénué de signification », écrit-il dans Réel, symbolique, imaginaire (1953). Ainsi, ce qui opère en l’homme, c’est-à-dire l’inconscient, est ramené au langage, lui-même théorisé comme une structure assemblant des signifiants, une pure syntaxe. D’où la formule célèbre « l’inconscient est structuré comme un langage » et celle moins connue du « symptôme structuré comme un langage ». Il s’agit de ramener le psychisme à un fondement élémentaire et matériel (les signifiants) lié par une structure syntaxique. (voir Juignet P., Histoire idées psychanalytiques, Grenoble, P.U.G., 2006).

On voit l’inconscient se résumer à un ensemble de signifiants, de lettres, par exemple « pôor (d)je-li » dans le cas de Philippe, l’homme du rêve à la licorne décrit par Serge Leclaire. « Le pas suivant de l’analyse… nous fait passer irréversiblement en cette zone matricielle de la vie psychique où la signification se résorbe pour un instant dans une formule littérale … » (Leclaire S., Psychanalyser, Paris, Seuil,1968, p.112). C’est un « modèle irréductible, dépourvu de sens », qui apparaît comme « un nœud de l’inconscient » (p.113). Le computationnisme cherchait à logiciser la pensée, ici la tendance est de syntaxiser l’inconscient.

2/ Du rêve de l’ingénieur au cauchemar du philosophe

Deux types de recherches se sont poursuivies simultanément, celles à visée pratique des ingénieurs qui ont perfectionné les machines à calculer et celles à visée théorique des philosophes qui ont recherché le ressort intime de la pensée. La synchronicité des deux, l’une mettant au point des machines calculantes et l’autre montrant que l’esprit calcule, a irrésistiblement formé l’analogie du cerveau avec une machine calculante. Mais est-ce une idée valide formellement, empiriquement justifiée et enfin philosophiquement acceptable ?

Une analogie erronée

Si l’on formalise un peu la formation de l’analogie cerveau-machine (ligne 2), elle passe par une série d’équivalences, allant de la pensée au calcul (ligne 1). Nous les notons par les signes == qui signifient "être analogue", ou "être équivalent".

1/ PENSÉE == Langage == Logique == Syntaxe == CALCUL

            est                                                                           est
    produite par le                                                effectué par la

2/    CERVEAU                  ==                      MACHINE

L’analogie se forme de la manière suivante : le cerveau produit la pensée, qui est du calcul ; le calcul est reproductible par des machines et donc le cerveau est comme les machines calculantes (computantes). Puis, de la comparaison, on est passé à l’affirmation vers le milieu du XXe siècle. Le cerveau humain a été considéré comme une machine computante selon la thèse dite de « Church-Turing » énoncée à partir des années 1950. Cette analogie peut s’exprimer sous forme d’un syllogisme. La machine calcule, or le cerveau calcule, donc le cerveau est une machine computante. Ce syllogisme, évidemment, n’est pas concluant.

Comme cela avait déjà été le cas dans les siècles précédents pour le corps et les automates, on constate au XXe siècle un retournement sur l’homme de ses créations mécaniques au sujet du cerveau : produisant un artefact, l’ordinateur, on en est venu à considérer le cerveau comme identique à cet artéfact. Cette thèse n’est nullement anodine sur le plan philosophique. C’est une simplification chosifiante de l’homme, une volonté d’assimilation de l’homme à un mécanisme. Une telle thèse est sous-tendue en arrière plan par une option philosophique de type réductionniste et matérialiste.

Le rêve de vérité du philosophe s’est transformé en science-fiction computationniste montrant un homme se métamorphosant en machine à calculer. Sur un écran géant d’imagerie par résonance magnétique on voit fonctionner les rouages digitaux de son « cervordinateur ». En parallèle, la pensée, constituée par une syntaxe logique, s’y inscrit en une myriade de symboles. Comme illustration de cette idéologie computationniste nous reproduisons la couverture de La lettre du psychiatre, vol VII, n°2, 2011. Le symptôme y est assimilé à une erreur dans le programme exprimé en langage machine sur fond de circuits électroniques.

computationnisme

Cette fiction n’a pas de justification scientifique car la pensée n'est pas un calcul, le cerveau n'est pas un ordinateur et enfin la thèse réductionniste sous-jacente n'est pas justifiée.

La pensée n’est pas un calcul

Si l’on prend comme référence Boole, cet auteur croit avoir découvert la façon dont fonctionne la pensée. Pour ma part je crois plutôt qu’il a créé une logique, un procédé de calcul. Il a effectué un gros travail de simplification, abstraction, synthèse, formalisation, qui aboutit à créer une nouvelle forme de logique. Nous avons indiqué les procédés nécessaires pour obtenir les expressions algébriques chez Boole afin de montrer le mouvement de conceptualisation complexe et ingénieux qui a permis d’aboutir à une syntaxe manipulatoire, un algorithme. Il met en jeu le rapport des classes via des opérations qui portent sur les critères de leurs éléments. Autrement dit, ce qui est donné pour être une découverte (de la nature de la pensée ou de l’esprit) est plutôt la création d’une nouvelle forme de logique.

Dans le computationnisme il y a une assimilation de toute la pensée à l’un de ses aspects très particulier, le calcul. La pensée dans sa complexité et sa multiplicité est rapportée à une computation. Le calcul numérique tel que nous le connaissons aujourd'hui a été et est encore une manipulation d'objets matériels selon des règles définies. Citons Jean-Gabriel Ganascia à ce sujet "Qu'il se soit ensuite étendu à un décompte mental, avec ou sans support matériel, ou à des programmes informatiques exécutés automatiquement, sans présence humaine, le calcul n'en procède pas moins d'une combinaison réglée de symboles qui peuvent éventuellement être remplacés par des objets du monde matériel comme des cailloux". ("Alan Turing, du calculable à l'indécidable", interstices.info, 2004). C'est une activité réglée que l'on peut a peine assimiler à la pensée conceptuelle.

Il est donc encore plus étonnant de prétendre y ramener la pensée en général, et par là négliger les formes multiples qu’elle peut prendre. Il faut dire que l' unification des activités représentationnelles et cognitives dans la pensée est encouragée par la langue qui propose des termes globalisants (pensée ou esprit) pour désigner des processus divers. Il y a là un piège (langagier et culturel), sous forme d'une catégorie (l'esprit ou la pensée) abusivement unificatrice.

L’argument sous-jacent pour justifier cette généralisation serait que, en sa forme la plus basale, native, la pensée serait calcul. Ceci n’est certes pas démontré. Ce que l’on connaît des processus cognitifs ramenés à leur forme la plus simple, la plus élémentaire, ne se laisse pas énoncer dans une forme logique et encore moins dans une algèbre ou un calcul. Ce qui pourrait y être rapporté et s’en rapprocher le plus, ce sont les capacités d’ordonnancement propres à l’espèce humaine, mais elles ne sont pas logiques.

Nous ne critiquons pas l’idée de chercher une structure sous-jacente à la diversité des phénomènes mentaux. C’est dans l’esprit du logicisme et du structuralisme. Les deux inconvénients sont d’une part l’orientation logico-mécaniste de ces recherches et d’autre part l’extension à toute la pensée. Le rêve de trouver derrière certaines formes de pensée une structure n’est pas critiquable en soi. Ce qui l’est, c’est la généralisation abusive et sans distance de cet aspect et le rabattement sur le logico-syntaxique en éliminant le sens (les aspects sémantiques et conceptuels).

En effet, autre erreur du computationnisme, le rabattement du conceptuel sur le syntaxique. Selon nous, la pensée est un mixte entre la signification (signifié, sens, contenu sémantique, concept, etc.) et des formes syntaxiques (signifiants linguistiques, symboles mathématiques, schéma dessinés, schèmes sonores, etc.), à quoi s’ajoute le lien à la réalité (dénotation, référent, vérité empirique, etc.). Si on isole les formes syntaxiques et qu'on les fait fonctionner de manière autonome, on n’a donc plus affaire à la pensée en tant que telle, mais à un aspect partiel, un de ses composants. Les machines calculantes fonctionnent selon des syntaxes réifiées. L’homme peut aussi le faire, mais dans ce cas il ne pense pas, il manipule des symboles, des marques ou des objets (comme lorsqu’il se sert de ses doigts ou d’un boulier).

Même dans le cas du calcul, il est erroné de croire que l’algorithme et la conceptualisation qui a permis d’y parvenir sont équivalents. Pour aboutir à cet algorithme il a fallu une conceptualisation complexe qui en diffère et ne lui est pas réductible. Donnons comme exemple de cette différence le produit logique de Boole (l’addition des critères). Il ne donne pas l’addition des classes mais leur intersection. L’algorithme de calcul obtenu n’a pas grand-chose à voir avec le processus conceptuel qui a permis de l’obtenir.

Le cerveau n'est pas un ordinateur

Les ordinateurs sont fabriquées pour reproduire

Nous contestons le point de vue étroit impliqué par la thèse computationniste. Concernant les ordinateurs et leurs performances, l’ensemble de la situation n’est pas prise en compte et la succession réelle des évènements est négligée. La situation globale à considérer est la suivante : le cerveau produit divers types de pensées. Ces types de pensées permettent de construire une machine qui reproduit du calcul. Donc en réalité, la machine reproduit quelque chose qui existe déjà, le calcul. En admettant que l’on néglige le premier aspect, qui est le contexte large, on ne peut négliger le second qui est le centre de ce dont on parle. Les ordinateurs reproduisent du calcul.

A partir de ce fonctionnement calculant on peut leur faire effectuer différentes tâches dont certaines sont d'imiter certains comportements humains. Dans ce cas, la machine produit ce pourquoi elle a été programmée. Le raisonnement béhavioriste de comparaison des produits factuels ne convient pas. Si la machine est conçue pour imiter certains comportements humains, forcément elle les imite (les reproduit). Si on s’en tient au résultat, il est identique. La différence tient à ce que le procédé de production n’est pas le même.

Le cerveau produit des pensées qui guident des comportements. La machine est fabriquée selon un plan et des commandes qui lui font reproduire des comportements. Elle reproduit selon un programme commandant ce qu'elle doit faire. La reproduction est déterminée. Ceci avait été noté avec lucidité et bon-sens par Lady Lovelace, porte parole de Babbage : « La machine analytique n’a pas la prétention de donner naissance à quoi que ce soit. Elle peut effectuer tout ce que nous savons lui ordonner de faire ». Pour un ordinateur, c’est la même chose. Il effectue les tâches qu’on lui a ordonné de faire. Un ordinateur exécute les instructions qui lui sont fournies. Ce qu'il effectue résultent de séquences d'opérations entièrement déterminées par son programme.

Le critère d’identité factuelle avancé pour prétendre que les ordinateurs pensent ne prouve rien, car il y a plusieurs manières d’arriver au même résultat. Imiter un comportement grâce à une série de commandes électroniques, c'est différent de disposer de modes de pensées qui aboutissent au même comportement. Si tous les chemins mènent à Rome, il y a plusieurs manières d'y aller, et constater la présence à Rome n'est pas suffisant pour laisser supposer un même cheminement.

Le cerveau est complexe

L’assimilation de Mc Culloch et Pitt des portes logiques électroniques à des neurones cérébraux est abusive. Le seul argument en faveur de cette assimilation est le potentiel d’action qui parcourt les axones des neurones. Mais cela ne suffit pas à faire que le cerveau fonctionne de manière digitale (par signaux discrets) car les manières dont sont repris les potentiels d’action sont très complexes et en particulier sont en parties analogiques, car ils passent par l’intermédiaire de synapses qui ont un fonctionnement à variation continue.

Le fonctionnement de l’ordinateur classique se fait en série ce qui signifie un traitement successif des données. Il est certain que le cerveau ne fonctionne pas de cette manière. Enfin, dans un ordinateur, les opérations sont toutes programmées, elles ne s’effectuent pas spontanément (même si certaines sont déléguées à la machine). Le processus de fonctionnement dans un ordinateur est un processus de commande. À l’inverse le neurophysiologique produit une grande part de son activité de manière spontanée par auto-organisation. La situation est inversée.

L’assimilation du cerveau à un ordinateur classique est erronée puisque rien ne correspond. Ces erreurs nous les attribuons au paradigme scientifique classique massivement mécaniste (séquentiel digitalisant), réducteur (analyse réduisant la complexité) et réductionniste (lutte pour imposer un matérialisme borné) et enfin la toute puissance scientiste (au tout déterminé de Laplace répond le tout calculable de Hilbert).

Von Neumann après les avoir adoptées s’est vite rendu compte de la fausseté des thèses de McCulloch et Pitts. Il suggéra de les inverser et de chercher à perfectionner les machines logiques à partir des observations physiologiques. C’est ainsi qu’il a développé sa théorie générale des automates, qui s’inspire de l’organisation des cellules vivantes et formalise la construction de machines complexes fiables à partir de machines plus simples et moins fiables.

La volonté réductionniste est abusive

Toute cette rhétorique d’assimilation du cerveau à un ordinateur classique n’a aucune justification scientifique. Elle s’inscrit dans un vaste courant idéologique matérialiste réductionniste cherchant à mécaniser l’homme et dans le cas qui nous occupe son cerveau et sa pensée.

La première des conséquences est la négation du niveau représentationnel chez l’homme. Il n’y a aucune représentation dans une machine, seulement des leviers mécaniques ou, pour les ordinateurs, des composants électroniques parcourus par des impulsions électriques selon un ordre défini. Si le cerveau de l’homme est identique à un ordinateur, il n’y a aucune raison de supposer un niveau représentationnel. C’est évidemment là l’enjeu majeur du processus idéologique sous tendu par le matérialisme dur : amener à penser qu’il est inutile de supposer un niveau de complexité propre à l’homme qui dépasserait le niveau neurobiologique.

La deuxième conséquence est une négation de l’autonomie de la pensée. Si le représentationnel n’existe pas, la pensée n’a pas de domaine propre où elle existerait pour et par elle-même. Elle n’a pas d’autonomie, elle est hétéronome, c'est-à-dire qu'elle est déterminée par autre chose qu’elle-même (par le fonctionnement du cerveau-machine). Il s’ensuit une perte de la possibilité de choix selon un raisonnement.

Il existe des ordinateurs "inventifs". Par exemple, les machines non triviales de von Foerster (qui fonctionnent selon un déterminisme strict) ne sont pas prévisibles. La sortie actuelle dépend de l'histoire du système et des inputs précédents. Mais, cela ne résout pas le problème de l'autonomie de la pensée, qui n'est pas une affaire de hasard. Ce qui est en jeu est l'autonomie ou une l'hétéronomie de la pensé : se détermine-t-elle par elle-même, ou est-elle déterminée par autre chose qu'elle même ( son support neurosignalétique ).

L'autonomie de la pensée n’est pas une liberté de hasard, d’indétermination, ou d’invention ex-nihilo, mais une possibilité de choix selon un raisonnement appuyé sur des principes. Si cela existe et pour que cela existe, il est nécessaire qu’il y ait un domaine autonome au sein duquel les idées peuvent jouer et interagir en tant qu’idées. La théorie du cerveau-machine manipulant la pensée-calcul implique une hétéronomie à la pensée qui devient un produit déterminé par son support (que celui-ci autorise du hasard ne change rien). Si c’était le cas, il faudrait en prendre acte, mais comme il est hautement improbable qu’il en soit ainsi, l’affirmation de cette thèse constitue une négation abusive de l’autonomie de la pensée humaine.

L’assimilation de l’homme à une machine a des conséquences morales et sociales majeures. Si l’homme est une machine, fut-elle informatique, on peut en disposer comme on veut. Les machines étant des choses déterminées, il n’y a pas de droit des machines. On peut les conditionner, les rééduquer, les programmer, les faire travailler, les utiliser. L’homme-machine est un homme chosifié, privé de sa spécificité humaine.

3/ Conclusion : le retour du rêve ?

Deux rêves se sont mêlés, celui des ingénieurs et celui des philosophes pour former le cauchemar d’un homme-machine gouverné par un « cervordinateur ». Même si l’intention computationniste est scientifique, son résultat ne l’est pas. Il y a dans le computationnisme un excès inquiétant, une volonté réductrice et mécaniste sans fondement rationnel. C’est bien dommage, car l’idée de chercher la jonction entre la pensée et son support concret, amenée par les recherches de Leibniz à Turing, est la voie royale pour dépasser le dualisme.

Cette voie royale a bifurqué vers une impasse, car elle est certes efficace techniquement, mais représente une butée philosophique de par sa volonté mécaniste. Qu’elle se délivre de son mauvais génie réductionniste, et la recherche pourrait continuer à chercher les clés de la pensée humaine de manière heuristique. C’est une évolution souhaitable de la science, évolution au-delà du paradigme classique vers le paradigme de la complexité.

L’homme et son cerveau ne sont pas des machines de type mécanique ou informatique, mais des systèmes biologiques hypercomplexes issus de l’évolution. Grâce à son organisation le cerveau humain permet l’émergence du représentationnel, c'est-à-dire le passage d’un fonctionnement neurosignalétique à un fonctionnement émergent de type représentatif (voir L’émergence représentationnelle).

Nous utilisons ce concept nouveau de "représentationnel" pour déjouer le piège créé par la catégorie de "l'esprit-pensée" qui laisse supposer quelque chose d'unifié et de substantiel. Si l’on admet cela, le rêve philosophique de mieux connaître la "pensée humaine" pourra reprendre, devenant, plus modestement, celui de cerner la multiplicité des processus cognitifs et représentationnels utilisés par l'homme.

Du côté des machines le rêve de l’ingénieur a été relancé grâce à l’orientation suggérée par Von Neumann. Un tournant s’est produit dans les années 1960, avec d’une part le connexionnisme qui a permis de concevoir des machines autonomes non linéaires et, d’autre part, l'évolution en intelligence artificielle vers l’auto-reprogrammation. De même, les recherches pour reproduire certains processus cognitifs particuliers (et non la pensée en général) ont ouvert des voies plus réalistes et moins idéologiques. Elles ont eu des succès notables, comme par exemple dans le domaine du langage.

Quant à savoir si un artefact de ce genre nouveau, que nous qualifierons d'auto-organisateur, pourra atteindre une organisation suffisamment complexe pour que l'on puisse supposer l'émergence en son sein d'un niveau représentationnel, il est bien difficile de dire où et quand cela se produira.

Cet article a été également publié dans :

http://www.ruedescartes.org/recherches-en-cours/interventions/le-cerveau-machine/

Il fait l'objet d'une conférence : Conférence à la Citée des sciences 2011.

Le cerveau-machine Critique du computationnisme