https://www.librinova.com/librairie/lemaitre-eric-1/transhumanisme-la-conscience-mecanisee

Une critique philosophique de l’intelligence artificielle

Charles-Eric de Saint Germain

Ancien élève de l’école normale supérieure de Fontenay-Saint-Cloud-Lyon 

Agrégé et docteur en philosophie

Charles Eric est l’auteur de plusieurs livres et ouvrages, nous citons ici les principaux : « Cours particuliers de philosophie » (2 volumes) Collection Ellipses. « La défaite de la raison » ‘(Salvator)…

            On considère habituellement qu’une calculatrice, voire un ordinateur, est capable de calculer, mais non de penser. Si ces outils ont des performances dont les esprits les plus pénétrants semblent incapables, il n’en reste pas moins vrai que réfléchir n’apparaît pas comme une de leur possibilité. Toutefois, si on essaye de préciser quelles différences il y aurait entre calculer et penser, l’embarras est grand. En effet, si penser, c’est raisonner, la différence avec calculer n’apparaît pas immédiatement. Ne dit-on pas de quelqu’un qu’il n’a pas assez réfléchi ou qu’il n’a pas bien calculé ? Dès lors, la réflexion n’est-elle pas un caractère tout à fait secondaire de la pensée, qui serait fondamentalement un calcul ? Aussi peut-on se demander si penser et calculer ne sont pas une seule et même chose. On sait que le latin ratio, d’où vient raison, veut aussi dire calcul. Aussi semble-t-il y avoir une affinité entre penser et calculer, voire une identité que masque le fait que le calcul s’entend surtout du domaine des quantités, alors que la pensée semble relative à la qualité. En effet, calculer, comme le montrent les opérations élémentaires que sont l’addition et la soustraction, implique de manipuler des nombres en fonction de certaines règles. Celles-ci peuvent faire l’objet de démonstrations, qui ne sont rien d’autre que des manipulations de notions plus fondamentales et de règles plus fondamentales. Par exemple, 3 + 1 = 1 + 3. Il est possible de démontrer que l’addition est commutative, c’est-à-dire que quels que soient les nombres a et b, a + b = b + a. Lorsque on raisonne sur autre chose que des nombres, on utilise bien également des règles, à savoir celles de la logique, qui peuvent également faire preuve de démonstrations comme les théorèmes des mathématiques. Mieux, la logique elle-même, qui est régie par la logique de l’art de penser, peut être mathématisée, comme Leibniz en avait caressé le projet, et comme les mathématiciens l’ont fait à partir du xix° siècle. C’est pourquoi, la pensée la plus ordinaire peut être considérée comme un calcul appliqué aux cas particuliers. L’amoureux ou l’amoureuse qui escompte obtenir les faveurs de son aimé(e) ne va-t-il pas calculer ses chances de succès, en tenant compte de certains indices ? Il n’est pas jusqu’aux probabilités qui permettent de calculer des possibilités aléatoires et dont les hommes ont usé indistinctement jusqu’à ce que Pascal en commence l’étude. Dès lors, faut-il aller jusqu’à considérer que penser ou raisonner n’est rien d’autre que cal-culer, comme Hobbes l’a soutenu au chapitre V de son Léviathan ? C’est à cette question que nous nous efforcerons de répondre, en montrant d’abord, dans un premier temps, comment la tentative de réduire la « pensée » à un « cal-cul » trouve ses origines dans la ratio latine dont héritent Hobbes et Leibniz. Puis nous montrerons, dans un deuxième temps, que cette réduction de la « ratio » à ce que Heidegger appelle la « pensée calculante » est inséparable de l’avènement de la technique moderne, et tend à occulter une dimension plus fondamentale de la pensée, en tant que pensée méditante ouverte sur l’être et son mystère. Enfin nous montrerons, dans un dernier temps, ce qui, dans le fonctionnement de l’intelligence humaine, nous semble totalement irréductible au calcul.

La réduction de la « pensée » au « calcul »  :

         de Hobbes à Leibniz

L’identification de la raison au calcul chez Hobbes

Le premier auteur à réduire explicitement la pensée ou plutôt le raisonnement à un calcul, c’est Thomas Hobbes. Deux formules célèbres et souvent citées, semblables dans Léviathan (1651) et De Corpore (1655). Hobbes écrit : « la raison n’est rien que le calcul… » Si on relit le passage du Léviathan (livre I, Chap. V), qu’est-ce que Hobbes appelle « calcul » ? Dire que la raison est un calcul, cela signifie que la raison opère des additions et des soustractions. Elle peut éventuellement multiplier et diviser, mais ce ne sont que des variations sur l’addition et la soustraction. Cette définition est à la fois restrictive et extensive : 1) Restrictive : il n’y a plus qu’une seule modalité des opérations rationnelles. Soit c’est du calcul et c’est de la raison, soit c’est autre chose que de la raison. Toutes les opérations de la rationalité tombent sous le calcul. 2) Extensive : la notion de calcul est étendue, comme calcul logique portant sur les noms. Le calcul numérique, pour lequel nous disposons des deux opérations supplémentaires de la multiplication et de la division, n’est qu’une espèce de ce calcul au sens plus large qu’est la raison.

Hobbes précise en effet que « [l’être humain] peut raisonner ou calculer, non seulement sur les nombres, mais dans tous les autres domaines où l’on peut additionner ou soustraire une chose d’une autre. »  Ainsi, « de même que les arithméticiens enseignent l’addition et la soustraction des nombres, de même les géomètres enseignent la même chose avec lignes, figures (solides ou planes), angles, proportions, temps, degrés de vitesse, force, puissance, et ainsi de suite. » Qu’est-ce qui rend fondamentalement possible cette extension du calcul ? C’est ce qui apparaît dans l’exemple suivant de Hobbes, qui affirme que « les logiciens enseignent la même chose avec des suites de mots, additionnant ensemble deux noms pour faire une affirmation, et deux affirmations pour faire un syllogisme, et plusieurs syllogismes pour faire une démonstration ; et de la somme ou conclusion d’un syllo-gisme, ils soustraient une proposition pour trouver l’autre ».

On voit ici que la condition pour la généralisation du calcul c’est de le considérer fondamentalement comme une opération d’addition et de sous-traction sur des mots. Le terme de « mot » n’apparaît que lorsque Hobbes présente le calcul logique. Mais en réalité, le calcul numérique et le calcul géométrique ne sont eux-mêmes des calculs que parce qu’ils portent sur des mots ou des noms. Ils sont des espèces particulières du raisonnement, raison-nement qui se définit donc comme un calcul portant sur les noms des choses. Nous avons une confirmation de cette hypothèse dans le passage suivant, qui est extrait du chapitre précédent concernant « la parole » : « le recours aux mots pour fixer la pensée est nulle part ailleurs plus apparent que dans la numération. Un simple d’esprit de naissance, qui n’aurait jamais pu apprendre l’ordre des noms numériques comme un, deux, trois, peut observer chaque battement d’une horloge, et faire un signe ou dire un, un, un ; mais il ne peut jamais savoir quelle heure sonne. […] De sorte que, sans les mots, il n’existe aucune possibilité d’effectuer un calcul des nombres, encore moins des grandeurs, de la vitesse, de la force et de ces autres choses dont le calcul est nécessaire à l’existence et au bien-être du genre humain. »

Il n’y a donc pour Hobbes aucune différence fondamentale entre l’arithmétique, la géométrie ou la logique,car ce que l’on appelait jusqu’ici « calcul » dans le sens restreint du calcul mathématique est maintenant résorbé dans un calcul plus vaste, qui est le calcul logique portant sur des noms. Partout où je raisonne, j’effectue un calcul, c’est-à-dire une addition ou une soustraction portant sur des noms. Si je ne le fais pas, c’est que je fais autre chose que raisonner. Cela a pour conséquence immédiate que même des secteurs du raisonnement qui semble extrêmement éloignés de la logique et du calcul passent sous la logique et le calcul. Ainsi, écrit Hobbes, « les écrivains poli-tiques additionnent ensemble les contrats pour trouver les devoirs des hommes, et les juristes les lois et les faits pour trouver ce qui est bon ou mauvais dans les actions des personnes privées. En résumé, en quelque domaine que ce soit, là où il y a de quoi additionner ou soustraire, il y a aussi une place pour la raison, et, là où ces opérations n’ont pas leur place, la raison n’a rien à faire du tout. » On trouve une illustration exemplaire de cette idée dans le fait que le contrat d’association qui instaure l’état civil ou la République est le résultat d’un calcul entre les hommes à l’état de nature. Cette idée que la politique est intégralement réductible à un calcul logique justifie le mode d’écriture même des oeuvres politiques, à la manière des géomètres comme dit Hobbes.

Mais cette thèse très forte sur l’unicité du raisonnement, qui se réduit partout à un calcul logique, est-elle légitime s’il est vrai que la rationalité calculatoire n’est qu’un type parmi d’autres de rationalité ? On peut se de-mander dans quelle mesure la thèse de Hobbes ne constitue pas une sorte de coup de force, d’annexion impérialiste par la raison calculatoire de l’ensemble du domaine de la rationalité.

La caractéristique universelle et le triomphe de la pensée opératoire et de l’analyse logique de la pensée chez Leibniz

           Reste que c’est à Leibniz que va revenir la tâche de parvenir à une complète identification de la pensée au calcul, de la ratiocinatio à la compu-tatio. Leibniz a nourri le projet d’élaborer une caractéristique universelle qui permettrait « que, quand il y a des disputes entre les gens, on puisse dire seu-lement : comptons, sans autre cérémonie, pour savoir lequel a raison ». En 1666, Leibniz publie son De Arte combinatoria (« De l’art combinatoire ») dans lequel il défend l’idée que la logique doit reposer sur une méthode infaillible de déduction d’idées vraies. Le projet n’est pas nouveau, mais là où Leibniz innove, c’est en proposant de s’intéresser à la composition des idées, car il s’agit ici de décomposer toute idée complexe en un ensemble d’idées plus simples, puis de recommencer jusqu’à atteindre les idées les plus simples, primitives et indémontrables. Leibniz est ainsi à la recherche de ce qu’il appelle une Caractéristique universelle, sorte d’Alphabet général de la pensée humaine qui recenserait toutes les idées simples en servant de base à la recomposition des idées complexes. L’idée de Leibniz est que la langue naturelle comporte trop d’équivocité ; La caractéristique universelle est donc un langage purement logique, dans lesquels les noms possèdent une signification univoque et explicite. Les « signes » ou les symboles de cet Alphabet universel dont la langue est empruntée à l’algèbre, devaient permettre ensuite de composer les idées, comme les lettres permettent de composer des mots et les mots des phrases. Mettre fin aux disputes, cela se pourrait donc grâce à un « art de l’invention » que Leibniz souhaite perfectionner, afin de réduire tous les raisonnements humains à une espèce de calcul qui servirait à découvrir la vérité. Leibniz emploie volontiers la tournure « mettre en ligne de compte ». Ce calcul donnerait en même temps une espèce d’écriture universelle, voire une espèce d’algèbre générale qui donnerait moyen de raisonner en cal-culant, de sorte qu’au lieu de disputer, on pourrait dire : « comptons ». Ainsi, confirme Leibniz, « lorsqu’il s’élèvera des controverses, une dispute ne sera pas plus de mise entre deux philosophes qu’entre deux comptables ; Il suffira en effet de prendre les roseaux en main, de s’asseoir devant des abaques et de se dire mutuel-lement (notre ami y consentant) : calculons ».

         Leibniz fait ainsi l’éloge de Hobbes qui «  a établi que toute opération de notre esprit est une computation, celle-ci visant à recueillir une somme soit en ajoutant, soit en soustrayant une différence ». Lorsque je dis « homme », je dis synthétiquement ou additivement : « corps + animé + rationnel » soit corps animé doué de raison. De ce point de vue, qu’il soit possible de fabriquer des machines à calculer (c’est Pascal qui a conçu la première) fournit un modèle pour comprendre le fonctionnement de l’esprit humain. Il est vrai que les machines à calculer que l’homme construit ne sont pas capables de toutes les performances de la « pensée », et qu’elles sont capables de performances qui lui sont inaccessibles, par exemple de conservation de documents. Cependant, cela ne veut pas dire qu’elles  sont fondamentalement différentes. En effet, qu’est-ce que le programme d’un ordinateur, sinon un ensemble de règles coordonnées entre elles, un algorithme ? Il est vrai que c’est l’homme qui fait le programme, mais celui-ci n’est rien d’autre qu’une suite de calculs logiques. Or, les analyses précédentes de Hobbes et Leibniz ont montré que la pensée semblait n’être rien d’autre qu’une suite également de calculs logiques. L’histoire de la logique montre que les hommes ont d’abord pensé avant de repérer les règles qui leur permettent de penser. Si donc toutes les règles que nous utilisons ne sont pas explicitées, cela ne signifie pas que nous pensons indépendamment de toute règle, mais seulement que ces règles logiques peuvent gouverner la pensée à son insu. Or comme utiliser une règle, c’est cela la ratio ou calcul, penser revient bien à calculer, et l’esprit ne diffère pas essentiellement de la machine. D’où tous les passages où Leibniz compare le raisonnement à un mécanisme ou la Caractéristique à une machine, Leibniz ayant même inventé dès sa jeunesse une Machine arithmétique pour effectuer les quatre opérations, et une Machine algébrique pour résoudre les équations. Il était naturel qu’après avoir réduit le raisonnement à un calcul, Leibniz voulût le réduire, comme les calculs numériques, à un mécanisme matériel. En proposant une analogie entre l’esprit humain et la machine à calculer, il est sans doute le premier à avoir saisi l’ampleur d’un projet philosophique qui consiste à remplacer l’esprit humain par une machine à calculer. Ainsi, on voit que l’art combinatoire, ou caractéristique universelle, est censé nous fournir une machine à raisonner dont le principal ressort est la force de la forme logique, nous dispensant fort commodément d’avoir à penser. Comme l’avait pressenti et redouté Descartes, l’accomplissement de la pensée comme mise en forme logique et calcul ne revient-il pas à un renoncement de la pensée à elle-même ?

         Mais ce n’est pas seulement la pensée humaine que Leibniz réduit au calcul, c’est aussi la pensée de Dieu qu’il identifie à un ordinateur géant. Rappelons que pour Leibniz, c’est  par un calcul divin que notre monde a été crée comme étant, entre tous les mondes possibles, le meilleur. Cum Deus calculat fit mundus. Dieu conçoit dans son entendement tous les mondes possibles, c’est-à-dire tous les ensembles de choses qui n’impliquent pas contradiction (ce qui définit la possibilité logique), et qui sont compatibles entre elles, c’est-à-dire compossibles. Ainsi, un Adam non pécheur était possible, mais seul un Adam pécheur est compatible avec un Christ rédempteur. Or Leibniz estime qu’un monde contenant un Adam pécheur et un Christ rédempteur est finalement plus parfait qu’un monde où Adam n’aurait point péché, ce qui est une manière d’illustrer l’idée que là où le péché abonde, la grâce surabonde. De cette infinité de mondes possibles, Dieu crée le meilleur en vertu d’une nécessité morale (la nécessité morale est ce dont le contraire implique imperfection là où la nécessité logique est ce dont le contraire implique contradiction) qui incline le choix divin du fait de la plus grande perfection de ce monde. On peut donc concevoir le Dieu de Leibniz comme un ordinateur géant ou une immense machine à calculer, car le meilleur des mondes possibles n’est rien d’autre que celui où le mal est le moins grand, c’est-à-dire celui qui contient le maximum de perfection. C’est donc un maximum que Dieu ferait passer à l’existence. Plutôt qu’élection du meilleur des mondes possibles, on pourrait tout aussi bien dire que le calcul divin planifie ce monde, car  le principe de raison qui anime cette entreprise de justification de tout ce qui est, vise à l’organisation, au contrôle de l’action sur l’ensemble des choses dans le cadre d’une programmation ou d’une planification qui cherche à exclure aussi bien surproduction que pénurie et gaspillage. C’est déjà par avance l’optimisation de l’entreprise, avec l’aide des ordinateurs. Mais il faudrait se demander si telle avancée de la pensée calculante, qui trouve ici son émergence n’irait pas de pair avec une fuite éperdue de la pensée comme pensée méditante, de la pensée entendue non comme maîtrise et procédure opératoire, mais comme quête de sens. En apprenant à la raison à « raisonner en calculant », à « tout mettre en ligne de compte » sur le modèle des opérations de l’entendement divin, la pensée de Leibniz représente une extraordinaire préfiguration du monde moderne, où chaque vie humaine se déplie en fonction de son équation personnelle, où en fonction du fondement de la connexion de tous ses états différents. Mais à mesure que la pensée calculante étend son règne et son emprise sur le monde, à mesure que l’étant se réduit à ce qui s’offre aux prises du calcul et que le nombre vient prendre la place du nom, c’est la dimension de l’incalculable, au sens de ce qui n’est pas susceptible d’être calculé, qui échappe toujours davantage à la pensée. C’est ce que nous allons nous efforcer de démontrer à travers la critique heideggerienne de la pensée calculante et la nécessité de déployer une autre forme de pensée, une pensée méditante, qui soit irréductible au calcul.

 II) De la pensée calculante à la pensée méditante : 

la critique heideggerienne de l’interprétation

techniciste de la pensée

Du « logos » grec à la « ratio » latine : l’éclipse du logos comme recueillement et les caractéristiques de la pensée calculante

On a vu que Ratio, qui finira par vouloir dire raison et par servir de traduction au grec Logos, a pour sens premier le compte, le calcul. C’est d’abord un terme de comptabilité. La pensée qui compte et calcule, la pensée calculante n’opère pas nécessairement pour autant sur des nombres : lorsque nous dressons un plan, participons à une recherche, organisons une entre-prise, nous comptons toujours avec des circonstances données. Nous les faisons entrer en ligne de compte dans un calcul qui vise des buts déterminés. Nous escomptons d’avance des résultats définis. Ce calcul caractérise toute pensée planificatrice et toute recherche. Pareille pensée ou recherche demeure un calcul, là même où elle n’opère pas sur des nombres et n’utilise ni simples machines à cal-culer, ni calculettes électroniques.

         Mais la pensée calculante n’épuise pas toutefois le domaine de la pen-sée, si omniprésente et hégémonique soit-elle. La pensée calculante se pré-sente même comme « une fuite devant la pensée » dans la mesure où elle ne songe pas même à faire droit à une « pensée méditante », c’est-à-dire à « une pensée en quête du sens qui règne en tout ce qui est ». Aussi Heidegger peut-il distinguer « deux sortes de pensées, dont chacune est à la fois légitime et nécessaire : la pensée qui calcule et la pensée qui médite ». La fuite devant la pensée, telle qu’elle caractérise l’homme contemporain, est la fuite devant la pensée qui médite, devant une pensée en quête de sens, car de la pensée qui calcule se distingue ici la pensée qui ne se contente pas de thématiser, de « cibler », ou de « gérer » tel ou tel secteur de l’étant, mais qui se met en quête d’un sens. Quant la pensée se fait raison calculante, fuyant devant cette autre possibilité de la pensée qu’est la pensée méditante, alors, écrit Heidegger, «  la Raison, tant magnifiée depuis des siècles, devient l’adversaire la plus opiniâtre de la pensée ». La raison (re)devenue calculante garde la nuque raide devant l’affaire de la pensée. C’est ce qui amène Heidegger à montrer que la ratio romaine est à la fois héritière et orpheline du logos grec, au cours d’une histoire qui, du monde romain jusqu’à l’âge présent, va s’éloigner toujours davantage de son ancrage dans la parole. Ce que dit le latin ratio comme compte, calcul, n’est pas entièrement étranger au grec logos, mais c’est incidemment ou par extension, par dérivation, que le terme grec a pu prendre le sens de « com-pte », « rapport », « proportion », voire « raison à rendre » car le sens originel du verbe legô (d’où vient le logos) est « ras-sembler, cueillir, choisir ». L’idée première et en quelque sorte matricielle exprimée par le verbe legô n’est donc pas compter, calculer, dénombrer, énumérer, ni même parler, mais : recueillir. Le « miracle grec » n’est pas l’avènement de la Raison, mais celui du logos, et son originalité n’est pas d’avoir appelé la parole logos, mais de l’avoir appelée ainsi à partir de l’idée de recueillement. L’avènement de la raison comptable et calculante n’est donc pas lié au logos mais à sa traduction romaine par ratio. Traduction que l’on peut tenir pour inoffensive et anodine, et avec laquelle s’est joué pourtant le destin de la pensée occidentale jusque dans la constitution de la rationalité moderne. Pourquoi ? « La pensée romaine, précise Heidegger, dans Le Principe de raison, reprend les mots grecs sans l’expérience originale correspondant à ce qu’ils disent, sans la parole grecque. C’est avec cette traduction que s’ouvre, sous la pensée occidentale, le vide qui la prive désormais de tout fondement. » La pensée occidentale n’a plus d’ancrage dans la parole grecque en étant l’héritière d’une défiguration de cette parole dans les mots mêmes qu’elle n’entend plus mais se contente d’utiliser. La pensée occidentale est éprise d’un fondement, mais sous ses pieds s’ouvre un  abîme.

         La pensée calculante est donc celle qui s’est écartée de son élément originel. Telle est ce que Heidegger appelle l’interprétation « technique » de la pensée, qui trouve sont accomplissement dans la science moderne. D’où le rapprochement que fait Heidegger entre ces trois, formes de pensée que la tradition philosophique s’était efforcée de distinguer avec la dernière vigueur : la pensée scientifique, philosophique et commune . La pensée commune, exclusivement braquée sur l’activité journalière, ne constitue que l’ultime avatar de la démarche philosophique, car ce sont les traits fonda-mentaux de cette dernière que l’on retrouve dans ce qu’il est convenu d’appeler le sens commun. Mais la pensée philosophique n’est à son tour, de manière plus subtile et secrète, qu’un avatar du mode de représentation qui se trouve être à l’oeuvre dans la science. Quelles sont les caractéristiques qui dominent la démarche scientifique ? Délimitation de domaines distincts, méthode, calcul, compartimentation, spécialisation. Or la pensée, dans son acceptation habituelle, trouve son modèle dans le mode de pensée scientifique, qui fonctionne comme la norme de toute pensée. D’où les caractères de la pensée habituelle (commune ou philosophique) dans ses traits principaux : prévalence de la logique, domination de la représentation, catégories de la causalité et du fondement, règne du concept, usage de l’explication, volonté de rigueur conçue comme exactitude. Ces traits ne sont pas d’une autre nature que ceux que l’on retrouve de la science comme « théorie ».

Vers une autre « expérience de la pensée » :  la pensée authentique comme méditation sur le sens de l’être

         Tous ces traits, qui définissent l’interprétation technique de la pensée, peuvent être rassemblés autour d’un pôle unique, celui du calcul. Le calcul n’a donc pas besoin d’opérer sur des nombres, car toute pensée qui compte est un calcul. Même la pensée des valeurs, en tant qu’elle évalue, relève de cette pensée calculante. Or la pensée traditionnelle, dans la mesure où elle est dominée par la représentation, est condamnée à compter. Car représenter, c’est objectiver le réel dans une représentation, c’est par essence pourchasser,  traquer le réel, c’est le suivre à la trace et s’en assurer, c’est-à-dire le provoquer à rendre des comptes. Et c’est pour cette raison que la pensée représentative se caractérise par le calcul. Pour s’assurer du réel et le maîtriser, elle doit compter avec des circonstances, les faire entrer en ligne de compte, provoquer toute chose à rendre des comptes, en un mot soumettre la nature entière au régime de la raison. Le monde n’est alors plus que ce sur quoi la raison calculante dirige ses attaques. Mais le calcul lui-même, comme trait fondamental de cette modalité de pensée, renvoie, comme à son origine, à une donnée fort simple, et qui pourtant soutient tout : c’est que la pensée est ici exclusivement centrée sur l’étant, elle est pensée de l’étant, issue de lui et tendue sur lui. De ce fait, elle ne peut que se présenter autrement que comme un perpétuel « compte rendu » de ce qui est, compte rendu inséparable d’une empoignade et d’une volonté de domination où tout réel, puisqu’il est calculable et prévisible, se doit d’être maîtrisé, sinon comptabilisé : comme le dit Heidegger, « déjà dans son intention, et non seulement dans ses résultats ultérieurs, l’essence dévorante du calcul ne fait valoir tout étant que sous la forme de l’addition et du comestible. La pensée calculante s’astreint elle-même à la contrainte de tout maîtriser à partir de la logique et de sa manière de procéder ». On le voit, la pensée calculante est en réalité une pensée formatée pour les besoins de la technique, car elle force le réel à se dévoiler dans la forme d’une représentation qui rend possible l’exploitation et la domination de ce réel. A ce titre, la technique, loin d’être une simple application de la connaissance scientifique, est plutôt ce qui gouverne de l’intérieur la connaissance scientifique, une connaissance qui n’a rien de neutre puisque la manière dont elle connaît le réel est déjà subordonnée à une injonction visant à s’assurer la maîtrise du réel.  Mais une telle pensée, assujettie à la technique, se condamne à n’être qu’une pensée oublieuse du mystère. Car qu’est-ce que le mystère, sinon ce qui ne se laisse entrevoir qu’en se dérobant ? De même que la lumière rend toute chose visible, mais reste invisible, de même l’être, sans lequel les étants seraient indéfinissables, demeure en retrait et occulté, son voilement est la condition permettant de braquer le projecteur sur l’étant. C’est pourquoi la fixation sur l’étant interdit l’ouverture au mystère. La pensée calculante se trouve ainsi irréductiblement détournée de cela seul d’où procède tout mys-tère d’où s’instituent le langage et la poésie et dans l’élément duquel seule-ment la pensée peut être essentielle : l’être.

L’accès à cette pensée méditante, irréductible au calcul, suppose donc de ramener la pensée dans son élément, en rappelant sa co-appartenance à l’être. Cette appartenance, toutefois, doit être arrachée par la lutte à l’activité habituelle et contre elle, car dans quelque ordre que ce soit, ce qui est le plus simple et le plus essentiel est toujours, en raison de cette simplicité même, ce qui ne peut être véritablement habité qu’au terme d’un long chemin. Remettre la pensée dans son élément, c’est donc paradoxalement la renvoyer à son lieu le plus propre, et pourtant le plus inexploré ; c’est lui permettre de retourner là où, d’une certaine façon elle a toujours déjà été, et où malgré cela elle n’a encore jamais bâti. C’est donc bien l’appartenance à l’être qui désigne cette pensée méditante que Heidegger oppose irréductiblement au calcul. Cette pensée est pensée de l’être, au double sens, subjectif et objectif, du génitif : d’une part la pensée est un événement de l’être, elle appartient à l’être, provient de lui et reste retenue en lui. D’autre part, lui appartenant, elle a cette appartenance même pour objet et souci, c’est-à-dire qu’elle est à l’écoute de l’être, se dirige vers lui, et lui est assignée. Ce que Heidegger assigne pour tâche à la pensée, en lui demandant de penser l’être, ce n’est pas tant de privilégier tel ou tel objet que de garder mémoire d’elle-même, et c’est juste-ment parce que sa tâche est de demeurer à l’écoute de son propre lieu que la nature même de la pensée est définie par Heidegger comme mémoire, sou-venir, ou pensée fidèle. Si la pensée se doit d’être fidèle à l’être, c’est d’abord et avant tout parce que, se situant dans l’être, elle se doit de garder mémoire d’elle-même, de rester ordonnée à la dignité de sa propre essence. Mais si la pensée ne peut en aucun cas produire l’être, ni même le rejoindre de et par sa propre décision, et si elle n’est pas non plus recherche, au sens d’une exploration et d’un recensement de l’étant, à quoi sert-elle donc, et que produit-elle donc ? Une telle pensée, répond Heidegger, n’a pas de résultat. Elle ne produit aucun effet, car tous ces termes appartiennent au calcul, régis par la hantise des buts, et qui ne mesure son efficience qu’à l’escompte des profits et des pertes. Or c’est cette conception même de la fécondité d’une pensée qui se trouve ici récusée. Mesurer la pensée de l’être à son efficacité ou à son utilité pour la vie quotidienne et pratique, c’est encore la mesurer à l’aune de l’étant, et c’est ainsi lui demander de se conformer à des critères qui lui sont dès l’abord inadéquats et étrangers. Dire au contraire que la pensée de l’être ne sert à rien, c’est rappeler que, mesurées à l’aune de l’être, la passion de l’utilité et l’obsession de l’efficacité ne sont qu’une fuite en avant éperdue dans un étant conçu comme indéfiniment maîtrisable et donc consommable, fuite qui nous éloigne toujours davantage de l’unique nécessité réclamant d’être pensée. Ainsi non seulement la pensée de l’être ne saurait être mesurée selon le critère habituel de l’utilité, mais elle éclaire ce critère lui-même, et c’est dans cet éclairage que réside son efficience, car rappelant que tout étant n’est ce qu’il est que dans la lumière inaperçue de l’être, elle travaille à construire la « maison de l’être », un être qu’il s’agit en réalité seulement de « laisser être ». De ce laisser-être témoigne, pour Heidegger, la Parole poétique, qui se met à l’écoute de l’être. Le poète ne parle, en effet, que parce qu’il écoute, et sa parole incantatoire se fait l’écho du murmure indicible des choses, qui aspirent à se dire dans les mots du poète. La langue poétique, certes, est équivoque (à la différence de la langue des ordinateurs, qui est parfaitement univoque et transparente pour la pensée), et c’est pourquoi elle requiert une herméneutique. Mais il appartient justement à la pensée méditante de dévoiler ce sens de l’être, que la parole du poète nous donne à pressentir de manière toujours énigmatique.

On voit dès lors ce qui distingue fondamentalement l’une et l’autre pensées que nous avons ici décrites, outre leur caractéristiques réciproques, ce sont leur origine. C’est celle-ci qui, en dernière instance, décide de tout. Il est bien vrai que ce qui sépare, dans l’ordre descriptif, ces deux modalités de pensée, c’est que l’une n’a souci que de prendre, tandis que l’autre se contente plus humblement de recevoir l’offrande de l’être, et se définit principalement pas sa gratitude (d’où la parenté qu’établit l’allemand entre la pensée (denken) et le remerciement (denke). Mais c’est parce que l’une trouve sa source dans l’épreuve de la vérité de l’être, tandis que l’autre la trouve dans la considération de l’objectivité de l’étant. L’une ne vise qu’à calculer ce qui est dévoilé, l’autre s’efforce de garder ou de retrouver mémoire du dévoilement lui-même. L’une s’épuise à dresser le « compte rendu » de tout présent, l’autre accepte de s’ouvrir au mystère de la présence, à la merveille des merveilles, au « il y a » qui suscite l’étonnement du philosophe s’il est vrai que la pensée philosophique authentique s’enracine dans un étonnement primordial devant le « il y a », là où le sens commun, empêtré dans l’étant, ne songe plus guère à s’étonner. Ainsi la pensée peut elle accomplir son essence, devenir essentielle, c’est-à-dire plus pensante, non pas quand elle s’élève à un plus haut degré de précision et d’exactitude, comme le voudrait la philosophie analytique qui est l’héritière de cette pensée calculante, mais lorsqu’elle est renvoyée, de manière beaucoup plus radicale, à une autre provenance.

         III) L’irréductibilité de la pensée au calcul :  

raisonner ou délibérer, est-ce seulement calculer ?

Le modèle mathématique chez Descartes et les limites de la rationalité opératoire : déduction et intuition

 

      La pensée semble donc bien irréductible au calcul. Et peut-être faudrait-il du coup remettre en cause l’idée selon laquelle raisonner se réduirait à cal-culer. Car si c’était le cas, la pensée se ramènerait à sa dimension purement mécanique, se contentant d’enchaîner les propositions en les déduisant les unes des autres sur le modèle du syllogisme. De ce point de vue, on peut penser que la lecture heideggerienne de la raison moderne, réduite à sa dimension calculatrice en vertu d’une technicisation mathématique de la pensée, ne rend pas totalement justice au moment cartésien de l’avènement de la rationalité moderne, car si Descartes promeut effectivement le modèle des mathématiques en l’appliquant au raisonnement, il refuse, à la différence de Hobbes, de faire de la pensée une simple opération sur les mots puisque les mots ne sont pour lui que les « signes » de nos pensées, et non ce qui les constitue par leur assemblage, comme c’est le cas pour Hobbes, chez qui la pensée n’existe pas en dehors des signes qui la représente. Dans ses Réponses aux Troisièmes Objections, Descartes s’étonne que Hobbes conçoive cet « assemblage et enchaînement de noms » qu’est le raisonnement « comme ne concernant en rien la nature des choses mais seulement leurs noms ou appellations », à savoir « les noms des choses, selon les conventions que nous avons faites à notre fantaisie touchant leurs signification ». Que la pensée réside dans un enchaînement (concatenatio), et qu’elle puisse s’inspirer du modèle déductif des mathématiques, Descartes n’en disconvient certes pas, lui qui évoque dans la deuxième partie du Discours de la méthode « ces longues chaînes de raisons, toutes simples et faciles, dont les géomètres ont coutume de se servir, pour parvenir à leurs plus difficiles démonstrations », suscitant la possibilité que les « choses, qui peu-vent tomber sous la connaissance des hommes, s’entre-suivent de la même façon ». Mais à la différence de Hobbes, qui réduisait comme on l’a vu le raisonnement à une opération sur les noms, Descartes précise « que l’assemblage qui se fait dans le raisonnement n’est pas celui des noms, mais bien celui des choses signifiées par les noms. » « Car qui doute, poursuit-il, qu’un Français et un Allemand ne puissent avoir les mêmes pensées ou raisonnements touchant les mêmes choses, quoique néanmoins ils conçoivent des mots entièrement différents ? ». Les « pensées ou raisonnements » de Descartes sont les mêmes, qu’il s’exprime en latin, en français ou en néerlandais, puisque penser n’est rien d’autre que raisonner, en sorte que le langage est une traduction de la pensée beaucoup plus qu’il ne la constituerait à travers la disposition des mots. La pensée est donc entièrement détachée de la langue dans laquelle elle s’exprime car ce qui importe à Descartes, c’est de savoir conduire par ordre ses pensées et non pas d’établir, comme Leibniz, une langue rigoureuse et univoque qui risquerait de dénaturer la pensée. A ce titre, le langage humain n’est aucunement réductible à la langue formaliste et symbolique des mathématiques, mais il est un instrument universel qui manifeste la présence de la pensée, et ce langage est présent en tout homme. Descartes, dans la cinquième partie du Discours de la méthode, souligne d’ailleurs que « c’est une chose bien remarquable, qu’il n’y a point d’hommes si hébétés et si stupides, sans en excepter même les insensés, qu’ils ne soient capables d’arranger ensemble diverses paroles, et d’en composer un discours par lequel ils fassent entendre leurs pensées. » Ce qui caractérise la parole humaine, en tant que signe de la pensée, et ce qui la distingue radicalement de la machine, c’est l’impossibilité d’expliquer les divers arrangements de signes que l’homme produit dans un discours par la seule existence des organes physiques de la machine corporelle. Autrement dit Des-cartes oppose radicalement d’un côté le mécanisme, et d’un autre côté la raison, qui doit être radicalement distinguée de toute forme de mécanisme quel qu’il soit. Car le contraire du mécanisme pour Descartes, ce n’est ni la finalité, ni un mécanisme déréglé, mais c’est la raison en tant qu’elle est un instrument universel qui peut permettre à l’homme de s’adapter à toutes sortes de situations possibles là où le calcul des machines n’a nullement cette faculté d’adaptation puisqu’il est ajusté à une fin unique, celle pour laquelle il a été initialement programmé. On peut certes complexifier tant qu’on veut la programmation, comme le fait la prétendue intelligence artificielle, cela restera toujours de la programmation ! Si le langage humain est effectivement le signe de cette universalité de la raison, c’est, par exemple, parce qu’il permet de combiner arbitrairement certains signes pour répondre à une question dans n’importe quel type de situation donnée, indépendamment de toute programmation préalable, ce qui est la marque le plus évidente de la pensée. La parole humaine, en tant que signe de la pensée, est une action qui s’oppose radicalement à toute forme de mécanisme, et c’est pourquoi Des-cartes précise qu’une pie ou un perroquet peuvent bien proférer comme nous des sons articulés, ils ne parlent pas véritablement, puisque ces signes combinés ne témoignent pas de la présence d’une pensée, mais seulement d’une répétition mécanique. Ainsi, pour Descartes, il n’y a pas de machine à parler, ni de machine à penser ou à inventer, et pourtant il y a des machines à cal-culer.

         Penser, ce n’est donc pas additionner ou soustraire, comme le voulait Hobbes, c’est raisonner. La promotion des mathématiques, que Descartes appelle de ses vœux, n’a donc pas pour ambition de réduire toutes les pensées humaines à un calcul opérant avec des nombres, car le raisonnement n’est pas, pour Descartes, computatio, mais consideratio et meditatio, ce qui reconduit réflexivement à l’incalculable « ego » de l’ego cogito, qui ne peut être saisi que dans une expérience de pensée qui relève de l’intuition, beaucoup plus que de la déduction mathématique : il s’agit bien ici d’une expérience de pensée qui fait appel à un constat irréductible à toute déduction (raison pour laquelle Descartes nous met en garde contre la tentative qui ferait de son cogito la conclusion d’un syllogisme à partir de prémisses qui seraient : « Tout ce qui, pense est. Or je pense. Donc Je suis » puisque c’est ici l’expérience particulière et personnelle que pour penser, il faut être, qui conduit à la proposition universelle : « tout ce qui pense est ». A cet égard, la pensée de Descartes apparaît bien comme une pensée méditante (les pensées de Descartes, si elles se soumettent à l’ordre mathématique des raisons, s’ex-priment néanmoins sous la forme de « méditations métaphysiques »), une pensée méditante qui demeure réfractaire à toute pensée calculante, car le secret lui-même non mathématique de la mathématique, c’est qu’elle est moins affaire de quantité calculable et comptable que d’ordre et de mesure : le dénombrement de tous les pensées humaines, afin de les mettre par ordre, tel est le plus grand secret qu’on puisse avoir pour acquérir la « bonne science ». Mais dénombrer toutes les pensées humaines n’est pas pour autant les numériser. S’il est vrai qu’il faut calculer pour résoudre des problèmes théoriques ou pratiques, il n’en reste pas moins vrai que le calcul présuppose que l’on aperçoive non seulement les règles que l’on utilise, mais également leur agencement.

C’est en ce sens que l’intuition, même si on la considère comme faillible à la suite de Leibniz, qui jugeait le critérium cartésien de l’évidence, qui se donne à saisir intuitivement, trop psychologique et subjectif pour garantir efficacement la vérité d’une idée, est absolument nécessaire à la pensée, car si penser, pour Descartes, c’est raisonner (c’est la déduction) penser, c’est aussi d’abord et avant tout voir. Or le calcul ne présuppose pas seulement l’application correcte de règles, mais également la saisie intuitive de la pertinence des règles. Tel est le sens de la distinction que fait Descartes entre l’intuition et la déduction, dans les Règles pour la direction de l’esprit. En effet, si de l’égalité entre 3 + 1 = 4 et de l’égalité entre 2 + 2 = 4, je déduis que 3 + 1 = 2 + 2, il faut  que mon esprit saisisse, par intuition, la conséquence. Aussi, Descartes définit-il l’intuition comme cette conception claire et distincte que forme l’esprit attentif dans une sorte de vision de l’intellect qu’aucun calcul ne peut produire. Mais c’est précisément cette intuition qui fait défaut aux machines, aussi sophistiquées soient-elles, et qui permet d’affirmer qu’elles ne pensent pas. Pour que l’ordinateur pense, il faudrait qu’il puisse intuitivement appréhender un sens. Mais la machine ne connaît que la pensée déductive ou discursive, pas la pensée intuitive et le seul langage que la machine puisse comprendre est le langage binaire, comme l’a bien montré l’algèbre de Boole.

Calcul machinal et calcul humain : les limites de la modélisation mécanique de la pensée humaine

      Mais on peut même aller plus loin en montrant que non seulement les machines ne pensent pas, mais elles ne calculent pas vraiment non plus puisque le programme qui est le leur les conduit simplement à remplir des fonctions certes analogues au calcul, mais qui en diffèrent essentiellement au sens où c’est l’utilisateur de la machine qui effectue les calculs, c’est-à-dire qui en donne les prémisses et qui en interprète le résultat. Les machines peuvent effectuer un très grand nombre d’opérations en un temps extrêmement court,  mais elles ne calculent pas stricto sensu, parce que le sens des opérations et du résultat leur échappe. Un enfant qui compte son argent pour acheter des bonbons est essentiellement différent des plus performants ordinateurs du Pentagone, parce que l’interprétation du résultat est ce qui donne sens à son calcul, et il ne calculerait pas si ce calcul n’était pas subordonnée à une finalité qui le motive. L’enfant donne sens au résultat parce qu’il sait que ce qu’il compte lui permettra d’acheter ou non les bonbons qu’il convoite. Mais même en admettant que les machines calculent (si l’on entend par calculer faire une opération), il y a des opérations humaines que le calcul est incapable d’effectuer, parce qu’il n’en saisit pas le sens. Une blague qui circule en informatique permet de bien illustrer cela : on pose la question à un ordinateur : que faut-il choisir entre une montre qui est cassée et bloquée à trois heures et une montre qui prend cinq minutes de retard chaque jour ? Réponse de l’ordinateur : la montre cassée, parce qu’elle donne l’heure exacte deux fois par jours, tandis que la montre qui retarde ne donnera l’heure juste que tous les X jours (par exemple 685, 785 jours compte tenu du décalage et de son rattrapage). En revanche, le bon sens humain n’hésite pas : il prend la montre qui retarde, car elle est plus utile, et au moins, elle marche ! Ainsi, la logique du calcul et celle du bon sens ne se rencontrent pas toujours, et le calcul ne suffit pas pour saisir les raisons de préférer une montre qui fonctionne de manière approximative plutôt qu’une montre cassée. Le « bon sens », dont Descartes disait qu’il est la chose du monde la mieux partagée, paraît plus intelligent que le calcul strict et exact, mais très limité dans ses vues, c’est-à-dire borné. L’ordinateur ne pense pas, il exécute une opération qui est déclenchée par les entrées qu’il reçoit. Strictement parlant, c’est un peu comme si l’entrée était un stimulus déclenchant une réponse. La relation entre le stimulus et la réponse n’est pas pensée par la machine, mais établie par le programmeur qui a spécifié ce que la machine devait faire quand tel type d’entrée lui était proposée. Si le programme est fait pour renvoyer des sottises, la machine lui renverra des sottises, ce qui montre bien que c’est le programmeur qui est intelligent (et non pas la machine).

      Enfin, il peut paraître également absurde, comme le suggérait Leibniz, de réduire le « choix » à un calcul de la raison qui soupèserait les différentes possibilités en élisant la meilleure d’entre toutes. On a vu que c’est ce qui justifiait la réduction de la délibération rationnelle à un simple calcul machinal que Leibniz appliquait prioritairement au choix divin touchant les mondes possibles. Mais on peut observer que le choix le plus rationnel, du point de vue du calcul machinal, n’est justement pas forcément le choix optimal, et que l’homme, précisément parce qu’il n’est pas une machine, pour-ra très bien prendre le risque calculé de perdre plus pour gagner plus, ce qui semble montrer que la prudence calculatrice et réfléchie de l’homme ne se confond pas avec le calcul aveugle et sans réflexion de la machine. En ce sens, même lorsqu’il calcule, l’homme ne calcule pas comme une machine ! C’est bien ce qu’illustre, en un sens, le fameux « dilemme du prisonnier », qui sert de fondement aux théories des jeux ou à celles de choix sociaux, qu’Albert W. Tucker présente sous la forme d’une histoire. Deux suspects sont arrêtés par la police. Mais les agents n’ont pas assez de preuves pour les inculper, donc ils les interrogent séparément en leur faisant la même offre :

 « Si tu dénonces ton complice et qu’il ne te dénonce pas, tu seras remis en liberté et l’autre écopera de dix ans de prison. Si tu le dénonces et lui aussi, vous écoperez tous les deux de cinq ans de prisons. Si personne ne se dénonce, vous aurez tous les deux six mois de prison ». Chacun des prisonniers réfléchit donc de son côté, en passant en revue les deux cas possibles de réaction de son complice :

« Dans le cas où il me dénoncerait :

                   – Si je me tais, je ferai 10 ans de prison.

                   – Mais si je le dénonce, je ne ferai que 5 ans ».

« Dans le cas où il ne me dénoncerait pas :

                   – Si je me tais, je ferai six mois de prison

                   – Mais si je le dénonce, je serai libre ».

         Si chacun des complices mène ce raisonnement, les deux vont proba-blement choisir de se dénoncer mutuellement, car ce choix est le plus avan-tageux. Conformément à l’énoncé, ils écoperont alors de 5 ans de prison chacun. Mais ce choix, dicté par le calcul et empreint de rationalité, n’est cependant pas le meilleur choix (le choix optimal pour tous les deux), car s’ils étaient restés tous les deux silencieux, ils n’auraient écopé que de six mois de prison chacun. En d’autres termes, le meilleur choix dans l’absolu (le choix optimal pour les deux) n’est pas forcément, comme le pensait Leibniz, le choix que le calcul machinal me commanderait de faire, car faire le choix optimal présuppose une situation d’incertitude, à savoir le postulat d’un altruisme chez mon complice que rien ne garantit, mais qui engage, dans la réflexion et la délibération rationnelle, l’acceptation d’un risque (celui de perdre plus pour gagner plus) que le calcul machinal tendra au contraire nécessairement à évacuer pour minimiser les risques.

Pour conclure, je rappellerai qu’en 1997, Deep Blue, un ordinateur d’IBM, parvint à battre le champion du monde des échecs Garry Kasparov en calculant 300 millions de coups par secondes. Est-ce à dire que Kasparov en faisait autant, ou plutôt, qu’il en fit moins, puisqu’il perdit ? Que Deep Blue use du calcul pour jouer aux échecs signifie-t-il que Kasparov en faisait de même ? Paradoxalement, des études récentes montrent qu’un grand maître des échecs ne calcule pas. Le joueur d’échec qui calcule est un débutant. L’expérimenté ne calcule pas, il reconnaît des formes. La neuropsychologie montre que les zones du cerveau activées chez le grand joueur d’échec sont les mêmes que celles de la reconnaissance des formes, des visages. Le grand maître, à force de jouer et rejouer, d’étudier des parties déjà jouées, développe une aptitude cognitive qui lui fait reconnaître la forme d’une combinaison et lui donne l’intuition du coup suivant, sans avoir à le calculer. Ce qui est à l’œuvre chez le grand maître est moins une puissance de calcul qu’une capacité à mémoriser les anciennes parties et à voir, à reconnaître des formes là où le joueur lambda n’y parvient pas. Ainsi, l’intelligence humaine n’est pas le calcul, car le calcul renvoie à ce qu’il y a de mécanique dans l’intelligence humaine, mais l’intelligence humaine ne se réduit pas à cette dimension mécanique qui peut être prise en charge par la machine, et ceux qui redoutent que l’intelligence artificielle ne puisse un jour supplanter l’intelligence humaine tendent à oublier que cette crainte n’a lieu d’être qui si l’on a d’abord, en vertu de présupposés matérialistes très contestables dont on a vu qu’ils prennent leur source chez Hobbes, réduit le fonctionnement de l’intelligence humaine au seul calcul. Au plus haut degré de l’intelligence humaine, il y a quelque chose que l’on nommera l’intuition, une intuition dont la ma-chine qui calcule est totalement dépourvue. Réduite au seul calcul, l’intelligence se borne à emprunter toujours les mêmes sentiers, sans jamais rien découvrir d’autre, et la liberté y est totalement absente. Prenez deux hommes, et il n’y aura jamais deux parties d’échecs identiques qu’ils disputeront. Rien n’est moins sûr avec deux ordinateurs s’ils se contentent à chaque fois de calculer. Ainsi, tant que l’intelligence artificielle se bornera au calcul (mais peut-elle faire autre chose que calculer ?), elle se contentera d’imiter, certes plus efficacement, le plus bas degré de l’intelligence humaine, mais celle-ci n’est pas seulement calcul et analyse, elle est aussi, et surtout intuition, invention, apprentissage, elle fait intervenir l’imagination et l’affectivité (Pascal ne parlait-il pas à ce sujet d’une « intelligence du cœur » qui renvoie davantage à « l’esprit de finesse » plus qu’à « l’esprit de géométrie » propre au raisonnement purement mathématique ?) et tant d’autres choses qu’il reste encore à découvrir. Le drame de l’intelligence artificielle, c’est d’être la matérialisation de théories développées par les hommes pour modéliser leur propre acte de penser, mais les scientifiques ne voient pas toujours que cette modélisation, qui use des mathématiques comme langage, ne donne qu’une épure abstraite de la réalité qu’ils cherchent à comprendre et dont le fonctionnement leur échappera toujours en partie. Ainsi, tant que les hommes ne parviendront pas à rendre compte de leur intelligence (et de toute chose en général) autrement qu’avec les mathématiques, tant que les ordinateurs ne comprendront pas un autre langage que les mathématiques, il ne faut pas s’attendre à les voir réfléchir, car un tel acte suppose un détour nécessaire par la conscience, dont il ne peut exister aucun artifice. La peur entretenue au sujet de l’intelligence artificielle n’est-elle pas un « artifice » destinée à nous masquer des menaces autrement plus dangereuses pour l’humanité ?