Actualités, Intelligence artificielle, Technoscience

Le fantasme de l’intelligence artificielle consciente

andre-spilborghs-719343-unsplash-e1531151475334.jpg

Le début de ce XXIème siècle est radicalement traversé par une double révolution numérique, celle d’une part de l’intrication de l’information et de l’organisation, et d’autre part de l’imbrication des sciences cognitives et des techniques informatiques.

La révolution numérique de l’information s’esquisse et se manifeste au travers de moyens qui avaient été à peine imaginés 50 ans plus tôt. Tant et si bien que nous avons le sentiment, « nous les simples humains » de vivre une accélération phénoménale du temps, une accélération effrayante par l’ampleur du “système technicien1 qui se dessine…

Dans à peine une décennie, serions-nous ainsi capables d’entrevoir, d’imaginer les nouvelles possibilités organisationnelles et « technoscientifiques » qui n’ont pas encore été imaginées à ce jour.

Soyons nonobstant assurés que la science et la technique déploieront dans quelques années de nouveaux prodiges qui fascineront l’homme, le submergeront au point que cette même technique est en passe demain, probablement de le dominer.

Cette domination de la technique sur l’homme est hélas et inévitablement fortement prévisible, si l’homme ne tente pas de mettre les curseurs, les limites nécessaires pour entraver le développement de technologies susceptibles de noyer ou de vampiriser son âme. Une des technologies fascinantes qui n’est pas en réalité nouvelle, puisque née dans les années 50, connaît une évolution dont l’ampleur avait déjà été pressentie dès l’origine de sa conception. En effet en 1958, Herbert Simon2 prix Nobel d’économie, fut le pionnier de l’intelligence artificielle (IA). L’économiste avait notamment appréhendé la manière dont les activités humaines peuvent être automatisées. Dès les années 50 l’homme démiurge était ainsi sur le point de donner naissance à une forme de léviathan technologique sans conscience, “une science sans conscience”.

 Reproduire l’Intellect humain

Or, lorsque l’on appréhende l’œuvre du sociologue et économiste Herbert Simon pionnier de l’intelligence artificielle, nous découvrons qu’il s’intéressait aux sociétés à leur organisation sociale et économique, aux hommes et à la façon dont ils interagissent. Nous comprenons dès lors aujourd’hui les perspectives susceptibles d’être mobilisées via l’intelligence artificielle, pour exploiter et gérer des masses de données, pour structurer et organiser le pilotage de ces mêmes data, au moyen des techniques d’intelligence artificielle qui bouleverseront l’ensemble des secteurs d’activités touchant à la vie sociale et consumériste au point de les contrôler et de superviser la totalité des être humains addictes ou assujettis aux technologies.

 La mathématisation de la pensée

Mais au-delà des avancées de cette technologie puissante en termes de capacités de calculs, c’est le fantasme des bricoleurs du génie technoscientifique qui est inquiétant et qui est ici l’objet de notre réflexion que nous souhaitons décliner dans cet article.

En effet Herbert Simon défendait la thèse d’une Intelligence artificielle capable de penser, l’économiste soutenait effectivement l’idée que l’IA dite « forte », serait capable d’imiter la raison humaine.

Herbert Simon avait une conception philosophique matérialiste de la vie, puisqu’il considérait que l’ordinateur, tout comme le cerveau humain, sont des systèmes comparables, proches, capables de manipuler des symboles physiques. De fait et de par sa capacité à gérer des symboles, la programmation informatique rendait selon lui possible, tout comme le cerveau, de manipuler des données, d’intégrer par exemple la lecture d’un texte en langages codés, de comprendre, décrypter puis d’analyser une situation, de déduire des solutions, des scenarii, ce qui a été réellement possible avec l’Alphago, le programme qui a battu l’un des meilleurs joueurs de GO au monde, un jeu pourtant intuitif et imposant une intelligence créative.

Le fantasme d’assurer « l’infaillibilité du raisonnement » avait été imaginé trois siècles plus tôt par le philosophe Leibnitz qui avait conçu un rêve incroyable, oui incroyable à l’heure des algorithmes, à l’heure de l’intelligence artificielle, celui de mathématiser la pensée et de créer une machine à raisonner (Le calculus ratiocinator). Le rêve de Leibniz philosophe du XVIIème siècle (siècle où la technique n’était pourtant pas dominante) était de transformer l’argumentation en théorème, de convertir une discussion en un système d’équations et de proposer à un débatteur en cas de difficulté argumentative, le recours à un « calculus ratiocinator »3. Leibnitz décrivait ainsi le processus de la pensée humaine comme la simple manipulation mécanique de symboles, une idée reprise plus tard par le prix Nobel d’économie Herbert Simon, quand celui-ci conçut le concept d’Intelligence artificielle.

L’au-delà de l’humain

Dans ce futur univers dystopique, l’euphorie de certains prophètes de la technoscience de la Silicon Valley prédisent l’avènement de la singularité, l’homme cyborg, l’homme augmenté connecté à des puces informatisées, lui permettant d’accroître ses capacités cognitives. L’au-delà de l’humain est même imaginé puisque l’homme serait remplacé par sa machine, capable de conscience, ces machines conscientes feraient preuve d’adaptabilité, elles seraient la suite d’une évolution darwinienne de l’humain à l’humanoïde.

Or nous y voilà, au cœur de notre sujet, le fantasme de la conscience qui serait la faculté susceptible d’être embrassée par une machine dont les pouvoirs cognitifs auraient été décuplés. Au point que rien ne distinguerait la machine dotée d’une IA forte et l’homme. Ce concept d’humanoïde doté de conscience a été mis en scène dans un film « Ex Machina »4 sorti sur nos écrans en 2015, film d’Alex Garland. Dans ce film un brillant codeur en informatique nommé Caleb va faire une expérience profondément perturbante, puisqu’il va devoir interagir avec un humanoïde apparaissant sous les traits d’une femme prénommée Ava, capable d’autonomie réflexive et émotionnelle. Pour s’assurer que cette machine est oui ou non dotée de conscience Caleb va faire subir à l’automate IA un test, le test de Turing5. L’automate va ainsi confondre, troubler et dérouter le codeur en informatique, le persuadant que seule une vraie femme est dissimulée dans la machine, car rien ne saurait distinguer l’homme et l’humanoïde en raison de leurs facultés cognitives, respectives à rentrer en dialogue.

 Le fantasme de l’IA consciente

Ce film « Ex Machina » nous renvoie à un texte fameux et prémonitoire du Philosophe Henri Bergson, texte écrit tenez-vous bien en 1888, puis énoncé lors d’une conférence à l’université de Birmingham sur la conscience en 1911. Le livre d’où est extrait le texte date de 19196. Nous publions un court extrait de cette réflexion afin de comprendre la portée prémonitoire, intuitive, démonstrative de la pensée du Philosophe.

 » Pour savoir de science certaine qu’un être est conscient, il faudrait pénétrer en lui coïncider avec lui, être lui. Je vous défie de prouver par expérience ou par raisonnement, que moi qui vous parle en ce moment, je sois un être conscient. Je pourrais être un automate ingénieusement construit par la nature, allant, venant, discourant ; les paroles mêmes par lesquelles je me déclare conscient pourraient être prononcées inconsciemment. Toutefois, si la chose n’est pas impossible, vous avouerez qu’elle n’est guère probable. Entre vous et moi il y a une ressemblance extérieure évidente ; et de cette ressemblance vous concluez, par analogie, à une similitude interne. Le raisonnement par analogie ne donne jamais, je le veux bien, qu’une probabilité ; mais il y a une foule de cas où cette probabilité est assez haute pour équivaloir pratiquement à la certitude. « 

Voilà pourquoi l’IA n’est d’après nous qu’un pantin, un automate, certes savamment programmé une forme de Golem, mais un artifice d’être inachevé dépourvu de libre arbitre émotionnel, une créature humanoïde inachevée, une figure des temps modernes de type Frankenstein mais sans aucun doute incapable de survivre à des conditions hostiles.

L’IA cette « puissance cognitive », cette pensée « calculante », cette matière de flux animée par des algorithmes, ce réseau de neurones artificiels, a la prétention d’être la copie dupliquée d’un modèle vivant, s’inspirant en tout point d’un cerveau humain.

Pourtant cette raison artificielle reste factice, et demeure en quelque sorte une contrefaçon de l’esprit, ce que j’appelle un pantin animé de manière totalement maquillée, car en réalité cette raison ne saura jamais totaliser la complexité de l’être humain et la subtilité de son esprit, être émotionnel dont justement l’âme émotive est la condition même de sa puissance créative ou réflexive. Ainsi pour reproduire Mozart, encore fallait-il un Mozart à imiter !

Quand bien même, l’homme ne serait pas un génie, l’émotion dans sa faculté de toucher, de ressentir, de vivre, d’aimer, est la condition même de la conscience, un être infiniment complexe et subtil, capable de se mouvoir et d’aller sur des champs là où il n’a pas été programmé, codé. L’être humain est aussi capable de se jouer des normes et du formatage pour lequel on aimerait le conditionner. La conscience c’est la vie, la conscience est reliée à la vie qui l’anime, la vie est une rupture avec la matière inanimée quand bien même cette dernière serait animée par un flux de matières et de programmes savants, œuvre d’un démiurge qui veut donner la vie à sa créature morte, son Golem.

Pour reprendre le propos7 de René Descartes « même si l’organisme est une machine, si l’animal est une machine, ces machines sont infiniment complexes et subtiles que toutes celles que l’homme ne sera jamais capable de construire car elles sont faites de la main de Dieu » …effectuant des gestes subtils, levant les obstacles hissés par les contingences, surmontant les difficultés posées par le monde de la matière. Cette ingéniosité de la vie naturelle nous émerveille et résulte d’un donné du libre arbitre de la vie, de l’intelligence vivante et non artificielle.

En revanche les opérations de calculs qui nous fascinent relèvent de modèles mathématiques, de l’inférence bayésienne, modèles de calculs statistiques qui autorisent la possibilité de modéliser des choix en début de processus et d’emmagasiner l’expérience apprise au fil des expériences apprises et mémorisées. Je comprends cependant les arguments adverses qui indiquent que tout cela relève bien d’une analogie avec l’esprit humain, dans sa dimension de libre arbitre et intuitive.

Mais en réalité, même si l’Intelligence artificielle introduit de facto et en apparence une dimension d’arbitraire et d’intuition, cela reste du calcul donnant l’illusion de faire face à une machine qui réfléchit. Tout ceci chers amis lecteurs, relève bien en réalité de combinaisons savamment codifiées, programmées et mémorisées au fil des expérience (voire l’IA Alphago …). L’IA est bel et bien construite autour de méthodes de calcul puis d’encodage, et non de la conscience. Une machine serait-elle ainsi capable d’inférence et de se projeter dans de nouveaux univers de connaissances ? Permettez moi d’en douter. La voit-on ainsi remettre en cause Darwin et évoquer un Dieu créateur, en fait, la machine est déjà savamment conditionnée à penser comme l’homme pense, enfermée dans des présupposés théoriques, incapables de nouvelles intuitions comme celles abordées par ces génies humains qui ne possédaient pas de visions claires de notre histoire contemporaine et de sa dimension technique, mais pourtant étaient parvenus cependant à l’esquisser, à ébaucher les contours d’un devenir, comme le fit le philosophe Henri Bergson ou le mathématicien Leibniz La conscience à l’opposé de l’IA, pense également au sens de vivre, il est donc impossible selon nous d’imposer à une conscience une autre motivation qu’elle-même à moins de la conditionner…

Contrairement à un intellect artificiel, cette sensation de soi, ce sentiment d’être, sont à la fois mystérieux et uniques, vivre en conscience, c’est vivre son altérité face au monde. La conscience ne se fabrique pas, elle est un donné de la vie, une vie qui va agir, interagir et donner du sens pour assurer au-delà de l’existentiel, cette dimension du bien-être. L’IA serait-elle en mesure d’agir pour elle-même, de se motiver pour son propre bien être ? Puis s’il fallait ajouter cet autre argument, la conscience propre à l’être humain c’est en effet la recherche d’un bien-être dans sa plénitude et sa capacité à le préserver autour de soi, ce qui revient à la dimension de l’amour et du désir qui est intrinsèquement liée selon nous à la conscience.

Aux antipodes de l’amour et de la conscience, l’Intelligence Artificielle n’est en réalité qu’une série de programmes codés. Nous le répétons à nouveau, l’IA est construite autour de méthodes bayésiennes très utilisées en statistiques et dans les sciences qui relèvent du datamining, permettent d’imaginer des hypothèses, de scenarii de mouvements, de choix. Ainsi, l’intelligence artificielle dupliquée ne serait ici qu’une série de moules, d’uniformisation des pensées, des outils industriels préconçus du raisonnement, des méthodes de réactions aux décisions fondées sur des paramètres préétablis. Mais en fin de compte le risque est bien une emprise de l’Intelligence artificielle sur les décisions réfléchies de l’homme sacrifiant sans doute la dimension réflexive relationnelle, le triomphe d’une raison froide, en fin de compte sur la raison relationnelle…

Pourtant La conscience n’est pas comparable à l’intelligence artificielle puisqu’elle est la faculté sensible de se percevoir, de s’identifier, et de penser non dans le sens de calculer, de combiner mais d’interagir avec le monde et de partager des émotions, la conscience n’est ainsi pas enfermée par le calcul,. Nonobstant, loin de nous de nier les facultés de calculs propres à notre cerveau, mais cette faculté de calculs ne se réduit, ni se résume à la conscience. Si certes l’homme peut « artificialiser » et dénaturer le sens de soi et imiter la dimension d’un esprit humain, cela restera pour autant de la mécanique calculatoire incapable de désir par elle même, de volonté auto produite et de se mettre par elle même en mouvement..

Si l’on poussait le raisonnement à l’absurde et affirmer qu’il serait possible à la machine d’être dotée de conscience, quel créateur adorera alors cette machine ? Sera-t-elle amoureuse, quel projet familial développera-t-elle ? L’IA est en réalité le résultat d’un découplement, d’une dissociation en réalité de l’intelligence et de la conscience, bien incapable dès lors d’être connectée à la transcendance et d’être reliée à l’autre dans un rapport empathique, même s’il était prouvé que deux machines reliées peuvent interagir. Une différence particulièrement sensible sur le plan strictement ontologique doit être ici soulignée : une machine est reliée à la matière, alors que l’homme est reliée à la vie et de fait à son Dieu, lui-même qui “recherche des adorateurs en esprit et en vérité”, autrement dit en conscience.

L’IA est un en réalité un vide d’esprit, une absence spirituelle, une frustration pour un objet humanoïde conçue artificiellement qui ne saurait être reliée à la transcendance. Certes l’IA sera une machine dotée de l’apparence d’un corps mais sans réelle conscience humaine sans âme, sans vie réelle, sans esprit, en supposant même qu’on parvienne à construire un robot androïde dont la complexité s’approcherait de celle de l’homme, il lui manquerait toujours cette dimension ontologique et cette ouverture à la transcendance qui ne peut jaillir spontanément que de la seule interaction des causes immanentes, qui résulte de la nature même de cet être fait à l’image et à la ressemblance de Dieu. La beauté de l’homme ne réside-t-elle pas dans ses imperfections, qui en font un être complexe et d’une complexité insondable pour le simple coeur humain ?

L’IA est ainsi conçue en langage binaire, c’est le langage informatique, l’IA ne connaît que le Oui et le Non, l’homme est au-delà du binaire, la vie de l’homme est faite de nuances, d’erreurs, d’incertitudes, de sensibles, de ressentis. Pour nous, la conscience relève du monde vivant et non d’une mécanique binaire. La conscience n’est donc pas seulement l’intelligence c’est à dire le monde de la connaissance, la conscience c’est aussi une relation intériorisée qui embrasse tout l’homme capable d’interagir avec le vivant et le renvoyer à une dimension émotionnelle.

Un Ordinateur pourrait-il alors s’apparenter à une dimension biologique quelconque, la réponse est évidemment non, catégoriquement non ! Une IA sophistiquée dotée d’une dimension cognitive forte s’adosse de fait à un fonctionnement mécanique programmé par l’homme et de flux de particules et à ce jour la conscience suppose la conscience de l’autre, une forme d’attirance aimante, qui ne résulte pas de la seule aimantation de deux objets.

Ainsi cette prétendue raison qui forme l’encodage de l’Intelligence Artificielle, n’est en réalité habitée que par la seule dimension de la mathématisation de la pensée, une forme d’abstraction sans âme, dénuée d’esprit, vide de conscience, privée de l’amour, dégagé de capacité relationnelle dans un sens fort..

Heidegger pensait lui-même que “le succès des machines électroniques à penser et à calculer » conduirait à la « fin de la pensée méditative »… Nous pourrions de facto donner raison au Philosophe Heidegger, si en effet l’homme devait cesser de s’émouvoir pour emprunter le pas d’automates ne réagissant plus à la lobotomisation de la faculté de rêver, d’imaginer, de créer, de s’étreindre, de rire, d’aimer, car la conscience intense de soi c’est cela et c’est bien au-delà de penser, de cogiter, de raisonner, de traiter, d’analyser, de faire des choix.

Le « Je pense donc je suis » ne définit pas d’après moi toute la dimension de la conscience, le « je pense » est d’abord une information qui ne se résume pas un état de conscience, la conscience ne se réduit pas à la dimension du langage, de ce qui nomme. Enfant je ne maitrisais pas encore le langage, la faculté de former des phrases, mais j’avais le sentiment déjà d’être, « d’être soi », d’exister et c’était l’étreinte de ma mère qui éveilla ma conscience à la vie, son regard, son amour, son geste affectueux, les mots doux qu’elle m’adressait m’étreignant dans ses bras .

La machine peut-elle ainsi s’éveiller à la conscience sans l’étreinte de l’amour, non définitivement non, car cet objet sans filiation naturelle et passé qui n’est, pas étreint, ni embrassé, ni aimé, n’a pas été enfanté dans le mystère, conçu dans l’amour, n’a pas de faculté à s’éveiller mais à rester plutôt inerte, mécanique.

La conscience de soi relève d’un mystère et n’appartient pas à la dimension de la raison, c’est un donné de l’esprit, un donné de la transcendance qui n’est pas celle de la matière.

Il nous faut ainsi préférer les sentiers de la conscience aux autoroutes du monde des algorithmes, car la conscience ne vit toutes les dimensions de la densité que lorsqu’elle est dans les chemins de traverses et non dans les pas de l’automatisme séquencé.

La perte de conscience de l’être humain

Ce que nous avons à craindre, ce n’est pas tant la conscience factice d’une machine, mais davantage la perte de conscience de l’être humain.

Cette perte de conscience se produira le jour où l’homme abandonnera à la machine ses facultés de direction et de choix, en s’imaginant que la machine, cette intelligence virtuelle est infiniment plus perspicace, clairvoyante ou pénétrante que ne pourrait l’être son esprit. Cette perte de conscience se déclenchera lorsque une partie de l’homme bradera à la machine sa conscience afin que cette dernière effectue les comportements mécanisés d’un automate susceptible de lui faire obtenir un gain précieux de son temps,  “libérant” l’humain à d’autres tâches qui ne pas en douter seront les tâches futures, accomplies sans fin et demain par d’autres machines plus performantes  l Serons nous demain seulement des êtres passifs, “des zombies vides de substance …participant aux flux  dématérialisants et énivrants du cyberespace” comme le souligne le philosophe Jean-MicheL BESNIER dans son livre l’homme simplifié.

Mais voici déjà que des milliers et des milliers d’hommes abandonnent à la machine, à ce monde digital et numérique, la direction de leur vie en remettant la destinée de leur existence à un système, une forme de divinité virtuelle et planétaire qui choisira leur emploi, leur alter égo, leurs activités du soir. L’homme se dessaisissant peu à peu de ses tâches corvéables, devient lui même addicte de ses robots domestiques. Une forme de nonchalance docile, se profile dans cet horizon du “système technicien” où l’homme cède comme un petit poucet toutes les données de sa vie et se laisse peu à peu asservir par une créature qui lui échappe, qui prend le pouvoir au fil de l’eau . Ce monde moderne a précipité l’homme dans une multiplicité de dépendances, de jougs serviciels le liant et le subordonnant, grignotant peu à peu son autonomie. Une dictature douce est finalement en train de s’imposer.

Une entité mystérieuse se dresse au crépuscule d’une humanité qui rêve à l’enfantement d’un automate Golem ayant une assise sur la conscience humaine, pilotera ainsi leur vie, l’organisera et planifiera harmonieusement leurs activités, ne laissant ainsi rien au hasard.

La liberté est abdiquée au profit d’un pseudo confort techno numérique qui est en réalité, une servitude, d’une conscience paresseuse qui s’envole dans l’abîme privant ainsi l’homme d’une quête de sa conscience reliée à Dieu. En définitive l’IA est l’ultime système orwellien aspirant les données de nos vies sociales et comportementales contrôlant puis assujettissant l’homme au pouvoir d’une “pseudo conscience” qui réfléchit pour eux mais les ankylose en les privant de leur libre arbitre, la motivation qui les met en mouvement.. Pire demain un tel système discriminera nécessairement les rebelles, les insubordonnés, les indociles et les exclura.(Lire Ap 13.16-17 : elle fit que tous, petits et grands, riches et pauvres, libres et esclaves, reçussent une marque sur leur main droite ou sur leur front, et que personne ne pût acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom). Au fond cela rejoint le propos de Idriss Aberkane spécialiste des neuro sciences qui indiquait que si nous donnions un levier à un fou, nous serions alors responsables du supplément de destruction que nous aurions alors su lui conférer.

De fait cette perte de conscience serait un immense gâchis, “une immense déperdition des forces humaines, qui a lieu par l’absence de direction et faute d’une conscience claire du but à atteindre” . Or dans l’épître aux Romains, nous relevons ce texte magistral qui est une invitation à s’affranchir de cette nouvelle servitude que propose notre monde moderne et donne en réalité un chemin à la conscience humaine si nous recevons favorablement cette exhortation “…vous n’avez pas reçu un esprit de servitude, pour être encore dans la crainte, mais vous avez reçu un Esprit d’adoption, par lequel nous crions: Abba! Père! L’Esprit lui-même rend témoignage à notre esprit que nous sommes enfants de Dieu ». L’esprit rend ainsi témoignage à notre conscience que nous sommes en réalité enfants de Dieu et non une matière inerte qui n’aurait finalement aucun sens. .

Nous conclurons dès lors cette chronique par un message plein d’espérance en nous adressant à ceux qui nous lisent, nous les invitons dès lors à entrer en résistance en conscience, à partager autour d’eux la dimension d’une relation incarnée, l’éveil d’un esprit relié aux autres découvrant pleinement son humanité et sa conscience non dominée par la machine, ni la matière fusse-t-elle intelligente mais au demeurant sans conscience..

Eric LEMAITRE

Eric qui n’est pas une IA mais un être tout à fait imparfait remercie ses chers amis Bérengère Séries et Etienne Omnès pour leurs lectures vigilantes, l’apport de leurs idées, leurs réflexions celles de consciences libres, ni codées, ni formatées…merci à eux d’être, d’être des êtres de chair et de sang, des êtres sensibles et de relations.


1. référence à Jacques Ellul, Essayiste et théologien protestant penseur de la technique
2. Economiste et sociologue du XX°s, né en 1916 et mort en 2001. L’auteur de l’article vous renvoie à cette référence
3. Le Calculus Ratiocinator est un concept théorique du philosophe et mathématicien Leibniz décrit dans son ouvrage “De Arte Combinatoria” en 1666.
4. Le synopsis du film
5. Le test de Turing : test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine.
6. Texte de Henri Bergson « La conscience et la vie » Editions PUF, l’extrait de ce texte est à la page 6.
7. Extrait du discours de la Méthode René Descartes

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.