Faut-il craindre l’intelligence artificielle ? – Jean-Gabriel Ganascia

Professeur d’informatique à Sorbonne Université, chercheur en intelligence artificielle au Laboratoire Informatique de Paris 6 Lip6, président du comité d’éthique du CNRS, auteur notamment de Le Mythe de la Singularité.

Professeur d’informatique à Sorbonne Université, chercheur en intelligence artificielle au Laboratoire Informatique de Paris 6 Lip6, président du comité d’éthique du CNRS, auteur notamment de Le Mythe de la Singularité.

La prochaine révolution de l’intelligence artificielle

Pour sa seconde intervention à USI, Yann LeCun nous parle de l’état de l’Intelligence Artificielle, son histoire mais aussi les défis des prochaines décennies à venir en matière d’Intelligence Artificielle

Quand les algorithmes remplaceront les cadres !

Qui aurait imaginé mettre un jour en équation le flair des DRH ? L’apparition du people analytics, comme les Américains appellent cette nouvelle science, en dit long sur la capacité des ordinateurs à remplacer l’homme. Jusqu’à présent, l’automatisation des tâches intellectuelles avait touché des activités peu qualifiées (guichetiers, caissières…). Mais les cadres bardés de diplômes auraient tort de se croire à l’abri.  

« Les technologies capables de remplacer demain les médecins, les avocats, les pharmaciens ou les conseillers fiscaux existent déjà, alors même que ces métiers demandent beaucoup de compétences et une longue formation. Et, le plus souvent, les machines seront meilleures que les humains », assure Andrew McAfee, auteur de The Second Machine Age . En cause : la combinaison de l’augmentation de la puissance des ordinateurs, de la baisse du coût du stockage des données et des progrès de l’intelligence artificielle, qui nous font basculer dans l’ère du big data.  

Lu sur l’express Expansion

Qui aurait imaginé mettre un jour en équation le flair des DRH ? L’apparition du people analytics, comme les Américains appellent cette nouvelle science, en dit long sur la capacité des ordinateurs à remplacer l’homme. Jusqu’à présent, l’automatisation des tâches intellectuelles avait touché des activités peu qualifiées (guichetiers, caissières…). Mais les cadres bardés de diplômes auraient tort de se croire à l’abri.

« Les technologies capables de remplacer demain les médecins, les avocats, les pharmaciens ou les conseillers fiscaux existent déjà, alors même que ces métiers demandent beaucoup de compétences et une longue formation. Et, le plus souvent, les machines seront meilleures que les humains », assure Andrew McAfee, auteur de The Second Machine Age . En cause : la combinaison de l’augmentation de la puissance des ordinateurs, de la baisse du coût du stockage des données et des progrès de l’intelligence artificielle, qui nous font basculer dans l’ère du big data.

Lire la suite ….

https://lexpansion.lexpress.fr/high-tech/quand-les-algorithmes-remplaceront-les-cadres_1548065.html

« L’intelligence » artificielle n’est pas intelligente !

Gérard Berry,
professeur au Collège de France, nous éclaire « …rappelons que l’homme est un être foncièrement social, intuitif et créatif. Or, comme les machines mécaniques, les ordinateurs et logiciels actuels n’ont ni culture sociale, politique ou artistique, ni intuition, ni vraie créativité…. »

display-dummy-1370962_1920

Gérard Berry,

professeur au Collège de France, nous éclaire

Nous vous renvoyons au site Internet de l’Express, dont nous avons extrait une partie du texte….

« Longtemps, notre civilisation a été organisée autour du triangle matière-énergie-ondes, élaboré petit à petit par la pensée scientifique, les sciences physiques et leurs techniques. D’abord, la matière, sous forme d’objet de la nature plus ou moins visible, solide, liquide ou gazeux. Ensuite, l’énergie, que la science des 18ème et 19ème siècles a permis de mieux comprendre, conduisant aux moteurs de la révolution industrielle et au progrès de la chimie. Enfin, les ondes de l’acoustique, de l’électricité et de l’électromagnétisme ; leur maîtrise a provoqué les révolutions de la communication, avec l’apparition du télégraphe en 1850, du téléphone en 1870, de la radio en 1890 et de la télévision vers 1925. Au 20ème siècle, l’information et le calcul algorithmique ont transformé le triangle en tétraèdre. Théorisé d’abord puis mis en pratique, l’informatique a transformé le monde d’une façon rapide et profonde. …

…..Même si l’informatique classique maintenant augmentée par l’apprentissage automatique fait des choses extraordinaires, rappelons que l’homme est un être foncièrement social, intuitif et créatif. Or, comme les machines mécaniques, les ordinateurs et logiciels actuels n’ont ni culture sociale, politique ou artistique, ni intuition, ni vraie créativité. Cela changera peut-être un jour, mais il ne suffira pas d’incantations pour y parvenir. Simplement, il y a beaucoup, beaucoup plus de choses automatisables qu’avant… »

Lire la suite…..

https://www.lexpress.fr/actualite/sciences/l-intelligence-artificielle-n-est-pas-intelligente_2024279.html

 

Le fantasme de l’intelligence artificielle consciente

Pour Herbert Simon, la faisabilité de reproduire l’intellect humain, n’était pas impossible, dès lors que le processus cognitif de l’être humain est appréhendé, décrypté, analysé en profondeur puis maîtrisé. Pour le prix Nobel de l’économie, l’IA copiant ainsi le cerveau humain, son réseau neuronal, rend dès lors possible la modélisation de l’intelligence de l’être humain, en conséquence de l’améliorer, de corriger également la part d’irrationalité de l’esprit humain. Herbert Simon pensait même que la puissance de calcul de l’IA rendrait ainsi parfaitement capable de penser et de créer, y compris de réaliser des œuvres d’arts, de démontrer des théorèmes originaux en mathématiques, de composer de la musique, de dominer l’homme cérébralement dans des jeux ou la part d’intelligence est largement convoquée comme les échecs ou le jeu de GO.

Plusieurs génies de la littérature ont été en mesure d’ailleurs d’anticiper cet avenir dystopique, de l’imaginer comme le fit Georges Bernanos en 1945, quand l’essayiste écrivit ce livre quasi prémonitoire « La France contre les robots », ou bien Jacques Ellul, qui écrivit cet essai sur le système technicien qui fut un ouvrage référence dénonçant les interconnexions croissantes d’un monde informatique qui était seulement à ses balbutiements. Jacques Ellul, dans son analyse du monde technique, était allé au-delà de la simple critique du pouvoir des machines informatiques, il dénonçait à travers elles toutes les méthodes d’organisation de la vie sociale qui découleraient de leur usage. L’univers de l’intelligence artificielle, concept que n’appréhendait pas Jacques Ellul au moment où il écrivait ses essais sur la technique, est bien une plongée dans le monde de la vie sociale, prétendant la structurer, l’ordonnancer, l’architecturer.

andre-spilborghs-719343-unsplash-e1531151475334.jpg

Le début de ce XXIème siècle est radicalement traversé par une double révolution numérique, celle d’une part de l’intrication de l’information et de l’organisation, et d’autre part de l’imbrication des sciences cognitives et des techniques informatiques.

La révolution numérique de l’information s’esquisse et se manifeste au travers de moyens qui avaient été à peine imaginés 50 ans plus tôt. Tant et si bien que nous avons le sentiment, « nous les simples humains » de vivre une accélération phénoménale du temps, une accélération effrayante par l’ampleur du “système technicien1 qui se dessine…

Dans à peine une décennie, serions-nous ainsi capables d’entrevoir, d’imaginer les nouvelles possibilités organisationnelles et « technoscientifiques » qui n’ont pas encore été imaginées à ce jour.

Soyons nonobstant assurés que la science et la technique déploieront dans quelques années de nouveaux prodiges qui fascineront l’homme, le submergeront au point que cette même technique est en passe demain, probablement de le dominer.

Cette domination de la technique sur l’homme est hélas et inévitablement fortement prévisible, si l’homme ne tente pas de mettre les curseurs, les limites nécessaires pour entraver le développement de technologies susceptibles de noyer ou de vampiriser son âme. Une des technologies fascinantes qui n’est pas en réalité nouvelle, puisque née dans les années 50, connaît une évolution dont l’ampleur avait déjà été pressentie dès l’origine de sa conception. En effet en 1958, Herbert Simon2 prix Nobel d’économie, fut le pionnier de l’intelligence artificielle (IA). L’économiste avait notamment appréhendé la manière dont les activités humaines peuvent être automatisées. Dès les années 50 l’homme démiurge était ainsi sur le point de donner naissance à une forme de léviathan technologique sans conscience, “une science sans conscience”.

 Reproduire l’Intellect humain

Or, lorsque l’on appréhende l’œuvre du sociologue et économiste Herbert Simon pionnier de l’intelligence artificielle, nous découvrons qu’il s’intéressait aux sociétés à leur organisation sociale et économique, aux hommes et à la façon dont ils interagissent. Nous comprenons dès lors aujourd’hui les perspectives susceptibles d’être mobilisées via l’intelligence artificielle, pour exploiter et gérer des masses de données, pour structurer et organiser le pilotage de ces mêmes data, au moyen des techniques d’intelligence artificielle qui bouleverseront l’ensemble des secteurs d’activités touchant à la vie sociale et consumériste au point de les contrôler et de superviser la totalité des être humains addictes ou assujettis aux technologies.

 La mathématisation de la pensée

Mais au-delà des avancées de cette technologie puissante en termes de capacités de calculs, c’est le fantasme des bricoleurs du génie technoscientifique qui est inquiétant et qui est ici l’objet de notre réflexion que nous souhaitons décliner dans cet article.

En effet Herbert Simon défendait la thèse d’une Intelligence artificielle capable de penser, l’économiste soutenait effectivement l’idée que l’IA dite « forte », serait capable d’imiter la raison humaine.

Herbert Simon avait une conception philosophique matérialiste de la vie, puisqu’il considérait que l’ordinateur, tout comme le cerveau humain, sont des systèmes comparables, proches, capables de manipuler des symboles physiques. De fait et de par sa capacité à gérer des symboles, la programmation informatique rendait selon lui possible, tout comme le cerveau, de manipuler des données, d’intégrer par exemple la lecture d’un texte en langages codés, de comprendre, décrypter puis d’analyser une situation, de déduire des solutions, des scenarii, ce qui a été réellement possible avec l’Alphago, le programme qui a battu l’un des meilleurs joueurs de GO au monde, un jeu pourtant intuitif et imposant une intelligence créative.

Le fantasme d’assurer « l’infaillibilité du raisonnement » avait été imaginé trois siècles plus tôt par le philosophe Leibnitz qui avait conçu un rêve incroyable, oui incroyable à l’heure des algorithmes, à l’heure de l’intelligence artificielle, celui de mathématiser la pensée et de créer une machine à raisonner (Le calculus ratiocinator). Le rêve de Leibniz philosophe du XVIIème siècle (siècle où la technique n’était pourtant pas dominante) était de transformer l’argumentation en théorème, de convertir une discussion en un système d’équations et de proposer à un débatteur en cas de difficulté argumentative, le recours à un « calculus ratiocinator »3. Leibnitz décrivait ainsi le processus de la pensée humaine comme la simple manipulation mécanique de symboles, une idée reprise plus tard par le prix Nobel d’économie Herbert Simon, quand celui-ci conçut le concept d’Intelligence artificielle.

L’au-delà de l’humain

Dans ce futur univers dystopique, l’euphorie de certains prophètes de la technoscience de la Silicon Valley prédisent l’avènement de la singularité, l’homme cyborg, l’homme augmenté connecté à des puces informatisées, lui permettant d’accroître ses capacités cognitives. L’au-delà de l’humain est même imaginé puisque l’homme serait remplacé par sa machine, capable de conscience, ces machines conscientes feraient preuve d’adaptabilité, elles seraient la suite d’une évolution darwinienne de l’humain à l’humanoïde.

Or nous y voilà, au cœur de notre sujet, le fantasme de la conscience qui serait la faculté susceptible d’être embrassée par une machine dont les pouvoirs cognitifs auraient été décuplés. Au point que rien ne distinguerait la machine dotée d’une IA forte et l’homme. Ce concept d’humanoïde doté de conscience a été mis en scène dans un film « Ex Machina »4 sorti sur nos écrans en 2015, film d’Alex Garland. Dans ce film un brillant codeur en informatique nommé Caleb va faire une expérience profondément perturbante, puisqu’il va devoir interagir avec un humanoïde apparaissant sous les traits d’une femme prénommée Ava, capable d’autonomie réflexive et émotionnelle. Pour s’assurer que cette machine est oui ou non dotée de conscience Caleb va faire subir à l’automate IA un test, le test de Turing5. L’automate va ainsi confondre, troubler et dérouter le codeur en informatique, le persuadant que seule une vraie femme est dissimulée dans la machine, car rien ne saurait distinguer l’homme et l’humanoïde en raison de leurs facultés cognitives, respectives à rentrer en dialogue.

 Le fantasme de l’IA consciente

Ce film « Ex Machina » nous renvoie à un texte fameux et prémonitoire du Philosophe Henri Bergson, texte écrit tenez-vous bien en 1888, puis énoncé lors d’une conférence à l’université de Birmingham sur la conscience en 1911. Le livre d’où est extrait le texte date de 19196. Nous publions un court extrait de cette réflexion afin de comprendre la portée prémonitoire, intuitive, démonstrative de la pensée du Philosophe.

 » Pour savoir de science certaine qu’un être est conscient, il faudrait pénétrer en lui coïncider avec lui, être lui. Je vous défie de prouver par expérience ou par raisonnement, que moi qui vous parle en ce moment, je sois un être conscient. Je pourrais être un automate ingénieusement construit par la nature, allant, venant, discourant ; les paroles mêmes par lesquelles je me déclare conscient pourraient être prononcées inconsciemment. Toutefois, si la chose n’est pas impossible, vous avouerez qu’elle n’est guère probable. Entre vous et moi il y a une ressemblance extérieure évidente ; et de cette ressemblance vous concluez, par analogie, à une similitude interne. Le raisonnement par analogie ne donne jamais, je le veux bien, qu’une probabilité ; mais il y a une foule de cas où cette probabilité est assez haute pour équivaloir pratiquement à la certitude. « 

Voilà pourquoi l’IA n’est d’après nous qu’un pantin, un automate, certes savamment programmé une forme de Golem, mais un artifice d’être inachevé dépourvu de libre arbitre émotionnel, une créature humanoïde inachevée, une figure des temps modernes de type Frankenstein mais sans aucun doute incapable de survivre à des conditions hostiles.

L’IA cette « puissance cognitive », cette pensée « calculante », cette matière de flux animée par des algorithmes, ce réseau de neurones artificiels, a la prétention d’être la copie dupliquée d’un modèle vivant, s’inspirant en tout point d’un cerveau humain.

Pourtant cette raison artificielle reste factice, et demeure en quelque sorte une contrefaçon de l’esprit, ce que j’appelle un pantin animé de manière totalement maquillée, car en réalité cette raison ne saura jamais totaliser la complexité de l’être humain et la subtilité de son esprit, être émotionnel dont justement l’âme émotive est la condition même de sa puissance créative ou réflexive. Ainsi pour reproduire Mozart, encore fallait-il un Mozart à imiter !

Quand bien même, l’homme ne serait pas un génie, l’émotion dans sa faculté de toucher, de ressentir, de vivre, d’aimer, est la condition même de la conscience, un être infiniment complexe et subtil, capable de se mouvoir et d’aller sur des champs là où il n’a pas été programmé, codé. L’être humain est aussi capable de se jouer des normes et du formatage pour lequel on aimerait le conditionner. La conscience c’est la vie, la conscience est reliée à la vie qui l’anime, la vie est une rupture avec la matière inanimée quand bien même cette dernière serait animée par un flux de matières et de programmes savants, œuvre d’un démiurge qui veut donner la vie à sa créature morte, son Golem.

Pour reprendre le propos7 de René Descartes « même si l’organisme est une machine, si l’animal est une machine, ces machines sont infiniment complexes et subtiles que toutes celles que l’homme ne sera jamais capable de construire car elles sont faites de la main de Dieu » …effectuant des gestes subtils, levant les obstacles hissés par les contingences, surmontant les difficultés posées par le monde de la matière. Cette ingéniosité de la vie naturelle nous émerveille et résulte d’un donné du libre arbitre de la vie, de l’intelligence vivante et non artificielle.

En revanche les opérations de calculs qui nous fascinent relèvent de modèles mathématiques, de l’inférence bayésienne, modèles de calculs statistiques qui autorisent la possibilité de modéliser des choix en début de processus et d’emmagasiner l’expérience apprise au fil des expériences apprises et mémorisées. Je comprends cependant les arguments adverses qui indiquent que tout cela relève bien d’une analogie avec l’esprit humain, dans sa dimension de libre arbitre et intuitive.

Mais en réalité, même si l’Intelligence artificielle introduit de facto et en apparence une dimension d’arbitraire et d’intuition, cela reste du calcul donnant l’illusion de faire face à une machine qui réfléchit. Tout ceci chers amis lecteurs, relève bien en réalité de combinaisons savamment codifiées, programmées et mémorisées au fil des expérience (voire l’IA Alphago …). L’IA est bel et bien construite autour de méthodes de calcul puis d’encodage, et non de la conscience. Une machine serait-elle ainsi capable d’inférence et de se projeter dans de nouveaux univers de connaissances ? Permettez moi d’en douter. La voit-on ainsi remettre en cause Darwin et évoquer un Dieu créateur, en fait, la machine est déjà savamment conditionnée à penser comme l’homme pense, enfermée dans des présupposés théoriques, incapables de nouvelles intuitions comme celles abordées par ces génies humains qui ne possédaient pas de visions claires de notre histoire contemporaine et de sa dimension technique, mais pourtant étaient parvenus cependant à l’esquisser, à ébaucher les contours d’un devenir, comme le fit le philosophe Henri Bergson ou le mathématicien Leibniz La conscience à l’opposé de l’IA, pense également au sens de vivre, il est donc impossible selon nous d’imposer à une conscience une autre motivation qu’elle-même à moins de la conditionner…

Contrairement à un intellect artificiel, cette sensation de soi, ce sentiment d’être, sont à la fois mystérieux et uniques, vivre en conscience, c’est vivre son altérité face au monde. La conscience ne se fabrique pas, elle est un donné de la vie, une vie qui va agir, interagir et donner du sens pour assurer au-delà de l’existentiel, cette dimension du bien-être. L’IA serait-elle en mesure d’agir pour elle-même, de se motiver pour son propre bien être ? Puis s’il fallait ajouter cet autre argument, la conscience propre à l’être humain c’est en effet la recherche d’un bien-être dans sa plénitude et sa capacité à le préserver autour de soi, ce qui revient à la dimension de l’amour et du désir qui est intrinsèquement liée selon nous à la conscience.

Aux antipodes de l’amour et de la conscience, l’Intelligence Artificielle n’est en réalité qu’une série de programmes codés. Nous le répétons à nouveau, l’IA est construite autour de méthodes bayésiennes très utilisées en statistiques et dans les sciences qui relèvent du datamining, permettent d’imaginer des hypothèses, de scenarii de mouvements, de choix. Ainsi, l’intelligence artificielle dupliquée ne serait ici qu’une série de moules, d’uniformisation des pensées, des outils industriels préconçus du raisonnement, des méthodes de réactions aux décisions fondées sur des paramètres préétablis. Mais en fin de compte le risque est bien une emprise de l’Intelligence artificielle sur les décisions réfléchies de l’homme sacrifiant sans doute la dimension réflexive relationnelle, le triomphe d’une raison froide, en fin de compte sur la raison relationnelle…

Pourtant La conscience n’est pas comparable à l’intelligence artificielle puisqu’elle est la faculté sensible de se percevoir, de s’identifier, et de penser non dans le sens de calculer, de combiner mais d’interagir avec le monde et de partager des émotions, la conscience n’est ainsi pas enfermée par le calcul,. Nonobstant, loin de nous de nier les facultés de calculs propres à notre cerveau, mais cette faculté de calculs ne se réduit, ni se résume à la conscience. Si certes l’homme peut « artificialiser » et dénaturer le sens de soi et imiter la dimension d’un esprit humain, cela restera pour autant de la mécanique calculatoire incapable de désir par elle même, de volonté auto produite et de se mettre par elle même en mouvement..

Si l’on poussait le raisonnement à l’absurde et affirmer qu’il serait possible à la machine d’être dotée de conscience, quel créateur adorera alors cette machine ? Sera-t-elle amoureuse, quel projet familial développera-t-elle ? L’IA est en réalité le résultat d’un découplement, d’une dissociation en réalité de l’intelligence et de la conscience, bien incapable dès lors d’être connectée à la transcendance et d’être reliée à l’autre dans un rapport empathique, même s’il était prouvé que deux machines reliées peuvent interagir. Une différence particulièrement sensible sur le plan strictement ontologique doit être ici soulignée : une machine est reliée à la matière, alors que l’homme est reliée à la vie et de fait à son Dieu, lui-même qui “recherche des adorateurs en esprit et en vérité”, autrement dit en conscience.

L’IA est un en réalité un vide d’esprit, une absence spirituelle, une frustration pour un objet humanoïde conçue artificiellement qui ne saurait être reliée à la transcendance. Certes l’IA sera une machine dotée de l’apparence d’un corps mais sans réelle conscience humaine sans âme, sans vie réelle, sans esprit, en supposant même qu’on parvienne à construire un robot androïde dont la complexité s’approcherait de celle de l’homme, il lui manquerait toujours cette dimension ontologique et cette ouverture à la transcendance qui ne peut jaillir spontanément que de la seule interaction des causes immanentes, qui résulte de la nature même de cet être fait à l’image et à la ressemblance de Dieu. La beauté de l’homme ne réside-t-elle pas dans ses imperfections, qui en font un être complexe et d’une complexité insondable pour le simple coeur humain ?

L’IA est ainsi conçue en langage binaire, c’est le langage informatique, l’IA ne connaît que le Oui et le Non, l’homme est au-delà du binaire, la vie de l’homme est faite de nuances, d’erreurs, d’incertitudes, de sensibles, de ressentis. Pour nous, la conscience relève du monde vivant et non d’une mécanique binaire. La conscience n’est donc pas seulement l’intelligence c’est à dire le monde de la connaissance, la conscience c’est aussi une relation intériorisée qui embrasse tout l’homme capable d’interagir avec le vivant et le renvoyer à une dimension émotionnelle.

Un Ordinateur pourrait-il alors s’apparenter à une dimension biologique quelconque, la réponse est évidemment non, catégoriquement non ! Une IA sophistiquée dotée d’une dimension cognitive forte s’adosse de fait à un fonctionnement mécanique programmé par l’homme et de flux de particules et à ce jour la conscience suppose la conscience de l’autre, une forme d’attirance aimante, qui ne résulte pas de la seule aimantation de deux objets.

Ainsi cette prétendue raison qui forme l’encodage de l’Intelligence Artificielle, n’est en réalité habitée que par la seule dimension de la mathématisation de la pensée, une forme d’abstraction sans âme, dénuée d’esprit, vide de conscience, privée de l’amour, dégagé de capacité relationnelle dans un sens fort..

Heidegger pensait lui-même que “le succès des machines électroniques à penser et à calculer » conduirait à la « fin de la pensée méditative »… Nous pourrions de facto donner raison au Philosophe Heidegger, si en effet l’homme devait cesser de s’émouvoir pour emprunter le pas d’automates ne réagissant plus à la lobotomisation de la faculté de rêver, d’imaginer, de créer, de s’étreindre, de rire, d’aimer, car la conscience intense de soi c’est cela et c’est bien au-delà de penser, de cogiter, de raisonner, de traiter, d’analyser, de faire des choix.

Le « Je pense donc je suis » ne définit pas d’après moi toute la dimension de la conscience, le « je pense » est d’abord une information qui ne se résume pas un état de conscience, la conscience ne se réduit pas à la dimension du langage, de ce qui nomme. Enfant je ne maitrisais pas encore le langage, la faculté de former des phrases, mais j’avais le sentiment déjà d’être, « d’être soi », d’exister et c’était l’étreinte de ma mère qui éveilla ma conscience à la vie, son regard, son amour, son geste affectueux, les mots doux qu’elle m’adressait m’étreignant dans ses bras .

La machine peut-elle ainsi s’éveiller à la conscience sans l’étreinte de l’amour, non définitivement non, car cet objet sans filiation naturelle et passé qui n’est, pas étreint, ni embrassé, ni aimé, n’a pas été enfanté dans le mystère, conçu dans l’amour, n’a pas de faculté à s’éveiller mais à rester plutôt inerte, mécanique.

La conscience de soi relève d’un mystère et n’appartient pas à la dimension de la raison, c’est un donné de l’esprit, un donné de la transcendance qui n’est pas celle de la matière.

Il nous faut ainsi préférer les sentiers de la conscience aux autoroutes du monde des algorithmes, car la conscience ne vit toutes les dimensions de la densité que lorsqu’elle est dans les chemins de traverses et non dans les pas de l’automatisme séquencé.

La perte de conscience de l’être humain

Ce que nous avons à craindre, ce n’est pas tant la conscience factice d’une machine, mais davantage la perte de conscience de l’être humain.

Cette perte de conscience se produira le jour où l’homme abandonnera à la machine ses facultés de direction et de choix, en s’imaginant que la machine, cette intelligence virtuelle est infiniment plus perspicace, clairvoyante ou pénétrante que ne pourrait l’être son esprit. Cette perte de conscience se déclenchera lorsque une partie de l’homme bradera à la machine sa conscience afin que cette dernière effectue les comportements mécanisés d’un automate susceptible de lui faire obtenir un gain précieux de son temps,  “libérant” l’humain à d’autres tâches qui ne pas en douter seront les tâches futures, accomplies sans fin et demain par d’autres machines plus performantes  l Serons nous demain seulement des êtres passifs, “des zombies vides de substance …participant aux flux  dématérialisants et énivrants du cyberespace” comme le souligne le philosophe Jean-MicheL BESNIER dans son livre l’homme simplifié.

Mais voici déjà que des milliers et des milliers d’hommes abandonnent à la machine, à ce monde digital et numérique, la direction de leur vie en remettant la destinée de leur existence à un système, une forme de divinité virtuelle et planétaire qui choisira leur emploi, leur alter égo, leurs activités du soir. L’homme se dessaisissant peu à peu de ses tâches corvéables, devient lui même addicte de ses robots domestiques. Une forme de nonchalance docile, se profile dans cet horizon du “système technicien” où l’homme cède comme un petit poucet toutes les données de sa vie et se laisse peu à peu asservir par une créature qui lui échappe, qui prend le pouvoir au fil de l’eau . Ce monde moderne a précipité l’homme dans une multiplicité de dépendances, de jougs serviciels le liant et le subordonnant, grignotant peu à peu son autonomie. Une dictature douce est finalement en train de s’imposer.

Une entité mystérieuse se dresse au crépuscule d’une humanité qui rêve à l’enfantement d’un automate Golem ayant une assise sur la conscience humaine, pilotera ainsi leur vie, l’organisera et planifiera harmonieusement leurs activités, ne laissant ainsi rien au hasard.

La liberté est abdiquée au profit d’un pseudo confort techno numérique qui est en réalité, une servitude, d’une conscience paresseuse qui s’envole dans l’abîme privant ainsi l’homme d’une quête de sa conscience reliée à Dieu. En définitive l’IA est l’ultime système orwellien aspirant les données de nos vies sociales et comportementales contrôlant puis assujettissant l’homme au pouvoir d’une “pseudo conscience” qui réfléchit pour eux mais les ankylose en les privant de leur libre arbitre, la motivation qui les met en mouvement.. Pire demain un tel système discriminera nécessairement les rebelles, les insubordonnés, les indociles et les exclura.(Lire Ap 13.16-17 : elle fit que tous, petits et grands, riches et pauvres, libres et esclaves, reçussent une marque sur leur main droite ou sur leur front, et que personne ne pût acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom). Au fond cela rejoint le propos de Idriss Aberkane spécialiste des neuro sciences qui indiquait que si nous donnions un levier à un fou, nous serions alors responsables du supplément de destruction que nous aurions alors su lui conférer.

De fait cette perte de conscience serait un immense gâchis, “une immense déperdition des forces humaines, qui a lieu par l’absence de direction et faute d’une conscience claire du but à atteindre” . Or dans l’épître aux Romains, nous relevons ce texte magistral qui est une invitation à s’affranchir de cette nouvelle servitude que propose notre monde moderne et donne en réalité un chemin à la conscience humaine si nous recevons favorablement cette exhortation “…vous n’avez pas reçu un esprit de servitude, pour être encore dans la crainte, mais vous avez reçu un Esprit d’adoption, par lequel nous crions: Abba! Père! L’Esprit lui-même rend témoignage à notre esprit que nous sommes enfants de Dieu ». L’esprit rend ainsi témoignage à notre conscience que nous sommes en réalité enfants de Dieu et non une matière inerte qui n’aurait finalement aucun sens. .

Nous conclurons dès lors cette chronique par un message plein d’espérance en nous adressant à ceux qui nous lisent, nous les invitons dès lors à entrer en résistance en conscience, à partager autour d’eux la dimension d’une relation incarnée, l’éveil d’un esprit relié aux autres découvrant pleinement son humanité et sa conscience non dominée par la machine, ni la matière fusse-t-elle intelligente mais au demeurant sans conscience..

Eric LEMAITRE

Eric qui n’est pas une IA mais un être tout à fait imparfait remercie ses chers amis Bérengère Séries et Etienne Omnès pour leurs lectures vigilantes, l’apport de leurs idées, leurs réflexions celles de consciences libres, ni codées, ni formatées…merci à eux d’être, d’être des êtres de chair et de sang, des êtres sensibles et de relations.


1. référence à Jacques Ellul, Essayiste et théologien protestant penseur de la technique
2. Economiste et sociologue du XX°s, né en 1916 et mort en 2001. L’auteur de l’article vous renvoie à cette référence
3. Le Calculus Ratiocinator est un concept théorique du philosophe et mathématicien Leibniz décrit dans son ouvrage “De Arte Combinatoria” en 1666.
4. Le synopsis du film
5. Le test de Turing : test d’intelligence artificielle fondée sur la faculté d’une machine à imiter la conversation humaine.
6. Texte de Henri Bergson « La conscience et la vie » Editions PUF, l’extrait de ce texte est à la page 6.
7. Extrait du discours de la Méthode René Descartes

Intelligence artificielle : comment fonctionne le deep learning ?

alvaro-reyes-500040-unsplash

Le deep leaning est  une méthode d’apprentissage automatique s’appuyant sur une modélisation complexe, impliquant un processus de calcul mathématique. Ainsi étape par étape,  les « mauvaises » réponses sont traitées (supprimées) et reportées vers les niveaux en amont pour ajuster systématiquement le modèle de calcul…Pour en savoir davantage, nous vous renvoyons vers l’article de Céline Deluzarche qui schématise avec pédagogie le fonctionnement du deep learning….

https://www.futura-sciences.com/tech/definitions/intelligence-artificielle-deep-learning-17262/

Nvidia présente Isaac, sa nouvelle plateforme d’intelligence artificielle

Nvidia poursuit le développement d’innovations tant sur l’IA que sur des systèmes robotiques intégrés. Durant le CES 2018, la société a officialisé un partenariat technologique avec Uber, Volkswagen et Baidu. Pour ce qui est de ses autres projets, la société travaille sur une technologie, basée sur l’IA,…

 

Nvidia poursuit le développement d’innovations tant sur l’IA que sur des systèmes robotiques intégrés. Durant le CES 2018, la société a officialisé un partenariat technologique avec Uber, Volkswagen et Baidu. Pour ce qui est de ses autres projets, la société travaille sur une technologie, basée sur l’IA,…

Lire la suite …..

https://siecledigital.fr/2018/06/06/nvidia-isaac-nouvelle-plateforme-intelligence-artificielle/

Peut-on réduire la pensée au calcul ?

Un texte du Philosophe Charles Eric de Saint Germain auteur du livre la défaite de la raison …          
On considère habituellement qu’une calculatrice, voire un ordinateur, est capable de calculer, mais non de penser. Si ces outils ont des performances dont les esprits les plus pénétrants semblent incapables, il n’en reste pas moins vrai que réfléchir n’apparaît pas comme une de leur possibilité. Toutefois, si on essaye de préciser quelles différences il y aurait entre calculer et penser, l’embarras est grand. En effet, si penser, c’est raisonner, la différence avec calculer n’apparaît pas immédiatement. Ne dit-on pas de quelqu’un qu’il n’a pas assez réfléchi ou qu’il n’a pas bien calculé ? Dès lors, la réflexion n’est-elle pas un caractère tout à fait secondaire de la pensée, qui serait fondamentalement un calcul ? Aussi peut-on se demander si penser et calculer ne sont pas une seule et même chose. On sait que le latin ratio, d’où vient raison, veut aussi dire calcul. Aussi semble-t-il y avoir une affinité entre penser et calculer, voire une identité que masque le fait que le calcul s’entend surtout du domaine des quantités, alors que la pensée semble relative à la qualité.

https://www.librinova.com/librairie/lemaitre-eric-1/transhumanisme-la-conscience-mecanisee

Une critique philosophique de l’intelligence artificielle

Charles-Eric de Saint Germain

Ancien élève de l’école normale supérieure de Fontenay-Saint-Cloud-Lyon 

Agrégé et docteur en philosophie

Charles Eric est l’auteur de plusieurs livres et ouvrages, nous citons ici les principaux : « Cours particuliers de philosophie » (2 volumes) Collection Ellipses. « La défaite de la raison » ‘(Salvator)…

            On considère habituellement qu’une calculatrice, voire un ordinateur, est capable de calculer, mais non de penser. Si ces outils ont des performances dont les esprits les plus pénétrants semblent incapables, il n’en reste pas moins vrai que réfléchir n’apparaît pas comme une de leur possibilité. Toutefois, si on essaye de préciser quelles différences il y aurait entre calculer et penser, l’embarras est grand. En effet, si penser, c’est raisonner, la différence avec calculer n’apparaît pas immédiatement. Ne dit-on pas de quelqu’un qu’il n’a pas assez réfléchi ou qu’il n’a pas bien calculé ? Dès lors, la réflexion n’est-elle pas un caractère tout à fait secondaire de la pensée, qui serait fondamentalement un calcul ? Aussi peut-on se demander si penser et calculer ne sont pas une seule et même chose. On sait que le latin ratio, d’où vient raison, veut aussi dire calcul. Aussi semble-t-il y avoir une affinité entre penser et calculer, voire une identité que masque le fait que le calcul s’entend surtout du domaine des quantités, alors que la pensée semble relative à la qualité. En effet, calculer, comme le montrent les opérations élémentaires que sont l’addition et la soustraction, implique de manipuler des nombres en fonction de certaines règles. Celles-ci peuvent faire l’objet de démonstrations, qui ne sont rien d’autre que des manipulations de notions plus fondamentales et de règles plus fondamentales. Par exemple, 3 + 1 = 1 + 3. Il est possible de démontrer que l’addition est commutative, c’est-à-dire que quels que soient les nombres a et b, a + b = b + a. Lorsque on raisonne sur autre chose que des nombres, on utilise bien également des règles, à savoir celles de la logique, qui peuvent également faire preuve de démonstrations comme les théorèmes des mathématiques. Mieux, la logique elle-même, qui est régie par la logique de l’art de penser, peut être mathématisée, comme Leibniz en avait caressé le projet, et comme les mathématiciens l’ont fait à partir du xix° siècle. C’est pourquoi, la pensée la plus ordinaire peut être considérée comme un calcul appliqué aux cas particuliers. L’amoureux ou l’amoureuse qui escompte obtenir les faveurs de son aimé(e) ne va-t-il pas calculer ses chances de succès, en tenant compte de certains indices ? Il n’est pas jusqu’aux probabilités qui permettent de calculer des possibilités aléatoires et dont les hommes ont usé indistinctement jusqu’à ce que Pascal en commence l’étude. Dès lors, faut-il aller jusqu’à considérer que penser ou raisonner n’est rien d’autre que cal-culer, comme Hobbes l’a soutenu au chapitre V de son Léviathan ? C’est à cette question que nous nous efforcerons de répondre, en montrant d’abord, dans un premier temps, comment la tentative de réduire la « pensée » à un « cal-cul » trouve ses origines dans la ratio latine dont héritent Hobbes et Leibniz. Puis nous montrerons, dans un deuxième temps, que cette réduction de la « ratio » à ce que Heidegger appelle la « pensée calculante » est inséparable de l’avènement de la technique moderne, et tend à occulter une dimension plus fondamentale de la pensée, en tant que pensée méditante ouverte sur l’être et son mystère. Enfin nous montrerons, dans un dernier temps, ce qui, dans le fonctionnement de l’intelligence humaine, nous semble totalement irréductible au calcul.

La réduction de la « pensée » au « calcul »  :

         de Hobbes à Leibniz

L’identification de la raison au calcul chez Hobbes

Le premier auteur à réduire explicitement la pensée ou plutôt le raisonnement à un calcul, c’est Thomas Hobbes. Deux formules célèbres et souvent citées, semblables dans Léviathan (1651) et De Corpore (1655). Hobbes écrit : « la raison n’est rien que le calcul… » Si on relit le passage du Léviathan (livre I, Chap. V), qu’est-ce que Hobbes appelle « calcul » ? Dire que la raison est un calcul, cela signifie que la raison opère des additions et des soustractions. Elle peut éventuellement multiplier et diviser, mais ce ne sont que des variations sur l’addition et la soustraction. Cette définition est à la fois restrictive et extensive : 1) Restrictive : il n’y a plus qu’une seule modalité des opérations rationnelles. Soit c’est du calcul et c’est de la raison, soit c’est autre chose que de la raison. Toutes les opérations de la rationalité tombent sous le calcul. 2) Extensive : la notion de calcul est étendue, comme calcul logique portant sur les noms. Le calcul numérique, pour lequel nous disposons des deux opérations supplémentaires de la multiplication et de la division, n’est qu’une espèce de ce calcul au sens plus large qu’est la raison.

Hobbes précise en effet que « [l’être humain] peut raisonner ou calculer, non seulement sur les nombres, mais dans tous les autres domaines où l’on peut additionner ou soustraire une chose d’une autre. »  Ainsi, « de même que les arithméticiens enseignent l’addition et la soustraction des nombres, de même les géomètres enseignent la même chose avec lignes, figures (solides ou planes), angles, proportions, temps, degrés de vitesse, force, puissance, et ainsi de suite. » Qu’est-ce qui rend fondamentalement possible cette extension du calcul ? C’est ce qui apparaît dans l’exemple suivant de Hobbes, qui affirme que « les logiciens enseignent la même chose avec des suites de mots, additionnant ensemble deux noms pour faire une affirmation, et deux affirmations pour faire un syllogisme, et plusieurs syllogismes pour faire une démonstration ; et de la somme ou conclusion d’un syllo-gisme, ils soustraient une proposition pour trouver l’autre ».

On voit ici que la condition pour la généralisation du calcul c’est de le considérer fondamentalement comme une opération d’addition et de sous-traction sur des mots. Le terme de « mot » n’apparaît que lorsque Hobbes présente le calcul logique. Mais en réalité, le calcul numérique et le calcul géométrique ne sont eux-mêmes des calculs que parce qu’ils portent sur des mots ou des noms. Ils sont des espèces particulières du raisonnement, raison-nement qui se définit donc comme un calcul portant sur les noms des choses. Nous avons une confirmation de cette hypothèse dans le passage suivant, qui est extrait du chapitre précédent concernant « la parole » : « le recours aux mots pour fixer la pensée est nulle part ailleurs plus apparent que dans la numération. Un simple d’esprit de naissance, qui n’aurait jamais pu apprendre l’ordre des noms numériques comme un, deux, trois, peut observer chaque battement d’une horloge, et faire un signe ou dire un, un, un ; mais il ne peut jamais savoir quelle heure sonne. […] De sorte que, sans les mots, il n’existe aucune possibilité d’effectuer un calcul des nombres, encore moins des grandeurs, de la vitesse, de la force et de ces autres choses dont le calcul est nécessaire à l’existence et au bien-être du genre humain. »

Il n’y a donc pour Hobbes aucune différence fondamentale entre l’arithmétique, la géométrie ou la logique,car ce que l’on appelait jusqu’ici « calcul » dans le sens restreint du calcul mathématique est maintenant résorbé dans un calcul plus vaste, qui est le calcul logique portant sur des noms. Partout où je raisonne, j’effectue un calcul, c’est-à-dire une addition ou une soustraction portant sur des noms. Si je ne le fais pas, c’est que je fais autre chose que raisonner. Cela a pour conséquence immédiate que même des secteurs du raisonnement qui semble extrêmement éloignés de la logique et du calcul passent sous la logique et le calcul. Ainsi, écrit Hobbes, « les écrivains poli-tiques additionnent ensemble les contrats pour trouver les devoirs des hommes, et les juristes les lois et les faits pour trouver ce qui est bon ou mauvais dans les actions des personnes privées. En résumé, en quelque domaine que ce soit, là où il y a de quoi additionner ou soustraire, il y a aussi une place pour la raison, et, là où ces opérations n’ont pas leur place, la raison n’a rien à faire du tout. » On trouve une illustration exemplaire de cette idée dans le fait que le contrat d’association qui instaure l’état civil ou la République est le résultat d’un calcul entre les hommes à l’état de nature. Cette idée que la politique est intégralement réductible à un calcul logique justifie le mode d’écriture même des oeuvres politiques, à la manière des géomètres comme dit Hobbes.

Mais cette thèse très forte sur l’unicité du raisonnement, qui se réduit partout à un calcul logique, est-elle légitime s’il est vrai que la rationalité calculatoire n’est qu’un type parmi d’autres de rationalité ? On peut se de-mander dans quelle mesure la thèse de Hobbes ne constitue pas une sorte de coup de force, d’annexion impérialiste par la raison calculatoire de l’ensemble du domaine de la rationalité.

La caractéristique universelle et le triomphe de la pensée opératoire et de l’analyse logique de la pensée chez Leibniz

           Reste que c’est à Leibniz que va revenir la tâche de parvenir à une complète identification de la pensée au calcul, de la ratiocinatio à la compu-tatio. Leibniz a nourri le projet d’élaborer une caractéristique universelle qui permettrait « que, quand il y a des disputes entre les gens, on puisse dire seu-lement : comptons, sans autre cérémonie, pour savoir lequel a raison ». En 1666, Leibniz publie son De Arte combinatoria (« De l’art combinatoire ») dans lequel il défend l’idée que la logique doit reposer sur une méthode infaillible de déduction d’idées vraies. Le projet n’est pas nouveau, mais là où Leibniz innove, c’est en proposant de s’intéresser à la composition des idées, car il s’agit ici de décomposer toute idée complexe en un ensemble d’idées plus simples, puis de recommencer jusqu’à atteindre les idées les plus simples, primitives et indémontrables. Leibniz est ainsi à la recherche de ce qu’il appelle une Caractéristique universelle, sorte d’Alphabet général de la pensée humaine qui recenserait toutes les idées simples en servant de base à la recomposition des idées complexes. L’idée de Leibniz est que la langue naturelle comporte trop d’équivocité ; La caractéristique universelle est donc un langage purement logique, dans lesquels les noms possèdent une signification univoque et explicite. Les « signes » ou les symboles de cet Alphabet universel dont la langue est empruntée à l’algèbre, devaient permettre ensuite de composer les idées, comme les lettres permettent de composer des mots et les mots des phrases. Mettre fin aux disputes, cela se pourrait donc grâce à un « art de l’invention » que Leibniz souhaite perfectionner, afin de réduire tous les raisonnements humains à une espèce de calcul qui servirait à découvrir la vérité. Leibniz emploie volontiers la tournure « mettre en ligne de compte ». Ce calcul donnerait en même temps une espèce d’écriture universelle, voire une espèce d’algèbre générale qui donnerait moyen de raisonner en cal-culant, de sorte qu’au lieu de disputer, on pourrait dire : « comptons ». Ainsi, confirme Leibniz, « lorsqu’il s’élèvera des controverses, une dispute ne sera pas plus de mise entre deux philosophes qu’entre deux comptables ; Il suffira en effet de prendre les roseaux en main, de s’asseoir devant des abaques et de se dire mutuel-lement (notre ami y consentant) : calculons ».

         Leibniz fait ainsi l’éloge de Hobbes qui «  a établi que toute opération de notre esprit est une computation, celle-ci visant à recueillir une somme soit en ajoutant, soit en soustrayant une différence ». Lorsque je dis « homme », je dis synthétiquement ou additivement : « corps + animé + rationnel » soit corps animé doué de raison. De ce point de vue, qu’il soit possible de fabriquer des machines à calculer (c’est Pascal qui a conçu la première) fournit un modèle pour comprendre le fonctionnement de l’esprit humain. Il est vrai que les machines à calculer que l’homme construit ne sont pas capables de toutes les performances de la « pensée », et qu’elles sont capables de performances qui lui sont inaccessibles, par exemple de conservation de documents. Cependant, cela ne veut pas dire qu’elles  sont fondamentalement différentes. En effet, qu’est-ce que le programme d’un ordinateur, sinon un ensemble de règles coordonnées entre elles, un algorithme ? Il est vrai que c’est l’homme qui fait le programme, mais celui-ci n’est rien d’autre qu’une suite de calculs logiques. Or, les analyses précédentes de Hobbes et Leibniz ont montré que la pensée semblait n’être rien d’autre qu’une suite également de calculs logiques. L’histoire de la logique montre que les hommes ont d’abord pensé avant de repérer les règles qui leur permettent de penser. Si donc toutes les règles que nous utilisons ne sont pas explicitées, cela ne signifie pas que nous pensons indépendamment de toute règle, mais seulement que ces règles logiques peuvent gouverner la pensée à son insu. Or comme utiliser une règle, c’est cela la ratio ou calcul, penser revient bien à calculer, et l’esprit ne diffère pas essentiellement de la machine. D’où tous les passages où Leibniz compare le raisonnement à un mécanisme ou la Caractéristique à une machine, Leibniz ayant même inventé dès sa jeunesse une Machine arithmétique pour effectuer les quatre opérations, et une Machine algébrique pour résoudre les équations. Il était naturel qu’après avoir réduit le raisonnement à un calcul, Leibniz voulût le réduire, comme les calculs numériques, à un mécanisme matériel. En proposant une analogie entre l’esprit humain et la machine à calculer, il est sans doute le premier à avoir saisi l’ampleur d’un projet philosophique qui consiste à remplacer l’esprit humain par une machine à calculer. Ainsi, on voit que l’art combinatoire, ou caractéristique universelle, est censé nous fournir une machine à raisonner dont le principal ressort est la force de la forme logique, nous dispensant fort commodément d’avoir à penser. Comme l’avait pressenti et redouté Descartes, l’accomplissement de la pensée comme mise en forme logique et calcul ne revient-il pas à un renoncement de la pensée à elle-même ?

         Mais ce n’est pas seulement la pensée humaine que Leibniz réduit au calcul, c’est aussi la pensée de Dieu qu’il identifie à un ordinateur géant. Rappelons que pour Leibniz, c’est  par un calcul divin que notre monde a été crée comme étant, entre tous les mondes possibles, le meilleur. Cum Deus calculat fit mundus. Dieu conçoit dans son entendement tous les mondes possibles, c’est-à-dire tous les ensembles de choses qui n’impliquent pas contradiction (ce qui définit la possibilité logique), et qui sont compatibles entre elles, c’est-à-dire compossibles. Ainsi, un Adam non pécheur était possible, mais seul un Adam pécheur est compatible avec un Christ rédempteur. Or Leibniz estime qu’un monde contenant un Adam pécheur et un Christ rédempteur est finalement plus parfait qu’un monde où Adam n’aurait point péché, ce qui est une manière d’illustrer l’idée que là où le péché abonde, la grâce surabonde. De cette infinité de mondes possibles, Dieu crée le meilleur en vertu d’une nécessité morale (la nécessité morale est ce dont le contraire implique imperfection là où la nécessité logique est ce dont le contraire implique contradiction) qui incline le choix divin du fait de la plus grande perfection de ce monde. On peut donc concevoir le Dieu de Leibniz comme un ordinateur géant ou une immense machine à calculer, car le meilleur des mondes possibles n’est rien d’autre que celui où le mal est le moins grand, c’est-à-dire celui qui contient le maximum de perfection. C’est donc un maximum que Dieu ferait passer à l’existence. Plutôt qu’élection du meilleur des mondes possibles, on pourrait tout aussi bien dire que le calcul divin planifie ce monde, car  le principe de raison qui anime cette entreprise de justification de tout ce qui est, vise à l’organisation, au contrôle de l’action sur l’ensemble des choses dans le cadre d’une programmation ou d’une planification qui cherche à exclure aussi bien surproduction que pénurie et gaspillage. C’est déjà par avance l’optimisation de l’entreprise, avec l’aide des ordinateurs. Mais il faudrait se demander si telle avancée de la pensée calculante, qui trouve ici son émergence n’irait pas de pair avec une fuite éperdue de la pensée comme pensée méditante, de la pensée entendue non comme maîtrise et procédure opératoire, mais comme quête de sens. En apprenant à la raison à « raisonner en calculant », à « tout mettre en ligne de compte » sur le modèle des opérations de l’entendement divin, la pensée de Leibniz représente une extraordinaire préfiguration du monde moderne, où chaque vie humaine se déplie en fonction de son équation personnelle, où en fonction du fondement de la connexion de tous ses états différents. Mais à mesure que la pensée calculante étend son règne et son emprise sur le monde, à mesure que l’étant se réduit à ce qui s’offre aux prises du calcul et que le nombre vient prendre la place du nom, c’est la dimension de l’incalculable, au sens de ce qui n’est pas susceptible d’être calculé, qui échappe toujours davantage à la pensée. C’est ce que nous allons nous efforcer de démontrer à travers la critique heideggerienne de la pensée calculante et la nécessité de déployer une autre forme de pensée, une pensée méditante, qui soit irréductible au calcul.

 II) De la pensée calculante à la pensée méditante : 

la critique heideggerienne de l’interprétation

techniciste de la pensée

Du « logos » grec à la « ratio » latine : l’éclipse du logos comme recueillement et les caractéristiques de la pensée calculante

On a vu que Ratio, qui finira par vouloir dire raison et par servir de traduction au grec Logos, a pour sens premier le compte, le calcul. C’est d’abord un terme de comptabilité. La pensée qui compte et calcule, la pensée calculante n’opère pas nécessairement pour autant sur des nombres : lorsque nous dressons un plan, participons à une recherche, organisons une entre-prise, nous comptons toujours avec des circonstances données. Nous les faisons entrer en ligne de compte dans un calcul qui vise des buts déterminés. Nous escomptons d’avance des résultats définis. Ce calcul caractérise toute pensée planificatrice et toute recherche. Pareille pensée ou recherche demeure un calcul, là même où elle n’opère pas sur des nombres et n’utilise ni simples machines à cal-culer, ni calculettes électroniques.

         Mais la pensée calculante n’épuise pas toutefois le domaine de la pen-sée, si omniprésente et hégémonique soit-elle. La pensée calculante se pré-sente même comme « une fuite devant la pensée » dans la mesure où elle ne songe pas même à faire droit à une « pensée méditante », c’est-à-dire à « une pensée en quête du sens qui règne en tout ce qui est ». Aussi Heidegger peut-il distinguer « deux sortes de pensées, dont chacune est à la fois légitime et nécessaire : la pensée qui calcule et la pensée qui médite ». La fuite devant la pensée, telle qu’elle caractérise l’homme contemporain, est la fuite devant la pensée qui médite, devant une pensée en quête de sens, car de la pensée qui calcule se distingue ici la pensée qui ne se contente pas de thématiser, de « cibler », ou de « gérer » tel ou tel secteur de l’étant, mais qui se met en quête d’un sens. Quant la pensée se fait raison calculante, fuyant devant cette autre possibilité de la pensée qu’est la pensée méditante, alors, écrit Heidegger, «  la Raison, tant magnifiée depuis des siècles, devient l’adversaire la plus opiniâtre de la pensée ». La raison (re)devenue calculante garde la nuque raide devant l’affaire de la pensée. C’est ce qui amène Heidegger à montrer que la ratio romaine est à la fois héritière et orpheline du logos grec, au cours d’une histoire qui, du monde romain jusqu’à l’âge présent, va s’éloigner toujours davantage de son ancrage dans la parole. Ce que dit le latin ratio comme compte, calcul, n’est pas entièrement étranger au grec logos, mais c’est incidemment ou par extension, par dérivation, que le terme grec a pu prendre le sens de « com-pte », « rapport », « proportion », voire « raison à rendre » car le sens originel du verbe legô (d’où vient le logos) est « ras-sembler, cueillir, choisir ». L’idée première et en quelque sorte matricielle exprimée par le verbe legô n’est donc pas compter, calculer, dénombrer, énumérer, ni même parler, mais : recueillir. Le « miracle grec » n’est pas l’avènement de la Raison, mais celui du logos, et son originalité n’est pas d’avoir appelé la parole logos, mais de l’avoir appelée ainsi à partir de l’idée de recueillement. L’avènement de la raison comptable et calculante n’est donc pas lié au logos mais à sa traduction romaine par ratio. Traduction que l’on peut tenir pour inoffensive et anodine, et avec laquelle s’est joué pourtant le destin de la pensée occidentale jusque dans la constitution de la rationalité moderne. Pourquoi ? « La pensée romaine, précise Heidegger, dans Le Principe de raison, reprend les mots grecs sans l’expérience originale correspondant à ce qu’ils disent, sans la parole grecque. C’est avec cette traduction que s’ouvre, sous la pensée occidentale, le vide qui la prive désormais de tout fondement. » La pensée occidentale n’a plus d’ancrage dans la parole grecque en étant l’héritière d’une défiguration de cette parole dans les mots mêmes qu’elle n’entend plus mais se contente d’utiliser. La pensée occidentale est éprise d’un fondement, mais sous ses pieds s’ouvre un  abîme.

         La pensée calculante est donc celle qui s’est écartée de son élément originel. Telle est ce que Heidegger appelle l’interprétation « technique » de la pensée, qui trouve sont accomplissement dans la science moderne. D’où le rapprochement que fait Heidegger entre ces trois, formes de pensée que la tradition philosophique s’était efforcée de distinguer avec la dernière vigueur : la pensée scientifique, philosophique et commune . La pensée commune, exclusivement braquée sur l’activité journalière, ne constitue que l’ultime avatar de la démarche philosophique, car ce sont les traits fonda-mentaux de cette dernière que l’on retrouve dans ce qu’il est convenu d’appeler le sens commun. Mais la pensée philosophique n’est à son tour, de manière plus subtile et secrète, qu’un avatar du mode de représentation qui se trouve être à l’oeuvre dans la science. Quelles sont les caractéristiques qui dominent la démarche scientifique ? Délimitation de domaines distincts, méthode, calcul, compartimentation, spécialisation. Or la pensée, dans son acceptation habituelle, trouve son modèle dans le mode de pensée scientifique, qui fonctionne comme la norme de toute pensée. D’où les caractères de la pensée habituelle (commune ou philosophique) dans ses traits principaux : prévalence de la logique, domination de la représentation, catégories de la causalité et du fondement, règne du concept, usage de l’explication, volonté de rigueur conçue comme exactitude. Ces traits ne sont pas d’une autre nature que ceux que l’on retrouve de la science comme « théorie ».

Vers une autre « expérience de la pensée » :  la pensée authentique comme méditation sur le sens de l’être

         Tous ces traits, qui définissent l’interprétation technique de la pensée, peuvent être rassemblés autour d’un pôle unique, celui du calcul. Le calcul n’a donc pas besoin d’opérer sur des nombres, car toute pensée qui compte est un calcul. Même la pensée des valeurs, en tant qu’elle évalue, relève de cette pensée calculante. Or la pensée traditionnelle, dans la mesure où elle est dominée par la représentation, est condamnée à compter. Car représenter, c’est objectiver le réel dans une représentation, c’est par essence pourchasser,  traquer le réel, c’est le suivre à la trace et s’en assurer, c’est-à-dire le provoquer à rendre des comptes. Et c’est pour cette raison que la pensée représentative se caractérise par le calcul. Pour s’assurer du réel et le maîtriser, elle doit compter avec des circonstances, les faire entrer en ligne de compte, provoquer toute chose à rendre des comptes, en un mot soumettre la nature entière au régime de la raison. Le monde n’est alors plus que ce sur quoi la raison calculante dirige ses attaques. Mais le calcul lui-même, comme trait fondamental de cette modalité de pensée, renvoie, comme à son origine, à une donnée fort simple, et qui pourtant soutient tout : c’est que la pensée est ici exclusivement centrée sur l’étant, elle est pensée de l’étant, issue de lui et tendue sur lui. De ce fait, elle ne peut que se présenter autrement que comme un perpétuel « compte rendu » de ce qui est, compte rendu inséparable d’une empoignade et d’une volonté de domination où tout réel, puisqu’il est calculable et prévisible, se doit d’être maîtrisé, sinon comptabilisé : comme le dit Heidegger, « déjà dans son intention, et non seulement dans ses résultats ultérieurs, l’essence dévorante du calcul ne fait valoir tout étant que sous la forme de l’addition et du comestible. La pensée calculante s’astreint elle-même à la contrainte de tout maîtriser à partir de la logique et de sa manière de procéder ». On le voit, la pensée calculante est en réalité une pensée formatée pour les besoins de la technique, car elle force le réel à se dévoiler dans la forme d’une représentation qui rend possible l’exploitation et la domination de ce réel. A ce titre, la technique, loin d’être une simple application de la connaissance scientifique, est plutôt ce qui gouverne de l’intérieur la connaissance scientifique, une connaissance qui n’a rien de neutre puisque la manière dont elle connaît le réel est déjà subordonnée à une injonction visant à s’assurer la maîtrise du réel.  Mais une telle pensée, assujettie à la technique, se condamne à n’être qu’une pensée oublieuse du mystère. Car qu’est-ce que le mystère, sinon ce qui ne se laisse entrevoir qu’en se dérobant ? De même que la lumière rend toute chose visible, mais reste invisible, de même l’être, sans lequel les étants seraient indéfinissables, demeure en retrait et occulté, son voilement est la condition permettant de braquer le projecteur sur l’étant. C’est pourquoi la fixation sur l’étant interdit l’ouverture au mystère. La pensée calculante se trouve ainsi irréductiblement détournée de cela seul d’où procède tout mys-tère d’où s’instituent le langage et la poésie et dans l’élément duquel seule-ment la pensée peut être essentielle : l’être.

L’accès à cette pensée méditante, irréductible au calcul, suppose donc de ramener la pensée dans son élément, en rappelant sa co-appartenance à l’être. Cette appartenance, toutefois, doit être arrachée par la lutte à l’activité habituelle et contre elle, car dans quelque ordre que ce soit, ce qui est le plus simple et le plus essentiel est toujours, en raison de cette simplicité même, ce qui ne peut être véritablement habité qu’au terme d’un long chemin. Remettre la pensée dans son élément, c’est donc paradoxalement la renvoyer à son lieu le plus propre, et pourtant le plus inexploré ; c’est lui permettre de retourner là où, d’une certaine façon elle a toujours déjà été, et où malgré cela elle n’a encore jamais bâti. C’est donc bien l’appartenance à l’être qui désigne cette pensée méditante que Heidegger oppose irréductiblement au calcul. Cette pensée est pensée de l’être, au double sens, subjectif et objectif, du génitif : d’une part la pensée est un événement de l’être, elle appartient à l’être, provient de lui et reste retenue en lui. D’autre part, lui appartenant, elle a cette appartenance même pour objet et souci, c’est-à-dire qu’elle est à l’écoute de l’être, se dirige vers lui, et lui est assignée. Ce que Heidegger assigne pour tâche à la pensée, en lui demandant de penser l’être, ce n’est pas tant de privilégier tel ou tel objet que de garder mémoire d’elle-même, et c’est juste-ment parce que sa tâche est de demeurer à l’écoute de son propre lieu que la nature même de la pensée est définie par Heidegger comme mémoire, sou-venir, ou pensée fidèle. Si la pensée se doit d’être fidèle à l’être, c’est d’abord et avant tout parce que, se situant dans l’être, elle se doit de garder mémoire d’elle-même, de rester ordonnée à la dignité de sa propre essence. Mais si la pensée ne peut en aucun cas produire l’être, ni même le rejoindre de et par sa propre décision, et si elle n’est pas non plus recherche, au sens d’une exploration et d’un recensement de l’étant, à quoi sert-elle donc, et que produit-elle donc ? Une telle pensée, répond Heidegger, n’a pas de résultat. Elle ne produit aucun effet, car tous ces termes appartiennent au calcul, régis par la hantise des buts, et qui ne mesure son efficience qu’à l’escompte des profits et des pertes. Or c’est cette conception même de la fécondité d’une pensée qui se trouve ici récusée. Mesurer la pensée de l’être à son efficacité ou à son utilité pour la vie quotidienne et pratique, c’est encore la mesurer à l’aune de l’étant, et c’est ainsi lui demander de se conformer à des critères qui lui sont dès l’abord inadéquats et étrangers. Dire au contraire que la pensée de l’être ne sert à rien, c’est rappeler que, mesurées à l’aune de l’être, la passion de l’utilité et l’obsession de l’efficacité ne sont qu’une fuite en avant éperdue dans un étant conçu comme indéfiniment maîtrisable et donc consommable, fuite qui nous éloigne toujours davantage de l’unique nécessité réclamant d’être pensée. Ainsi non seulement la pensée de l’être ne saurait être mesurée selon le critère habituel de l’utilité, mais elle éclaire ce critère lui-même, et c’est dans cet éclairage que réside son efficience, car rappelant que tout étant n’est ce qu’il est que dans la lumière inaperçue de l’être, elle travaille à construire la « maison de l’être », un être qu’il s’agit en réalité seulement de « laisser être ». De ce laisser-être témoigne, pour Heidegger, la Parole poétique, qui se met à l’écoute de l’être. Le poète ne parle, en effet, que parce qu’il écoute, et sa parole incantatoire se fait l’écho du murmure indicible des choses, qui aspirent à se dire dans les mots du poète. La langue poétique, certes, est équivoque (à la différence de la langue des ordinateurs, qui est parfaitement univoque et transparente pour la pensée), et c’est pourquoi elle requiert une herméneutique. Mais il appartient justement à la pensée méditante de dévoiler ce sens de l’être, que la parole du poète nous donne à pressentir de manière toujours énigmatique.

On voit dès lors ce qui distingue fondamentalement l’une et l’autre pensées que nous avons ici décrites, outre leur caractéristiques réciproques, ce sont leur origine. C’est celle-ci qui, en dernière instance, décide de tout. Il est bien vrai que ce qui sépare, dans l’ordre descriptif, ces deux modalités de pensée, c’est que l’une n’a souci que de prendre, tandis que l’autre se contente plus humblement de recevoir l’offrande de l’être, et se définit principalement pas sa gratitude (d’où la parenté qu’établit l’allemand entre la pensée (denken) et le remerciement (denke). Mais c’est parce que l’une trouve sa source dans l’épreuve de la vérité de l’être, tandis que l’autre la trouve dans la considération de l’objectivité de l’étant. L’une ne vise qu’à calculer ce qui est dévoilé, l’autre s’efforce de garder ou de retrouver mémoire du dévoilement lui-même. L’une s’épuise à dresser le « compte rendu » de tout présent, l’autre accepte de s’ouvrir au mystère de la présence, à la merveille des merveilles, au « il y a » qui suscite l’étonnement du philosophe s’il est vrai que la pensée philosophique authentique s’enracine dans un étonnement primordial devant le « il y a », là où le sens commun, empêtré dans l’étant, ne songe plus guère à s’étonner. Ainsi la pensée peut elle accomplir son essence, devenir essentielle, c’est-à-dire plus pensante, non pas quand elle s’élève à un plus haut degré de précision et d’exactitude, comme le voudrait la philosophie analytique qui est l’héritière de cette pensée calculante, mais lorsqu’elle est renvoyée, de manière beaucoup plus radicale, à une autre provenance.

         III) L’irréductibilité de la pensée au calcul :  

raisonner ou délibérer, est-ce seulement calculer ?

Le modèle mathématique chez Descartes et les limites de la rationalité opératoire : déduction et intuition

 

      La pensée semble donc bien irréductible au calcul. Et peut-être faudrait-il du coup remettre en cause l’idée selon laquelle raisonner se réduirait à cal-culer. Car si c’était le cas, la pensée se ramènerait à sa dimension purement mécanique, se contentant d’enchaîner les propositions en les déduisant les unes des autres sur le modèle du syllogisme. De ce point de vue, on peut penser que la lecture heideggerienne de la raison moderne, réduite à sa dimension calculatrice en vertu d’une technicisation mathématique de la pensée, ne rend pas totalement justice au moment cartésien de l’avènement de la rationalité moderne, car si Descartes promeut effectivement le modèle des mathématiques en l’appliquant au raisonnement, il refuse, à la différence de Hobbes, de faire de la pensée une simple opération sur les mots puisque les mots ne sont pour lui que les « signes » de nos pensées, et non ce qui les constitue par leur assemblage, comme c’est le cas pour Hobbes, chez qui la pensée n’existe pas en dehors des signes qui la représente. Dans ses Réponses aux Troisièmes Objections, Descartes s’étonne que Hobbes conçoive cet « assemblage et enchaînement de noms » qu’est le raisonnement « comme ne concernant en rien la nature des choses mais seulement leurs noms ou appellations », à savoir « les noms des choses, selon les conventions que nous avons faites à notre fantaisie touchant leurs signification ». Que la pensée réside dans un enchaînement (concatenatio), et qu’elle puisse s’inspirer du modèle déductif des mathématiques, Descartes n’en disconvient certes pas, lui qui évoque dans la deuxième partie du Discours de la méthode « ces longues chaînes de raisons, toutes simples et faciles, dont les géomètres ont coutume de se servir, pour parvenir à leurs plus difficiles démonstrations », suscitant la possibilité que les « choses, qui peu-vent tomber sous la connaissance des hommes, s’entre-suivent de la même façon ». Mais à la différence de Hobbes, qui réduisait comme on l’a vu le raisonnement à une opération sur les noms, Descartes précise « que l’assemblage qui se fait dans le raisonnement n’est pas celui des noms, mais bien celui des choses signifiées par les noms. » « Car qui doute, poursuit-il, qu’un Français et un Allemand ne puissent avoir les mêmes pensées ou raisonnements touchant les mêmes choses, quoique néanmoins ils conçoivent des mots entièrement différents ? ». Les « pensées ou raisonnements » de Descartes sont les mêmes, qu’il s’exprime en latin, en français ou en néerlandais, puisque penser n’est rien d’autre que raisonner, en sorte que le langage est une traduction de la pensée beaucoup plus qu’il ne la constituerait à travers la disposition des mots. La pensée est donc entièrement détachée de la langue dans laquelle elle s’exprime car ce qui importe à Descartes, c’est de savoir conduire par ordre ses pensées et non pas d’établir, comme Leibniz, une langue rigoureuse et univoque qui risquerait de dénaturer la pensée. A ce titre, le langage humain n’est aucunement réductible à la langue formaliste et symbolique des mathématiques, mais il est un instrument universel qui manifeste la présence de la pensée, et ce langage est présent en tout homme. Descartes, dans la cinquième partie du Discours de la méthode, souligne d’ailleurs que « c’est une chose bien remarquable, qu’il n’y a point d’hommes si hébétés et si stupides, sans en excepter même les insensés, qu’ils ne soient capables d’arranger ensemble diverses paroles, et d’en composer un discours par lequel ils fassent entendre leurs pensées. » Ce qui caractérise la parole humaine, en tant que signe de la pensée, et ce qui la distingue radicalement de la machine, c’est l’impossibilité d’expliquer les divers arrangements de signes que l’homme produit dans un discours par la seule existence des organes physiques de la machine corporelle. Autrement dit Des-cartes oppose radicalement d’un côté le mécanisme, et d’un autre côté la raison, qui doit être radicalement distinguée de toute forme de mécanisme quel qu’il soit. Car le contraire du mécanisme pour Descartes, ce n’est ni la finalité, ni un mécanisme déréglé, mais c’est la raison en tant qu’elle est un instrument universel qui peut permettre à l’homme de s’adapter à toutes sortes de situations possibles là où le calcul des machines n’a nullement cette faculté d’adaptation puisqu’il est ajusté à une fin unique, celle pour laquelle il a été initialement programmé. On peut certes complexifier tant qu’on veut la programmation, comme le fait la prétendue intelligence artificielle, cela restera toujours de la programmation ! Si le langage humain est effectivement le signe de cette universalité de la raison, c’est, par exemple, parce qu’il permet de combiner arbitrairement certains signes pour répondre à une question dans n’importe quel type de situation donnée, indépendamment de toute programmation préalable, ce qui est la marque le plus évidente de la pensée. La parole humaine, en tant que signe de la pensée, est une action qui s’oppose radicalement à toute forme de mécanisme, et c’est pourquoi Des-cartes précise qu’une pie ou un perroquet peuvent bien proférer comme nous des sons articulés, ils ne parlent pas véritablement, puisque ces signes combinés ne témoignent pas de la présence d’une pensée, mais seulement d’une répétition mécanique. Ainsi, pour Descartes, il n’y a pas de machine à parler, ni de machine à penser ou à inventer, et pourtant il y a des machines à cal-culer.

         Penser, ce n’est donc pas additionner ou soustraire, comme le voulait Hobbes, c’est raisonner. La promotion des mathématiques, que Descartes appelle de ses vœux, n’a donc pas pour ambition de réduire toutes les pensées humaines à un calcul opérant avec des nombres, car le raisonnement n’est pas, pour Descartes, computatio, mais consideratio et meditatio, ce qui reconduit réflexivement à l’incalculable « ego » de l’ego cogito, qui ne peut être saisi que dans une expérience de pensée qui relève de l’intuition, beaucoup plus que de la déduction mathématique : il s’agit bien ici d’une expérience de pensée qui fait appel à un constat irréductible à toute déduction (raison pour laquelle Descartes nous met en garde contre la tentative qui ferait de son cogito la conclusion d’un syllogisme à partir de prémisses qui seraient : « Tout ce qui, pense est. Or je pense. Donc Je suis » puisque c’est ici l’expérience particulière et personnelle que pour penser, il faut être, qui conduit à la proposition universelle : « tout ce qui pense est ». A cet égard, la pensée de Descartes apparaît bien comme une pensée méditante (les pensées de Descartes, si elles se soumettent à l’ordre mathématique des raisons, s’ex-priment néanmoins sous la forme de « méditations métaphysiques »), une pensée méditante qui demeure réfractaire à toute pensée calculante, car le secret lui-même non mathématique de la mathématique, c’est qu’elle est moins affaire de quantité calculable et comptable que d’ordre et de mesure : le dénombrement de tous les pensées humaines, afin de les mettre par ordre, tel est le plus grand secret qu’on puisse avoir pour acquérir la « bonne science ». Mais dénombrer toutes les pensées humaines n’est pas pour autant les numériser. S’il est vrai qu’il faut calculer pour résoudre des problèmes théoriques ou pratiques, il n’en reste pas moins vrai que le calcul présuppose que l’on aperçoive non seulement les règles que l’on utilise, mais également leur agencement.

C’est en ce sens que l’intuition, même si on la considère comme faillible à la suite de Leibniz, qui jugeait le critérium cartésien de l’évidence, qui se donne à saisir intuitivement, trop psychologique et subjectif pour garantir efficacement la vérité d’une idée, est absolument nécessaire à la pensée, car si penser, pour Descartes, c’est raisonner (c’est la déduction) penser, c’est aussi d’abord et avant tout voir. Or le calcul ne présuppose pas seulement l’application correcte de règles, mais également la saisie intuitive de la pertinence des règles. Tel est le sens de la distinction que fait Descartes entre l’intuition et la déduction, dans les Règles pour la direction de l’esprit. En effet, si de l’égalité entre 3 + 1 = 4 et de l’égalité entre 2 + 2 = 4, je déduis que 3 + 1 = 2 + 2, il faut  que mon esprit saisisse, par intuition, la conséquence. Aussi, Descartes définit-il l’intuition comme cette conception claire et distincte que forme l’esprit attentif dans une sorte de vision de l’intellect qu’aucun calcul ne peut produire. Mais c’est précisément cette intuition qui fait défaut aux machines, aussi sophistiquées soient-elles, et qui permet d’affirmer qu’elles ne pensent pas. Pour que l’ordinateur pense, il faudrait qu’il puisse intuitivement appréhender un sens. Mais la machine ne connaît que la pensée déductive ou discursive, pas la pensée intuitive et le seul langage que la machine puisse comprendre est le langage binaire, comme l’a bien montré l’algèbre de Boole.

Calcul machinal et calcul humain : les limites de la modélisation mécanique de la pensée humaine

      Mais on peut même aller plus loin en montrant que non seulement les machines ne pensent pas, mais elles ne calculent pas vraiment non plus puisque le programme qui est le leur les conduit simplement à remplir des fonctions certes analogues au calcul, mais qui en diffèrent essentiellement au sens où c’est l’utilisateur de la machine qui effectue les calculs, c’est-à-dire qui en donne les prémisses et qui en interprète le résultat. Les machines peuvent effectuer un très grand nombre d’opérations en un temps extrêmement court,  mais elles ne calculent pas stricto sensu, parce que le sens des opérations et du résultat leur échappe. Un enfant qui compte son argent pour acheter des bonbons est essentiellement différent des plus performants ordinateurs du Pentagone, parce que l’interprétation du résultat est ce qui donne sens à son calcul, et il ne calculerait pas si ce calcul n’était pas subordonnée à une finalité qui le motive. L’enfant donne sens au résultat parce qu’il sait que ce qu’il compte lui permettra d’acheter ou non les bonbons qu’il convoite. Mais même en admettant que les machines calculent (si l’on entend par calculer faire une opération), il y a des opérations humaines que le calcul est incapable d’effectuer, parce qu’il n’en saisit pas le sens. Une blague qui circule en informatique permet de bien illustrer cela : on pose la question à un ordinateur : que faut-il choisir entre une montre qui est cassée et bloquée à trois heures et une montre qui prend cinq minutes de retard chaque jour ? Réponse de l’ordinateur : la montre cassée, parce qu’elle donne l’heure exacte deux fois par jours, tandis que la montre qui retarde ne donnera l’heure juste que tous les X jours (par exemple 685, 785 jours compte tenu du décalage et de son rattrapage). En revanche, le bon sens humain n’hésite pas : il prend la montre qui retarde, car elle est plus utile, et au moins, elle marche ! Ainsi, la logique du calcul et celle du bon sens ne se rencontrent pas toujours, et le calcul ne suffit pas pour saisir les raisons de préférer une montre qui fonctionne de manière approximative plutôt qu’une montre cassée. Le « bon sens », dont Descartes disait qu’il est la chose du monde la mieux partagée, paraît plus intelligent que le calcul strict et exact, mais très limité dans ses vues, c’est-à-dire borné. L’ordinateur ne pense pas, il exécute une opération qui est déclenchée par les entrées qu’il reçoit. Strictement parlant, c’est un peu comme si l’entrée était un stimulus déclenchant une réponse. La relation entre le stimulus et la réponse n’est pas pensée par la machine, mais établie par le programmeur qui a spécifié ce que la machine devait faire quand tel type d’entrée lui était proposée. Si le programme est fait pour renvoyer des sottises, la machine lui renverra des sottises, ce qui montre bien que c’est le programmeur qui est intelligent (et non pas la machine).

      Enfin, il peut paraître également absurde, comme le suggérait Leibniz, de réduire le « choix » à un calcul de la raison qui soupèserait les différentes possibilités en élisant la meilleure d’entre toutes. On a vu que c’est ce qui justifiait la réduction de la délibération rationnelle à un simple calcul machinal que Leibniz appliquait prioritairement au choix divin touchant les mondes possibles. Mais on peut observer que le choix le plus rationnel, du point de vue du calcul machinal, n’est justement pas forcément le choix optimal, et que l’homme, précisément parce qu’il n’est pas une machine, pour-ra très bien prendre le risque calculé de perdre plus pour gagner plus, ce qui semble montrer que la prudence calculatrice et réfléchie de l’homme ne se confond pas avec le calcul aveugle et sans réflexion de la machine. En ce sens, même lorsqu’il calcule, l’homme ne calcule pas comme une machine ! C’est bien ce qu’illustre, en un sens, le fameux « dilemme du prisonnier », qui sert de fondement aux théories des jeux ou à celles de choix sociaux, qu’Albert W. Tucker présente sous la forme d’une histoire. Deux suspects sont arrêtés par la police. Mais les agents n’ont pas assez de preuves pour les inculper, donc ils les interrogent séparément en leur faisant la même offre :

 « Si tu dénonces ton complice et qu’il ne te dénonce pas, tu seras remis en liberté et l’autre écopera de dix ans de prison. Si tu le dénonces et lui aussi, vous écoperez tous les deux de cinq ans de prisons. Si personne ne se dénonce, vous aurez tous les deux six mois de prison ». Chacun des prisonniers réfléchit donc de son côté, en passant en revue les deux cas possibles de réaction de son complice :

« Dans le cas où il me dénoncerait :

                   – Si je me tais, je ferai 10 ans de prison.

                   – Mais si je le dénonce, je ne ferai que 5 ans ».

« Dans le cas où il ne me dénoncerait pas :

                   – Si je me tais, je ferai six mois de prison

                   – Mais si je le dénonce, je serai libre ».

         Si chacun des complices mène ce raisonnement, les deux vont proba-blement choisir de se dénoncer mutuellement, car ce choix est le plus avan-tageux. Conformément à l’énoncé, ils écoperont alors de 5 ans de prison chacun. Mais ce choix, dicté par le calcul et empreint de rationalité, n’est cependant pas le meilleur choix (le choix optimal pour tous les deux), car s’ils étaient restés tous les deux silencieux, ils n’auraient écopé que de six mois de prison chacun. En d’autres termes, le meilleur choix dans l’absolu (le choix optimal pour les deux) n’est pas forcément, comme le pensait Leibniz, le choix que le calcul machinal me commanderait de faire, car faire le choix optimal présuppose une situation d’incertitude, à savoir le postulat d’un altruisme chez mon complice que rien ne garantit, mais qui engage, dans la réflexion et la délibération rationnelle, l’acceptation d’un risque (celui de perdre plus pour gagner plus) que le calcul machinal tendra au contraire nécessairement à évacuer pour minimiser les risques.

Pour conclure, je rappellerai qu’en 1997, Deep Blue, un ordinateur d’IBM, parvint à battre le champion du monde des échecs Garry Kasparov en calculant 300 millions de coups par secondes. Est-ce à dire que Kasparov en faisait autant, ou plutôt, qu’il en fit moins, puisqu’il perdit ? Que Deep Blue use du calcul pour jouer aux échecs signifie-t-il que Kasparov en faisait de même ? Paradoxalement, des études récentes montrent qu’un grand maître des échecs ne calcule pas. Le joueur d’échec qui calcule est un débutant. L’expérimenté ne calcule pas, il reconnaît des formes. La neuropsychologie montre que les zones du cerveau activées chez le grand joueur d’échec sont les mêmes que celles de la reconnaissance des formes, des visages. Le grand maître, à force de jouer et rejouer, d’étudier des parties déjà jouées, développe une aptitude cognitive qui lui fait reconnaître la forme d’une combinaison et lui donne l’intuition du coup suivant, sans avoir à le calculer. Ce qui est à l’œuvre chez le grand maître est moins une puissance de calcul qu’une capacité à mémoriser les anciennes parties et à voir, à reconnaître des formes là où le joueur lambda n’y parvient pas. Ainsi, l’intelligence humaine n’est pas le calcul, car le calcul renvoie à ce qu’il y a de mécanique dans l’intelligence humaine, mais l’intelligence humaine ne se réduit pas à cette dimension mécanique qui peut être prise en charge par la machine, et ceux qui redoutent que l’intelligence artificielle ne puisse un jour supplanter l’intelligence humaine tendent à oublier que cette crainte n’a lieu d’être qui si l’on a d’abord, en vertu de présupposés matérialistes très contestables dont on a vu qu’ils prennent leur source chez Hobbes, réduit le fonctionnement de l’intelligence humaine au seul calcul. Au plus haut degré de l’intelligence humaine, il y a quelque chose que l’on nommera l’intuition, une intuition dont la ma-chine qui calcule est totalement dépourvue. Réduite au seul calcul, l’intelligence se borne à emprunter toujours les mêmes sentiers, sans jamais rien découvrir d’autre, et la liberté y est totalement absente. Prenez deux hommes, et il n’y aura jamais deux parties d’échecs identiques qu’ils disputeront. Rien n’est moins sûr avec deux ordinateurs s’ils se contentent à chaque fois de calculer. Ainsi, tant que l’intelligence artificielle se bornera au calcul (mais peut-elle faire autre chose que calculer ?), elle se contentera d’imiter, certes plus efficacement, le plus bas degré de l’intelligence humaine, mais celle-ci n’est pas seulement calcul et analyse, elle est aussi, et surtout intuition, invention, apprentissage, elle fait intervenir l’imagination et l’affectivité (Pascal ne parlait-il pas à ce sujet d’une « intelligence du cœur » qui renvoie davantage à « l’esprit de finesse » plus qu’à « l’esprit de géométrie » propre au raisonnement purement mathématique ?) et tant d’autres choses qu’il reste encore à découvrir. Le drame de l’intelligence artificielle, c’est d’être la matérialisation de théories développées par les hommes pour modéliser leur propre acte de penser, mais les scientifiques ne voient pas toujours que cette modélisation, qui use des mathématiques comme langage, ne donne qu’une épure abstraite de la réalité qu’ils cherchent à comprendre et dont le fonctionnement leur échappera toujours en partie. Ainsi, tant que les hommes ne parviendront pas à rendre compte de leur intelligence (et de toute chose en général) autrement qu’avec les mathématiques, tant que les ordinateurs ne comprendront pas un autre langage que les mathématiques, il ne faut pas s’attendre à les voir réfléchir, car un tel acte suppose un détour nécessaire par la conscience, dont il ne peut exister aucun artifice. La peur entretenue au sujet de l’intelligence artificielle n’est-elle pas un « artifice » destinée à nous masquer des menaces autrement plus dangereuses pour l’humanité ?

Cyborg et IA : la fusion programmée entre l’homme et la machine

Cyborg et IA : on le verra au cours de ce dossier, ces deux domaines tendent à se rapprocher, inexorablement, entre la « mécanisation » de l’homme et l’ «humanisation » des machines, tant au niveau physique que de l’ « esprit ». Nous verrons quelles sont les avancées les plus marquantes de ces deux champs de recherche, qui devraient impacter en profondeur notre mode de vie dans les prochaines décennies.

Ces deux domaines, aussi vastes que passionnants, sont des thèmes très utilisés dans les œuvres de science-fiction, passionnant les foules depuis plus d’un siècle. Si certains livres, séries ou films les ont popularisés, ces deux notions restent difficiles à définir, car elles recouvrent de nombreux champs de connaissances, souvent peu accessibles au grand public. L’imaginaire de la science-fiction a donné une certaine image de ce que l’on appelle « cyborg », ainsi que des machines dotés d’une « intelligence » très évoluée, jusqu’à surpasser l’être humain. On le verra au cours de ce dossier, ces deux domaines tendent à se rapprocher, inexorablement, entre la « mécanisation » de l’homme et l’ «humanisation » des machines, tant au niveau physique que de l’ « esprit ». Nous verrons quelles sont les avancées les plus marquantes de ces deux champs de recherche, qui devraient impacter en profondeur notre mode de vie dans les prochaines décennies.

Le Cyborg :

la frontière entre l’homme et la machine

On appelle « cyborg » tout être vivant – généralement humain – qui aurait été « augmenté » par des ajouts mécaniques au sein même de son corps. Le terme de « cyborg » est d’ailleurs la contraction de « cybertenic organism » (organisme cybernétique), apparu dans les années 60 lors des premières explorations spatiales. Les chercheurs réfléchissaient alors au concept d’un humain « amélioré » qui pourrait survivre dans des environnements extraterrestres.

Mais le concept a émergé bien avant. On peut remonter jusqu’au milieu du XIXème siècle dans les romans d’Edgar Allan Poe, qui décrivait déjà un homme doté de prothèses mécaniques dans sa nouvelle The man that was used up (L’Homme qui était refait) parue en 1839. Depuis, l’idée a fait son chemin et les cyborgs, ainsi que les robots, sont devenus très populaires avec des œuvres ou personnages tels que Terminator, Robocop, L’Homme qui valait trois milliards, les Cybermen de Dr Who ou encore le récent I, Robot. Si ces célèbres films ou séries posent la question de la limite de l’humanité, en partant de l’humain, des ouvrages tels que la série des Robots d’Isaac Asimov cherchent la limite entre l’homme et la machine en soulevant la notion de « conscience artificielle », celle du robot, avec toutes les questions philosophiques et éthiques que cela implique.

Aujourd’hui on parle de plus en plus de cyborg non plus en termes de fiction, mais d’avancées scientifiques. Avec les progrès et la miniaturisation des technologies, on réalise des prothèses de plus en plus discrètes et efficaces, capables de remplacer voire surpasser un membre disparu ou un organe défaillant. On utilise souvent le terme de « transhumanisme » en rapport avec ces évolutions techniques. Le transhumanisme est un mouvement qui fait de plus en plus d’adeptes et qui consiste à pallier les « faiblesses » de l’homme (ressources physiques, maladies, handicap, vieillesse, mort) grâce aux progrès technologiques et à des greffes mécaniques capables de rendre l’homme plus « puissant ». Certains vont jusqu’à parler de post-humanité, prévoyant la généralisation de ces pratiques sur tous les êtres humains.

Des hommes dont les capacités physiques ou mentales dépendraient de machines ? De là à parler de cyborgs, il n’y a qu’un pas.

Sommes-nous déjà des « cyborgs » ?

La question peut sembler ironique, mais tout dépend de l’angle sous lequel on la traite. Si un cyborg est un homme dont les capacités ont été augmentées par les progrès technologiques, alors une bonne partie de l’humanité peut-être définie ainsi. Selon certains chercheurs, nous sommes déjà entrés dans l’ère des cyborgs, avec la multiplication des appareils électroniques dans notre quotidien, qui envahissent nos vies jusqu’à devenir indispensables. Télévisions, téléphones, satellites, Internet : tous ces outils nous permettent d’interagir avec le monde entier et donc d’augmenter la portée de nos actions et de nos idées. Cette explication est pour la plupart des individus trop « romancée », car le progrès est le propre de l’homme et les outils technologiques qu’il utilise ne peuvent altérer sa condition primaire d’ « animal pensant ». On parlera ainsi plutôt d’homme « augmenté ».

On s’attachera donc à une définition plus terre à terre du cyborg, qui consiste à modifier le corps même de l’homme pour lui attribuer de nouvelles possibilités physiques, ou mentales. La fusion entre l’homme et la machine, via des greffes ou l’implantation de puces au sein de l’organisme. Les recherches dans le domaine sont nombreuses, et touchent plusieurs secteurs : médecine, robotique, cybernétique, nanotechnologie, biotechnologie, NTIC, sciences cognitives, etc. Et les avancées sont rapides. Les greffes mécaniques existent déjà depuis longtemps, par exemple avec les pacemakers, de même pour les membres artificiels, mais cela ne fait pas pour autant de donner des êtres différents. On pourrait même évoquer les lunettes ou les systèmes auditifs comme des cas d’améliorations techniques de l’homme. Plutôt que d’homme « augmenté », on parle plutôt ici d’homme « réparé ». Il est évident que nous ne sommes pas encore au stade de cyborg comme nous avons pu le définir, mais nombreuses sont les recherches qui vont dans ce sens.

On cherche désormais à agir sur le corps humains de l’intérieur, que ce soit au niveau génétique ou mécanique, par exemple grâce à des puces implantées.
Nous arrivons aujourd’hui à une véritable frontière entre l’homme et la machine. Nous nous sommes habitués à un monde ultra-connecté où nos appareils font partie intégrantes de nos vies, et vis-à-vis desquels nous devenons de plus en plus dépendants. Implanter directement ces appareils à l’intérieur de notre corps pourrait donc devenir une solution à l’avenir, bien que cette idée soulève d’importantes questions techniques et sociales. Quand on observe les avancées technologiques, on peut penser qu’un tel scénario pourrait se concrétiser dans un futur plus ou moins proche. De nos jours, il existe déjà le dopage chimique, les implants d’appareils électroniques (médicaux notamment), ou des prothèses perfectionnées au point d’égaler voir surpasser un membre humain.

Il est intéressant de noter qu’en parallèle, nous donnons de plus en plus de traits humains aux robots, en travaillant sur les mouvements physiques et surtout, l’intelligence artificielle, qui progresse à une vitesse fulgurante. On assiste donc à un rapprochement entre les deux mondes.

Le futur déjà à nos portes

La technique et la médecine progressent particulièrement vite, et ont radicalement changé le mode de vie de l’homme, toujours à la recherche de puissance. Le virtuel lui a permis de démultiplier ses capacités de communiquer avec autrui, avec des avantages (le partage de la connaissance et des idées, le gain de temps, l’aspiration à la créativité) et les inconvénients (dérives, manipulation des masses, violation de vie privée) que cela implique. Nous avons également amélioré la qualité de vie de l’être humain grâce aux progrès médicaux, qui nous permettent de vivre plus longtemps et en meilleure santé. Tout s’enchaîne, de plus en plus vite, et la plupart des individus n’arrivent plus à suivre le rythme des avancées. Si auparavant, de nombreuses années étaient nécessaires à une technologie pour se généraliser (comme le téléphone ou la télévision), on adopte aujourd’hui les nouvelles technologies avec une rapidité déconcertante, presque machinale, compulsive. On n’a donc aucun mal à penser que l’homme pourrait accepter sans trop de résistance de se relier de l’intérieur à des appareils électroniques pour devenir, finalement, un cyborg.
Mais où en sommes-nous aujourd’hui exactement ? Quelles sont les avancées les plus marquantes ? Et que peut-on imaginer pour l’espèce humaine dans les prochaines dizaines d’années ? Sauf catastrophe planétaire, il est probable que notre évolution devrait connaître une sérieuse accélération « grâce » aux nouveaux outils technologiques.

Les prothèses bioniques

Parmi les avancées les plus marquantes, les prothèses de nouvelle génération reliées au système nerveux, et actionnées par plusieurs moteurs capables de reproduire tous les mouvements du membre original. On est aujourd’hui capable de créer des mains, pieds, bras ou jambes d’un réalisme bluffant, mais plus intéressant encore, d’une très grande efficacité, jusqu’à surpasser le membre de chair. Ces avancées annoncent de nouvelles possibilités en matière de performances et d’esthétisme. On peut ainsi prendre l’exemple d’Aimee Mullins, actrice et athlète américaine qui, née sans jambes, a percé dans le milieu du sport et du mannequinat grâce à des prothèses très perfectionnées. Elle fait d’ailleurs fréquemment la promotion de ces dernières, exposant le regard nouveau que l’on pourra porter envers les personnes handicapées.

Plus impressionnant encore, ce jeune autrichien qui, suite à un accident de travail, a perdu l’usage de son bras gauche. Il y a quelques mois, il a pris la décision de se faire amputer pour le remplacer par un bras bionique, directement relié à son cerveau. Les commandes de son bras artificiel sont activées par les signaux électriques du cerveau, et cela semble très au point. Remplacer un membre invalide par une prothèse bionique paraît être une idée tout à fait acceptable, mais cela pourrait se généraliser sur des individus parfaitement valides. Une idée qui résonne dans les mots de Aimee Mullins, au cours d’une interview, « L’amputation volontaire, je pense que ça arrivera […] Les athlètes feront n’importe quoi pour avoir les meilleurs avantages possibles ».

On a ici l’exemple de prothèses pour jambes ou bras, mais cette idée est tout à fait valable pour certains organes comme les reins, le coeur, ou encore les yeux. Il n’est pas fantaisiste de penser que notre corps pourra un jour être « réparé » comme une voiture dont on changerait les pièces. Bien évidemment, certaines parties du coup sont plus complexes que d’autres. On imagine mal par exemple pouvoir remplacer tout ou partie de notre cerveau après un grave accident. L’oeil est également un organe difficile à reproduire, et surtout à relier au cerveau humain. Les dernières avancées sont encourageantes, et prévoient le premier oeil bionique exploitable d’ici deux ans. Pour s’attaquer aux éléments les plus délicats, d’autres voies sont explorées, comme les nanotechnologies ou les puces électroniques.

Les puces implantées

En plus de « réparer » ou « augmenter » l’être humain, de nombreuses expériences ont été menées dans le but de le relier aux machines, directement par la pensée, ou de manière plus concrète, par les signaux électriques envoyés par le cerveau, puisque toutes nos actions sont commandées par notre cerveau. Les recherches se divisent en deux méthodes : la première, la plus douce, consiste à placer un bonnet recouvert d’électrodes, qui capte les ondes émises par le cerveau, et qui sont ensuite analysées par un ordinateur avant d’actionner la machine à laquelle il est relié.
La méthode progresse, mais se révèle peu précise et très lente. C’est pourquoi certains chercheurs se sont penchés sur une autre méthode, visant à implanter directement une puce sur le cerveau. Cela augmente la précision mais engendre des risques d’infection importants, les tests sur l’homme sont donc pour le moment très limités. Là encore, ces études se destinent principalement aux personnes handicapées qui ne peuvent compter sur leur corps pour effectuer des actions, d’où l’intérêt d’une interface homme-machine commandée par la pensée.

Mais d’autres études cherchent à faire de l’homme une véritable télécommande, capable d’interagir avec les machines d’un simple mouvement de bras ou, de manière plus ambitieuse, par la pensée. Parmi les chercheurs les plus influents dans le domaine, Kevin Warwick, professeur de cybernétique à l’Université de Reading au Royaume-Uni, s’est fait connaître pour avoir réalisé des implants au sein de son propre corps. En mars 2002, il s’est fait implanter une puce dans le nerf du bras afin de commander des machines simples par un simple mouvement (main robotique, lampe). Il voit le progrès technologique comme une manière d’améliorer l’être humain, et pas uniquement de le soigner. Il est même parvenu à transmettre un signal vers une main robotique de l’autre côté de la planète par le biais d’Internet.

Cette expérience a engendré un certain malaise, car on imagine alors les possibles dérives d’un tel pouvoir (diriger des objets à distance, sur commande). Kevin Warwick ambitionne d’être le premier représentant d’une « nouvelle espèce », post-humaine, un cyborg pour ainsi dire. Sa prochaine étape : implanter des puces au sein même de son cerveau afin de communiquer avec le cerveau d’un autre individu également équipé d’une puce. Une expérience qui vise ni plus ni moins que la télépathie entre êtres humains, et qui devrait, selon le chercheur, se concrétiser dans les dix prochaines années. Des expériences qui restent très hypothétiques, et qui connaitront probablement des détracteurs au vu des risques encourus.

Plus que de réparer, les recherches mènent aujourd’hui à « améliorer » l’homme, afin d’en faire un être hybride de chair et de métal. Ces recherches amènent de nombreuses polémiques car elles remettent en cause l’identité même de l’homme, jusqu’à le séparer peu à peu de son environnement naturel pour en faire un être, in fine, totalement artificiel. Il y a quelques années, des articles sont parus dans la presse annonçant l’avènement d’utérus artificiels. Sans parler des expériences de procréation assistée qui propose des bébés à la carte (couleurs des yeux, de la peau, traits physiques, sensibilités aux maladies, etc.) grâce à des manipulations génétiques. Des recherches qui se sont confrontées à de vives polémiques, de la part de groupes religieux, ou même de certains scientifiques, qui pointent du doigt les problèmes éthiques liés à ces pratiques.

La révolution des nanotechnologies

En plus des puces, la nanotechnologie pourrait avoir un grand rôle à l’avenir. Si la technique s’applique à de nombreux secteurs industriels, elle est également très en vue en médecine. De nombreuses équipes travaillent à l’élaboration de micro-robots (métalliques ou organiques) capables de scanner et réparer notre corps de l’intérieur. Mieux encore, il devrait être possible à moyen terme de remplacer des parties défaillantes de notre corps, comme la rétine. Les nanotechnologies agissent au niveau moléculaire, ce qui permet d’intervenir de manière très ciblée sur le corps humain, en délivrant des médicaments par exemple, et ainsi d’éliminer les maladies ou de retarder la vieillesse, ou de toucher au code génétique contenu dans nos chromosomes.
Les nanotechnologies intéressent beaucoup l’armée américaine, qui a investi plusieurs centaines de millions d’euros dans la recherche et l’exploitation de ces micromachines pour améliorer les performances des soldats. L’objectif est de produire des « super-soldats » capables de résister aux blessures, voire de s’auto-réparer grâce à ces nano-machines.

Couplées aux progrès de la biotechnologie et de la robotique, ces avancées pourraient donner naissance à des super-soldats génétiquement modifiés pour avoir l’avantage sur les armées ennemies. Dans le milieu militaire comme le milieu civil, ces bouleversements technologiques à venir devraient creuser un peu plus le fossé entre riches et pauvres, à la manière de la fracture numérique actuelle.

Nous vous invitons à visionner ce reportage d’Arte diffusé en juin dernier, qui illustre bien ces avancées et les problématiques qui en découlent (en quatre parties).

De même que cette bande annonce du jeu vidéo Deus Ex : Human révolution, qui nous plonge dans un futur anticipé, sur fond de transhumanisme et d’humains augmentés.

Jusqu’ici, nous avons parlé de cyborgs, des hommes augmentés donc, mais il y a un autre domaine qui mérite que l’on y porte toute notre attention : l’intelligence artificielle (IA). Cette science vise à reproduire artificiellement les capacités intellectuelles de l’être humain, et de la transposer via des programmes utilisés dans des systèmes de cryptage, des jeux vidéo, des moteurs de recherche, des logiciels (apprentissage, traduction, reconnaissance faciale, etc.), la robotique ou encore la médecine, avec des systèmes organiques autonomes. L’intelligence artificielle est source de nombreux fantasmes illustrés par la science-fiction, avec des robots dotés de conscience artificielle quasiment ou totalement indiscernable d’une conscience humaine, et qui se voient ainsi dotés d’une intelligence qui leur est propre, voire d’ « émotions ».

L’IA, ou l’indépendance des machines

L’intelligence artificielle est un domaine de recherche très vaste, qui mobilise de nombreux chercheurs et industriels de tous bords, car ses applications sont immenses. Les recherches dans le domaine visent à concevoir des programmes capables d’exécuter des tâches données, de manière partiellement ou entièrement autonome.
Le terme d’ « intelligence artificielle » fait souvent débat parmi les experts, qui remettent en question la notion d’intelligence, qui reste très floue à définir. On parle d’ « intelligence » pour désigner la capacité à comprendre et mettre en relation des concepts afin de s’adapter à une situation donnée. On y retrouve plusieurs degrés de complexité, du simple réflexe face au danger, jusqu’à l’élaboration de codes de communication pouvant aboutir à un raisonnement complexe qui, si l’on poursuit la réflexion, mène aux émotions et à la conscience de soi. Ainsi, on a souvent tendance à résumer le concept d’intelligence à la prise de conscience de son existence et de son rapport au groupe, ce qui permet de s’adapter à son environnement selon les codes (possibilités physiques, contexte social, etc.) dans lesquels l’individu évolue.

De l’IA faible à l’IA forte

On évoque ainsi deux types d’IA : l’IA faible, et l’IA forte. La première cherche à simuler une intelligence à partir d’algorithmes capables de résoudre des problèmes peu complexes. On la retrouve par exemple dans les logiciels de conversation, ces robots qui cherchent à imiter la conversation humaine, mais qui peinent encore à convaincre dans la grande majorité des tests, comme le fameux test de Turing. C’est toute la difficulté de ce type de recherche, qui veut reproduire le raisonnement humain, toujours mal compris par les scientifiques, qui ne cesse de débattre sur les mécanismes de la conscience humaine et des raisonnements complexes que l’on y retrouve.

L’IA faible est également présente dans de nombreux robots virtuels (qui scannent le web à la recherche d’informations particulières, avant de les traiter en vue d’un objectif donné), comme dans les algorithmes de Google ou les robots conversationnels. On peut également citer les robots industriels ou encore les voitures autonomes. Ce dernier domaine profite d’ailleurs d’avancées spectaculaires comme le montre cette vidéo qui a fait le tour du web il y a quelques mois lors d’une démonstration technique de Google, qui est au premier plan de nombreuses recherches sur l’IA.

De l’autre côté, l’IA forte, celle qui nourrit tous les fantasmes, implique, en plus d’un comportement intelligent, d’éprouver une réelle conscience de soi, ce qui implique la présence d’émotions et de sentiments. Bien sûr, un tel degré d’intelligence n’existe pas à l’heure actuelle sur nos machines, mais pour la pluparts des scientifiques, cela n’est qu’une question de temps. Partant du principe que notre intelligence, et par là même notre conscience est le fruit d’interactions biologiques, et donc matérielles, il pourrait être possible de créer un jour une intelligence consciente sur un support matériel autre que biologique.

Si cette idée était inimaginable durant les prémices dans l’IA dans les années 50, elle semble beaucoup plus réaliste aujourd’hui. On estime que la capacité de calcul du cerveau humain, formé de mille milliards de neurones, est équivalente à 2 x 1014 opérations logiques par seconde. Le plus puissant supercalculateur actuel peut calculer à 8 petaflops, soit 8×1015 opérations par seconde, et les progrès sont très rapides dans le domaine (record de 7 teraflops, il y a dix ans, soit 1000 fois moins).

Des applications de plus en plus ambitieuses

De nos jours, plusieurs applications usant de l’intelligence artificielle font déjà partie de notre quotidien : moteur de recherche, robots d’assistance, logiciels de traduction ou encore jeux vidéo. C’est dans ce dernier domaine que les progrès sont les plus impressionnants, alors que les développeurs cherchent à donner toujours plus de réalisme et de crédibilité à ces univers virtuels, à commencer par les personnages. En dehors du graphisme et de l’animation, le comportement des personnages joue un grand rôle dans la crédibilité que l’on peut leur donner. On utilisera le plus souvent des scripts ou des systèmes multi-agents qui s’appuient sur différentes actions possibles des personnages selon les situations.

On parvient ainsi à donner un comportement très réaliste, à défaut d’être réel, à des personnages virtuels qui profitent également d’une modélisation de plus en plus travaillée, ce qui nous rapproche petit à petit du concept d' »Uncanney Valley », qui fait beaucoup parler de lui avec les jeux de dernière génération. Une notion qui s’applique tout autant aux robots humanoïdes, parfois troublant de réalisme.

Les recherches en matière d’intelligence artificielles progressent rapidement, et ont souvent créé la surprise en développant des programmes capables de surpasser l’être humain dans certains domaines. Le cas le plus médiatisé fut celui de Deep Blue, un superordinateur spécialisé dans le jeu d’échec qui, en 1997, a vaincu le champion mondial d’échec Garry Kasparov, au bout de plusieurs partie tout de même.

Beaucoup critiqueront cette victoire de Deep Blue en évoquant la fatigue de Kasparov après six parties successives. Un point à prendre en compte, mais il est vrai qu’un des avantages de la machine sur l’homme, c’est qu’elle ne connaît pas la fatigue – physique ou psychologique – du moins si l’on parle d’IA faible. De manière plus poussée, le programme Watson, conçu par IBM, a battu deux adversaires humains lors d’un jeu télévisé américain en répondant à des questions formulées en langage naturel. Plus fort encore, Watson est envisagé pour assister les médecins en tant que « consultant » pour les services clients ou les soins médicaux.

Mais le plus impressionnant dans l’IA, c’est lorsqu’elle s’applique aux automates. Cela fait des dizaines d’années que les hommes rêvent de robots capables de mimer le comportement humain, ou de les rendre capables d’exécuter les tâches les plus pénibles. De manière plus ambitieuse, et plus rêveuse aussi, on rêve à des humanoïdes, c’est-à-dire des robots à l’apparence humaine, avec qui l’on pourrait vivre en parfaite harmonie, les mêlant à la population humaine, en leur attribuant différentes fonctions, du service à la personne jusqu’aux robots sexuels. Un scénario repris par plusieurs films comme le très réussi <a href= »http://libresavoir.org/index.php?

title=A.I._Intelligence_Artificielle_de_Steven_Spielberg » target= »_blank » rel= »noopener noreferrer »>A.I. Intelligence Artificielle, qui situe l’action dans la seconde moitié du XXIème siècle, ou les « mécas », les humanoïdes, vivent parmi les humains, et seront d’ailleurs les seuls à survivre aux bouleversements climatiques. Un scénario qui pose de nombreuses questions sur le futur de l’humanité, et qui y dévoile un futur tout à fait probable au vu des avancées que l’on connaît.

Davantage centré sur les risques de telles « machines » parmi nous, le film iRobot se base sur la série des Robots d’Asimov, et imagine, en 2035, l’achat de masse de robots humanoïdes particulièrement évolués au sein de foyers du monde entier, avec les avantages, et les dérives qu’une telle situation peut engendrer. L’un de ces robots parvient même à développer une conscience qui lui est propre, avec des sentiments qu’on imagine propres à l’homme : peur, colère, tristesse, compassion, etc.

L’intelligence artificielle et les machines

Aujourd’hui, en 2011, on est encore loin de tels robots, mais nous progressons rapidement. On pense bien sûr à la domotique et aux appareils plus ou moins utiles pour nous aider dans notre vie quotidienne, au foyer en tout cas. Des solutions qui s’intègrent progressivement dans nos maisons, au même titre que les ordinateurs et les écrans haute-définition, et qui devraient se généraliser dans une dizaine d’années. On peut également citer l’Aibo de Sony, abandonné en 2006 par manque de rentabilité.

Pour ce qui est des robots humanoïdes, on ne peut qu’être impressionné par la vitesse à laquelle les équipes de recherche progressent, dans leurs domaines respectifs. Quelques modèles particulièrement novateurs ont d’ailleurs été plusieurs fois présentés dans les médias, c’est le cas du célèbre Asimo, de Honda, aujourd’hui capable de courir à faiblesse vitesse, de reconnaître des personnes et d’avoir une « discussion » simple. La dernière version, parue en 2007, apporte la connexion Wi-Fi, qui permet à plusieurs Asimo de se répartir les tâches ou de se remplacer lorsque certains doivent recharger – d’eux-mêmes – leur batterie. Parmi les robots les plus populaires, citons également Nao, développé par une société française, Aldebaran Robotics, et qui devrait être commercialisé dès 2012 en grandes surfaces. Petit air de I, Robot. Sa palette de programmation permet un très grand nombre d’utilisation possible pour Nao : robot de compagnie, partenaire de jeux, aide à la personne, etc.

On s’en doute, l’IA intéresse beaucoup les militaires. En 2010, L’US Air Force a demandé la conception d’un programme capable de déterminer les secteurs les plus vulnérables chez l’ennemi en vue d’une attaque. Et de manière plus inquiétante, l’armée américaine, probablement suivie par d’autres nations, souhaite s’équiper d’armes autonomes, capables de repérer et attaquer l’ennemi par elles-mêmes. Ainsi, d’ici 2020, plus de mille bombardiers et chasseurs de dernière génération commenceront à être équipés de sorte que, d’ici 2040, tous les avions de guerre américains soient pilotés par intelligence artificielle, en plus des 10 000 véhicules terrestres et des 7 000 dispositifs aériens commandés d’ores et déjà à distance. Voyant cela, on ne peut s’empêcher de penser, en poussant plus loin l’idée, aux scènes apocalyptiques de certains films futuristes, comme Matrix.

La science qui n’est plus tout à fait fiction

Il est bien sûr impossible à l’heure actuelle d’avoir une vision claire de ce qui nous attends dans les dix, vingt ou cinquante prochaines années. Ce dossier a été l’occasion de présenter les différentes pistes explorées en termes de cybernétique, de biotechnologies et d’intelligence artificielle (ainsi que les nombreuses autres sciences qui gravitent autour). Il ne serait pas sérieux de trop insister sur les différents scénarios exploités par les films de science-fiction, car la réalité s’avère souvent plus complexe et donc difficile à prévoir, surtout dans des domaines aussi mouvants que ceux-ci.
Le professeur Kevin Warwick explique souvent que l’homme est appelé à évoluer en même temps que les machines pour ne pas se faire surpasser. On a un certain mal à penser que l’être humain serait assez imprudent pour donner les moyens aux machines de prendre le dessus sur notre espèce de quelque manière que ce soit. Mais la soif de puissance et de curiosité laisse place à toutes les possibilités.

Terminons ce dossier avec une citation du professeur Irving John Good, statisticien britannique réputé, et qui a notamment travaillé sur l’intelligence artificielle et la « logique robotique » ; il est mort en 2009 :

« Supposons qu’existe une machine surpassant en intelligence tout ce dont est capable un homme, aussi brillant soit-il. La conception de telles machines faisant partie des activités intellectuelles, cette machine pourrait à son tour créer des machines meilleures qu’elle-même ; cela aurait sans nul doute pour effet une réaction en chaîne de développement de l’intelligence, pendant que l’intelligence humaine resterait presque sur place. Il en résulte que la machine ultra intelligente sera la dernière invention que l’homme aura besoin de faire, à condition que ladite machine soit assez docile pour constamment lui obéir ».

Source : https://www.commentcamarche.com/contents/2208-cyborg-et-ia-la-fusion-programmee-entre-l-homme-et-la-machine#bold-les-puces-implantees-bold