« Les cétartiodactyles cités ici, c’est un peu de ma faute » écrit Guillaume Lecointre au début de sa préface au dernier livre d’Hubert Krivine L’IA peut-elle penser ? Miracle ou mirage de l’intelligence artificielle. Que viennent-ils en effet faire là les membres de cette famille du monde animal dont on apprend par une note que l’hippopotame en fait partie ? Ils viennent selon Guillaume Lecointre, phylogénéticien qui « reconstitue les degrés de parenté entre les espèces du monde vivant », rappeler de façon quelque peu inattendue le rôle de la théorie dans les sciences en réponse à la dévalorisation dont elle est l’objet.
Organiser, classer le monde vivant ne peut se faire sans une compréhension globale, une théorie de l’évolution qui permet de se retrouver dans le foisonnement des faits. Il en est de même, notons-le au passage, pour celles et ceux qui veulent changer le monde, sans théorie de l’émancipation, sans connaissance et conscience, les esprits restent dominés par les faits sans qu’il soit possible d’y découvrir l’enchaînement potentiellement révolutionnaire et les voies de l’action...
Aujourd’hui, le relativisme ambiant nourrit une contestation de la science accusée d’élaborer des théories abstraites, constructions intellectuelles éloignées de la réalité ou inutiles pour la saisir voire anticiper ou prédire les événements ou phénomènes à venir. L’argumentation s’appuie sur les Big data, c’est à dire la capacité grâce aux nouvelles technologies de l’information de recenser un nombre considérable de données qui suffirait pour prévoir, agir.
Dans un livre précédent, Prévoir sans comprendre, comprendre sans prévoir, Hubert Krivine était parti en guerre contre cette conception. Son dernier livre L’IA peut-elle penser ? continue le combat sous un angle quelque peu différent, plus centré sur l’abus de langage qu’il y a à parler d’intelligence artificielle en nous aidant à saisir la spécificité de l’intelligence humaine, capacité d’adaptation et d’abstraction. « L’IA n’est certes pas de l’intelligence, écrit-il, mais a le mérite de questionner en profondeur le fonctionnement de la nôtre ».
« Newton n’a pas vu tomber plus de pommes que Copernic »
Son propos prend en compte l’apport considérable de l’IA y compris pour la recherche scientifique même si elle trouve principalement des usages commerciaux soumis aux objectifs du marché capitaliste. Ceci dit, elle ne peut se substituer à l’intelligence humaine étant incapable de soulever d’elle-même des problèmes, ou, encore moins, de formuler des théories.
La connaissance est fondée sur des théories explicatives, tout au moins, c’est le but de la recherche scientifique. Ces dernières permettent de rendre compte d’un ensemble de phénomènes, de faire des prédictions testables. Elles se vérifient à travers une constante confrontation avec leur objet dans la pratique.
Ce n’est pas en multipliant les données sur la chute des pommes, ainsi que l’évoque ironiquement Hubert Krivine, que Newton a donné naissance aux principes de la mécanique classique. C’est par une démarche d’abstraction visant à résoudre le problème de la relation entre le mouvement d’un objet et la force qui s’exerce sur lui.
Ce que l’IA ne saurait faire, que ce soit l’un ou l’autre des deux types d’IA qu’Hubert Krivine décrit, l’une « faible » qui réalise des tâches spécifiques d’un système dont les relations avec son milieu sont limitées, l’autre « forte » qui, de par les supposées capacités d’apprentissage des machines, pourrait rentrer en compétition avec le cerveau humain. Même cette intelligence artificielle forte, hypothétique aujourd’hui, ne serait pas en mesure de construire un raisonnement qui explique les phénomènes, formule des questionnements, des hypothèses, des projets.
De la corrélation à l’intelligence humaine et… artificielle
L’intelligence artificielle travaille essentiellement à partir des corrélations tirées de l’analyse des milliards de données que la puissance des ordinateurs permet de collecter sur toutes sortes de phénomènes. Ces corrélations permettent souvent de prévoir, et donc d’agir, mais sans comprendre ni surtout expliquer. Elles établissent aussi de fausses corrélations parfois absurdes dont Hubert Krivine cite des exemples qui ne manquent pas d’humour. Ainsi, il y aurait une relation entre la taille des pieds des élèves et leur capacité en mathématiques ! À moins que la corrélation ne soit avec l’âge des élèves…
De la corrélation à la causalité, il y a un cheminement, un raisonnement qui confronte les faits avec l’expérience. L’établissement de ces liens de causalité à partir de corrélations a représenté une étape décisive dans la genèse de l’intelligence humaine. Longtemps elle a été la voie essentielle de constitution de nos connaissances à travers laquelle s’est construite la compréhension que les hommes ont de leur univers physique ou social. Cette évolution n’a pas été une simple accumulation de données ou l’établissement de corrélations mais bien leur compréhension et leur explication à travers l’activité collective des hommes, leur travail, mode d’échange avec leur environnement, et leur coopération entre eux.
La machine, elle, n’a pas cette capacité d’expliquer ni de comprendre. Elle peut réaliser des prouesses comme battre le champion du monde d’échecs ou de jeu de go ou réaliser un « nouveau Rembrandt », ces prouesses de l’IA sont bien réelles, mais leur portée doit être relativisée. Les algorithmes ont des limites, ils manquent de curiosité et d’imagination.
« L’IA cherche à prévoir, l’intelligence humaine cherche de plus à comprendre »
En effet, un algorithme est une succession d’opérations permettant de résoudre une classe de problèmes en traitant les données comme nous le faisons en permanence. Les cas facilement formalisables, pouvant donc être pris en charge par une IA, définissent des ensembles de situations proches, correspondent à différentes situations déjà rencontrées. Leur capacité de prédiction est fondée sur la répétition d’événements déjà produits, elle ne peut prévoir une situation inédite.
C’est là où les exploits étonnants de l’IA doivent être relativisés au lieu d’être utilisés pour donner un fondement d’apparence scientifique à des conceptions qui ne le sont pas. Le dogme selon lequel la science consisterait à traiter des données et construire des algorithmes serait un renoncement aux ambitions de la conscience qui cherche à relier les phénomènes à leurs causes. Ces ambitions de la raison permettent d’anticiper, d’agir sur les causes pour changer les effets, elles sont le moteur des progrès humains et sociaux.
Le mystère de l’intelligence, de la corrélation à la théorie…
Krivine interroge, « Comment les théories physiques viennent à l’esprit des physiciens, on ne le sait pas plus qu’on sait comment fonctionne l’inspiration des compositeurs de musique. » C’est aussi cette difficulté à comprendre les mécanismes à travers lesquels la pensée scientifique s’est formée qui ouvre la porte aux certitudes des dogmes sur l’IA. Il n’y a pas d’autre façon de comprendre l’apparition et l’évolution de la méthode scientifique qu’historique. Krivine illustre le propos à partir d’un exemple dans l’histoire de la physique lorsque Kepler, au début du 17e siècle, s’intéresse au mouvement des planètes. Il formule des lois empiriques à partir des Big data de l’époque, les données récoltées par l’astrophysicien Tycho Brahé. La théorie explicative ne viendra qu’à la fin du siècle avec Isaac Newton, qui fonde en 1684 les principes de la mécanique classique. S’ouvre alors un nouveau champ d’investigation, l’étude d’autres mouvements que celui des planètes, « la théorie annonce un programme de recherche : cherchez les forces ! » Une nouvelle aventure de la pensée humaine dont naîtront la théorie de la relativité et la mécanique quantique nécessaires pour comprendre le comportement de la matière à des échelles de temps et d’espace inaccessibles jusqu’alors.
Évolution sociale, évolution des connaissances et de la pensée se combinent dans une étonnante alchimie « bio-logique » dont le cerveau est le moteur et l’instrument. « Le développement de l’intelligence humaine est le produit permanent de l’interaction entre le cerveau et le corps. Mais il ne doit pas être vu comme l’histoire d’un perfectionnement individuel : il résulte d’une dialectique coopération-compétition avec le reste du monde vivant. »
Mettre la révolution informatique au service de l’humanité et de son... intelligence
H. Krivine résume ainsi son livre : « L’intelligence artificielle peut-elle penser ? Si c’était une intelligence, ce devrait être oui. Mais l’affaire est plus complexe. Aux jeux d’échec ou de go, dans la reconnaissance des tumeurs, et plus généralement dans tous les domaines qui évoluent sans interaction avec l’environnement, l’IA semble miraculeuse.
De là, le mirage d’une machine capable de rivaliser avec l’intelligence humaine en général, c’est-à-dire de penser sans cerveau.
À la base de cette utopie il y a une double erreur :
— croire que monde réel puisse être réduit à une représentation digitale, pourvu qu’elle soit suffisamment alimentée,
— et croire que les milliards de corrélations rendues aujourd’hui possibles par l’IA pourraient remplacer la réflexion théorique, alors que celle-ci est seule capable de découvrir des phénomènes radicalement nouveaux : comme la Covid-19.
Les données ne sont pas tout : Newton n’a pas établi la loi de la gravitation parce qu’il a vu tomber plus de pommes que ses prédécesseurs !
Alors, oui à l’IA, mais pas au prix d’une justice sans juges, d’une médecine sans médecins ou d’un enseignement sans professeurs et, au-delà, d’une société sans citoyens. »
En filigrane de la discussion se profile des questionnements politiques et philosophiques au sens où la dépréciation de la méthode et des théories scientifiques participe d’une idéologie inscrite dans l’évolution capitaliste de la société. Les données, les faits sont soumis aux besoins du marché, à des objectifs formulés par des cerveaux dominés par le court terme de la rentabilité, tétanisés et incapables de penser ou de prévoir l’avenir, l’évolution possible et nécessaire de la société en intégrant les progrès de la science dans une compréhension moderne de l’évolution sociale. La critique opérée par Krivine, « prudemment » comme il le dit lui-même, laisse ouverte la question des possibilités nouvelles qu’apporte la révolution informatique. « En bref, avec la science – et la conscience – on tente d’agir sur le monde et la société, avec l’IA fétichisée, c’est la société qui agit sur nous ; c’est toute la différence. » Mais le processus n’obéit à aucun déterminisme inéluctable. Parlant des limites de l’IA, Hubert Krivine interroge sur « une planification pilotée par l’IA ? » pour conclure qu’« Une hypercentralisation est certainement vouée à l’échec » pour préciser « dans l’élaboration et l’exécution du (ou des) plan, la démocratie n’est pas seulement un idéal moral, c’est aussi une nécessité. » La révolution informatique ouvre de grandes possibilités à la société humaine du moins si celle-ci conquiert la maîtrise des techniques par la conscience et la science… La lecture du livre nous aide à aborder la complexité de ce vaste champ des possibles grâce à la simplicité pédagogique, souvent pleine d’ironie, de l’auteur, un utile moment de liberté d’esprit pour comprendre…