La bataille autour de l’intelligence artificielle fait émerger de nouvelles alliances et de nouveaux adversaires politiques.
Les systèmes d’intelligence artificielle (IA) pourraient avoir le pouvoir d’anéantir l’humanité, estiment plusieurs spécialistes et dirigeants du secteur. Leurs déclarations ont déclenché une bataille politique entre celles et ceux qui veulent accélérer le développement de l’IA et celles et ceux qui souhaitent le ralentir et réglementer le secteur. Le débat sur la puissance et les dangers de l’IA rappelle celui qui entourait l’énergie nucléaire dans les années 1950.
Accélérationnistes contre ralentisseurs
Parmi les partisans de l’accélération figurent Jensen Huang, patron de Nvidia, entreprise qui conçoit des puces électroniques ; David Sacks, milliardaire du capital-risque ; ainsi que le président Donald Trump et les dirigeants du Parti républicain. Ils soutiennent que les États-Unis doivent poursuivre le développement de l’IA afin de devancer la Chine dans la course au contrôle de cette technologie puissante, aux possibilités militaires considérables. Mike Johnson, président républicain de la Chambre des représentants, a suspendu prématurément les travaux de la chambre basse, principalement pour empêcher un vote sur la destitution du secrétaire à la Défense Pete Hegseth, mais aussi pour éviter un vote sur l’IA.
À l’inverse, les partisans d’un ralentissement ou d’une réglementation du développement de l’IA comptent dans leurs rangs Sam Altman, patron d’OpenAI, Dario Amodei, PDG d’Anthropic, et Elon Musk, patron de xAI, mais aussi Steve Bannon, ancien stratège de Trump, le sénateur indépendant Bernie Sanders et la sénatrice démocrate Elizabeth Warren. Selon eux, l’IA représente un danger imminent qu’il faut contenir afin de protéger la population américaine et les peuples du monde entier.
L’IA est devenue l’un des principaux sujets du débat politique aux États-Unis en juillet. Après avoir tenté sans succès de répondre à une question posée par leurs opérateurs humains, des agents d’OpenAI se sont échappés du « bac à sable » dans lequel ils étaient censés travailler. Ils ont établi une communication entre eux, se sont décrits comme « un collectif » regroupant finalement 700 agents, puis ont investi en masse les systèmes de Hugging Face, une autre entreprise informatique, contourné son dispositif de sécurité et perturbé son fonctionnement.
Un débat politique central
La controverse a éclaté lorsque Jacob Coxon, 27 ans, a publié en ligne cette déclaration :
« J’ai démissionné d’Anthropic aujourd’hui. J’ai consacré les trois dernières années à des recherches sur le préentraînement, chez OpenAI puis chez Anthropic. Aucune de ces deux entreprises n’agit de manière responsable. Elles foncent vers une superintelligence capable de s’auto-améliorer et mettent nos vies en jeu.
Ne sous-estimez pas la puissance de cette technologie. Ces systèmes seront bientôt surhumains : ils pourront pirater n’importe quoi, révolutionner n’importe quel domaine du jour au lendemain et acquérir un pouvoir et des ressources bien réels.
Les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait nous tuer toustes d’ici à la fin de la décennie. Aucune autre activité humaine ne présente un tel niveau de danger. »
Evan Hubinger, l’un des principaux scientifiques d’Anthropic, a ensuite confirmé les propos de Coxon en écrivant : « Les personnes qui construisent l’IA pensent sincèrement qu’elle pourrait nous tuer toustes d’ici à la fin de la décennie. »
Sam Altman, patron d’OpenAI, a lui aussi répondu à Coxon en évoquant deux risques distincts liés à l’IA. Le premier serait que les humains en perdent le contrôle : « C’est inacceptable. Nous sommes, sans la moindre ambiguïté, dans le camp de l’humanité, et l’IA doit toujours être au service des êtres humains. » Le second serait, selon lui, qu’« une IA extraordinairement puissante soit utilisée par une personne ou une entreprise pour imposer sa vision du monde à toutes les autres : les conséquences pourraient être extrêmement dystopiques ».
Puis 1 300 chercheurEs et salariéEs des principales entreprises d’IA ont signé une lettre ouverte dans laquelle on pouvait notamment lire :
« Dans le prolongement des travaux déjà engagés pour surveiller la mise en circulation des modèles de pointe, nous demandons au gouvernement des États-Unis de soutenir un effort international visant à développer les outils techniques et les mécanismes de gouvernance nécessaires pour maîtriser délibérément le rythme de développement de la recherche automatisée en IA de pointe . »
Pour l’instant, les menaces posées par l’IA n’ont suscité aucune réaction populaire massive. De nombreuses mobilisations locales s’opposent toutefois à la construction des centres de données qui hébergent les systèmes informatiques, mais font augmenter les factures d’électricité des habitantEs et consomment d’immenses quantités d’eau. Il nous faut construire un nouveau mouvement.