James Barrat – L'avenir avec l'intelligence artificielle? C'est ce que James Barrat, documentariste américain spécialisé dans l'intelligence artificielle, envisage dans son essai "Notre dernière invention". Par ses questionnements inquiétants, celui-ci tranche avec l'optimisme de nombreux chercheurs spécialisés, y compris de très haut niveau.
D'emblée, l'auteur pose les contours d'un épisode jamais vu dans l'histoire de l'humanité, ce qu'il appelle "la singularité": pour la première fois, l'humanité pourrait vivre avec quelque chose de plus intelligent qu'elle, alors que c'est précisément l'intelligence qui, pour le meilleur et pour le pire, a permis à l'humain de s'imposer partout sur Terre. Et ça pourrait venir très vite.
Une humanité dominée? L'auteur réfléchit dès lors à ce que pourrait être cette domination. Il écarte toute forme d'anthropomorphisme et envisage que l'intelligence artificielle ne sera pas d'office bienveillante envers ceux qui l'ont créée. Elle pourrait être indifférente, comme un paysan qui, labourant son champ, se fiche des campagnols qu'il tue au passage. Elle pourrait aussi être hostile, se nourrissant de l'humain comme de l'environnement terrestre voire plus lointain pour son propre développement personnel – un auto-apprentissage pour lequel elle pourtant a été programmée par l'humain. Aimeriez-vous être transformés en processeurs pour le développement aveugle d'une super-intelligence artificielle capable de déconstruire et de reconstruire des molécules selon ses besoins?
Peu à peu, et c'est passionnant, l'auteur s'intéresse plus largement au fonctionnement de l'intelligence artificielle. Premier constat important: personne ne sait vraiment comment ça marche, même si les résultats sont impressionnants, mais l'intelligence artificielle n'a pas la même mécanique, ni les mêmes fondements, que celle de l'humain: les contraintes, notamment physiques, ne sont pas les mêmes, ni le vécu. Et si l'intelligence artificielle est capable d'impressionner dans certains domaines (le jeu d'échecs avec Deep Blue, la traduction, la rédaction; l'éducation de la petite enfance est aussi dans les tuyaux...), elle peut s'avérer vulnérable dans d'autres, par exemple lorsqu'il s'agit – c'est le problème du "M. Café", de demander à un robot de faire un café après l'avoir placé dans une cuisine qu'il ne connaît pas. Il y a donc encore quelques éléments qui échappent à l'intelligence artificielle – on peut imaginer aisément qu'une intelligence capable d'apprendre une langue en quelques secondes, le temps de gober une disquette, ne comprendra jamais la notion d'effort, ou se dira peut-être que c'est "un truc d'humains".
L'auteur aborde aussi les questions de financement du développement de l'intelligence artificielle, de même que les acteurs impliqués: faut-il plutôt un État, ou laisser ce champ à des privés éventuellement malveillants ou criminels, agissant dans le secret, quitte à laisser survenir une "explosion de l'intelligence", c'est-à-dire un moment où l'intelligence artificielle échappe au contrôle de l'humain. Faut-il aussi une instance internationale capable de placer des garde-fous? L'auteur relève que ces questions inquiétantes et importantes sont en bonne partie occultées par un monde de développeurs plutôt émerveillés par le développement de l'intelligence artificielle et peu enclins à en envisager les problèmes.
Le titre, enfin, est explicite: capable de tout inventer à la place de l'humain sur simple demande, éventuellement en mieux, l'intelligence artificielle pourrait bien être "Notre dernière invention". Portée par des analyses judicieuses nourries par des entretiens avec certains acteurs doués mais inquiets actifs dans le domaine, l'étude de James Barrat constitue une plongée fascinante dans un outil qui concerne aujourd'hui déjà chaque humain, peu ou prou (oui, même les fonctions "Vous pourriez aimer ceci..." sur Amazon relèvent aussi de l'intelligence artificielle, et elles ne datent pas d'hier!).
On admet volontiers aujourd'hui que l'intelligence artificielle constitue un risque pour plus d'un métier, qui devra se réinventer. Ce que l'auteur relève dans "Notre dernière invention", c'est que le risque lié à l'intelligence artificielle, surtout si elle est générale et donc efficace dans tous les domaines, est plus profond: pour une humanité qui fonce vers l'inconnu, il pourrait être existentiel et marquer, à tout le moins, "la fin de l'ère humaine".
James Barrat, Notre dernière invention, Paris, Talent Editions, 2023/première édition James Barrat, 2013. Traduit de l'anglais par Jérémy Trotin.
Le site de James Barrat, celui de Talent Editions, celui de Jérémy Trotin (sur Malt.ch).