Temps de lecture estimé : 2 minutes
Le site Future of Life Institute a lancé une pétition pour faire une pause générale dans l’avancée des différentes IA (intelligences artificielles).
Comment croire qu’Elon Musk a finalement peur du progrès ? Lui qui veut bombarder Mars pour en faire une planète viable estime vraiment que l’on va trop loin avec l’IA ? Il est en tout cas l’un des co-auteurs de la lettre ouverte publiée par le site Future of Life Institute.
« Des laboratoires d’IA enfermés dans une course effrénée pour développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable », peut-on lire dans la lettre. Serions-nous aux prémices d’une prophétie à la « I, Robot » ? Un scénario catastrophe façon Terminator ?
Des progrès qui s’accélèrent… dangereusement ?
Une chose est sûre, avec les IA tout va vite. À peine a-t-on eu le temps de digérer les premières versions de Chat GPT que la quatrième est déjà sortie. Encore plus performante, celle-ci s’est mise à comprendre les images. Envoyez une photo de votre frigo à Chat GPT 4 et il vous concevra une recette en conséquence. Envoyez-lui une équation et il la résoudra pour vous… Impressionnant non ?
Elon Musk n’est pas le seul à demander à ce qu’on lève le pied. Parmi les autres signataires, des professeurs émérites, des grands noms de la tech comme Steve Wozniak le co-fondateur d’Apple. Même des acteurs du marché IA militent pour plus d’encadrement. L’inquiétude existe réellement. Sam Altman, le créateur de Chat GPT, s’est déclaré « un peu effrayé » par cette quatrième version.
D’autres exemples d’IA donnent aussi le tournis. Avec ElevenLabs, il est possible de cloner à la perfection des voix célèbres et de leur faire dire tout et – surtout – n’importe quoi. MidJourney peut mettre en scène des personnages publics dans des situations embarrassantes avec un réalisme glaçant. Alors, ces nouveaux outils au service des « fake news » commencent à poser question. « Devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ? », pointent les experts.
« Le risque ne vient pas de ce que ressent l’IA, mais de ce qu’elle fait »
Dans une autre tribune publiée sur leur site, Future of Life Institute alerte sur les potentiels dérapages des IA. Le site pointe une course vers l’« IA générale ». Celle que l’on pourrait qualifier d’intelligence artificielle ultime. Si elle venait à être opérationnelle, elle surplomberait sur tous les plans les capacités cognitives de l’Homme.
Comment être sûr que l’on puisse en garder le contrôle ? « Une fois que les systèmes d’IA pourront eux-mêmes concevoir des systèmes plus intelligents, nous pourrions connaître une explosion de l’intelligence, laissant très rapidement l’humanité derrière nous », dénote l’article.
Alors, les 1 100 signataires qui avaient signé la lettre hier, le 29 mars, militent pour un « été de l’IA ». Pendant au moins six mois, ils souhaiteraient que la création de programmes plus puissants que Chat GPT 4 soient suspendue. Un temps précieux pour permettre aux Institutions internationales de légiférer ces outils qui risquent de changer, drastiquement, nos vies.
