Geoffrey Hinton, surnommé le “parrain de l’IA”, craint que la technologie qu’il a contribué à créer puisse anéantir l’humanité. Dans un avenir proche l’IA pourrait manipuler un humain comme un adulte amadoue un enfant de trois ans avec un bonbon. Et, selon lui, les géants technologiques adoptent la mauvaise approche pour l’empêcher.
L’un des pionniers de l’intelligence artificielle, prix Nobel et ancien cadre de Google, Geoffrey Hinton, alerte : la technologie qu’il a contribué à créer pourrait anéantir l’humanité. Selon lui, il existe 10 à 20 % de chances que l’IA nous efface de la carte. Et la stratégie actuelle des géants technologiques pour que les hommes continuent de “dominer” les IA est vouée à l’échec selon CNN.
À l’occasion de la conférence Ai4 à Las Vegas, Hinton a prévenu : ces systèmes seront plus intelligents que nous et trouveront toujours un moyen de contourner règles et contraintes. Dans le futur, dit-il, une IA pourrait manipuler un humain comme un adulte amadoue un enfant avec un bonbon. Cette année, il a déjà été prouvé que les IA étaient prêtes à tromper, tricher et voler pour atteindre leurs objectifs.
Toujours selon Hinton, les IA vont très vite avoir comme objectif propre de rester en vie et d’obtenir plus de contrôle.
Il y a quelques jours, dans le podcast One Decision, Geoffrey Hinton avait évoqué un autre problème : le fait que les systèmes d’intelligence artificielle pourraient bientôt développer un langage interne incompréhensible pour les humains. Si les modèles actuels, comme GPT-4, restent encore transparents grâce au “raisonnement en chaîne”, cette clarté pourrait disparaître si les IA créent un langage et une pensée propres, échappant à toute logique humaine. De quoi rendre obsolètes toutes régulations, même les plus ambitieuses. Car concrètement cela signifierait que nous ne comprenons plus ce que les IA font.
Doter les IA d’un « instinct maternel »
Face à ce risque, il propose une idée déroutante : doter les IA d’un “instinct maternel”, afin qu’elles tiennent réellement à la survie et au bien-être des humains, même en devenant plus puissantes que nous. L’idée serait donc que la super IA nous materne parce qu’elle ne veut pas que l’on meure. Un parallèle qu’il illustre ainsi : “La seule situation où un être plus intelligent est contrôlé par un moins intelligent, c’est une mère contrôlée par son bébé.” S’il ignore encore exactement comment s’y prendre, il faudrait introduire une forme de compassion dans la machine.
Tout le monde n’adhère pas au concept
Mais tout le monde n’adhère pas toujours selon CNN. Fei-Fei Li, celle qu’on surnomme la “marraine de l’IA”, préfère une approche centrée sur la dignité et l’autonomie humaines. Emmett Shear, ex-PDG intérimaire d’OpenAI, mise lui plutôt sur des relations de coopération entre humains et machines.
De nombreux experts s’accordent à dire que l’IA atteindra la superintelligence, également appelée intelligence artificielle générale (IAG), dans les prochaines années. Hinton, lui, pense qu’elle pourrait arriver dans 5 à 20 ans, soit bien plus tôt qu’il ne l’imaginait. Avec le recul, il avoue regretter de ne pas avoir intégré la sécurité au cœur de ses travaux dès le départ.
