Plus de 12.000 signataires demandent de ralentir le développement de l’IA

Plus de 12.000 personnes ont signé une lettre ouverte appelant à marquer une pause dans le développement de l’intelligence artificielle (IA). Le document compte au total 50.000 signatures dont un quart environ ont été authentifiées.

L’initiative émane de l’institut Future of Life, un organisme américain qui met en garde contre les risques liés aux nouvelles technologies et les éventuelles catastrophes que celles-ci pourraient générer. On retrouve parmi les instigateurs le fondateur de Skype Jaan Tallinn. Ce dernier a signé la lettre ouverte, tout comme le patron de Tesla, Elon Musk.

   Les signataires demandent aux développeurs de systèmes d’intelligence artificielle de ne pas concevoir, durant six mois au moins, de programmes qui soient plus puissants que GPT-4,  la dernière mouture du logiciel sur lequel repose ChatGPT lancée mi-mars. Le robot conversationnel ChatGPT d’OpenAI utilise des informations disponibles en ligne pour répondre de façon détaillée aux requêtes des internautes.

   Le fondateur d’Apple Steve Wozniak a également apposé sa signature, tout comme l’auteur Yuval Noah Harari, et plusieurs scientifiques de renom dont certains sont à l’origine du développement de l’intelligence artificielle, comme Yoshua Bengio et Stuart Russell. “Les puissants systèmes d’IA ne doivent être développés que lorsque nous sommes assurés que leurs effets seront positifs et que les risques pourront être maîtrisés”, indique notamment le courrier.

   Les auteurs précisent ne pas être opposés au développement de l’IA en général. Mais ils recommandent de prendre du recul avec cette dangereuse ruée vers des modèles encore plus imprévisibles, dotés de capacités étendues. “La recherche et le développement de l’intelligence artificielle doivent être reconcentrés sur la conception de systèmes puissants, mais plus précis, plus sûrs, plus transparents, plus fiables et plus loyaux.”