Le premier sommet mondial sur les risques de l’IA s’ouvre au Royaume-Uni

Le premier sommet mondial sur les risques de l’intelligence artificielle (IA) s’est ouvert mercredi matin au Royaume-Uni, où dirigeants politiques, géants de la tech et experts doivent évoquer les risques suscités par l’essor fulgurant de cette technologie.

Ce développement fulgurant suscite espoirs, convoitises mais aussi craintes, qui seront au coeur de la réunion de deux jours au manoir de Bletchley Park, l’emblématique centre de décryptage des codes de la Seconde guerre mondiale situé au nord de Londres. A défaut de régulation ou de politique commune, le Royaume-Uni veut se poser en moteur d’une coopération internationale sur ce sujet qui bouleverse la planète.

La ministre britannique de la Technologie Michelle Donelan doit inaugurer le sommet, largement à huis clos, puis les participants débattront des dangers potentiels des IA d’avant-garde, comme le robot conversationnel ChatGPT.

En parallèle, la vice-présidente américaine Kamala Harris doit faire un discours à Londres mercredi après-midi, dans lequel elle annoncera notamment la création d’un institut sur la sécurité de l’intelligence artificielle à Washington. Une telle structure – similaire à celle que le Royaume-Uni ambitionne de créer – rassemblerait des experts chargés d’établir “des lignes directrices” et d’évaluer les modèles d’IA les plus avancés pour “identifier et atténuer” les risques selon un document de la Maison Blanche.

Des représentants politiques de haut niveau sont ensuite attendus jeudi, comme la présidente de la Commission européenne Ursula von der Leyen, le secrétaire général de l’ONU Antonio Guterres ou la Première ministre italienne Giorgia Meloni – seule cheffe d’Etat du G7 à faire le déplacement.

Malgré les tensions et les craintes d’espionnage industriel, la Chine sera également représentée, sans que l’on sache à quel niveau.

Des entrepreneurs stars de la Silicon Valley comme Sam Altman et Elon Musk, qui ont cofondé OpenAI, la start-up à l’origine de ChatGPT, devraient également prendre part à la réunion. Le milliardaire américain à la tête du réseau social X (ex-Twitter) échangera avec le Premier ministre britannique Rishi Sunak à l’issue du sommet.

“Huis clos”

Les IA génératives, capables de produire du texte, des sons ou des images sur simple requête en une poignée de secondes, ont fait des progrès exponentiels ces dernières années et les prochaines générations de ces modèles feront leur apparition d’ici l’été. Elles suscitent d’immenses espoirs pour la médecine ou l’éducation, mais pourraient aussi déstabiliser les sociétés, permettre de fabriquer des armes ou échapper au contrôle des humains, a averti le gouvernement britannique.

Dans une lettre ouverte publiée mardi, plusieurs des “pères fondateurs” de cette technologie comme Yoshua Bengio ou Geoffrey Hinton ont plaidé pour “l’élaboration et la ratification d’un traité international sur l’IA”, afin de réduire les risques “potentiellement catastrophiques que les systèmes avancés font peser sur l’humanité”.

Le gouvernement britannique espère aboutir, a minima, à une “première déclaration internationale sur la nature” des risques de l’IA. Il propose également de créer un groupe d’experts sur l’IA sur le modèle du Giec pour le climat. “Ce sommet nous donne l’occasion de nous assurer que nous avons les bonnes personnes avec la bonne expertise réunies autour de la table pour discuter de la façon dont nous pouvons atténuer ces risques à l’avenir”, a assuré Michelle Donelan mardi.

Tout l’enjeu est d’arriver à définir des garde-fous sans entraver l’innovation pour les laboratoires d’IA et géants de la tech.

L’Union européenne et les Etats-Unis ont choisi la voie de la réglementation, Joe Biden annonçant lundi des règles et principes ambitionnant de “montrer la voie” à l’échelle internationale.

La semaine dernière, plusieurs entreprises comme OpenAI, Meta (Facebook) ou DeepMind (Google) ont accepté de rendre publiques certaines de leurs règles de sécurité sur l’IA à la demande du Royaume-Uni.

Dans une lettre ouverte adressée à Rishi Sunak, une centaine d’organisations, experts et militants internationaux ont déploré que ce sommet se tienne à “huis clos”, dominé par les géants de la tech et avec un accès limité pour la société civile. “Nous devons cesser de penser que les entreprises privées à but lucratif sont les seuls propriétaires possibles et légitimes des systèmes d’IA, qui transforment nos vies et nos méthodes de travail”, a défendu Sasha Costanza-Chock, professeure associée au Berkman Klein Center de l’université de Harvard, lors d’une conférence de presse.