Alors que les législateurs européens débattent encore, les technologies de surveillance permises par l’intelligence artificielle se déploient parmi les Etats membres. Les experts européens de l’autorité de contrôle de la protection des données (EDPS) tirent la sonnette d’alarme sur l’utilisation de ces nouveaux outils.
La société européenne “n’est pas prête” pour le développement de la surveillance de masse par l’intelligence artificielle (IA). C’est ce qu’a confié Wojciech Wiewiórowski, le contrôleur européen de la protection des données (EDPS), au journal Politico. Pour lui, l’utilisation de cette technologie “transformerait la société, nos citoyens, les lieux où nous vivons, en lieux où nous sommes reconnaissables en permanence… Je ne suis pas sûr que notre société soit vraiment prête pour cela.”
Ses propos font écho à ceux de son collègue, Leonardo Cervera Navas, directeur de l’EDPS, lors du Sommet des parties prenantes sur l’IA en 2021. Il pointait notamment l’une des technologies les plus controversées de l’IA: la reconnaissance faciale.
“Je pense qu’avec la reconnaissance faciale, nous arrivons à un point où il est absolument nécessaire de dire haut et fort que notre société est confrontée à un danger majeur pour son futur, la démocratie et l’état de droit. C’est la raison pour laquelle nous avons appelé à une interdiction de la reconnaissance faciale des individus dans les espaces publics, et ce pour les autorités publiques et les compagnies privées. Nous croyons que ces technologies interfèrent avec les droits fondamentaux et les libertés de telle façon que cela remet en question ces droits et libertés.”
“Même si nous mettons des restrictions, à partir du moment où ces technologies seront déployées, la tentation de s’en servir pour tout sera énorme, et cela deviendra impossible à stopper. Nous devons apprendre de nos erreurs et interdire d’abord ces technologies puis réfléchir ensuite aux manières de s’en servir.”, Leonardo Cervera Navas, directeur de l’EDPS.
Onze pays européens utilisent déjà la reconnaissance faciale
Mais ce voeu formulé par Leonardo Cervera Navas semble déjà caduc. En effet, d’après un rapport commandé par le groupe des Verts/ALE au Parlement européen et publié le 25 octobre dernier, onze pays européens utilisent déjà des systèmes de reconnaissance faciale à des fins médico-légales (Finlande, Lituanie, Lettonie, Allemagne, Autriche, Hongrie, Slovénie, Pays-Bas, France, Italie, Grèce). Et ce alors que la législation européenne sur l’intelligence artificielle est encore discutée au niveau européen. Le schéma “agir et discuter ensuite” semble donc avoir été préféré.
Dans cette proposition, la Commission européenne parle bien de “veiller à ce que les systèmes d’IA mis sur le marché de l’Union et utilisés soient sûrs et respectent la législation existante sur les droits fondamentaux et les valeurs de l’Union“. Cependant, la proposition inclut des exceptions “étroitement définies“, où “l’utilisation est strictement nécessaire à la réalisation d’un intérêt public substantiel dont l’importance l’emporte sur les risques“. Entendez ici recherche de victimes, neutralisation de certaines menaces comme un attentat terroriste et identification et poursuite d’auteurs ou de suspects de crime.
Ce débat sur l’utilisation de l’intelligence artificielle met une nouvelle fois en exergue le choix crucial et millénaire que nous avons entre le ‘plus de sécurité’ et le ‘plus de liberté’. Ce choix que va devoir faire l’Union européenne et les Etats membres va dicter le futur de l’intelligence artificielle. Et les mises en garde de certains experts ne suffiront peut-être pas. Car au vu de la situation actuelle dans les pays européens, ce choix a peut-être déjà bel et bien été fait.
Aurore Dessaigne
Définition de l’intelligence artificielle: L’IA permet à des systèmes techniques de percevoir leur environnement, gérer ces perceptions, résoudre des problèmes et entreprendre des actions pour atteindre un but précis. L’ordinateur reçoit des données (déjà préparées ou collectées via ses capteurs – une caméra, par exemple) les analyse et réagit. L’IA est utilisée sous plusieurs formes: assistants virtuels, logiciels d’analyse d’images, moteurs de recherche, systèmes de reconnaissance faciale et vocale; pour les robots, voitures autonomes, drones, l’Internet des objets.
