La pandémie a révélé l'impuissance de l'IA lorsqu'elle ne dispose pas de masses de data et son incapacité à faire face à l'inédit. Parée des fantasmes de la surpuissance, la marche supposée triomphale de l'IA a rencontré une limite inattendue : la réalité. Ce n'est qu'au futur, pour affronter quelque SARS-CoV-20XX que l'IA, riche des données récoltées aujourd'hui, pourrait décliner son potentiel. Il importe d'en tirer des leçons pour la direction du présent. Parmi celles-ci, deux sont essentielles. D'une part, c'est la réalité qui définit, circonscrit et limite les capacités opératoires des dispositifs d'IA. D'autre part, l'IA sollicite pour son propre déploiement, un système de capture et de surveillance numérique des êtres et des interactions humaines réduits à des data, où s'anticipe un nouvel écosystème. Démocratique ?

L'univers quotidien des technophiles est rythmé par l'apparition de dispositifs d'IA destinés à révolutionner le réel. Du moins était-ce comme cela, avant. Depuis, la pandémie a brisé le miroir aux octets-louettes. Si l'on excepte BlueDot, l'IA qui a "prédit" la trajectoire du coronavirus, l'univers enchanteur des IA, et avec lui sa capacité prédictive et son efficience transhumaine, a disparu des radars des bots. Le monde de l'IA s'est retrouvé, comme les autres, confiné et dépendant du monde réel : celui sur lequel il s'appuie et sans lequel il s'effondre. Aucun des laboratoires réputés des GAFAM n'a anticipé la pandémie, et aucun n'y a apporté une solution directe.

La pandémie a révélé l'impuissance de l'IA lorsqu'elle ne dispose pas de masses de data et son incapacité à faire face à l'inédit.

Ont-ils pu en minimiser les effets ? Les outils numériques ont occupé l'espace du confinement et permis d'organiser le travail en télétravail. Mais quid de l'impact du numérique hors de cet espace confiné ? Le cas d'Amazon est exemplaire. Les systèmes algorithmiques de vente, de suivi des commandes, de couplage des préférences ont continué de fonctionner et les achats ont explosé en raison de la fermeture des commerces. Mais les opérations concrètes se sont trouvées littéralement bornées à et par la réalité, depuis la chaîne de production jusqu'à celle de la distribution, en passant par la logistique. Il a donc fallu investir le réel, engager des bras ou, dans un environnement plus mature, le robotiser.

De la même façon, les applications de traçage sont bornées par la réalité matérielle des tests, la présence d'écouvillons et de réactifs, la capacité des laboratoires, la vitesse du testing et la sensibilité des tests PCR. Sans une disponibilité et congruence de tous ces éléments, l'utilité des systèmes de traçage des contacts et leurs effets sur la diffusion du virus sont marginaux. C'est l'argument fondamental de leurs détracteurs : dans un état de droit, des restrictions ne peuvent être imposées aux libertés que si elles sont proportionnées au strict nécessaire pour agir plus efficacement et pour un droit jugé supérieur, ici le droit à la santé. Quand l'efficace du système de tracing numérique n'est pas démontrée, et dépend, de plus, de paramètres qui lui sont extérieurs, les restrictions aux libertés fondamentales (vie privée, protection des données personnelles) sont disproportionnées par rapport à l'objectif déclaré.

Les expériences étrangères montrent que le système de tracing numérique et de façon générale, les dispositifs d'IA, ne peuvent pas grand-chose pour nous en situation de pandémie inédite. Mais, nous, et nos data, pouvons quelque chose pour eux : qu'ils s'expérimentent, se perfectionnent et se propagent ensuite pour d'autres fins, non maîtrisées.

À défaut de réel impact dans la maîtrise de la pandémie, les IA (applications, drones, reconnaissance faciale, etc.) font ce qu'elles savent toujours faire : surveiller, monitorer, capturer et recouper des données qui seront utiles à leur propre déploiement. Ainsi, les applications de tracing réutilisent pour se déployer, les données nécessaires à leur éclosion : les données captées lors d'un contact sont réengagées pour initier un nouveau processus qui affine la performance globale du système qui s'applique à ces mêmes data et permettrait - c'est sa fécondité -, une autre intelligence de la pandémie.

Ce fonctionnement typique par boucles de rétroaction et autoréférence illustre une des modalités d'émergence d'un nouvel écosystème, d'une nouvelle organisation du monde qui s'ordonne en s'ordonnant[1]. Les dispositifs numériques et d'IA ne sont pas des moyens plus ou moins conformes avec les normes en vigueur, qu'on insère dans notre monde quotidien pour atteindre certaines fins. Ce sont des moyens qui sont leurs propres moyens, autrement dit, des objets qui génèrent leurs usages, leur propre extension. Si les systèmes algorithmiques des GAFAM, les dispositifs d'IA et les applications de traçage inquiètent, ce n'est pas seulement qu'ils pourraient être utilisés pour des objectifs non-contrôlés par les normes démocratiques ou sociales. C'est aussi parce que d'une part, ces usages incontrôlés leurs sont immanents, internes à leur propre fonctionnement et, d'autre part, parce que ces différents dispositifs convergent, se recoupent, communiquent entre eux, inter-opèrent selon leurs normes, grâce à un langage binaire commun. La numérisation appelle l'extension de la numérisation et de la robotisation, et reconfigure via un réseau d'objets d'IA (l'internet des objets, IoT) la réalité qui les circonscrit. Il importe d'être conscient de ces mécanismes de convergence entre les objets d'IA pour mener un débat démocratique sur la société que nous désirons et conserver une maîtrise sur son ordonnancement selon des normes choisies et voulues par nous.

Valerie Kokozka

[1]Selon la "seconde cybernétique" (littéralement la science du gouvernement), science des mécanismes d'information des systèmes complexes née avec les projets d'automatisation et d'intelligence artificielle -et la défiance dans le "gouvernement humain" qui les accompagnaient.

La pandémie a révélé l'impuissance de l'IA lorsqu'elle ne dispose pas de masses de data et son incapacité à faire face à l'inédit. Parée des fantasmes de la surpuissance, la marche supposée triomphale de l'IA a rencontré une limite inattendue : la réalité. Ce n'est qu'au futur, pour affronter quelque SARS-CoV-20XX que l'IA, riche des données récoltées aujourd'hui, pourrait décliner son potentiel. Il importe d'en tirer des leçons pour la direction du présent. Parmi celles-ci, deux sont essentielles. D'une part, c'est la réalité qui définit, circonscrit et limite les capacités opératoires des dispositifs d'IA. D'autre part, l'IA sollicite pour son propre déploiement, un système de capture et de surveillance numérique des êtres et des interactions humaines réduits à des data, où s'anticipe un nouvel écosystème. Démocratique ?L'univers quotidien des technophiles est rythmé par l'apparition de dispositifs d'IA destinés à révolutionner le réel. Du moins était-ce comme cela, avant. Depuis, la pandémie a brisé le miroir aux octets-louettes. Si l'on excepte BlueDot, l'IA qui a "prédit" la trajectoire du coronavirus, l'univers enchanteur des IA, et avec lui sa capacité prédictive et son efficience transhumaine, a disparu des radars des bots. Le monde de l'IA s'est retrouvé, comme les autres, confiné et dépendant du monde réel : celui sur lequel il s'appuie et sans lequel il s'effondre. Aucun des laboratoires réputés des GAFAM n'a anticipé la pandémie, et aucun n'y a apporté une solution directe. Ont-ils pu en minimiser les effets ? Les outils numériques ont occupé l'espace du confinement et permis d'organiser le travail en télétravail. Mais quid de l'impact du numérique hors de cet espace confiné ? Le cas d'Amazon est exemplaire. Les systèmes algorithmiques de vente, de suivi des commandes, de couplage des préférences ont continué de fonctionner et les achats ont explosé en raison de la fermeture des commerces. Mais les opérations concrètes se sont trouvées littéralement bornées à et par la réalité, depuis la chaîne de production jusqu'à celle de la distribution, en passant par la logistique. Il a donc fallu investir le réel, engager des bras ou, dans un environnement plus mature, le robotiser.De la même façon, les applications de traçage sont bornées par la réalité matérielle des tests, la présence d'écouvillons et de réactifs, la capacité des laboratoires, la vitesse du testing et la sensibilité des tests PCR. Sans une disponibilité et congruence de tous ces éléments, l'utilité des systèmes de traçage des contacts et leurs effets sur la diffusion du virus sont marginaux. C'est l'argument fondamental de leurs détracteurs : dans un état de droit, des restrictions ne peuvent être imposées aux libertés que si elles sont proportionnées au strict nécessaire pour agir plus efficacement et pour un droit jugé supérieur, ici le droit à la santé. Quand l'efficace du système de tracing numérique n'est pas démontrée, et dépend, de plus, de paramètres qui lui sont extérieurs, les restrictions aux libertés fondamentales (vie privée, protection des données personnelles) sont disproportionnées par rapport à l'objectif déclaré. Les expériences étrangères montrent que le système de tracing numérique et de façon générale, les dispositifs d'IA, ne peuvent pas grand-chose pour nous en situation de pandémie inédite. Mais, nous, et nos data, pouvons quelque chose pour eux : qu'ils s'expérimentent, se perfectionnent et se propagent ensuite pour d'autres fins, non maîtrisées. À défaut de réel impact dans la maîtrise de la pandémie, les IA (applications, drones, reconnaissance faciale, etc.) font ce qu'elles savent toujours faire : surveiller, monitorer, capturer et recouper des données qui seront utiles à leur propre déploiement. Ainsi, les applications de tracing réutilisent pour se déployer, les données nécessaires à leur éclosion : les données captées lors d'un contact sont réengagées pour initier un nouveau processus qui affine la performance globale du système qui s'applique à ces mêmes data et permettrait - c'est sa fécondité -, une autre intelligence de la pandémie. Ce fonctionnement typique par boucles de rétroaction et autoréférence illustre une des modalités d'émergence d'un nouvel écosystème, d'une nouvelle organisation du monde qui s'ordonne en s'ordonnant[1]. Les dispositifs numériques et d'IA ne sont pas des moyens plus ou moins conformes avec les normes en vigueur, qu'on insère dans notre monde quotidien pour atteindre certaines fins. Ce sont des moyens qui sont leurs propres moyens, autrement dit, des objets qui génèrent leurs usages, leur propre extension. Si les systèmes algorithmiques des GAFAM, les dispositifs d'IA et les applications de traçage inquiètent, ce n'est pas seulement qu'ils pourraient être utilisés pour des objectifs non-contrôlés par les normes démocratiques ou sociales. C'est aussi parce que d'une part, ces usages incontrôlés leurs sont immanents, internes à leur propre fonctionnement et, d'autre part, parce que ces différents dispositifs convergent, se recoupent, communiquent entre eux, inter-opèrent selon leurs normes, grâce à un langage binaire commun. La numérisation appelle l'extension de la numérisation et de la robotisation, et reconfigure via un réseau d'objets d'IA (l'internet des objets, IoT) la réalité qui les circonscrit. Il importe d'être conscient de ces mécanismes de convergence entre les objets d'IA pour mener un débat démocratique sur la société que nous désirons et conserver une maîtrise sur son ordonnancement selon des normes choisies et voulues par nous.Valerie Kokozka[1]Selon la "seconde cybernétique" (littéralement la science du gouvernement), science des mécanismes d'information des systèmes complexes née avec les projets d'automatisation et d'intelligence artificielle -et la défiance dans le "gouvernement humain" qui les accompagnaient.