Et si l’IA apprenait l’oubli ?

La nouvelle date de 1942. Intitulée Funes ou la mémoire, elle fait partie du recueil de nouvelles Fictions signé Jorge Luis Borges. L’écrivain argentin y raconte l’existence de Funes, un homme doté d’une capacité de mémorisation infinie. Chaque instant dans ses moindres détails se grave de façon indélébile en lui.

Une hypermnésie sans l’ombre d’un oubli. Comme le souligne Borges, “Funes connaissait les formes des nuages austraux de l’aube du 30 avril 1885 et pouvait les comparer au souvenir des marbrures d’un livre en papier espagnol qu’il n’avait regardé qu’une fois et aux lignes de l’écume soulevée par une rame sur le Rio Negro la veille du combat de Quebracho”.

Cela ne vous rappelle-t-il pas quelque chose ? N’est-ce pas une description convaincante du mode opératoire des IA génératives, 80 ans plus tard, qui aspirent toutes les données et les fixent toutes dans leurs circuits intégrés par la grâce du deep-learning ? Où l’on voit que si Borges est devenu aveugle, il fut aussi d’une grande clairvoyance prédisant aussi les dysfonctionnements que l’on sent poindre dans les IA génératives.

Car le vaste programme de mémorisation de son héros, nous montre Borges, s’accompagne mécaniquement de troubles cognitifs : “Cela gênait Funes que le chien de 3h14 (vu de profil) eût le même nom que le chien de 3h15 (vu de face)”. En fait, Funes retient tout, mais ne sait pas ce qu’est un chien.

Et si le défi du futur pour une IA ­efficiente n’était pas tant une question de mémoire que d’oubli ?

Dans les pas de l’écrivain argentin, Yann LeCun chargé du développement de l’IA chez Meta, montre justement qu’il faut s’éloigner des modèles génératifs. “Ces systèmes, dit-il, peuvent manipuler le langage très rapidement. Ce qui donne l’impression qu’ils sont intelligents mais en réalité ils ne le sont pas tant que cela. Ils commettent même des erreurs stupides et hallucinent.”

De fait, Yann LeCun préconise une autre voie. Certainement moins aguichante que celle d’OpenAI avec ChatGPT auprès du grand public et qui a surpris LeCun lui-même. Lui préfère miser sur le temps long et peut-être sur d’autres sauts technologiques pour parvenir à une IA fondamentale, selon ses termes, à savoir fiable et efficiente (sans même parler d’être supérieure à l’homme). En la dotant de quatre tâches essentielles à remplir qui ne se réduisent pas à de l’ingurgitation de data : 1) comprendre le monde physique ; 2) avoir une mémoire persistante, à savoir se souvenir des choses importantes ; 3) être capable de planifier des séquences d’actions complexes pour atteindre un objectif particulier ; et 4) être capable de raisonner.

On pourrait dire que Yann LeCun assigne à la machine pensante du futur une stratégie anti-Funes. Il envisage, en effet, de développer des modèles qui ne tentent pas de “prédire chaque détail imprévisible d’une scène, comme le mouvement des feuilles ou des mouvements de l’eau sur le lac” (ou pourrait-on dire avec Borges, les marbrures d’un livre en papier espagnol et les lignes de l’écume soulevée par une rame). Mais en cherchant au contraire à se concentrer sur l’essentiel, en ne retenant que ce qui est “prévisible et pertinent”. Cette technologie se baserait donc pas sur du gavage de data, mais sur “une représentation abstraite des données vidéo” précise LeCun.

Or, c’est exactement de cette capacité d’abstraction qu’est dépourvu Funes, lui qui ne parvient pas à connecter entre eux le chien de 3h14 de celui de 3h15. Une opération indispensable pour l’activité réflexive. Il lui manque cette part d’oubli qui permet la conceptualisation et la capacité de relier les “deux chiens”. Et si le défi du futur pour une IA efficiente n’était pas tant une question de mémoire que d’oubli ?