Entretien avec Luc de Brabandère: « avec ChatGPT, nous avons fait exploser la bombe avant même de réfléchir »

Le dernier ouvrage de Luc de Brabandère met le doigt sur la question lancinante qui nous hante à l’ère de chatGPT : est-ce que l’intelligence artificielle supplantera l’homme ?

Est-ce que nous atteindrons ce moment de singularité annoncé par les transhumanistes, moment où un superordinateur dépassera de loin les capacités du cerveau humain, devenant une super intelligence qui laisserait l’humanité au bord de la route ?

Calculer n’est pas penser

Luc de Brabandère, qui a la particularité d’avoir effectué des études de mathématiques appliquées, d’avoir accompagné l’informatique naissante puis d’avoir fait des études de philosophie quand il avait une quarantaine d’années, répond par la négative : jamais une machine n’égalera l’homme, jamais elle ne pourra manier les trois modes de pensée – pensée logique, créative, critique – qui sont l’apanage de l’homme. « Calculer n’est pas penser », dit-il en préambule de son dernier opus (Petite philosophie des algorithmes sournois, publié chez Eyrolles).

« La pensée est faite de deux temps, nous dit-il. Un temps de simplification (réduit le monde en  catégories) et un temps qui utilise ces simplifications. Simplifier le monde est une obligation. Borges raconte dans une nouvelle l’histoire d’un cow boy qui se retrouve pourvu d’une mémoire infinie après une chute de cheval. Mais cette mémoire l’empêche de penser. Si par exemple  vous devez choisir vos nouvelles vacances et si vous adoptez une attitude 100% rationnelle, vous ne partez pas parce que vous devez envisager tous les projets de vacances possibles. Pour partir, il faut lâcher prise et décider d’un voyage. C’est lâcher prise qui me paraît indispensable à la pensée et par définition inprogrammable ».

La statistique a remplacé la logique

Mais Luc de Brabandère en convient : ce que nous vivons aujourd’hui est exceptionnel.

« J’ai vécu 40 ans dans le monde de l’informatique qui avait le rêve de comprendre les règles de la pensée. On a donc essayé d’empiler toutes les règles, mais cela a été un échec. La véritable révolution, et je trouve que l’on n’en parle pas suffisamment, est arrivée lorsque  les machines sont devenues tellement puissantes que la statistique a remplacé la logique ». Plutôt que d’appliquer des règles, les machines aujourd’hui établissent des corrélations en s’abreuvant à des milliards de données.

Les machines sont très puissantes et à force d’être abreuvées de données et d’auto-apprendre en établissant des corrélations, elles miment de mieux en mieux de larges pans de la réalité : elles miment une conversation intelligente, dessinent, rédigent des dissertations, et peuvent même faire parler quelqu’un dans une langue qu’il ne connaît pas.

Un système qui reste fermé

Mais il y a deux limites, poursuit Luc de Brabandère.

Première limite : « un ordinateur est un système fermé, alors que les humains sont des systèmes ouverts et c’est une différence qui me parait insurmontable.  Même si l’autoapprentissage des machines est réellement « bluffant », nous restons dans un système fermé alors que nous sommes un système ouvert, qui peut être créatif, qui peut sortir de lui-même. Une machine n’a pas conscience de soi, ne peut pas aimer, ne peut pas désirer, ne peut pas rire. »

Mais l’intelligence, n’est-ce pas étymologiquement « recueillir », « rassembler », mettre deux choses ensemble ? Et n’est-ce pas ce que font  les intelligences artificielles, en établissant des corrélations ? « Je n’aime pas cette définition, répond Luc de Brabandère. Pour moi l’intelligence c’est l’aptitude à bien utiliser ses aptitudes. C’est l’étage du dessus. Quelqu’un peut faire de très bonnes blagues, mais s’il les raconte à un mauvais moment, il n’est pas intelligent. De même la conscience est la faculté de rapporter à soi-même ses émotions et ses expériences, nous sommes là aussi à l’étage supérieur. Et la pensée critique consiste à penser comment on pense. Ce sont trois éléments qui se situent à l’étage du dessus, et je ne vois pas comment nous pourrions les mécaniser.

Ne jamais dire merci à un ordinateur

La seconde limite est éthique, ajoute le mathématicien philosophe : « Il y a des tas de choses qu’aujourd’hui un ordinateur peut faire. Il faut toutefois refuser qu’il le fasse. Et cela commence très tôt. Des gens interrogent des systèmes comme Alexa, ChatGPT et disent merci.  Il ne faut pas dire merci à un ordinateur quand il donne une bonne réponse ! Et là, nous ne sommes plus dans le domaine technique, mais dans l’éthique. Je prends un autre exemple : un juge qui voit toute la journée des détenus qui demandent des libérations conditionnelles serait-il meilleur ou moins bon qu’un système qui aurait emmagasiné 50 ans de récidive ? Alors oui, peut-être le juge est-il plus fatigué le soir, peut-être que deux juges différents ne diraient pas la même chose. Mais on ne peut pas dépendre d’une machine pour prendre de telles décisions. Pour moi, la limite ici est philosophique. »

L’essence d’un outil est d’être plus fort que l’homme

Il reste que les intelligences artificielles font des choses étonnantes. HeyGen est une application qui permet de traduire ce qu’une personne dit en vidéo dans une multitude de langues, avec la voix de cette personne et une synchronisation labiale parfaite. On peut voir Elon Musk parler un français impeccable… Tout cela n’est-il pas inquiétant ?

 « L’essence même d’un outil est d’être plus fort  que l’homme, répond Luc de Brabandère. Personne ne fait des outils des lunettes pour voir moins bien. Mais oui, nous avons aujourd’hui changé de catégorie. Ces machines sont de plus en plus fortes et nous ne savons pas où elles s’arrêteront.  Certains m’ont demandé s’il n’y avait pas avec l’intelligence artificielle une comparaison à faire avec Oppenheimer et la naissance de la bombe atomique. Oui il y a des comparaisons. Mais le film de Christopher Nolan montre qu’il y a eu un long cheminement réalisé par des scientifiques, des généraux, des hommes politiques avant d’aboutir à la bombe. Aujourd’hui, avec ChatGPT, nous avons fait exploser la bombe avant même d’y réfléchir ». Et le retard pris entre l’invention et la mise en place de lois et d’institutions pour la canaliser est gigantesque.

Un appel aux écoles

Que faire alors ? « Il y a donc deux attitudes à avoir, répond Luc de Brabandère. D’une part encadrer autant que faire se peut. D’autre part comprendre à titre personnel comment cela fonctionne. C’est pour cela que je lance un appel aux deux réseaux d’enseignement (le WBE qui rassemble l’enseignement officiel en Fédération Wallonie Bruxelles, et le SeGEC qui rassemble l’enseignement catholique) pour enseigner la pensée critique dès le secondaire. La pensée critique, c’est accorder sa confiance avec discernement, en se méfiant de la source, de la solidité de l’argumentation, du canal de distribution et de soi-même. Je crois beaucoup à cette nécessité. Les machines ne vont pas en rester là, elles seront de plus en plus puissantes, de plus en plus rapides. L’utilisateur devra reprendre la main. »