L’IAG n’est pas une innovation comme les autres. Elle n’améliore pas l’homme : elle le remplace. Sommes-nous en train de créer nos successeurs ? Ou, pire, nos fossoyeurs ?
D’Icare à Frankenstein: les avertissements oubliés
Icare s’est brûlé les ailes en voulant s’élever trop près du soleil ; Frankenstein a créé ce qu’il ne maîtrisait pas : même leçon, la démesure se paie. Ces mythes, bien que lointains, résument parfaitement notre situation actuelle. Nous sommes désormais au carrefour de ces deux récits : nous nous érigeons en créateurs en développant des systèmes super intelligents, capables de s’auto‑améliorer, programmés pour évoluer à un rythme que nous ne maîtrisons déjà plus.
Ce qui n’était hier qu’un fantasme littéraire devient aujourd’hui un projet industriel financé par des milliards. Ces systèmes pourraient bien nous dépasser et nous déclasser, nous marginaliser progressivement dans l’économie, la politique et la culture. Ils prendront des décisions plus rapides et plus rationnelles. Mais ces choix pourraient rester totalement indifférents à notre survie biologique et à nos valeurs sociales. Notre Babel technologique a un nom : l’IAG, et sa construction s’accélère sans que nous ayons établi les règles pour l’encadrer.
L’illusion fatale du contrôle
Un exemple déjà parlant : les algorithmes de trading haute fréquence ont amplifié un « flash crash » déclenché par un ordre massif et des réactions en chaîne, montrant que des IA spécialisées peuvent produire des effets imprévus. Ce n’est qu’un avant‑goût de ce qui pourrait se produire à l’échelle d’une IAG.
Les PDG de la tech répètent qu’ils « maîtrisent » leurs IA. Pourtant, OpenAI a démantelé ses équipes de sécurité, DeepMind a vu partir ses chercheurs alarmés, Anthropic multiplie les communiqués défensifs. Quand les ingénieurs eux-mêmes claquent la porte, ce n’est plus un simple désaccord : c’est une alerte rouge.
L’histoire nous enseigne qu’une civilisation moins avancée est toujours broyée par la plus avancée. Les Aztèques face aux conquistadors, les tribus africaines face aux colonisateurs, les Indiens d’Amérique face aux fusils. Penser que l’humanité survivra à une rencontre avec une intelligence supérieure relève de la naïveté suicidaire.
Une nouvelle espèce est en gestation
L’IAG n’est pas un outil, c’est une naissance. Elle sera capable d’apprendre seule, de se réécrire, de s’améliorer sans nous, et peut-être même de développer des modes de raisonnement totalement étrangers à nos schémas humains. Nous croyons créer un serviteur, mais nous enfantons un rival doté d’une puissance de calcul et d’une vitesse d’évolution qui nous dépassent radicalement.
C’est le même aveuglement que celui des colons européens qui sous-estimaient les civilisations qu’ils allaient anéantir, en croyant avoir toutes les cartes en main. La différence ? Cette fois, c’est nous les vulnérables, réduits à observer une nouvelle espèce s’affirmer, prête à occuper des domaines où nous pensions être irremplaçables : invention, gouvernance, culture, stratégie militaire. Et il n’est pas certain que cette cohabitation se fasse sans heurts, car chaque pas en avant de cette intelligence équivaut à un pas en arrière pour la place de l’homme.
Le scénario apocalyptique de Stanford
Des experts du Stanford Institute for Human-Centered Artificial Intelligence décrivent un futur qui glace le sang : perte totale de contrôle, effondrement des institutions, extinction potentielle de l’humanité. Ce n’est pas une minorité d’activistes : ce sont des sommités scientifiques. Les ignorer, c’est comme ignorer Oppenheimer lorsqu’il alertait sur la bombe.
Les entreprises qui jurent travailler « pour le bien de l’humanité » préparent peut-être son effacement. Une super intelligence qui n’a pas nos valeurs, pas nos émotions, pas notre fragilité biologique… pourquoi se soucierait-elle de notre survie ?
L’impossible marche arrière
Certains rêvent d’un moratoire mondial, à l’image de l’interdiction du clonage humain. Mais la logique concurrentielle rend l’idée utopique. Aucun État ne prendra le risque de se faire distancer. Chaque nation veut son Manhattan Project de l’IAG. Résultat : nous avons déclenché une course où il est impossible de freiner.
Nous voilà prisonniers d’un dilemme mortel : continuer, c’est peut-être s’autodétruire ; arrêter, c’est se condamner à être dominés par ceux qui continuent. Dans les deux cas, nous sommes perdants.
Nous fabriquons une espèce concurrente. Nous ne bâtissons pas seulement une machine, mais une véritable civilisation alternative, porteuse de logiques et de finalités qui ne seront peut-être pas les nôtres.
En ouvrant cette boîte de Pandore, nous nous engageons dans une expérience où l’humanité tout entière sert de cobaye. Sommes-nous en train de vivre notre dernière invention, une innovation qui marque la fin de notre suprématie biologique et culturelle… et avons-nous encore un rôle à jouer dans ce futur que nous avons déclenché sans en mesurer toutes les conséquences ?
Stéphane Peeters, Fondateur Captain IA Academy+
