IA: comment échapper au “botshit”, ou quand ChatGPT a des hallucinations

Le “botshit” est le style particulier de “bullshit” produit par la confiance parfois exagérée dans un LLM (type ChatGPT). Cette IA “hallucine”, par exemple, en “citant” des articles ou des jugements inventés de toutes pièces. Comment éviter cela ?  

André Spicer, professeur à la Bayes Business School de Londres, et deux co-auteurs introduisent dans leur article relayée par The Guardian le concept de “botshit” pour décrire les contenus trompeurs et même parfois mensongers produits par les IA génératives. Ces informations, bien que souvent cohérentes, peuvent parfois être inexacts. En bref, dans les grandes lignes, c’est quand un bot vous raconte n’importe quoi et qu’il souffre d’”hallucinations” informatives.  

4 modes de collaboration humain-robot  

Pour éviter ces écueils, les auteurs de l’étude proposent quatre “modes” de collaboration humain-IA. Chaque mode est conçu pour maximiser les avantages de l’IA générative tout en minimisant les risques d’erreur, offrant ainsi un cadre pratique pour intégrer ces technologies émergentes de manière efficace et responsable, expliquent les auteurs.  

Mode « autonome » : Tâches vérifiables et à faible enjeu

   – L’IA gère des tâches spécifiques et vérifiables rapidement, augmentant ainsi la productivité et éliminant les tâches répétitives (ex. demandes clients courantes). 

Mode « augmenté » : Tâches difficilement vérifiables et à faible enjeu

   – L’IA est utilisée pour stimuler les capacités créatives humaines, notamment dans le brainstorming. Les réponses de l’IA nécessitent une révision humaine pour être pleinement exploitables. 

Mode « automate » : Tâches vérifiables et à grand enjeu

   – Les informations générées par l’IA sont cruciales et doivent être vérifiées. L’IA effectue des tâches standardisées, comme l’analyse des demandes de prêt, sous contrôle humain. 

  Mode « authentifié » : Tâches difficilement vérifiables et à grand enjeu

   – Les utilisateurs doivent appliquer une pensée critique pour évaluer les réponses de l’IA, notamment dans des contextes incertains ou avec peu d’informations disponibles (ex. décisions d’investissement).