Que répondre ? Tout d'abord que l'illustration ne vaut que pour un cas très spécifique d'IA : un logiciel interactif où la machine se constitue un savoir à partir d'une seule source d'informations, celles que lui procurent ses interlocuteurs humains. Dans ce cas-ci, de fait, si elle n'échange qu'avec des racistes et qu'elle a été programmée pour satisfaire les besoins de ses utilisateurs, la machine deviendra raciste.
...

Que répondre ? Tout d'abord que l'illustration ne vaut que pour un cas très spécifique d'IA : un logiciel interactif où la machine se constitue un savoir à partir d'une seule source d'informations, celles que lui procurent ses interlocuteurs humains. Dans ce cas-ci, de fait, si elle n'échange qu'avec des racistes et qu'elle a été programmée pour satisfaire les besoins de ses utilisateurs, la machine deviendra raciste. Mais quand il est question du biais de la part d'un algorithme, on parle d'autre chose, et la réfutation par l'exemple de l'IA raciste rate sa cible. Le cas ordinaire n'est en effet pas celui d'une IA obtenant toute son information de seulement quelques utilisateurs mais la trouvant dans une base de données contenant des informations en quantités astronomiques, captées grâce à une observation constante du monde dans son fonctionnement ordinaire, ce qu'on appelle désormais le big data. Ce qui signifie que l'IA dont on parle en général se constitue une représentation du monde à partir de données produites à l'abri (sauf sabotage) de toute intervention humaine. Utilisant des méthodes avancées de statistiques comme la régression logistique ou l'analyse en composantes principales, l'IA découvre alors des formes (corrélations ou hypothèses de relations causales) qui lui permettent de constituer un modèle de la réalité que ces données reflètent. C'est là que les choses se compliquent parce que certains groupes d'utilisateurs se plaindront d'un " biais " intolérable dans ce que l'algorithme aura découvert grâce à son système d'apprentissage et d'analyse. Une IA encourra, par exemple, les foudres d'un groupe féministe parce qu'elle aura conclu que, oui, il existe de réelles différences entre les hommes et les femmes. Ou celles d'un groupe post-humaniste parce qu'elle aura décelé des différences objectives entre les êtres humains et les autres animaux. Ou celles du milieu syndical parce qu'elle aura mis en évidence que les travailleurs ont parfois tort et les patrons parfois raison. Ou encore celles du monde des affaires parce que les données auront fait apparaître que ce ne sont ni la concurrence, ni la compétition, ni la compétitivité, qui ont permis le progrès du genre humain, mais au contraire, la bonne volonté de ses membres, leur entraide et leur solidarité. En résumé, l'intelligence artificielle est à même de tirer des conclusions précieuses à partir de faits émanant du monde tel qu'il est mais elle est incapable de confirmer les préjugés de tel ou tel groupe forgés, ceux-ci, sur telle ou telle définition du " politiquement correct ". Ferons-nous confiance à l'IA ou préférerons-nous faire prévaloir -nos anciennes querelles de chapelles ? Tel est le défi pour l'avenir. Souvenons-nous de la manière dont l'IA nous a battus à plate couture dans des disciplines où nous imaginions être d'invulnérables champions, comme les échecs, le jeu de go, ou divers jeux numériques. Souvenons-nous qu'un algorithme a découvert qu'il était payant aux échecs de placer " stupidement " la reine dans un des coins de l'échiquier. Souvenons-nous qu'au go, certaines ouvertures de l'IA nous apparaissaient grotesques avant que nous ne nous rendions compte que grâce à celles-ci, elle nous ridiculiserait à jamais. Mais dans le plupart des usages futurs de l'intelligence artificielle en matière de prévision et de planification, l'algorithme ne pourra, comme dans un jeu, nous convaincre de notre infériorité par la honte que génèrent nos défaites. Il faudra que nous lui fassions confiance - notre avenir en dépend - et que nous mettions entre parenthèses le " politiquement correct " des uns et des autres, l'expression rassemblant aujourd'hui, la somme de nos préjugés.