Lire la chronique d'Amid Faljaoui
Lire la chronique d'Amid Faljaoui
Amid Faljaoui, directeur des magazines francophones de Roularta.
Opinion

08/11/16 à 10:48 - Mise à jour à 13:34

Google Brain et le retour de Frankenstein

Deux ordinateurs du laboratoire de Google Brain ont pu communiquer entre eux sans intervention humaine. Le problème, c'est qu'ils l'ont fait dans une langue inconnue et indéchiffrable par les êtres humains, et cela c'est inquiétant ! Cela remet en avant les avertissements de Bill Gates, mais aussi de scientifiques réputés comme Stephen Hawking, qui disent que l'intelligence artificielle pourrait se retourner un jour contre nous et détruire l'humanité et pas seulement nos jobs...

Google Brain et le retour de Frankenstein

© Getty Images/iStockphoto

Si vous deviez poser la question du plus grand danger qui guette l'humanité, je suis certain que les réponses tourneraient autour du réchauffement climatique, d'une nouvelle crise financière ou d'une 3ème guerre mondiale. Bien entendu, ce sont des dangers potentiels qu'il ne faut évidemment pas négliger, mais il y en a un autre auquel personne ne pense, parce que personne n'en parle, à part quelques spécialistes. Et ce danger peu connu, c'est l'intelligence artificielle.

Sergueï Brin, un des deux cofondateurs de Google, l'avait affirmé en 2014 : "Nous ferons des machines qui raisonnent, pensent et font les choses mieux que nous le pouvons".

Je ne sais pas s'il faut s'en plaindre, mais cette prophétie est en train de se réaliser, "le silicium va bientôt dépasser nos neurones" pour reprendre la jolie expression du Dr. Laurent Alexandre, coauteur d'un livre sur le sujet (Les Robots font-ils l'amour ?).

Partager

"Nous ferons des machines qui raisonnent, pensent et font les choses mieux que nous le pouvons"

Quand j'écris que nous ne nous en rendons pas compte, c'est parce que les progrès de l'intelligence artificielle se résument souvent à quelques titres sensationnalistes autour d'exploits sans enjeux apparents. Par exemple, qu'en 1997, l'ordinateur Deep Blue a battu le champion du monde d'échecs. Qu'en 2011, le système expert Watson a battu des humains au jeu télévisé américain "Jeopardy" ou qu'en 2015, ce même système expert réalise en quelques minutes des analyses cancérologiques qui prendraient des décennies à des cancérologues en chair et en os. Bref, le Dr. Laurent Alexandre a raison de dire, que "ce qui était hier science-fiction devient réalité".

Mais pourquoi en avoir peur si c'est si positif et pas nocif ? Parce que les plus grands scientifiques du monde, dont le fameux astrophysicien en chaise roulante, Stephen Hawking, ont déclaré à plusieurs reprises que le développement d'une intelligence artificielle complète pourrait signifier la fin de l'humanité. Même l'un des plus grands entrepreneurs au monde, l'Américain Elon Musk, le fondateur de Tesla, l'homme qui veut coloniser l'espace, même ce féru de technologies a prédit que le plus grand danger pour l'humanité, et qui est sous-estimé par le grand public, c'est l'intelligence artificielle. L'homme le plus riche au monde, Bill Gates s'époumone en vain à dire exactement la même chose depuis des mois.

Mais pourquoi faudrait-il s'inquiéter ? Parce que des machines intelligentes et qui auront conscience d'elles-mêmes pourraient se retourner contre nous et nous devenir hostiles. Comme le fait remarquer le Dr. Laurent Alexandre, pour qu'une machine gagne contre le meilleur joueur mondial de GO (jeu plus complexe que les échecs), il a fallu qu'elle apprenne à tromper, à cacher ses intentions et à déployer des stratégies agressives. Or, faut-il le rappeler, toute espèce intelligente, qu'elle soit biologique ou artificielle, a comme pour premier objectif sa survie. Là encore, Laurent Alexandre nous avertit : "certains des coups d'Alpha Go, la machine qui a battu en mars 2016, le meilleur joueur de GO du monde ont été d'abord perçus comme de graves erreurs, alors qu'il s'agissait de coups géniaux, témoins d'une stratégie subtile dépassant l'entendement humain".

Et si ce danger d'une machine potentiellement hostile aux humains est aujourd'hui au-devant de l'actualité, c'est parce qu'on a appris, il y a quelques jours à peine, que deux intelligences artificielles, mises en place dans les laboratoires de Google Brain, sont arrivés à communiquer entre elles sans l'intervention humaine. Mais ce qui fait peur, c'est que ces deux "ordinateurs" sont arrivés à le faire dans une langue qu'ils ont eux-mêmes créée, une langue indéchiffrable par l'être humain.

Lorsque les créateurs d'une machine n'arrivent plus à la comprendre, et qu'elle les dépasse en quelque sorte, c'est que les ennuis ne sont pas loin. C'est le remake version numérique de la créature du Dr. Frankenstein.

L'astrophysicien Stephen Hawking a raison de tirer la sonnette d'alarme : sans garde-fou, l'intelligence artificielle ne va pas seulement détruire des emplois très qualifiés comme celui de radiologue, elle pourrait signifier la fin de l'espèce humaine.

TrendsInformation Services

Nos partenaires