“Et si les géants de la Silicon Valley nous tenaient sous hypnose ?”

Une nouvelle activité est en passe d’être définitivement disruptée par les titans de la Silicon Valley : c’est le métier d’illusionniste. On a pu en avoir une nouvelle preuve flagrante, le 8 mai dernier à Mountain View, en Californie lors de la grand-messe annuelle de Google. Un moment étourdissant d’hypnose collective, largement relayé par tous les réseaux sociaux.

Sundar Pichai, le PDG de Google, sur une grande scène présente le dernier né de la grande famille Alphabet : l’assistant vocal Google Duplex. Tout en coolitude devant un immense écran, il lance une démonstration audio et aussitôt c’est l’extase. Les plans sur le public nous montrent des gens bouche bée, écarquillant les yeux, s’esbaudissant et applaudissant à tout rompre. On imagine que les ingénieurs de la Nasa ne devaient pas être plus heureux lorsque Neil Amstrong a posé son pied sur la Lune en 1969. Sur les réseaux sociaux, c’est la même chose, les ” woaw ! ” rivalisent avec les ” amazing “… En toute modestie, Chris Messina, le concepteur du produit, a qualifié sa propre invention d'” incroyable ” et de ” terrifiante ” sur son compte Twitter.

Or, pour tout dire, ce qui nous apparaît ” incroyable ” et ” terrifiant “, ce sont plutôt les réactions face à cette démonstration. Car à quoi a-t-on assisté exactement ? A une prise de rendez-vous dans un salon de coiffure par un assistant vocal et à la réservation d’une table dans un restaurant. Bref, ce qui peut déjà s’effectuer en deux clics et que, du reste, les cadres surmenés de la tech ne font même pas eux-mêmes. On est vraiment loin des grands coups de sonde dans le futur que la firme de Mountain View appelle ses moonshots.

Pire, cette démonstration n’est même pas en live. C’est un enregistrement qu’on imagine avoir fait l’objet de multiples répétitions (si ce n’est comme certains le prétendent aujourd’hui d’être carrément un faux). Un peu comme si une cascade au cirque était proposée via une vidéo pré-enregistrée. Si Duplex est si révolutionnaire, pourquoi ne pas l’avoir testé en direct ? Le paradoxe est quand même béant : on nous vend une innovation en intelligence artificielle – qui repose donc sur sa capacité à générer une improvisation humaine – avec une démo préenregistrée !

Pour autant, le tour de passe-passe de Google a été exécuté à merveille. Car l’attention s’est portée ailleurs. Ce qui a envoûté l’assistance et les internautes, c’est le timbre de la voix robotique et les hésitations qui simuleraient ” l’humain “. A un moment, un petit ” huummm ” d’hésitation proféré par la machine a même électrisé le public tout autant qu’un déhanché de Beyonce. Aussitôt la machine à fantasmes s’est emballée : et si cette imitation de la voix humaine était utilisée à mauvais escient pour des arnaques ou de la propagande ? Une professeure à l’Université de Caroline du Nord, Zeynep Tufekci, s’est même indignée reprenant le terme ” terrifiant ” sans se rendre compte que c’était un élément de langage employé pour promouvoir ce qu’elle voulait dénoncer. Car c’est évidemment là que Google voulait que l’on aille : craindre que cette innovation puisse être mal exploitée. Qu’elle soit ” terrifiante ” revient à accréditer son efficacité. Faire d’un simple assistant conçu pour prendre des rendez-vous chez le coiffeur un danger pour la démocratie, beau travail d’illusionniste !

En cela, cet épisode du Big Google Circus n’est pas anecdotique. Il est au contraire parfaitement symptomatique de ce qui se joue actuellement avec la Silicon Valley. D’abord, sur sa tendance désormais à homériser quotidiennement la moindre petite innovation éclipsant les vrais enjeux de l’intelligence artificielle en termes de santé, d’éducation ou de transport. Ensuite, sur la propension des Big Tech à jouer sans complexe avec les dérapages éthiques, qu’ils exploitent comme autant de leviers pour leur valorisation. Loin de leur nuire, ces dérapages leur rapportent. On l’a vu avec Facebook, qui, depuis l’affaire Cambridge Analytica, n’a non seulement pas perdu de valeur, mais n’a jamais été aussi séduisant auprès des annonceurs.

Et enfin, cela témoigne de notre état d’hypnose et de dévotion face à ces géants. Alors que la moindre parole d’un homme politique est systématiquement mise en cause, on boit comme un oracle le moindre verbatim des géants technologiques.. Et c’est ça in fine qui s’avère le plus ” incroyable ” et le plus ” terrifiant “.