Aujourd'hui, nous sommes déjà habitués à parler avec des assistants virtuels comme Siri (Apple), Alexa (Amazon) ou Assistant (Google). Généralement, c'est pour donner un ordre ou pour chercher une information. Mais la semaine dernière Google a franchi une étape supplémentaire. Sundar Pichai, le CEO de Google, a dévoilé la dernière trouvaille de ses ingénieurs : Google Duplex. C'est le nom de l'intelligence artificielle qui va mettre au chômage tous les vendeurs et tous les commerciaux du monde entier. En tout cas, c'est déjà comme cela que la nouveauté est perçue par quelques gourous actifs sur LinkedIn.
...

Aujourd'hui, nous sommes déjà habitués à parler avec des assistants virtuels comme Siri (Apple), Alexa (Amazon) ou Assistant (Google). Généralement, c'est pour donner un ordre ou pour chercher une information. Mais la semaine dernière Google a franchi une étape supplémentaire. Sundar Pichai, le CEO de Google, a dévoilé la dernière trouvaille de ses ingénieurs : Google Duplex. C'est le nom de l'intelligence artificielle qui va mettre au chômage tous les vendeurs et tous les commerciaux du monde entier. En tout cas, c'est déjà comme cela que la nouveauté est perçue par quelques gourous actifs sur LinkedIn. Pourquoi cette crainte ? Sundar Pichai a présenté à son audience deux exemples au cours desquels Google Duplex a téléphoné en direct à un restaurant et à un salon de coiffure pour prendre rendez-vous. C'était épatant, car cette intelligence artificielle n'avait pas la voix métallique ou reconnaissable d'un robot, mais une voix bien humaine. Mieux encore, durant la prise de rendez-vous, cette voix prenait des pauses de quelques secondes avant de répondre et nous imitait en tant qu'êtres humains, avec toutes nos imperfections. En clair, au lieu de répondre " oui " ou " non " ou par des phrases types, Google Duplex a mené une vraie conversation, avec les digressions propres aux conversations humaines. Avec même des " Mhmm " et des " Ah, bon " propres à une conversation humaine. Bref, c'était criant de réalité car, à aucun moment, les interlocuteurs humains ne se sont rendu compte qu'ils parlaient à une machine ! Bien entendu, ces exemples soulèvent des questions morales. En effet, lorsque cette machine intelligente a téléphoné, elle s'est présentée à ses interlocuteurs comme l'assistant de Mme X mais à aucun moment, elle n'a dévoilé le fait qu'elle était une machine. Le problème éthique est posé car ses interlocuteurs ont été abusés . N'étant pas technophobe, je reconnais que cette invention est géniale sur le plan technologique. Elle pourrait, par exemple, sauver des vies en cas d'accident de voiture en appelant les urgences à notre place. Mais l'actualité récente doit nous rappeler que cette intelligence artificielle pourrait aussi nous tromper. Le grand public a compris - mieux vaut tard que jamais - qu'un réseau social comme Facebook pouvait être manipulé pour influencer les votes des citoyens américains ou pour inciter les gens à la haine. Question : si demain, en plus des fausses informations, des fausses images, des fausses vidéos, ce genre de technologie vocale tombe dans des mains maléfiques, comment savoir si nous parlerons encore à un véritable être humain ou à une machine destinée à nous manipuler ? Le CEO de Google dira que nous n'en sommes pas encore là sur le plan technologique, mais à l'allure des progrès de l'IA, il ne faudra pas plus d'une génération pour assister à l'émergence d'un monde potentiellement dangereux. Regardons autour de vous. Nous sommes toujours plus nombreux à préférer passer par une application bancaire qu'un interlocuteur humain pour gérer nos affaires financières. Avec Google Duplex et ses avatars, nous allons être gâtés. Fini de parler à un humain, l'assistant de Google le fera pour nous. Et ça, c'est le début de la fin : une sociologue américaine avait déjà démontré en 1961 que ce qui faisait la cohésion humaine d'une ville, sa viabilité, ce sont toutes ces petites conversations anodines et quotidiennes. Exit l'humain avec Google Duplex. Si les ingénieurs de Google ne prêtent pas attention aux questions éthiques, c'est le tissu social qui pourrait être détruit avec ce genre d'invention. La vérité, c'est que le problème n'est pas l'intelligence artificielle de Google Duplex. Les scientifiques le savent de longue date, la technologie est neutre par essence. Mais pas les ingénieurs de Google. Ce géant du Web a des responsabilités éthiques. Mais les CEO de la Silicon Valley ont-ils conscience de leur responsabilité ? Pour l'heure, l'actualité répond à leur place. La chroniqueuse Natacha Polony avait rédigé en février 2017 un éditorial indiquant que le monde est désormais dirigé par des " délinquants fiscaux en sweat-shirt à capuche et qui vouent leur vie à rendre la nôtre plus belle (...) exactement comme l'Eglise catholique veillait sur nos âmes ". Je trouvais qu'elle exagérait, mais aujourd'hui, j'ai des doutes.