ChatGPT est-il moins “serviable” quand on l’insulte?

Faut-il parler à ChatGPT aussi poliment qu’à un de ses collègues? Dans son nouveau livre «Bonjour ChatGPT», Louis de Diesbach, éthicien de la technologie et consultant au Boston Consulting Group, questionne les relations entre l’être humain et la machine, avec des constatations parfois glaçantes.

ChatGPT a-t-il des sentiments? Répond-il mieux à nos requêtes quand on lui parle poliment?  

Je ne peux pas vous dire si ChatGPT est plus efficace quand on lui parle gentiment, je n’ai pas lu d’étude qui confirme ou pas ce sentiment. Je suis plutôt d’avis que c’est l’humain qui projette son ressenti sur la machine. Il y a des gens qui insultent leurs assistants vocaux. La réponse est toujours très polie. L’assistance vocale Alexa d’Amazon ou Siri d’Apple ne vont jamais vous insulter en retour, ce qui serait super cela dit.

J’utilise ChatGPT plusieurs fois par semaine, et je lui dis souvent «bonjour» et «merci». Mais je n’oublie pas que quand je dis bonjour à une machine, cela n’a pas la même valeur que de dire bonjour à une personne.  Il est important de rappeler que derrière le robot, ce n’est que du code. Du code qui est peut-être bien corrigé et orienté par des humains, mais ce ne sont que des signaux électriques. Je suis assez catégorique sur le fait que la machine n’a pas de conscience. Croire que ChatGPT est “déprimé” car il réagit moins vite, c’est juste de la com’.

Vous pointez du doigt nos changements de comportement causé par la technologie….

En revanche, ce qui est très intéressant, plus d’un point de vue philosophique, c’est en effet de se dire que la machine influe énormément sur notre comportement. Donc, pour lui plaire, on va nous-mêmes décider d’agir différemment que ce qu’on ferait d’habitude. Par exemple, des personnes sourient pour déverrouiller leur iPhone avec la reconnaissance faciale. Ils vont s’assurer d’être bien présentables à leur smartphone. Ils vont modifier leur comportement pour être certains de maximiser les capacités techniques de la machine.

Là, on parle d’une simple photo, mais qu’en est-il d’une conversation avec une IA ?  

L’anthropomorphisme – le fait de s’adresser et de porter des traits humains à quelque chose qui ne l’est pas – existe depuis la nuit des temps. La vraie question n’est pas de savoir pourquoi on salue un robot mais plutôt pour quelles raisons l’être humain choisit-il de plus en plus de parler à la machine? C’est une tendance inquiétante dans notre société. Les gens préfèrent avoir des échanges avec un robot qu’avec un ami, même dans des situations difficiles, comme une rupture amoureuse. Ils se disent que la machine ira toujours dans leur sens et ne les blessera pas. Cela me fait penser au film her de Spike Jonze dont le protagoniste incarné par Joaquin Phoenix, tombe éperdument amoureux d’un robot conversationnel. Dix ans après sa sortie, on n’est plus dans la science-fiction que l’on trouvait terrible à l’époque, c’est notre réalité. Des gens tombent amoureux d’une IA. C’est glaçant!  

Selon vous, l’IA menace-t-elle le vivre-ensemble?  

Les gens n’ont plus de vraies interactions. Au lieu de téléphoner à leurs proches ou à leurs collègues, ils préfèrent leur envoyer un texto, un message audio ou dialoguer via les réseaux sociaux, pour avoir un contrôle total sur leur conversation. Cela permet de rester dans sa zone de confort, dans un algorithme qui nous conforte dans nos idées. Or, pour être pleinement humain, il faut pouvoir accepter cette vulnérabilité, il faut accepter de ne pas être Dieu. Je ne suis pas technophobe, loin de là. Mais, je pense que la technologie n’est pas toujours la réponse à tout. Plein de choses devraient se résoudre par moins de tech. Il faut alors accepter que les échanges soient plus hasardeux, plus longs, beaucoup moins superficiels… Il faut encourager les vrais échanges en face à face.  

Qu’est-ce que notre rapport à la technologie révèle finalement de notre société ?  

Il révèle une société de plus en plus isolationniste. Comme dans la chanson de Simon and Garfunkel, The sound of Silence: People talking without speaking people hearing without listening (ndlr: Les gens parlent sans parler Les gens entendent sans écouter). J’ai l’impression que c’est un peu ça. On parle, on s’envoie des messages,… Mais est-ce qu’on se demande vraiment “comment ça va?” Attention, pas le “ça va?” mécanique et désintéressé envoyé à un collègue devant la machine à café. Non, le vrai “ça va?” qui reçoit parfois une réponse négative. Et là, c’est la merde, car on ne saura plus comment réagir…