Google a pris des mesures pour faire évoluer son nouveau moteur de recherche AI Overviews, appuyé sur l’intelligence artificielle (IA) générative, après que des internautes ont signalé des réponses étranges ou potentiellement dangereuses.
Le groupe a indiqué à l’AFP avoir “agi rapidement lorsque cela était justifié par nos règlements en matière de contenus”. Le bloggeur Dare Obasanjo a notamment montré qu’à une question sur le nombre de présidents musulmans que les Etats-Unis avaient connus, AI Overviews a répondu que Barack Obama était “considéré par certains comme étant le premier président musulman”. Evoquant cet exemple, une porte-parole de Google a expliqué que ce résultat “violait nos règlements et nous l’avons supprimé”.
Un autre internaute, via son compte intitulé PixelButts sur X (ex-Twitter), a posté une capture d’écran présentant la réponse à la demande “fromage ne collant pas à la pizza”. AI Overviews y propose, outre de mélanger le fromage à la sauce, d’ajouter de la colle “non toxique” au fromage pour le rendre plus collant. La journaliste free-lance Kristi Hines a affirmé, sur X, que cette réponse s’était inspirée d’un commentaire posté sur le réseau social Reddit il y a plus d’une décennie.
Le nouveau patron du site satirique The Onion a lui mis en évidence le lien entre certaines réponses et des contenus humoristiques mis en ligne sur sa plateforme. Parmi les exemples, AI Overview affirme que la CIA a officiellement admis utiliser des surligneurs noirs. Le moteur de recherche utilise là à mauvais escient un article satirique de The Onion, selon lequel les passages illisibles dans les documents de l’agence sont le résultat d’une erreur et non d’une volonté de masquer certains contenus.
Google “utilise ces exemples pour mettre au point des améliorations de notre système, dont certaines ont déjà été mises en place”, a commenté la porte-parole. Google a présenté, mi-mai, AI Overviews, qui propose un texte écrit en réponse à une recherche et non plus seulement des liens vers des sites, comme c’était le cas jusqu’ici. Les liens n’ont pas disparu, mais sont relégués sous le texte, dont le contenu est susceptible de satisfaire, seul, la curiosité des utilisateurs.
