Fake news : l’IA d’Apple sous le feu des critiques après un résumé à côté de la plaque

Apple Intelligence, l’IA d’Apple, permet entre autres de résumer des articles de presse. Mais elle indique des informations complètement fausses dans ces résumés. Ce qui comporte de nombreux risques. RSF tire la sonnette d’alarme.

La firme à la pomme a lancé, le 11 décembre, une nouvelle fonction alimentée par l’IA, au Royaume-Uni. Elle sert à résumer des articles de presse. Sauf que cela ne s’est pas passé comme prévu. Un article de la BBC a été résumé de manière totalement fausse. Puis il a été envoyé aux utilisateurs de cette fonction, par notification push (le 13 décembre).

Et il ne s’agit pas d’une erreur anodine. L’IA a ainsi indiqué que Luigi Mangione, le suspect dans l’assassinat du CEO de UnitedHealth, s’était suicidé. Alors que cela n’a pas eu lieu, et que la BBC ne l’a jamais écrit. La chaine publique britannique indique avoir contacté Apple pour résoudre le problème.

Retirer la fonction ?

Le risque est grand. Car les personnes qui vont recevoir cette notification vont la prendre comme une information fiable car venant d’un média et portant le nom et ou le logo de ce média. Elles vont la croire et la partager. Et c’est ainsi que naissent des fake news à grande échelle.

Reporters sans frontières a donc tiré la sonnette d’alarme et demandé ce mercredi à Apple d’urgemment retirer cette fonction. “Cet accident souligne l’incapacité des systèmes d’IA à systématiquement publier des informations de qualité, même quand elles sont basées sur des sources journalistiques. Le fonctionnement probabiliste des systèmes d’IA les disqualifie de facto en tant que technologies médiatiques fiables, utilisables dans des solutions à destination du grand public”, écrit l’association dans un communiqué.

“Les IA sont des machines à probabilités, or la véracité d’une information ne se joue pas sur un coup de dés. RSF appelle Apple à prendre ses responsabilités en retirant cette fonctionnalité. La production automatisée de fausses informations portant le sigle de médias est une atteinte à leur crédibilité, et un danger pour le droit du public à disposer d’informations fiables sur l’actualité. L’AI Act européen, pourtant la législation la plus avancée au monde en la matière, n’a pas classé les IA générant de l’information comme systèmes à haut risque, laissant un vide juridique critique. Cette lacune doit être comblée rapidement”, s’exprime Vincent Berthier, responsable du bureau technologies et journalisme de RSF.

Pas la première fois

La fonction est arrivée sur le marché américain en octobre. Là aussi, il y a eu des couacs énormes et dangereux. Elle a résumé un article du New York Times sur le mandat d’arrêt de la Cour pénale internationale à l’encontre de Premier ministre israélien Benjamin Netanyahou comme suit : “Netanyahou arrêté”.

Cette fonction de résumés peut aussi s’appliquer à d’autres domaines, comme aux messages. Une image d’un résumé complètement erroné d’un SMS avait fait le tour des réseaux sociaux, il y a deux mois environ. Une mère avait envoyé un message à son fils disant que “la randonnée avait failli la tuer” – dans le sens qu’elle avait été éprouvante. Apple Intelligence a résumé cela en “tentative de suicide”. Ce qui n’est évidemment pas un message plaisant à recevoir d’un proche et peut créer un choc grave.

Cette image a suscité de nombreuses moqueries et critiques, que l’IA promettait monts et merveilles, mais qu’en fin de compte, elle ne servait à rien. Mais pour ne pas être si fataliste, on pourrait aussi dire que les couacs font partie du développement d’une technologie. Que c’est avec les erreurs qu’on peut faire des améliorations. Même si bien sûr, les erreurs évoquées ici sont graves et dangereuses, et elles doivent être encadrées et rectifiées.