Les recherches de "Taylor Swift" bloquées sur X après la publication d'un deepfake généré par l'IA

Certaines recherches incluant les termes "Taylor Swift" sur X n'ont donné aucun résultat lundi après que la société, anciennement connue sous le nom de Twitter, ait apparemment décidé d'empêcher la diffusion de vidéos pornographiques générées par l'IA utilisant l'image de la star.

Certaines requêtes tentées par l'AFP incluant le nom de la mégastar, comme "Taylor Swift AI", ont déclenché des messages indiquant "quelque chose s'est mal passé".

The Verge et d'autres médias américains ont rapporté que X avait temporairement bloqué les recherches utilisant le nom de Swift à la suite des critiques de ses fans, de la Maison Blanche et d'autres concernant la pornographie générée par l'IA la montrant partagée sur la plateforme et ailleurs en ligne.

X n'a pas répondu à une demande de commentaires, mais The Verge a cité le chef d'entreprise Joe Benarroch qui a déclaré que le blocage des recherches Swift était une mesure temporaire destinée à " donner la priorité à la sécurité ".

Une fausse image de la mégastar américaine a été vue 47 millions de fois sur X avant d'être supprimée jeudi. Selon les médias américains, la publication a été diffusée en direct sur la plateforme pendant environ 17 heures.

"C'est alarmant", a déclaré vendredi la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, interrogée sur les images.

"Malheureusement, nous savons que le manque d'application (par les plateformes technologiques) affecte de manière disproportionnée les femmes, ainsi que les filles qui sont les cibles écrasantes du harcèlement en ligne", a ajouté Jean-Pierre.

Les images pornographiques deepfakes de célébrités ne sont pas nouvelles, mais les militants et les régulateurs craignent que des outils faciles à utiliser utilisant l'intelligence artificielle (IA) générative ne créent un flot incontrôlable de contenus toxiques ou nocifs.

Le ciblage de Swift, l'une des artistes les plus écoutées au monde dont la dernière tournée de concerts l'a propulsée au sommet de la renommée américaine, pourrait jeter un nouvel éclairage sur le phénomène avec ses légions de fans indignés par cette évolution.

Selon les analystes, X est l'une des plus grandes plateformes de contenu pornographique au monde, car ses politiques en matière de nudité sont plus souples que celles des plateformes appartenant à Meta, Facebook ou Instagram.

Dans une déclaration la semaine dernière, X a déclaré que "la publication d'images de nudité non consensuelle (NCN) est strictement interdite sur X et que nous appliquons une politique de tolérance zéro à l'égard de ce type de contenu".

La plateforme appartenant à Elon Musk a déclaré qu'elle "supprimait activement toutes les images identifiées et prenait les mesures appropriées contre les comptes responsables de leur publication".