X blocca la ricerca per "Taylor Swift" dopo i deepfake AI

All'inizio della scorsa settimana, sul social network X sono state diffuse un gran numero di immagini deepfake dell'artista pop Taylor Swift, realizzate dall'intelligenza artificiale. Tali immagini erano per lo più di natura esplicita e hanno alimentato ulteriormente la paura di un uso improprio dell'intelligenza artificiale. Di conseguenza, dallo scorso sabato, il social network di proprietà di Elon Musk ha preso la decisione di bloccare per il momento qualsiasi ricerca relativa a “Taylor Swift”. Il Wall Street Journal ha avuto conferma di tale decisione dal capo delle operazioni commerciali di X, Joe Benarroch. Come riportato dal WSJ: “Si tratta di un’azione temporanea e viene eseguita con molta cautela poiché diamo priorità alla sicurezza su questo tema”. Per proteggere, l’artista, i fan hanno anche inondato X di immagini reali di Taylor Swift e denunciato gli account che diffondevano i deepfake.

X: deepfake di Taylor Swift create con Microsoft Designer

Il sito 404Media sostiene che le foto deepfake di Taylor Swift diffuse su X sono state create in parte da un gruppo che utilizzava Microsoft Designer, un generatore di immagini basato sull'intelligenza artificiale. Microsoft ha rivelato a NBC News che la sua stessa indagine sulla situazione “non è stata in grado di riprodurre le immagini esplicite in questi rapporti”. Tuttavia, ha aggiunto: “Per estrema cautela, abbiamo adottato misure per rafforzare le nostre richieste di filtraggio del testo e affrontare l'uso improprio dei nostri servizi”.

Recenti report hanno svelato che Swift sta prendendo in considerazione un'azione legale contro i siti che ospitano le immagini. Il CEO di Microsoft Satya Nadella ha definito i deepfake “allarmanti e terribili” in un’intervista con NBC Nightly News venerdì. Inoltre, ha affermato di ritenere che le aziende di intelligenza artificiale debbano “muoversi velocemente” per mettere in atto metodi di sicurezza migliori. Ad oggi non è chiaro quando X riattiverà la ricerca per “Taylor Swift” sul proprio social, ma ciò potrebbe già avvenire nei prossimi giorni.