OpenAI: Iran ha cercato di influenzare elezioni USA con ChatGPT

OpenAI ha bannato un gruppo di account ChatGPT collegati a un'operazione iraniana che stava generando contenuti sulle elezioni presidenziali degli Stati Uniti. Come rivelato in un recente post sul blog dell’azienda, il gruppo han creato articoli e post sui social network generati dall'intelligenza artificiale. Tuttavia, l’operazione non sembra aver raggiunto un grande pubblico. Questa non è la prima volta che OpenAI banna account collegati ad attori affiliati allo stato che utilizzano ChatGPT in modo dannoso. A maggio l'azienda ha interrotto cinque campagne che utilizzavano ChatGPT per manipolare l'opinione pubblica. Questi episodi ricordano gli attori statali che utilizzano piattaforme di social network (come Facebook e Twitter) per tentare di influenzare i precedenti cicli elettorali. Ora gruppi simili stanno utilizzando l'intelligenza artificiale generativa per inondare i canali social di disinformazione. In questo caso, OpenAI sembra adottare un approccio "whack-a-mole", bannando gli account associati all’operazione man mano che emergono.

OpenAI: lo scopo di queste campagne è solo seminare dissenso

Per la sua indagine, OpenAI ha utilizzato di un report di Microsoft Threat Intelligence pubblicato la scorsa settimana. Microsoft aveva infatti identificato il gruppo (chiamato Storm-2035), affermando che faceva parte di un gruppo più ampio. Quest’ultimo aveva già avviato una campagna nel 2020 per influenzare le passate elezioni USA. Microsoft ha affermato che Storm-2035 è una rete iraniana con più siti che imitano i notiziari e "coinvolgono attivamente gruppi di elettori statunitensi su fronti opposti dello spettro politico con messaggi polarizzanti su questioni come i candidati alla presidenza degli Stati Uniti, i diritti LGBTQ e il conflitto Israele-Hamas". Lo scopo, come si è dimostrato in altre operazioni, non è necessariamente quello di promuovere una politica o un'altra, ma di seminare dissenso e conflitto. OpenAI ha identificato cinque siti web per Storm-2035, che si presentano come notiziari sia progressisti che conservatori con nomi dominio convincenti come "evenpolitics.com".

Il gruppo ha utilizzato ChatGPT per redigere diversi articoli lunghi, tra cui uno che afferma che "X censura i tweet di Trump". Naturalmente Ciò non è mai accaduto. Sui social media, OpenAI ha identificato una dozzina di account X e un account Instagram controllati da questo gruppo. L'azienda afferma che ChatGPT è stato utilizzato per riscrivere vari commenti politici, che sono stati poi pubblicati su queste piattaforme. OpenAI afferma di non aver visto prove che gli articoli di Storm-2035 siano stati ampiamente condivisi. Inoltre, ha notato che la maggior parte dei suoi post sui social media ha ricevuto pochi o nessun "Mi piace", condivisione o commento. Questo è spesso il caso di queste operazioni, che sono rapide ed economiche da avviare utilizzando strumenti di intelligenza artificiale come ChatGPT. Prima delle elezioni di novembre è comunque possibile che questo tipo di campagne si intensifichino sempre di più.