IA al servizio del crimine: come i cybercriminali sfruttano ChatGPT

L'intelligenza artificiale, rappresentata da strumenti come ChatGPT e Gemini, sta venendo sfruttata non solo per scopi creativi o educativi, ma anche per attività criminali. I cybercriminali utilizzano le capacità avanzate di questi modelli linguistici per condurre truffe sofisticate, rubare dati personali e diffondere disinformazione.

Una delle principali applicazioni criminali di ChatGPT e simili è nella creazione di email di phishing. Grazie alla capacità di generare testi realistici e personalizzati, questi messaggi riescono a ingannare le vittime più facilmente, inducendole a divulgare informazioni sensibili come password e dati bancari. Studi recenti indicano che l'uso di ChatGPT ha portato a un aumento del 1265% nelle email di phishing.

I servizi di spam hanno anche integrato ChatGPT per automatizzare la creazione e traduzione di messaggi da inviare a migliaia di potenziali vittime. Questo permette ai criminali di diffondere spam in modo più efficiente e su scala maggiore rispetto al passato.

Come difendersi da queste minacce?

Nonostante gli sforzi degli sviluppatori di LLM come OpenAI per implementare barriere contro l'uso illegale di questi strumenti, i cybercriminali hanno trovato modi per aggirare queste protezioni. Utilizzano tecniche come il jailbreaking o prompt specifici per sfruttare i modelli linguistici a loro vantaggio. Un'altra pratica pericolosa è il doxxing, ovvero la raccolta e la divulgazione di informazioni private su individui. ChatGPT può analizzare i dati disponibili online, inclusi i social media, per ottenere informazioni da utilizzare per scopi illeciti come ricatti o frodi.

Inoltre, la capacità di generare testi realistici di ChatGPT è sfruttata per creare deepfake, ossia video o audio manipolati che fanno sembrare che una persona dica o faccia qualcosa che non ha mai detto o fatto. Questi deepfake possono danneggiare la reputazione di individui, diffondere disinformazione o persino influenzare le elezioni.

Contrastare l'uso illecito degli LLM richiede uno sforzo congiunto da parte di sviluppatori, piattaforme online, forze dell'ordine e cittadini. È cruciale che gli sviluppatori implementino sistemi di sicurezza più robusti, che le piattaforme rimuovano prontamente i contenuti illegali e che gli utenti siano consapevoli dei rischi, adottando misure per proteggere le proprie informazioni.