Gmail: l'introduzione di Gemini (AI) potrebbe essere un rischio

Google sta implementando importanti cambiamenti per gli utenti di Gmail, integrando nuove funzionalità di intelligenza artificiale attraverso il suo strumento Gemini, già parte dei piani Workspace Business, Enterprise e Frontline.

Questo aggiornamento promette di migliorare la produttività con l’aiuto di un assistente AI, capace di fornire risposte intelligenti e personalizzate in base al contesto delle email. Tuttavia, nonostante i vantaggi, emergono preoccupazioni significative per la sicurezza degli utenti.

Le nuove funzionalità AI, tra cui risposte contestuali più avanzate, rappresentano un passo avanti per Gmail, ma sollevano problemi in termini di privacy. Per elaborare le risposte, infatti, l’intelligenza artificiale deve accedere a interi thread di conversazioni, il che può comportare rischi se non vengono adottate adeguate misure di sicurezza, soprattutto considerando la possibilità di elaborazione cloud.

L'AI può essere sfruttata per creare attacchi con l'utente non consapevole

Uno dei pericoli più seri segnalati in un recente rapporto riguarda la vulnerabilità dell'AI di Google agli "attacchi di iniezione di prompt indiretti". Questi attacchi permettono a malintenzionati di creare email apparentemente innocue che, invece di trarre in inganno un essere umano, manipolano l’assistente AI per agire o rispondere in modo dannoso. In pratica, l'AI può essere sfruttata per creare attacchi senza che l'utente se ne accorga.

IBM ha descritto come l’intelligenza artificiale, in particolare i modelli linguistici avanzati come quelli utilizzati da Gemini, possano essere manipolati attraverso questi attacchi, proprio perché non distinguono tra istruzioni legittime e input malevoli. Nonostante Google abbia dichiarato di essere a conoscenza di tali rischi e di lavorare attivamente per rafforzare la sicurezza, rimane preoccupante che il problema non sia stato risolto completamente, come dimostra la scelta di non considerarlo un difetto critico.

Questa problematica non riguarda solo Gmail, ma si estende a tutte le applicazioni che utilizzano AI. L’intelligenza artificiale è ormai parte integrante di molti strumenti di produttività, e con essa crescono anche le opportunità per i cybercriminali di sfruttare queste nuove tecnologie per attacchi sofisticati.