SynthID: il watermark di Google per riconoscere le immagini in AI

Distinguere un lavoro fatto dall’intelligenza artificiale è diventato sempre più difficile, sia che si tratti di testi sia che si tratti di immagini. Il rischio di trovarsi di fronte a fake news o deepfake è infatti sempre dietro l’angolo. Per evitare problemi di questo genere, Google ha deciso di correre ai ripari creando un watermark invisibile capace di riconoscere le immagini create dall’AI. Questo strumento, chiamato SynthID, è stato realizzato da Google DeepMind, la divisione dell’azienda che si occupa di intelligenza artificiale, in collaborazione con Google Cloud. Nonostante sia ancora in fase beta, SynthID sembra essere uno strumento promettente, che potrebbe presto essere applicato a tutti i modelli di AI.

SynthID di Google DeepMind: riconoscere le immagini AI in pochi istanti

Come accennato in precedenza, al momento SynthID non è accessibile a tutti. Questo tool è al momento dedicato soltanto ad alcuni utenti di Vertex AI che utilizzano Imagen, il modello AI di Google che permette di generare immagini a partire da testo. Come riportato sul blog ufficiale Google, il watermark realizzato da DeepMind non è visibile ad occhio nudo. Inoltre, il tool è capace di individuare facilmente le immagini AI, anche se sono state modificate con filtri, colori o sono state effettuate compressioni, come il salvataggio in JPEG.

In questa fase l’azienda di Mountain View ha mostrato il doppio lavoro di SynthID. Da un lato riesce ad aggiungere una filigrana invisibile alle immagini che vengono create con Imagen. Dall’altro lato, è in grado di scansionare la filigrana e valutare la probabilità che un’immagine sia stata realizzata con il software AI di Google.

Naturalmente, SynthID non si limita soltanto alla scansione della filigrana per il riconoscimento delle immagini create dall’intelligenza artificiale. Il tool di Google analizza anche i metadati, che possono rivelare informazioni preziose sull’autore dell’immagine e sulla data di creazione. Se questi sono intatti, è probabile che l’immagine sia autentica.

Se invece sono stati alterati o rimossi, l’immagine è stata molto probabilmente modificata. Il watermark di Google viene incorporato nei pixel dell’immagine. Ciò lo rende quindi compatibile con la scansione dei metadati e altri metodi di analisi. Al momento non è chiaro se SynthID sarà solo prerogativa di Google o sarà utilizzato anche per l’analisi di immagini creati con strumenti terzi. Di certo è un grande passo avanti per la lotta ai deepfake e, probabilmente, alla controinformazione.