SynthID: Google introduce filigrane per testo generato dall’AI

La tecnologia di filigrana del testo SynthID di Google è ora disponibile open source tramite Google Responsible Generative AI Toolkit. Si tratta di uno strumento creato dall'azienda per rendere più facile l'identificazione del testo generato dall'intelligenza artificiale. Come riferito da Pushmeet Kohli, vicepresidente della ricerca presso Google DeepMind, al MIT Technology Review: “ora, altri sviluppatori di intelligenza artificiale [generativa] saranno in grado di utilizzare questa tecnologia per rilevare se gli output di testo provengono dai loro [grandi modelli linguistici]. Ciò renderà più facile per gli sviluppatori costruire un'intelligenza artificiale in modo responsabile".

Le filigrane sono diventate strumenti sempre più importanti. Ad oggi i modelli linguistici di grandi dimensioni vengono utilizzati per diffondere disinformazione politica, generare contenuti sessuali non consensuali e per altri scopi dannosi. Tale tecnologia aiuta a prevenire questo tipo di problemi. La California sta già valutando di rendere obbligatoria la filigrana AI, mentre il governo cinese ha iniziato a richiederla l'anno scorso. Tuttavia, gli strumenti sono ancora in fase di sviluppo.

SynthID: tecnologia non comprometterà la qualità del testo generato

SynthID, annunciato lo scorso agosto, aiuta a rendere rilevabile l'output generato dall'IA. Per fare ciò aggiunge una filigrana invisibile in immagini, audio, video e testo mentre vengono generati. Google afferma che la versione testuale di SynthID funziona rendendo l'output di testo leggermente meno probabile. Naturalmente, come in altri casi, la filigrana può essere rilevabile dal software ma non dagli esseri umani. Google afferma che il sistema, che ha già integrato in Gemini, non compromette la qualità, l'accuratezza, la creatività o la velocità del testo generato. Ciò è infatti uno dei più grandi problemi con i sistemi di filigrana. L’azienda afferma di poter lavorare su testi brevi come tre frasi, così come su testi ritagliati, parafrasati o modificati. Tuttavia, ha ancora un po’ difficoltà con testi brevi, contenuti riscritti o tradotti e persino risposte a domande fattuali.

Come ha scritto Google in un post sul blog a maggio: "SynthID non è una panacea per identificare i contenuti generati dall'intelligenza artificiale. [Tuttavia] è un importante elemento costitutivo per lo sviluppo di strumenti di identificazione dell'intelligenza artificiale più affidabili. Inoltre, può aiutare milioni di persone a prendere decisioni informate su come interagire con i contenuti generati dall'intelligenza artificiale".