YouTube potrà presto rilevare deepfake di creator e celebrità

L'intelligenza artificiale è stata al centro dell'attenzione per tutto il 2024. Oltre a svariati vantaggi per gli utenti, questa tecnologia ha anche un “lato oscuro”. Le truffe legate all'intelligenza artificiale, i deepfake, sono infatti in continuo aumento. In particolare, i video deepfake delle celebrità sono diventati pericolosamente comuni. Il problema è che questi contenuti sono diventati più realistici e più difficili da distinguere dai contenuti autentici. Per tale motivo, YouTube sta collaborando con la Creative Artists Agency (CAA), in modo da aiutare i creator a identificare i contenuti utilizzando i deepfake AI sulla piattaforma e inviare richieste di rimozione. L'azienda testerà i nuovi strumenti con diverse celebrità all'inizio del prossimo anno. In seguito, verranno poi distribuiti ai "principali creator di YouTube, professionisti creativi e altri partner leader che rappresentano il talento".

YouTube: in arrivo nuova tecnologia per rilevare il canto sintetico

Lo scorso settembre, YouTube ha annunciato piani per rilasciare vari strumenti che aiuterebbero a gestire le rappresentazioni generate dall'AI dei creator e delle loro voci. Ora, l'azienda afferma di poter dare alle celebrità (e presto, ai creator) la possibilità di gestire copie AI della propria immagine (come, ad esempio, il volto) "su larga scala". L'anno scorso, CAA ha introdotto CAAVault. Si tratta di una tecnologia memorizza registrazioni digitali dettagliate dei volti, delle voci e delle sembianze dei suoi clienti. In questo modo è possibile creare un database che può essere sfruttato in seguito per rilevare l'uso non autorizzato di tali elementi.

Oltre a ciò, per proteggere gli utenti dall'uso improprio dell'AI nella musica, YouTube sta lavorando a una nuova "tecnologia di identificazione del canto sintetico". Tale funzionalità mira a identificare e rimuovere i contenuti generati dall'AI che replicano le voci cantate degli artisti, preoccupazione crescente per le etichette musicali. Infine, tra le altre novità, YouTube richiede adesso ai creator di etichettare i contenuti generati dall'AI nelle descrizioni dei video o nei metadati.