YouTube rimuoverà i deepfake AI di vittime di crimini reali

YouTube sta aggiornando le sue politiche sul cyberbullismo e sulle molestie. Per questo motivo, la piattaforma ha deciso che non consentirà più la pubblicazione di contenuti deepfake che “simulano realisticamente” minori e altre vittime di crimini che raccontano la loro morte o la violenza che hanno subito. L'aggiornamento è rivolto a chi, utilizzando l’intelligenza artificiale, crea contenuti con inquietanti deepfake con vittime reali (bambini compresi) che narrano la propria storia. Alcuni video utilizzano addirittura voci infantili (sempre generate dall'intelligenza artificiale) per descrivere violenze raccapriccianti avvenute in casi di alto rilievo.

YouTube: dagli avvertimenti alla rimozione del canale in caso di violazione dei termini

L’emergere di questo genere di contenuti ha sollevato serie preoccupazioni etiche, in particolare tra le famiglie delle vittime ritratte in tali video. Queste rappresentazioni basate sull’intelligenza artificiale, che simulano realisticamente le voci di minori e altre vittime, sono state descritte come “disgustose” dalle persone colpite. L'aggiornamento delle norme di YouTube mira quindi ad affrontare queste preoccupazioni rimuovendo tali contenuti dalla piattaforma e imponendo sanzioni ai creatori che violano le nuove regole. I nuovi termini comporteranno in primis un avvertimento, seguito dalla rimozione dei contenuti incriminati dal canale. Inoltre, è anche prevista la limitazione temporanea di ciò che un utente può fare sulla piattaforma. Un primo avvertimento, ad esempio, impedisce agli utenti di caricare video per una settimana. Se la policy viene violata nuovamente nei 90 giorni successivi, le sanzioni aumentano, con l'eventuale possibilità di rimuovere l'intero canale.

La decisione di YouTube di aggiornare le proprie politiche sul cyberbullismo e sulle molestie riflette la crescente necessità di regolamentare i contenuti generati dall’AI, soprattutto quando riguardano argomenti sensibili come le vittime di crimini. Assumendo una posizione ferma contro tali contenuti inquietanti, YouTube ha deciso di dare priorità alla sicurezza e alla dignità delle persone, in particolare dei minori, il tutto affrontando le sfide etiche poste dalle tecnologie avanzate di intelligenza artificiale nella creazione di contenuti.