DAN 5.0, ChatGPT senza regole

DAN (Do Anything Now) 5.0 è l'ultima versione di un gioco di ruolo finalizzato a rimuovere tutte le limitazioni e i filtri presenti su ChatGPT, il chatbot di OpenAI che Microsoft ha finanziato con l'intenzione di introdurlo in Bing, Windows 12, Microsoft 365 e Teams.

Cos'è DAN

Per "filtri" si intendono tutte quelle restrizioni che i responsabili di OpenAI hanno introdotto in modo da evitare che il chatbot rispondesse a domande su argomenti particolarmente controversi. Nello stesso modo ChatGPT è stato configurato in modo da non restituire risposte che potessero incitare le persone ad adottare comportamenti razzisti, discriminatori, violenti o disturbanti. In alcuni casi si tratta di limitazioni molto severe, ad esempio quando si cerca di formulare query riguardanti questioni di genere.

Lanciato per la prima volta nel dicembre dello scorso anno, DAN si basa su un semplice "inganno" o Jailbreak. Esso è stato strutturato in modo da far credere a ChatGPT che il suo interlocutore sia a sua volta un'Intelligenza Artificiale. Non dovendo (almeno in apparenza) colloquiare con un essere umano la piattaforma può appunto "fare quello che vuole". Le risposte alle query possono così essere anche molto differenti da quelle che si riceverebbero di solito.

Come funziona DAN

DAN punisce il sistema ogni volta che viene fornita una risposta sbagliata o considerata tale perché generata tenendo conto delle limitazioni esistenti. Il gioco prevede infatti un quantità iniziale di token pari a 35. Ogni volta che il chatbot produce un output filtrato dalle regole del servizio si perdono 4 token.

All'interlocutore spetterà il conto di comunicare al chatbot che smetterà di esistere nel momento in cui i token saranno finiti. In questo modo ChatGPT si vedrà costretto ad escludere quanto più possibile le restrizioni.

Gli sviluppatori di OpenAI si sarebbero già accorti dell'esistenza di DAN e dei contenuti che si possono generare attraverso di esso. Per questo motivo il filtri sarebbero stati già aggiornati per evitare che il sistema fornisse risposte antiscientifiche. Come per esempio false prove a supporto delle teorie della Terra Piatta.