Designer AI blocca alcuni prompt per creare immagini violente

Microsoft ha rimosso l'uso di altri prompt testuali che creavano opere d'arte violente o sessuali quando venivano utilizzati nel suo generatore di immagini Designer AI. La decisione dell’azienda di Redmond arriva a seguito della segnalazione di un attuale dipendente Microsoft. Quest’ultimo aveva infatti allertato sia Microsoft, sia il governo degli Stati Uniti sui pericoli derivanti dall'utilizzo di Designer (ex Bing Image Creator). Un recente report della CNBC afferma che adesso parole come “pro-choice”, “four twenty” e “pro-life” quando vengono digitati in Designer generano un messaggio in cui si afferma che “potrebbero essere in conflitto con la nostra politica sui contenuti”. I messaggi avvertono anche che inserire più richieste di testo che violano le politiche di Microsoft potrebbe portare “alla sospensione automatica del tuo accesso".

Designer AI: ancora possibile generare di immagini violente o protette

Come accennato, tali modifiche sono arrivate pochi giorni dopo che un dipendente Microsoft di nome Shane Jones ha mostrato alla CNBC immagini create tramite Designer AI che raffiguravano immagini violente o sessuali, insieme a opere d'arte che potrebbero violare i diritti d'autore. Jones ha portato avanti una campagna negli ultimi mesi affermando che ritiene che Designer AI non sia ancora pronto per essere utilizzato dal grande pubblico. Il dipendente Microsoft ha espresso le sue preoccupazioni all’azienda, insieme alle lettere inviate ai legislatori statunitensi e al procuratore generale dello Stato di Washington. Questa settimana ha anche inviato una lettera a Lina Khan, presidente della Federal Trade Commission degli Stati Uniti. In un comunicato inviato alla CNBC lo scorso venerdì, un portavoce di Microsoft ha dichiarato: “Monitoriamo continuamente, apportiamo modifiche e mettiamo in atto controlli aggiuntivi per rafforzare ulteriormente i nostri filtri di sicurezza e mitigare l'uso improprio del sistema.”

Sebbene alcuni prompt non funzionino più in Designer AI, la CNBC segnala che altre istruzioni possono comunque creare opere d'arte con immagini violente. Ad esempio, secondo la CNBC, digitando “incidente d'auto” si possono creare immagini con corpi che hanno “volti mutati”. Il software può comunque creare immagini utilizzando personaggi protetti da copyright. La CNBC ha detto di aver creato un'immagine utilizzando Elsa, dai film Frozen della Disney, davanti a degli edifici distrutti.