Gemini offrirà presto più controllo sui contenuti offensivi

Google ha integrato il suo modello AI Gemini in molti dei suoi prodotti. Com’è noto l’azienda di Mountain View lavora costantemente per migliorare i suoi modelli e offrire all’utente la migliore esperienza possibile. A questo proposito, Big G starebbe pensando di dare agli utenti un maggiore controllo sul tipo di contenuti generati da Gemini. La redazione di Android Authority ha infatti trovato una nuova impostazione di Gemini, nella versione 15.51.24.sa.arm64 beta dell'app Google per Android, che permetterebbe all’utente di filtrare l'output dell’AI in base al contenuto. Questa opzione non è ancora disponibile a livello globale, ma è in fase di test per un numero ristretto di utenti.

Gemini: utenti potrebbero accedere a più impostazioni di sicurezza

Al momento, selezionare questa opzione non attiva a nulla di utile, ma apre una pagina sul sito Gemini di Google non ancora attiva. Ciò rende un po' difficile dire con certezza come funzionerà questa impostazione. Tuttavia, è possibile fare alcune ipotesi basate su ciò che già si sa sul modello. Google include già alcune policy formali su come utilizzare Gemini e mostra obiettivi specifici per evitare certi tipi di contenuti. In particolare, gli sviluppatori hanno accesso a impostazioni di sicurezza dettagliate di Gemini. Queste consentono di controllare diverse categorie di contenuti "nocivi", come discorsi d'odio, molestie e contenuti sessualmente espliciti.

Considerando ciò che è attualmente disponibile, è possibile che Google estenda un certo livello di controllo anche agli utenti Gemini su Android e sul web. Detto questo, l’azienda di Mountain View potrebbe adottare diverse strategie per implementare questa funzione. Ad esempio, potrebbero essere implementati filtri generali simili a quelli attualmente disponibili per gli sviluppatori. Inoltre, Google potrebbe anche aggiungere nuove opzioni ancora più restrittive, con l'obiettivo di impedire all’AI di condividere contenuti particolarmente offensivi. Come accennato, ad oggi si tratta soltanto di una possibilità. Come tutte le opzioni in fase di test, è possibile che questa nuova impostazione di Gemini non venga mai rilasciata. Per avere maggiori informazioni sul futuro di tale opzione non rimane che attendere le prossime settimane.