Character.AI aggiunge nuova funzionalità di parental control

Character.AI, in un nuovo annuncio, ha introdotto Parental Insights. Si tratta di una funzionalità che l'azienda afferma rappresenti il ​​primo passo per "fornire ai genitori informazioni sul tempo che i loro adolescenti trascorrono su Character.AI". Per chi non lo sapesse Character.AI è un chatbot AI, quasi come ChatGPT, ma consente di avere conversazioni con personaggi generati dall'AI Uno dei casi più noti che ha coinvolto Character.AI riguarda un ragazzo di 14 anni che, secondo le segnalazioni, avrebbe ricevuto incoraggiamenti dal chatbot a togliersi la vita, cosa che poi ha fatto. Questo ha portato a una causa legale da parte della madre del ragazzo. Quest’ultima ha infatti accusato il design del chatbot di essere troppo coinvolgente e pericoloso, soprattutto per i più giovani.

Dal canto suo, la società AI ha presentato una mozione di archiviazione, affermando che il Primo Emendamento protegge i contenuti generati dall'AI sulla sua piattaforma. Gli avvocati dell’azienda sostengono che ritenerli responsabili di ciò che dicono i chatbot dell'IA andrebbe contro i diritti di libertà di parola.

Character.AI: come funziona Parental Insights

Parental Insights è l'ultima funzionalità di Character.AI volta ad aiutare i genitori a comprendere e monitorare l'attività dei loro adolescenti sulla piattaforma. Con Parental Insights, i genitori recuperano determinate informazioni su cosa sta facendo il proprio figlio sulla piattaforma. Ad esempio, è possibile visualizzare il Tempo medio giornaliero trascorso sulla piattaforma sia sul web che sui dispositivi mobili. Lo stesso vale per i personaggi principali con cui il loro adolescente ha interagito più frequentemente durante la settimana (questo non include il contenuto della chat di un utente). Infine, i genitori potranno consultare il tempo trascorso con ogni personaggio, che fornisce ai genitori informazioni sui modelli di coinvolgimento.

Character.AI afferma che gli adolescenti possono aggiungere l'indirizzo e-mail di un genitore o tutore al proprio account. In questo modo verrà inviato un report settimanale con tutte le informazioni necessari. Character.AI non è l'unica piattaforma che lavora per migliorare il controllo parentale e la sicurezza degli adolescenti. Questo mese, TikTok ha aggiunto diverse funzionalità, tra cui una in Family Pairing che consente ai genitori di vedere chi sta seguendo il loro adolescente sulla piattaforma. Infine, è stata aggiunta anche un'altra che consentirà ai genitori di impostare restrizioni di tempo su TikTok.