Google lancia nuovi modelli AI “aperti” incentrati sulla sicurezza

Google ha rilasciato tre nuovi modelli di intelligenza artificiale generativa "aperti" che definisce "più sicuri", "più piccoli" e "più trasparenti" della maggior parte dei competitor. Questi si aggiungono alla famiglia di modelli generativi Gemma 2, che ha debuttato a maggio. I nuovi modelli, Gemma 2 2B, ShieldGemma e Gemma Scope, sono progettati per applicazioni e casi d'uso leggermente diversi, ma condividono la tendenza alla sicurezza. La serie di modelli Gemma di Google è diversa dai suoi modelli Gemini in quanto Google non rende disponibile il codice sorgente per Gemini. Quest’ultimo è infatti utilizzato nei prodotti Google e anche dagli sviluppatori. Al contrario, Gemma promuove la buona volontà di Google all'interno della comunità degli sviluppatori, proprio come Meta sta tentando di fare con Llama.

Google: i dettagli dei nuovi modelli AI

Gemma 2 2B è un modello leggero per generare testo di analisi che può essere eseguito su una gamma di hardware, inclusi laptop e dispositivi edge. È concesso in licenza per determinate applicazioni di ricerca e commerciali. Inoltre, può essere scaricato da fonti come la libreria di modelli Vertex AI di Google, la piattaforma di data science Kaggle e il toolkit AI Studio di Big G. Per quanto riguarda ShieldGemma, si tratta di una raccolta di "classificatori di sicurezza" che tentano di rilevare tossicità come incitamento all'odio, molestie e contenuti sessualmente espliciti. Costruito su Gemma 2, ShieldGemma può essere utilizzato per filtrare i prompt in un modello generativo e i contenuti generati dal modello.

Infine, Gemma Scope consente agli sviluppatori di "ingrandire" punti specifici all'interno di un modello Gemma 2 e di rendere i suoi meccanismi interni più interpretabili. Come riportato dall’azienda di Mountain View in un post del blog: "[Gemma Scope è costituito da] reti neurali specializzate che ci aiutano a scomporre le informazioni dense e complesse elaborate da Gemma 2, espandendole in una forma più facile da analizzare e comprendere. Studiando queste viste espanse, i ricercatori possono ottenere preziose informazioni su come Gemma 2 identifica modelli, elabora informazioni e, in definitiva, fa previsioni".

Il rilascio dei nuovi modelli Gemma 2 arriva dopo l’approvazione dei modelli AI aperti, in un report preliminare, da parte del Commerce Department USA. Come riportato nel documento, i modelli aperti ampliano la disponibilità dell'IA generativa per le aziende più piccole, i ricercatori, le organizzazioni non profit e gli sviluppatori individuali. Inoltre, è stata evidenziata anche la necessità di monitorare tali modelli per evitare potenziali rischi.