GPT-4o: scheda di sistema descrive misure di sicurezza e rischi

A maggio OpenAI ha annunciato GPT-4o, il suo modello multimodale più avanzato, più veloce ed economico di GPT-4 Turbo, con capacità di visione più potenti. Nelle scorse ore, OpenAI ha condiviso la System Card per tale modello. Insieme alla System Card, OpenAI ha anche rilasciato la scorecard Preparedness Framework per fornire una valutazione di sicurezza end-to-end di GPT-4o. Inoltre, ha condiviso dettagli sulle capacità, le limitazioni e le valutazioni di sicurezza del modello in più categorie. Oltre alle valutazioni di sicurezza e alle mitigazioni condotte per GPT-4 e GPT-4V, OpenAI si è concentrata sulle capacità audio di GPT-4o. I rischi valutati includono l'identificazione dell'oratore, la generazione di voce non autorizzata, la potenziale generazione di contenuti protetti da copyright, l'inferenza non fondata e i contenuti non consentiti. Sulla base dei risultati di queste valutazioni, OpenAI ha implementato misure di sicurezza sia a livello di modello sia di sistema.

GPT-4o: punteggio basso su quai tutte le categorie

GPT-4o ha ottenuto un punteggio basso in tre delle quattro categorie del Preparedness Framework, con un punteggio medio solo nella persuasione. Secondo il Framework di Preparazione di OpenAI, possono essere distribuiti solo i modelli con un punteggio "medio" o inferiore, e solo i modelli con un punteggio "alto" o inferiore possono essere sviluppati ulteriormente. OpenAI ha inoltre collaborato con oltre 100 membri esterni del red team per valutare il modello prima di rilasciarlo al pubblico.

Il team di OpenAI ha scritto quanto segue in merito alla System Card di GPT-4o: "OpenAI ha implementato varie misure di sicurezza e mitigazioni durante tutto il processo di sviluppo e distribuzione di GPT-4o. Come parte del nostro processo di distribuzione iterativo, continueremo a monitorare e aggiornare le mitigazioni in base al panorama in evoluzione". Il rilascio della System Card da parte di OpenAI per i suoi modelli dimostra il suo impegno per uno sviluppo di IA responsabile. Ciò garantirà l'uso sicuro e accessibile dell'IA per tutti. Per ulteriori informazioni, è possibile scaricare la versione PDF della System Card di GPT-4o dal sito ufficiale di OpenAI.