OpenAI ha sciolto il team di sicurezza per rischi i dell'AI

OpenAI avrebbe chiuso il suo team di superallineamento, creato a fine dicembre 2023. Tale gruppo aveva il compito di trovare un modo per mantenere il controllo umano sull’intelligenza artificiale, per evitare che diventi più intelligente dell’uomo. Alcuni dei membri del team che stavano lavorando a questo progetto sono stati spostati in diversi altri team in tutta l'azienda. La notizia arriva dopo che Ilya Sutskever e Jan Leike, membri senior dell’azienda, hanno lasciato OpenAI. Leike ha annunciato le sue dimissioni su X (ex Twitter) e ha affermato che la cultura della sicurezza in azienda è passata in secondo piano. Inoltre, ha dichiarato che per il team è diventato sempre più difficile ottenere le risorse informatiche per svolgere il proprio lavoro.

OpenAI: Sam Altaman darà presto spiegazioni sullo scioglimento del team

Dopo le dimissioni di Leike, il CEO di OpenAI, Sam Altman, ha affermato che Leike ha ragione riguardo alla sicurezza e che OpenAI si impegna a garantire la sicurezza in futuro. Altman ha detto che rilascerà maggiori dettagli in futuro. OpenAI è un'azienda piuttosto opaca quando si tratta di condividere i progressi dello sviluppo. Non è del tutto chiaro quanto si è ancora lontani da questa IA super intelligente. Probabilmente, l’azienda pensa che non ci sia ancora un vero e proprio problema di questo tipo al momento. Tuttavia, per saperne di più sulle reali motivazioni che hanno spinto allo scioglimento del team di superallineamento bisognerà attendere la spiegazione di Altman.

L’ultima settimana è stata molto impegnativa per l’azienda. In primis, è stato annunciato al mondo il suo ultimo modello, GPT-4o. Inoltre, sono state anche mostrate le nuove capacità visive e vocali dell'AI, che ora sono native di GPT. Grazie a tale funzionalità, il modello di cambiare il suo tono di voce (su richiesta dell’utente) e può interagire con l’ambiente circostante usando il microfono e la fotocamera dello smartphone.