Safe Superintelligence: ex capo ricerca di OpenAI fonda società AI

Ilya Sutskever, cofondatore di OpenAI ed ex capo scienziato, sta avviando una nuova società di intelligenza artificiale focalizzata sulla sicurezza. Lo scorso mercoledì, in un post su X, Sutskever ha rivelato Safe Superintelligence Inc. (SSI). Si tratta di una startup con "un obiettivo e un prodotto:" creare un sistema di intelligenza artificiale sicuro e potente. L’annuncio descrive SSI come una startup che “si avvicina alla sicurezza e alle capacità in tandem”. Ciò consentirà all’azienda di far avanzare rapidamente il proprio sistema di intelligenza artificiale pur dando priorità alla sicurezza. Sutskever evidenzia anche la pressione esterna che i team AI di aziende come OpenAI, Google e Microsoft spesso affrontano, affermando che il “focus unico” dell’azienda consente di evitare “distrazioni da spese generali di gestione o cicli di prodotto”.

Come si legge nell’annuncio di Sutskever: “Il nostro modello di business implica che sicurezza, protezione e progresso siano tutti isolati dalle pressioni commerciali a breve termine. In questo modo possiamo crescere in tutta tranquillità”. Safe Superintelligence è stata co-fondata da Daniel Gross, ex responsabile dell’intelligenza artificiale presso Apple, e Daniel Levy, che in precedenza ha lavorato come membro dello staff tecnico di OpenAI.

Safe Superintelligence: il primo progetto sarà una superintelligenza sicura

L’anno scorso, Sutskever ha guidato la spinta per estromettere il CEO di OpenAI Sam Altman. Sutskever ha lasciato OpenAI a maggio e ha accennato all'inizio di un nuovo progetto. Poco dopo la partenza di Sutskever, il ricercatore di intelligenza artificiale Jan Leike ha annunciato le sue dimissioni da OpenAI, citando i processi di sicurezza che sono “passati in secondo piano rispetto ai prodotti brillanti”. Anche Gretchen Krueger, ricercatrice politica presso OpenAI, ha menzionato problemi di sicurezza quando ha annunciato la sua partenza. OpenAI porta avanti le partnership con Apple e Microsoft. Tuttavia, è molto probabile che Safe Superintelligence seguirà presto il loro esempio. Durante un’intervista con Bloomberg, Sutskever ha infine affermato che il primo prodotto di SSI sarà una superintelligenza sicura e che la società “non farà nient’altro” fino ad allora.