OpenAI: nuova AI pericolosa potrebbe minacciare l’umanità

OpenAI ha appena superato la prima vera crisi del gruppo, con la cacciata e la repentina reintegrazione di Sam Altman come suo CEO. Tuttavia, secondo un nuovo report, prima che venisse licenziato Altman, diversi ricercatori avevano scritto una lettera al Consiglio di amministrazione per avvertire i membri della scoperta di un’intelligenza artificiale che potrebbe minacciare l'umanità. Ciò è quanto riportato da Reuters, citando fonti anonime. L’agenzia di stampa ammette di non aver effettivamente letto la lettera segnalata e di non essere riuscita ad ottenere risposta dai membri dello staff firmatari. Anche OpenAI non ha commentato. Tuttavia, Reuters afferma, sempre tramite fonti anonime, che una nota scritta dal responsabile tecnologico dell'azienda Mira Murati menziona un progetto chiamato Q* (pronunciato Q-Star) che potrebbe essere la svolta dell'intelligenza artificiale menzionata in quella lettera.

OpenAI: che cos’è il progetto Q* e perché è considerato pericoloso?

Del progetto Q* di OpenAI si sa ancora ben poco. Si tratterebbe di un modello di intelligenza artificiale in grado di risolvere realmente problemi matematici. Attualmente, la sua capacità dovrebbe essere pari a quella di uno studente delle scuole elementari, ma si prevede che questa capacità migliori rapidamente nel corso del tempo. Tuttavia, secondo fonti interne all’azienda, questa potrebbe essere una svolta nella ricerca di OpenAI per quella che è conosciuta come intelligenza generale artificiale (AGI). OpenAI definisce l’AGI come sistemi autonomi che superano gli esseri umani nei compiti economicamente più preziosi. Come ricorda ancora Reuters (citando sempre fonti anonime): “Date le vaste risorse informatiche, il nuovo modello è stato in grado di risolvere alcuni problemi matematici. Sebbene eseguissero calcoli solo al livello degli studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*”.

L’arrivo di questa lettera al Consiglio di amministrazione ha a che fare con il licenziamento di Altman? Il CEO di OpenAI è stato cacciato per non aver informato il consiglio del progetto Q*? Bisogna davvero preoccuparsi dello sviluppo dell’AGI oppure no? OpenAI non ha confermato l’esistenza della lettera. Inoltre non è chiaro se il Consiglio si riferisse a questa quando parlava di mancanza di sincerità da parte di Sam Altman. Tuttavia, ad oggi si tratta solo di indiscrezioni, e come tali vanno prese sempre con le pinse.