OpenAI: bando per trovare esperti e rafforzare i suoi modelli AI

OpenAI è sempre al lavoro per migliorare e rendere più robusti i suoi sistemi di intelligenza artificiale. Proprio per questo l’azienda creatrice di ChatGPT ha lanciato un nuovo bando per OpenAI Red Teaming Network, dedicato agli esperti del settore che desiderano collaborare per perfezionare i modelli AI della società. Il Red Teaming è fondamentale nello sviluppo dei modelli di intelligenza artificiale, soprattutto se si considera che le tecnologie AI, come quella generativa, sono ormai diventate mainstream. Questo processo può quindi individuare i bias presenti nei modelli (per correggerli o no), come quello scoperto in DALL-E 2, che amplificava gli stereotipi legati a razza e sesso e prompt che possono causare modelli di generazione di testo per ignorare i filtri di sicurezza, inclusi modelli come ChatGPT e GPT-4.

OpenAI: collaborare con esperti per migliorare l’AI

Non è la prima volta che l’azienda fondata da Sam Altman lavora con collaboratori esterni per testare e verificare i suoi modelli di AI (ne sono la prova il Researcher Access Program e il Bug Bounty Program). Con il Red Teaming Network, OpenAI vuole formalizzare però questi sforzi, attivando una collaborazione con esperti del settore, istituti di ricerca e organizzazione della società civile. Come rivelato dall’azienda in un post sul suo blog ufficiale: “i membri del network saranno chiamati in base alla loro esperienza, per aiutare il Red Teaming nelle varie fasi del ciclo di vita dello sviluppo del modello e del prodotto. Non tutti i membri saranno coinvolti in ogni nuovo modello o prodotto e il contributo in termini di tempo sarà determinato con ogni singolo membro, che potrebbe essere di sole 5-10 ore in un anno”.

OpenAI è alla ricerca di esperti provenienti da diversi ambiti: scienze cognitive, chimica, fisica, economica, sociologia, sanità, sicurezza, legge, lingue, biometria, politica, informatica, privacy ecc. Non è richiesta alcun tipo di esperienza pregressa con sistemi di intelligenza artificiale o modelli di linguaggio. Se si desidera inviare la propria candidatura per entrare a far parte del Red Teaming Network è sufficiente compilare l’apposito modulo sul sito di OpenAI.