OpenAI ha annunciato nelle scorse il lancio del programma Bug Bounty Program. I ricercatori di sicurezza che decidono di partecipare a esso possono ricevere ricchi premi in denaro nel caso in cui scoprano vulnerabilità in Chat-GPT. A seconda della gravità dei bug e dell’impatto dei problemi segnalati, il corrispettivo previsto varia dai 200 dollari ai 20.000 dollari.
OpenAI: annunciato il Bug Bounty Program
Tra i problemi che non rientrano nel programma vi sono jailbreak e bypass di sicurezza che gli utenti di ChatGPT hanno sfruttato per indurre il chatbot di ChatGPT a ignorare le misure di sicurezza implementate dagli ingegneri di OpenAI.
Riportiamo di seguito, in forma tradotta, quanto dichiarato da OpenAI in merito al nuovo programma per l’individuazione dei bug.
I problemi di sicurezza di GPT non si adattano bene all’interno di un programma di bug bounty, in quanto non sono bug individuali e discreti che possono essere risolti direttamente. Affrontare questi problemi spesso richiede ricerche sostanziali e un approccio più ampio. Per garantire che queste preoccupazioni vengano affrontate correttamente, si prega di segnalarle utilizzando il modulo appropriato, anziché inviarle tramite il programma bug bounty. Segnalarle nel posto giusto consente ai nostri ricercatori di utilizzare queste segnalazioni per migliorare il modello.
Da tenere presente che il programma in questione pone come obiettivo quello di riconoscere e premiare le preziose intuizioni dei ricercatori di sicurezza, i quali, con il loro lavoro, riescono a preservare le tecnologie dell’azienda e renderle più sicure per tutti.
Ad ogni modo, OpenAI non è l’unica azienda che propone un programma del genere. Molte realtà appartenenti all’ambito tech, infatti, propongono programmi di questo tipo, come ad esempio Apple e Google.