Il programma OpenAI bug bounty cambia passo: OpenAI ha annunciato il 2 novembre l’aumento dei premi del suo Security Bug Bounty, il programma che ricompensa i ricercatori indipendenti che segnalano in modo responsabile vulnerabilità nei suoi software. Lo stesso giorno l’azienda ha comunicato che il suo prossimo sprint interno di sicurezza sarà condotto insieme a Cathedral (Cathedral Systems), i cui ricercatori useranno i modelli di OpenAI per mettere alla prova le difese dell’azienda.
OpenAI bug bounty, come cambiano i premi
Secondo OpenAI, il punto medio delle fasce di ricompensa per le vulnerabilità di gravità media, alta e critica viene più che quadruplicato, in media. Una vulnerabilità critica in un prodotto principale come ChatGPT, Codex o l’API Platform potrà ora valere fino a 30.000 dollari. Le scoperte critiche considerate eccezionali su questi stessi obiettivi restano premiabili fino a 100.000 dollari, cifra che con i bonus può arrivare fino a 172.000 dollari. L’azienda spiega che l’obiettivo è incoraggiare i ricercatori a cercare le falle sfuggite ai propri test, a complemento del lavoro interno in cui gli ingegneri usano i modelli per trovare debolezze, riprodurle e verificare le correzioni.
Bonus per qualità, fedeltà e campagne prioritarie
Accanto alle nuove fasce arrivano tre meccanismi di incentivo:
- moltiplicatore per la qualità: i report di alta qualità, con una proof of concept affidabile che isola il bug, mostra quando è sfruttabile e ne dimostra l’impatto, possono ottenere un bonus sul premio base;
- programma fedeltà a cinque livelli: bonus crescenti per i ricercatori che collaborano con continuità;
- campagne prioritarie: iniziative di breve durata con fondi bonus dedicati alle funzionalità appena lanciate.
Negli esempi pubblicati da OpenAI, definiti illustrativi, un account takeover con un solo clic su ChatGPT, premiato in passato con 6.500 dollari, con il nuovo calcolo e tutti i bonus arriverebbe a 51.577 dollari. Le modifiche sono anche retroattive: alle segnalazioni già inviate ma non ancora premiate si applicano le nuove fasce, mentre per le ricompense assegnate nei 30 giorni precedenti l’annuncio l’azienda pagherà la differenza se la scoperta avrebbe ottenuto di più con le nuove regole. Il 20 e 21 novembre il team di sicurezza di OpenAI sarà inoltre a PROMPT2PWN, a Oakland, dove i ricercatori potranno testare gli obiettivi di persona.
Il nuovo sprint di sicurezza con Cathedral
Nel secondo annuncio OpenAI spiega di preparare un nuovo sprint interno che riunirà nuovi ricercatori e partner di sicurezza con i propri team, usando i modelli dell’azienda per testare e rafforzare i sistemi. I ricercatori di Cathedral useranno i modelli di OpenAI insieme ai team interni per sfidarne le difese. «OpenAI sta dando un esempio importante collaborando con società di sicurezza esterne e usando i propri modelli per testare e rafforzare continuamente le proprie difese», ha dichiarato Gavin Kliger, CEO e cofondatore di Cathedral. È la stessa società che, come avevamo raccontato, ha condotto un test in cui i suoi agenti AI sono entrati nei sistemi interni di Anthropic in 12 ore. OpenAI non ha indicato tempi né perimetro del nuovo sprint.
Nel precedente sprint l’azienda aveva dedicato il 25% dei propri ingegneri di prodotto a trovare e correggere debolezze nei sistemi: con Codex gli ingegneri hanno analizzato le segnalazioni, riprodotto le vulnerabilità in ambienti isolati e preparato le patch da sottoporre a revisione. OpenAI sostiene che le difese tradizionali da sole non bastano più e ricorda di aver stanziato 1 miliardo di dollari in accesso agevolato per sei mesi ai propri modelli, tramite Daybreak, per i difensori che proteggono servizi essenziali e infrastrutture digitali.
Cosa significa per ricercatori e aziende
L’aumento dei premi segue una tendenza già vista in altri programmi, come quando Apple ha raddoppiato i premi per i ricercatori di sicurezza. Alcune indicazioni pratiche:
- per i ricercatori, consultare il regolamento completo del programma prima di iniziare i test e restare entro il perimetro indicato, senza accedere a dati di altri utenti oltre quanto necessario a dimostrare il problema;
- curare la qualità del report: una proof of concept riproducibile che isoli il bug e ne mostri l’impatto è ora esplicitamente premiata;
- chi ha una segnalazione aperta o premiata di recente può verificare se rientra nelle regole retroattive;
- per le aziende, l’approccio descritto da OpenAI, cioè cicli continui di test con modelli AI affiancati a ricercatori esterni e bug bounty, è uno spunto per rivedere i propri processi di gestione delle vulnerabilità, valutando con cautela rischi e controlli prima di affidare attività di test a strumenti automatizzati.
Fonti: OpenAI, OpenAI, India Today.
