OpenAI lancia il Bug Bounty Program: premi a chi segnalerà vulnerabilità nei sistemi

    “We need your help”. OpenAI, la società che sviluppa ChatGpt, chiede il supporto della sua community e lancia il suo Bug Bounty Program.

    Un’iniziativa che intende premiare con ricompense in denaro chi troverà e segnalerà vulnerabilità, bug o falle di sicurezza nei sistemi.

    Sembra proprio che dopo il blocco del Garante della Privacy nel nostro Paese, le riserve espresse dal presiedente americano Biden sull’intelligenza artificiale e le critiche e le preoccupazioni che si stanno diffondendo in altri Paesi, Germania, Francia, Irlanda, Canada,  la società di San Francisco stia correndo ai ripari per dimostrare la propria affidabilità e il proprio impegno sui temi della privacy e della sicurezza.

    Sul blog si legge: “La missione di OpenAI è creare sistemi di intelligenza artificiale che vadano a beneficio di tutti. A tal fine, investiamo molto in ricerca e ingegneria per garantire che i nostri sistemi di IA siano sicuri e protetti. Tuttavia, come per ogni tecnologia complessa, siamo consapevoli che possano emergere vulnerabilità e difetti. Ecco perché stiamo invitando la comunità globale di ricercatori di sicurezza, hacker etici e appassionati di tecnologia ad aiutarci a identificare e risolvere le vulnerabilità dei nostri sistemi“.

    Cos’è il Programma Bug Bounty?

    “Il programma OpenAI Bug Bounty è un modo per riconoscere e premiare le preziose intuizioni dei ricercatori di sicurezza che contribuiscono a mantenere sicura la nostra tecnologia e la nostra azienda. Vi invitiamo a segnalare le vulnerabilità, i bug o le falle di sicurezza che scoprite nei nostri sistemi. Condividendo le vostre scoperte, svolgerete un ruolo cruciale nel rendere la nostra tecnologia più sicura per tutti”.

    OpenAI ha stretto una partnership con Bugcrowd, una piattaforma leader nel settore dei bug bounty, per gestire il processo di invio delle segnalazioni e delle ricompense, che è stato progettato per garantire un’esperienza semplificata per tutti i partecipanti.

    Incentivi e ricompense

    Per incentivare i test e come riconoscenza  per i contributi offerti OpenAI riconoscerà ricompense in denaro in base alla gravità e all’impatto dei problemi segnalati. Le ricompense vanno da 200 dollari per le scoperte di bassa gravità fino a 20.000 dollari per le scoperte eccezionali.

    I problemi di sicurezza dei modelli però dovranno essere segnalati attraverso un apposito modulo come spiega la società: “I problemi di sicurezza dei modelli non si adattano bene a un programma di bug bounty, poiché non sono bug singoli e discreti che possono essere risolti direttamente. Affrontare questi problemi spesso richiede una ricerca sostanziale e un approccio più ampio. Per garantire che questi problemi vengano affrontati in modo adeguato, vi invitiamo a segnalarli utilizzando l’apposito modulo, anziché inviarli tramite il programma bug bounty. La segnalazione nel posto giusto consente ai nostri ricercatori di utilizzare queste segnalazioni per migliorare il modello”.

    Inoltre “i problemi relativi al contenuto dei prompt e delle risposte del modello sono rigorosamente al di fuori dell’ambito e non verranno premiati”. Non rientrano nell’ambito di applicazione i jailbreak e bypass di sicurezza che gli utenti di ChatGPT hanno sfruttato per indurre il chatbot di ChatGPT ad aggirare le misure di sicurezza.