Google plătește zeci de mii de dolari pentru depistarea breșelor în AI

Google oferă zeci de mii de dolari experților în securitate cibernetică pentru depistarea erorilor în produsele sale AI.

În acest fel, gigantul tech își consolidează angajamentul pentru siguranța digitală. Inițiativa face parte dintr-un efort mai amplu al companiei de a asigura transparența și siguranța tehnologiilor bazate pe inteligența artificială, într-un context în care riscurile legate de utilizarea modelelor avansate cresc constant.

Google oferă zeci de mii de dolari vânătorilor de bug-uri

Foto: Shutterstock

Cine controlează proiectele care au blocat rețeaua pentru un deceniu

10:41

Antreprenor amendat cu 20.000 lei după o achiziție din UE. Revolta împotriva sistemului e-Transport ia amploare

09:27

Google a lansat în această săptămână un nou program de recompense pentru vulnerabilități AI. Acesta este destinat experților în domeniul securității cibernetice care pot identifica și raporta defecte în sistemele sale bazate pe inteligență artificială, relatează The Verge.

Acest program extins de „bug bounty” vizează principalele produse AI ale companiei. Printre acestea se numără Google Search (pe google.com), Gemini Apps (pentru web, Android și iOS), dar și aplicațiile esențiale din Google Workspace. Este vorba despre Gmail, Drive, Meet sau Calendar. De asemenea, sunt incluse și alte servicii sensibile, cum ar fi AI Studio, Jules și funcțiile AI din aplicațiile secundare Workspace. Sunt vizate, totodată, și alte integrări bazate pe inteligență artificială.

Lista vulnerabilităților eligibile publicată de Google conține exemple concrete de situații periculoase. Printre acestea se numără injectarea indirectă a unui prompt AI care ar putea determina Google Home să deblocheze o ușă. Un alt exemplu este inserarea unui prompt de exfiltrare care ar rezuma toate e-mailurile unei persoane și ar trimite datele către contul atacatorului.

Google oferă și bonusuri de până la 20.000 $

Programul oferă clarificări asupra a ceea ce constituie o „eroare AI”. Aceasta este definită drept o problemă ce implică utilizarea unui model lingvistic de mari dimensiuni (LLM) sau a unui sistem AI generativ. Scopul este acela de a provoca daune ori de a exploata o breșă de securitate.

Printre cazurile considerate critice se numără modificarea datelor unui utilizator sau executarea unor acțiuni neautorizate. Spre exemplu, o eroare descoperită anterior, care permitea deschiderea obloanelor inteligente și stingerea luminilor printr-un eveniment compromis din Google Calendar.

Recompensele oferite pot ajunge până la 30.000 de dolari pentru rapoarte individuale de înaltă calitate. Se pot oferi și bonusuri pentru descoperiri originale. Rapoartele standard privind breșele de securitate care ar putea declanșa acțiuni neautorizate în produse majore Google sunt răsplătite cu până la 20.000 de dolari. În schimb, bug-urile de exfiltrare a datelor sensibile pot aduce 15.000 de dolari. Pentru probleme legate de phishing sau de furt de modele AI, cercetătorii pot primi până la 5.000 de dolari.

Nu este suficient să faci Gemini să halucineze

Într-o postare pe blogul său, Google a precizat următoarele:

„În octombrie 2023, am anunțat criteriile de recompensare ale Google pentru raportarea erorilor din produsele AI, extinzând Programul de recompense pentru vulnerabilități abuzive (VRP) pentru a încuraja descoperirea și raportarea de către terți a problemelor și vulnerabilităților specifice sistemelor noastre AI”.

Simpla halucinație a modelului Gemini nu va fi suficientă. Compania spune că problemele legate de conținutul produs de produsele AI, precum generarea de discursuri de ură sau conținut care încalcă drepturile de autor, ar trebui raportate canalului de feedback al acelui produs.

În acest fel, echipele de siguranță ale Google pentru AI pot „diagnostica comportamentul modelului”. De asemenea, pot „implementa instruirea necesară pe termen lung, la nivelul întregului model, în domeniul siguranței”.

Cât a fost cea mai mare recompensă în 2024?

În plus, odată cu acest program, Google a prezentat și CodeMender. Acesta este un agent AI capabil să repare codul vulnerabil. Compania precizează că acest instrument a fost deja folosit pentru „72 de remedieri de securitate pentru proiecte open source”. Acest lucru a fost posibil după validarea lor de către cercetători umani.

Google a anunțat în 2024 că a acordat aproape 12 milioane de dolari în recompense pentru bug-uri către 660 de cercetători prin intermediul programului său VRP, iar de la lansarea inițială din 2010, compania a plătit 65 de milioane de dolari în total. Cea mai mare recompensă individuală acordată anul trecut a depășit 110.000 de dolari.

Cu un an înainte, Google a distribuit 10 milioane de dolari către 632 de cercetători pentru raportarea responsabilă a vulnerabilităților din produsele și serviciile sale digitale.