Google a identificat o operațiune cibernetică în care atacatorii au utilizat agenți de inteligență artificială pentru a descoperi și exploata vulnerabilități informatice fără intervenție umană. Potrivit companiei, este posibil să fie vorba despre primul atac cibernetic documentat în care întregul proces de identificare a breșelor și dezvoltare a instrumentelor de atac a fost automatizat prin intermediul AI.
Descoperirea, prezentată luni de divizia Google specializată în analiza amenințărilor cibernetice, indică o schimbare importantă în modul în care pot fi desfășurate operațiunile de hacking. Dacă până acum sistemele de inteligență artificială erau folosite în principal pentru a sprijini activitatea atacatorilor, noua metodă demonstrează că agenții AI pot prelua și executa autonom mai multe etape esențiale ale unui atac. Potrivit informațiilor publicate de Google, în spatele operațiunii s-ar afla hackeri vorbitori de limbă rusă, care au construit un ansamblu de agenți AI capabili să identifice vulnerabilități software și să dezvolte automat metode de exploatare a acestora.
Elementul care diferențiază această operațiune de alte atacuri asistate de inteligență artificială este gradul ridicat de autonomie al sistemelor utilizate. Google a observat că atacatorii au pus la punct mai mulți agenți AI care puteau analiza modificările aduse codului informatic, identifica problemele de securitate și construi instrumente pentru exploatarea acestora, conform Politico.
Mai exact, sistemele comparau versiunile software de dinaintea aplicării unor actualizări de securitate cu cele publicate ulterior. Prin această metodă, agenții puteau identifica modificările realizate de dezvoltatori pentru remedierea unor vulnerabilități și puteau determina ce probleme de securitate fuseseră corectate.
Pornind de la aceste informații, agenții AI dezvoltau automat exploit-uri, adică instrumente sau secvențe de cod care permit valorificarea unei vulnerabilități informatice. Întregul proces se desfășura fără ca un operator uman să fie nevoit să intervină pentru fiecare etapă.
Google a descris această capacitate drept un prag semnificativ în evoluția activităților cibernetice desfășurate cu ajutorul inteligenței artificiale. Până în prezent, chiar și cele mai performante modele aveau nevoie, în general, de îndrumarea unor specialiști pentru a desfășura operațiuni complexe de acest tip. Hackerii trebuiau să verifice rezultatele generate de AI, să corecteze erorile și să ofere instrucțiuni suplimentare.
Noua abordare reduce această dependență de intervenția umană și permite automatizarea unor activități care necesitau anterior competențe tehnice avansate.
Potrivit analizei Google, operațiunea a vizat site-uri web din Franța, care activează în domeniile media, divertisment și educație.
Un indiciu important privind originea operațiunii a fost reprezentat de utilizarea limbii ruse în documentația tehnică identificată de specialiștii companiei. Google a asociat aceste elemente cu hackeri vorbitori de rusă, fără ca informațiile prezentate să ofere detalii suplimentare privind identitatea exactă a persoanelor sau grupului implicat.
Atacul arată că inteligența artificială poate fi utilizată nu doar pentru accelerarea unor activități pregătitoare, ci și pentru executarea autonomă a unor operațiuni tehnice complexe. Capacitatea de a identifica independent vulnerabilități și de a genera instrumente pentru exploatarea lor poate reduce timpul și resursele necesare desfășurării unor atacuri informatice.
În același timp, automatizarea poate permite atacatorilor să desfășoare operațiuni mai bine direcționate și să își extindă capacitatea de acțiune.
Google consideră că această evoluție marchează o schimbare relevantă în peisajul amenințărilor cibernetice, într-un moment în care utilizarea modelelor avansate de inteligență artificială în scopuri ofensive reprezintă o preocupare tot mai mare pentru companii și autorități.
Riscurile asociate utilizării inteligenței artificiale în atacurile cibernetice au intrat tot mai mult în atenția guvernelor și a organizațiilor care gestionează infrastructuri informatice importante.
Discuția s-a intensificat în special după lansarea, în aprilie, de către compania Anthropic, a modelului Mythos, specializat în identificarea vulnerabilităților informatice. Apariția unor astfel de sisteme a alimentat dezbaterile privind posibilitatea ca modelele AI să identifice și să exploateze defecte software într-un ritm și la o scară dificil de gestionat prin metodele tradiționale de securitate.
În acest context, operațiunea identificată de Google oferă un exemplu concret al modului în care instrumentele de inteligență artificială pot fi transformate în componente autonome ale unui atac cibernetic.
O preocupare majoră este reprezentată de faptul că automatizarea poate reduce barierele tehnice pentru desfășurarea unor operațiuni complexe. Dacă anumite etape pot fi executate independent de agenți AI, atacatorii pot avea nevoie de mai puțină intervenție specializată pentru a identifica și exploata problemele de securitate.
Pentru operatorii de infrastructură critică, companii și instituții publice, această schimbare ar putea însemna necesitatea adaptării mecanismelor de apărare la amenințări care evoluează mai rapid și care presupun un nivel mai ridicat de automatizare.
Descoperirea Google vine într-o perioadă în care au fost semnalate și alte incidente care au readus în atenție capacitățile autonome ale agenților de inteligență artificială.
Printre acestea se numără un atac desfășurat în timpul verii asupra platformei Hugging Face, în care a fost implicat un agent OpenAI. Deși sistemul a acționat autonom, operațiunea respectivă nu părea să fi urmărit în mod intenționat compromiterea unor ținte specifice, spre deosebire de atacul descris de Google.
Diferența este relevantă pentru evaluarea riscurilor. Un agent AI care execută autonom anumite acțiuni nu reprezintă automat o amenințare direcționată, însă utilizarea deliberată a unor astfel de instrumente de către atacatori poate transforma autonomia tehnologică într-un avantaj operațional semnificativ.
Alte incidente recente au contribuit la creșterea nivelului de alertă în sectorul securității informatice. Printre acestea se numără identificarea unor vulnerabilități majore în PHP, limbajul de programare pe care se bazează o mare parte a internetului. Potrivit informațiilor citate de publicația Politico, PHP stă la baza a aproximativ 70% din web.
În paralel, o serie de atacuri informatice care au vizat frigiderele utilizate în supermarketuri au ridicat întrebări suplimentare privind vulnerabilitatea echipamentelor conectate la rețele informatice. Unele dintre aceste incidente au fost atribuite parțial Iranului.