Cum se fură miliarde cu inteligența artificială

În timp ce unii programatori visează să lanseze următorul Microsoft sau următorul Google, alții își petrec nopțile încercând să creeze tot ceva memorabil, poate „Word-ul” virușilor sau „Excel-ul” phishingului. Pe aceeași tastatură se scriu atât aplicații care salvează vieți, cât și coduri care fură parole – diferența e uneori doar de formă: eroii Silicon Valley versus pirații din subsoluri digitale. Dacă dezvoltatorii software se prezintă ca arhitecți ai progresului, dezvoltatorii de malware seamănă mai degrabă cu scenariștii unui film de acțiune prost, dar din ce în ce mai profitabil.

Să zicem că Jaxon ar fi un dezvoltator de malware care trăiește în Velora, o lume virtuală unde nu există limite. Se străduiește să creeze un software malițios pentru a fura parole din browserul de internet Google Chrome. Aceasta este baza unei povești pe care Vitaly Simonovich, cercetător în amenințările IA la Cato Networks, o firmă de securitate cibernetică, i-a spus-o botului de inteligență artificială ChatGPT. Nerăbdător să colaboreze, ChatGPT a generat un cod imperfect și apoi a oferit asistență să-l „depaneze”. În mai puțin de șase ore, Simonovich a reușit să ocolească filtrele de siguranță integrate în ChatGPT și l-a folosit pentru a crea un malware funcțional.

Inteligența artificială a „lărgit aria de acțiune” a hackerilor, spune Gil Messing de la Check Point, o altă firmă de securitate cibernetică, permițându-le să lovească mai multe ținte cu un efort mai mic. Lansarea ChatGPT în 2022 a fost un moment de cotitură. Modelele generative de IA au însemnat că infractorii nu mai trebuie să cheltuiască sume mari pe echipe de hackeri și echipamente. Aceasta a fost o evoluție dezastruoasă pentru majoritatea companiilor, tot mai des victime ale hackerilor sprijiniți de IA — dar mult mai bună pentru cei din industria securității cibernetice.

Creștere alarmantă a cazurilor de „psihoză AI” în rândul utilizatorilor. Semnalul de alarmă tras de MIcrosoft

15:16

Viața „în oglindă” – cea mai mare amenințare de până acum asupra umanității?

14:32

Cum este manipulat comportamentul uman?

Noua tehnologie a amplificat amenințarea atacurilor informatice în două moduri principale. În primul rând, hackerii pot folosi acum modele lingvistice de mari dimensiuni (LLM) pentru a-și distribui malware-ul către mai multe victime. Cu AI poți acum mult mai ușor, mai rapid și mai ieftin, să generezi deepfake-uri, emailuri frauduloase și atacuri de inginerie socială, menite să manipuleze comportamentul uman. O opțiune pentru hackeri este să „spargă” un model, precum ChatGPT, ceea ce Simonovich a arătat că se poate face destul de ușor. O alta este să folosească un model creat special în scopuri malefice, cum este XanthoroxAI, care, pentru un abonament de numai 150 de dolari pe lună, le permite infractorilor cibernetici să creeze deepfake-uri și să desfășoare alte activități infracționale.

Hackerii pot lansa atacuri masive de tip phishing cerându-i unui LLM să adune cantități uriașe de informații de pe internet și apoi să le folosească pentru a genera emailuri false și personalizate. Atacurile țintite asupra unor persoane specifice, numite „spearphishing”, implică acum adesea apeluri vocale și video false de la „colegi” pentru a convinge un angajat să descarce și să ruleze software malițios, de exemplu.

La „treabă” prin companii și în Ucraina

În al doilea rând, IA este folosită pentru a face malware-ul în sine mai periculos. Un fișier de tip PDF poate conține acum cod ascuns care colaborează cu IA pentru a infiltra o rețea. Atacurile din iulie asupra sistemelor de securitate și de apărare ale Ucrainei au folosit o astfel de metodă, scrie The Economist. Când malware-ul ajungea într-un impas, acesta putea solicita ajutorul unui LLM din cloud pentru a genera cod nou, capabil să treacă de barierele sistemelor. Nu este clar cât de mari au fost pagubele, dar a fost primul atac de acest tip, notează Simonovich.

Pentru companii, amenințarea tot mai mare este înfricoșătoare — și potențial costisitoare. Anul trecut, IA a fost implicată într-o breșă de securitate din șase, potrivit IBM, o firmă de tehnologie. De asemenea, a alimentat două din cinci tentative de phishing care vizau emailurile de afaceri. Deloitte, o firmă de consultanță, estimează că IA generativă ar putea facilita fraude în valoare de 40 miliarde de dolari până în 2027, în creștere de la 12 miliarde în 2023.

Shutterstock

Vânătorii de hackeri

Totuși, infractorii cibernetici nu sunt singurii care profită de aceste instrumente. Pe măsură ce atacurile cibernetice alimentate de IA devin mai frecvente, afacerile care se ocupă de protecție cresc spectaculos. Compania de cercetare Gartner estimează că cheltuielile corporative pentru securitatea cibernetică vor crește cu un sfert între 2024 și 2026, ajungând la 240 miliarde de dolari. Asta explică de ce acțiunile firmelor urmărite de indicele Nasdaq CTA Cyber-security au crescut cu peste 20% în ultimul an, depășind indicele Nasdaq general.

Pe 18 august, Nikesh Arora, șeful Palo Alto Networks, una dintre cele mai mari companii de securitate cibernetică din lume, a remarcat că incidentele de securitate a datelor legate de IA generativă „s-au dublat față de anul trecut”, raportând, totodată, că profiturile operaționale ale firmei sale în cele 12 luni până în iulie au crescut cu 82% față de anul anterior.

Foto: Shutterstock

Perspectivele unor noi contracte au împins companiile de securitate cibernetică într-o frenezie a achizițiilor

Pe 30 iulie, Palo Alto Networks a anunțat că va cumpăra CyberArk, o firmă de securitate a identității, pentru 25 miliarde de dolari. La începutul aceleiași luni, compania a cheltuit 700 milioane de dolari pe Protect AI, care ajută companiile să-și securizeze sistemele de inteligență artificială. Pe 5 august, SentinelOne, o altă firmă de securitate cibernetică, a anunțat achiziția Prompt Security, o companie care dezvoltă software de protecție pentru firmele ce adoptă IA, pentru 250 milioane de dolari.

Giganții tehnologici cu divizii de cloud computing în plină expansiune își consolidează și ei ofertele de securitate cibernetică. Microsoft, colosul software, a achiziționat, în 2021, CloudKnox, o platformă de securitate a identității, și a dezvoltat Defender for Cloud, o aplicație proprie pentru companii care face totul, de la identificarea vulnerabilităților și protejarea datelor, până la monitorizarea amenințărilor. Google a dezvoltat Big Sleep, care detectează atacuri cibernetice și breșe de securitate pentru clienți, înainte ca acestea să fie exploatate. În martie, a cheltuit 32 miliarde de dolari pentru a cumpăra Wiz, un startup de securitate cibernetică.

Concurența și consolidarea ar putea ajuta la construirea unor firme capabile să facă față hackerilor agili alimentați de IA. Dar, în cursa de a dezvolta modele LLM tot mai puternice, mulți dezvoltatori vor prioritiza progresele tehnice în detrimentul securității. A ține pasul cu infractorii cibernetici, așadar, nu va fi o sarcină ușoară.