10 feluri în care puteți fi escrocați în economia deepfake: inteligența artificială construiește imperii ale înșelăciunii online

Concomitent cu entuziasmul care însoțește avântul inteligenței artificiale generative (GenAI), antreprenorii descoperă și o realitate ceva mai sumbră: tehnologia, care promitea eficiență și inovație este, totodată, instrumentul perfect pentru fraudă. GenAI le permite chiar și unor amatori, fără pic de cunoștințe tehnice, să facă o mulțime de escrocherii, să cloneze imaginea unui brand sau să scrie mesaje înșelătoare perfect formulate. Iar micile organizații sunt ținta lor predilectă. De la brutării artizanale și magazine de cuțite japoneze, până la companii de publishing sau consultanță IT, tot mai multe afaceri mici devin victime ale unei economii paralele – economia deepfake. Atacurile vizează firmele, deseori falsifică identitatea companiei sau a unor persoane din cadrul ei, interferează în procesele de recrutare, în interviuri, în campaniile de marketing, clonează conturile firmelor pe rețele sociale și, în general… speculează orice vulnerabilitate și valorifică orice prilej de câștig. Microsoft anunța recent că a ajuns să blocheze aproape 1,6 milioane de încercări de creare automată de conturi. În fiecare oră! Fraudele sunt acum automatizate, costurile reduse, barierele de intrare dispar, iar accesul la victime devine mai ușor ca niciodată, spun specialiștii, vorbind despre o adevărată „revoluție industrială a escrocheriilor”.

Deși populare odinioară, rareori mai primim azi e-mailuri de la prinți nigerieni sau de la ofițeri ai armatei americane blocați, fără portofel, în diverse teatre de operațiuni din lume. „Acum vorbim de Jim Kerr (un exemplu luat din showbiz) în variantă AI, care îți cere detaliile bancare sau se adresează terților în numele tău, de pe site-ul tău clonat la pixel. Vorbim de propria ta voce, folosită pentru a comanda o tranzacție ilegală. Noua generație de fraudatori nu are clan, dar are cod. Nu are experiență în înșelăciuni, dar are un laptop cu ChatGPT, o unealtă de clonare vocală și o aplicație de generat fețe umane false. Și da, funcționează”, scrie ziarul Puterea.

Tehnologia face acum mai totul posibil: poți să clonezi un site în 10 minute, să scrii e-mailuri personalizate cu greșeli intenționate – pentru a părea autentice, să imiți vocea șefului și să dai ordine de plată către conturi fantomă, să creezi CV-uri convingătoare, cu diplome false și chipuri generate de AI. Totul e ieftin, rapid, scalabil. Este pentru prima oară în istorie când frauda s-a democratizat. Nu mai ai nevoie să fii „profesionist”. Trebuie doar să știi să folosești un AI, scrie sursa citată.

O bancă importantă din România, aproape de vânzare. Tranzacția care ar putea schimba topul pieței bancare

18:45

Garanții de patru ori mai mari pentru racordarea la rețeaua electrică. Măsura pregătită de ANRE după semnalul dat de Bolojan

17:03

Când firma ta începe să angajeze, în mod ciudat, pe LinkedIn

În urmă cu aproximativ un an, arată o analiză Business Insider, inboxul lui Ian Lamont a început să se umple cu mesaje despre un presupus anunț de angajare. Lamont, proprietarul unei companii din Boston specializată în ghiduri practice, știa că nu are de gând să angajeze. Totuși, când a intrat pe LinkedIn, a descoperit un anunț de recrutare pentru un post de „Operator introducere date”, asociat cu numele și logo-ul firmei sale.

Și-a dat seama rapid că marca sa fusese falsificată. A făcut o mică investigație și s-a convins că operațiunea era ceva mai amplă când a găsit un profil personal pe LinkedIn, care pretindea că îl reprezintă pe „managerul” companiei. Contul avea mai puțin de zece conexiuni și o fotografie generată de inteligența artificială. Lamont a petrecut următoarele zile alertându-i pe vizitatorii site-ului său cu privire la înșelătorie și le-a cerut celor de la LinkedIn să elimine profilul și anunțul fals. Până atunci, peste 20 de persoane îl contactaseră direct cu privire la presupusul loc de muncă – și bănuiește că multe altele aplicaseră deja.

Foto: Unsplash

Chat GPT a lansat economia deepfake

Potrivit unei estimări McKinsey, potențialul inteligenței artificiale generative (GenAI) de a aduce valoare economiei globale depășește, anual, întregul PIB al Regatului Unit. Dar această tehnologie are și un revers înfricoșător: capacitatea de a crea rapid, la scară largă, conținut care pare autentic, dar care servește unor scopuri frauduloase.

De la lansarea ChatGPT, în 2022, mediul online a fost invadat de ceea ce specialiștii numesc tot mai des „economia deepfake”. În acest nou ecosistem, devine din ce în ce mai greu să faci diferența între ceea ce este autentic și ce este înșelător. Platforma de raportare Chainabuse a înregistrat o creștere de patru ori a escrocheriilor facilitate de GenAI doar în ultimul an. Potrivit unui sondaj realizat de Nationwide, în toamna trecută, un sfert dintre micii antreprenori au fost vizați de cel puțin o înșelătorie cu IA. Microsoft anunța recent că blochează aproape 1,6 milioane de încercări de creare automată de conturi, în fiecare oră.

„Clonarea” unor colegi într-o ședință Zoom

Anul trecut, un contabil de la firma de inginerie Arup a intrat într-un apel video cu câteva persoane, pe care le credea colegii săi. În realitate, fiecare participant era o replică deepfake a unui coleg real – inclusiv directorul financiar. În cursul ședinței, lui Arup i s-a cerut să aprobe transferuri internaționale în valoare de peste 25 de milioane de dolari. Crezând că solicitarea vine de la CFO, a aprobat plățile.

Business Insider a discutat cu profesioniști din recrutare, design grafic, publishing și sănătate – toți încearcă să-și protejeze afacerile și clienții de aceste amenințări în continuă evoluție. Mulți spun că se simt ca într-un joc nesfârșit de „whack-a-mole” (joc popular, în care persoana, cu un ciocan, trebuie să prindă o serie de creaturi care se ivesc succesiv). Problema este că, în scenariile reale, creaturile apar mai repede și mai perfid decât poate reacționa cineva.

Foto: Unsplash

Replica AI a unui magazin de cuțite japoneze

Anul trecut, escrocii au creat o copie în limba franceză a magazinului online Oishya, specializat în cuțite japoneze, și au trimis oferte automate celor peste 10.000 de urmăritori ai companiei pe Instagram. Prin mesajul-fantomă, utilizatorii erau înștiințați că au câștigat un cuțit gratuit și că trebuie doar să plătească o taxă mică de livrare. Aproape 100 de persoane au căzut în capcană.

Kamila Hankiewicz, cofondatoare Oishya, a aflat de escrocherie abia după ce o serie de clienți au început să-i scrie și să o întrebe când vor primi pachetul. De atunci, a consolidat securitatea cibernetică a firmei și a lansat campanii de educare a clienților despre cum să identifice mesajele false. Deși, inițial, au fost frustrați, mulți clienți au apreciat reacția promptă și proactivă. „Incidentul chiar ne-a întărit relația cu mulți dintre clienți”, spune ea.

Deepfake-ul, la interviu

Rob Duncan, VP la firma de securitate Netcraft, nu e deloc surprins de valul de atacuri personalizate împotriva micilor afaceri. GenAI le permite acum chiar și unor ageamii, fără cunoștințe tehnice, să cloneze imaginea unui brand și să scrie mesaje înșelătoare perfect formulate, și asta în doar câteva minute. „Cu instrumente ieftine, atacatorii pot păcăli clienți, parteneri sau chiar angajați, pe mai multe canale simultan”, explică Duncan.

Chiar dacă instrumente, precum ChatGPT, impun unele restricții privind utilizările dăunătoare, există multe alte servicii ieftine care permit clonarea unui website doar prin câteva instrucțiuni în text. Cu ajutorul instrumentului Llama Press, jurnaliștii Business Insider au reușit să creeze o replică aproape identică a site-ului Oishya. Fondatorul Llama Press susține că platforma nu blochează astfel de cereri pentru că ele pot fi legitime – de pildă, în cazul unei migrări între platforme. Sistemul se bazează pe filtrele de siguranță integrate ale OpenAI și Anthropic pentru a bloca tentativele de fraudă.

Recrutori, păcăliți de candidați deepfake

Tatiana Becker, specialistă în recrutare tech în New York, spune că „epidemia” de candidați deepfake a explodat în ultimii ani. A ajuns să respingă frecvent aplicanți care folosesc avataruri generate de AI în timpul interviurilor. Îi recunoaște după imaginea video instabilă și după refuzul de a face mici schimbări în timpul apelului – cum ar fi să-și scoată căștile. În încercarea de a contracara această invazie, Becker le cere candidaților un act de identitate la începutul fiecărui interviu și pune întrebări deschise, cum ar fi ce pasiuni are candidatul, pentru a verifica dacă vorbește cu o ființă umană. Ironia face că a devenit ea însăși mai „robotică”, pur și simplu pentru a detecta roboții.

Escrocherii sofisticate, deghizate în oportunități de carieră

Nicole Yelland, director PR, a fost la rândul ei ținta unui escroc care pretindea că recrutează pentru un startup. I-a fost trimisă o ofertă atractivă, însoțită de o prezentare vizuală realizată cu AI. Tentată, a programat un interviu. În timpul apelului, „angajatorul” a refuzat să vorbească și i-a cerut să scrie răspunsurile în chatul Microsoft Teams. Când angajatorul a început să-i ceară acte personale, inclusiv permisul de conducere, a înțeles că fusese păcălită. Acum, folosește servicii precum Spokeo pentru a verifica orice contact necunoscut înainte de a interacționa.

Un cerc vicios în detectarea AI

Platformele de videoconferință, precum Zoom sau Teams, devin tot mai bune în a detecta conturi false. Dar, avertizează unii experți, tocmai datele colectate pentru detecție ajung să antreneze modele AI și mai bune, într-o spirală a escaladării problemelor. „Este o cursă a înarmării pe care apărătorii nu o pot câștiga”, spune Jasson Casey, CEO la Beyond Identity. Soluția? Autentificarea biometrică și pe baza locației. Firma sa oferă instrumente care pot fi integrate în Zoom și care marchează video-urile ca „neverificate” dacă există discrepanțe.

Când chiar tu devii deepfake

În 2024, escrocii au difuzat pe Facebook un videoclip în care părea să vorbească Jonathan Shaw, director adjunct la Baker Heart and Diabetes Institute din Melbourne. Vocea îi fusese modificată pentru a susține că metforminul – un tratament standard pentru diabetul de tip 2 – este „periculos” și că pacienții ar trebui să ia un supliment alimentar neaprobat. Videoclipul a fost însoțit de un articol fals, tot deepfake.

Pacienții au început să-l sune pe medicul veritabil, întrebând cum pot face rost de noul supliment. Unul chiar i-a reproșat că, deși „el” declarase în videoclip că medicamentul este periculos, încă i-l prescrie.

Foto: Shutterstock

Invazia AI de calitate proastă – „slop-ul” digital

Pe lângă escrocherii sofisticate, există și un val de conținut generat de AI de foarte proastă calitate – imagini, texte și produse inexistente, care inundă Internetul și estompează linia dintre real și fals. Pe Pinterest, cofetăria Cake Life Shop din Philadelphia primește tot mai des comenzi pentru torturi fantastice – unele cu cascade funcționale sau păduri de mușchi – care, în realitate, nu pot fi reproduse.

„Clienții înțeleg și acceptă realitatea, după ce le explicăm”

În același registru, cărțile de călătorie generate de AI au invadat Amazon. Pauline Frommer, președinta editurii Frommer Media, explică cum edituri fantomă folosesc recenzii false pentru a propulsa ghiduri fictive în topuri – făcând aproape imposibilă apariția unui brand legitim nou pe această nișă.