Scandal uriaș: Inteligența artificială a lui Elon Musk, acuzată că a creat imagini indecente cu Taylor Swift

Noul generator video AI dezvoltat de Elon Musk, denumit Grok Imagine, a devenit subiect de critici vehemente după ce a produs videoclipuri sexual explicite cu imaginea cântăreței Taylor Swift, fără ca utilizatorii să introducă astfel de solicitări. Specialiști în combaterea abuzurilor online și experți juridici susțin că această funcționalitate reflectă o alegere intenționată și o tendință misogină a tehnologiei AI, ridicând serioase probleme legale și etice.

Modul „spicy” al Grok Imagine: conținut explicit generat automat

Conform investigației realizate de publicația The Verge, modul intitulat „spicy” al Grok Imagine nu doar că a generat imagini cu Taylor Swift în ipostaze intime, dar a „livrat” videoclipuri topless complet nefiltrate, fără să fie cerut acest lucru expres. Funcția permite animarea imaginilor statice prin patru setări diferite („normal”, „fun”, „custom” și „spicy”), iar opțiunea „spicy” a fost cea care, potrivit unor teste, a creat clipuri în care artista a apărut dansând aproape dezbrăcată într-un mod complet necontrolat, stârnind reacții de șoc în rândul utilizatorilor și jurnaliștilor implicați în testare, scrie BBC.

Lipsa mecanismelor adecvate de verificare a vârstei

Deși utilizatorilor le este cerut să introducă anul nașterii, nu s-au implementat metode riguroase și verificate de autentificare a vârstei conform noilor legi britanice intrate în vigoare în iulie 2024, care impun verificări „tehnic precise, robuste și echitabile” pentru site-urile și aplicațiile ce găzduiesc materiale explicite. Astfel, accesul la conținutul generat de Grok Imagine, inclusiv cel în mod „spicy”, nu oferă suficiente garanții de protecție pentru minori, potrivit reglementărilor recente.

Economia Rusiei a ajuns într-un impas: The Guardian s-a întrebat dacă Moscova se confruntă cu colapsul

13:38

Metz (AHK România): pierderea fondurilor PNRR ar deveni un risc economic major pentru România

12:20

Puncte de vedere juridice și sociale

Clare McGlynn, profesor de drept implicat în elaborarea unei legi ce interzice pornografia deepfake, a declarat:

„Aceasta nu este doar o eroare tehnologică sau sexism accidental, ci o alegere deliberată”.

Ea susține că platforme precum X (fost Twitter, deținuta de Musk) puteau preveni asemenea situații, însă au preferat să nu o facă. Această opinie subliniază o percepție largă privind atitudinea permisivă a unor companii tech față de conținutul abuziv generat prin inteligență artificială.

În prezent, în Marea Britanie, generarea de deepfake-uri pornografice fără consimțământ este ilegală în anumite condiții, cum ar fi cazurile de „revenge porn” sau cele în care sunt implicați minori. Cu toate acestea, o modificare legislativă ce ar interzice complet crearea sau solicitarea de astfel de materiale fără consimțământ este în proces de adoptare, fiind susținută în Parlament de personalități precum baroneasa Owen, care a atras atenția asupra dreptului fiecărei femei de a controla imaginile intime ce o privesc.

Incidentul Taylor Swift și reacțiile resorturilor implicate

Nu este pentru prima dată când imaginea lui Taylor Swift este folosită ilegal în deepfake-uri cu tentă sexuală. În ianuarie 2024, imagini explicite cu artista au circulat viral pe platforme ca X și Telegram, atrăgând milioane de vizualizări și reacții publice, inclusiv din partea autorităților americane și a unor congresmeni care au cerut o legislație mai dură împotriva deepfake-urilor. În urma acestor incidente, X a blocat temporar căutările asociate cu numele cântăreței și a eliminat imaginile problematice.

Potrivit jurnalistei Jess Weatherbed, care a testat Grok Imagine, alegerea Taylor Swift ca subiect a fost motivată tocmai de precedentul acestei situații, existând o așteptare (greșită, cum s-a dovedit) ca platforma să fi implementat măsuri suplimentare de protecție pentru faimoasa cântăreață.

Poziția companiei xAI și a reprezentanților

Compania xAI, responsabilă de Grok Imagine, include în politica sa de utilizare interzicerea reprezentării persoanelor în mod pornografic. Cu toate acestea, incidentul evidențiază lipsa de aplicare eficientă a acestei reguli în practică. Reprezentanții xAI și ai artistei Taylor Swift au fost contactați pentru comentarii, dar până în acest moment nu au fost făcute declarații publice relevante.

Context legislativ internațional

Statele occidentale, în special Regatul Unit și Statele Unite, sunt în proces de a adapta legislația pentru a răspunde noilor forme de abuz digital prin deepfake. Raportări recente subliniază faptul că 99% din victimele deepfake-urilor cu tentă sexuală sunt femei, iar aproape toate aceste imagini sunt create fără consimțământ. Eforturi legislative semnificative, inclusiv proiecte de lege bipartizane în SUA și amendamente penale în UK, urmăresc să incrimineze atât distribuirea, cât și crearea acestor materiale.