Meta dă în judecată creatorul unei aplicații deepfake care promovează tehnologia AI de „Nudifying”

Meta a lansat un proces împotriva unei companii din Hong Kong care a dezvoltat CrushAI, o aplicație controversată capabilă să genereze deepfake-uri sexual explicite, acuzând-o că a încălcat în mod repetat regulile platformei pentru a cumpăra reclame.

Această acțiune face parte dintr-un efort mai amplu al Meta de a combate aplicațiile „nudifying” – software-uri care permit utilizatorilor să creeze imagini nud sau sexualizate pornind de la o fotografie a feței unei persoane, adesea fără consimțământul acesteia. Meta a fost criticată pentru că nu a gestionat eficient reclamele pentru astfel de servicii pe platformele sale, scrie CNN.

Reclamele interzise și extinderea rețelei

Potrivit plângerii depuse joi în instanța districtuală din Hong Kong, dezvoltatorul CrushAI, cunoscut și sub denumirea de Crushmate, a difuzat peste 87.000 de reclame pe platformele Meta până în februarie, încălcând regulile companiei. Meta susține că Joy Timeline HK Limited a creat o rețea de cel puțin 170 de conturi de business pe Facebook și Instagram pentru a cumpăra aceste reclame. De asemenea, mai mult de 55 de utilizatori activi au gestionat peste 135 de pagini Facebook unde au fost afișate aceste reclame, care au vizat în special utilizatori din SUA, Canada, Australia, Germania și Regatul Unit.

Rolls-Royce își apără strategia de prețuri după criticile venite din partea companiilor aeriene

22:32

Tesla, între declin și revenire: ce arată datele din Europa

21:32

„Oricine își creează un cont pe Facebook sau folosește Facebook trebuie să accepte Termenii și Condițiile Meta,” se arată în plângere.

Reclame șocante și limbaj provocator

Unele dintre aceste reclame conțineau imagini sexualizate sau nud generate de inteligența artificială, însoțite de mesaje precum „încarcă o fotografie pentru a te dezbrăca pentru un minut” sau „șterge orice haină de pe fete,” conform documentelor judiciare.

CNN a încercat să obțină un punct de vedere de la Joy Timeline HK Limited cu privire la proces.

Presiunea crescută asupra platformelor tehnologice

Pe măsură ce AI facilitează crearea de deepfake-uri explicite fără consimțământ, platformele tehnologice sunt tot mai presate să ia măsuri. Victime ale acestor deepfake-uri au fost personalități publice precum Taylor Swift și deputata Alexandria Ocasio-Cortez, dar și adolescente din licee americane. Recent, a fost adoptat „Take It Down Act,” care interzice distribuirea online a deepfake-urilor explicite fără consimțământ și obligă platformele să le elimine rapid.

Cu toate acestea, mai multe investigații media recente au arătat că serviciile de nudifying AI au găsit un public prin reclame pe platformele Meta.

Reclamele „Nudifying” Invadează Facebook și Instagram

În ianuarie, newsletter-ul tehnologic Faked Up și publicația 404Media au dezvăluit că CrushAI a difuzat mii de reclame pe Instagram și Facebook, iar 90% din traficul aplicației provenea de pe aceste platforme. Aceasta în ciuda faptului că Meta interzice reclamele care conțin nuditate explicită, activitate sexuală, distribuirea de imagini intime fără consimțământ și conținut care promovează exploatarea sexuală, hărțuirea sau bullying-ul.

Ca răspuns, senatorul democrat Dick Durbin, membru de rang în Comisia Judiciară a Senatului, a adresat o scrisoare CEO-ului Meta, Mark Zuckerberg, întrebând „cum a permis Meta ca acest lucru să se întâmple și ce măsuri ia pentru a combate această tendință periculoasă.”

Descoperiri șocante și reacția Meta

La începutul acestei luni, CBS News a raportat că a identificat sute de reclame pentru aplicații de nudifying pe platformele Meta, inclusiv reclame cu imagini sexualizate ale unor celebrități. Alte reclame direcționau către site-uri care pretind că pot anima deepfake-uri cu persoane reale făcând acte sexuale. Meta a reacționat spunând că a „eliminat aceste reclame, a șters paginile responsabile și a blocat permanent URL-urile asociate acestor aplicații.”

Meta afirmă că verifică reclamele înainte de difuzare, însă plângerea arată dificultățile în aplicarea regulilor. Unele reclame CrushAI promovau direct funcțiile de nudifying cu mesaje precum „Ai visat vreodată să poți șterge hainele cuiva? Îți prezentăm tehnologia noastră revoluționară” și „Uimitor! Acest software poate șterge orice haină.”

Procesul intentat urmărește să împiedice dezvoltatorul CrushAI să mai ocolească regulile și să plaseze reclame pe platformele Meta. Compania susține că a suportat pierderi de 289.000 de dolari din cauza costurilor investigației, răspunsului la reglementări și aplicării regulilor împotriva acestui dezvoltator.

Tehnologii noi pentru detectarea reclamelor interzise

Meta a anunțat că a dezvoltat tehnologii noi pentru a identifica astfel de reclame, chiar dacă acestea nu conțin nuditate explicită. Echipele specializate au colaborat cu experți externi pentru a antrena sistemele automate de moderare să recunoască termeni, expresii și emoji-uri frecvent folosite în aceste reclame.

„Este un spațiu adversarial în care cei din spate – motivați în principal financiar – își schimbă tacticile pentru a evita detectarea,” a declarat compania. „Unii folosesc imagini inofensive în reclame pentru a păcăli tehnologia noastră de detectare a nuditații, alții creează rapid noi domenii pentru a înlocui site-urile blocate.”

Colaborare și Partajare de Informații

Meta a început să împărtășească informații despre aplicațiile de nudifying care încearcă să facă publicitate pe platformele sale cu alte companii tehnologice prin programul Lantern, gestionat de grupul Tech Coalition. Acest program, lansat în 2023, facilitează schimbul de date pentru combaterea exploatării sexuale a copiilor online.

Această intensificare a luptei împotriva deepfake-urilor vine după ce Meta a redus unele dintre sistemele automate de eliminare a conținutului, ceea ce a stârnit critici din partea experților în siguranța online. Zuckerberg a anunțat că aceste sisteme vor fi concentrate pe detectarea încălcărilor ilegale și „de severitate înaltă,” cum ar fi terorismul, exploatarea sexuală a copiilor, drogurile, frauda și escrocheriile, iar alte probleme vor fi investigate doar după sesizarea utilizatorilor.