De câteva luni, un număr impresionant de utilizatori de Instagram și Facebook din întreaga lume se confruntă cu conturile blocate sau suspendate, adesea din cauza unor acuzații greșite formulate de compania Meta, care îi acuză pe aceștia de încălcarea regulilor privind abuzul sexual asupra copiilor. Mii de persoane au raportat pentru BBC pierderea fotografiilor dragi, dar și afectarea gravă a afacerilor lor. Pe lângă acestea, mulți mărturisesc impactul psihologic profund, traumatizant, manifestat prin frustrare, confuzie și teama că autoritățile, inclusiv poliția, ar putea fi implicate.
Yassmine Boussihmed, o tânără antreprenoare din Olanda, a petrecut cinci ani construind un brand recunoscut pe Instagram. În aprilie, contul ei a fost suspendat sub acuzația de „integritate a contului”, lucru care i-a șters instantaneu cei peste 5.000 de urmăritori și i-a afectat grav clientela. După ce BBC a contactat Meta în legătură cu situația ei, contul îi fost repus pe platformă, doar ca, câteva minute mai târziu, să fie suspendat din nou — de data aceasta contul personal, dar cel pentru afacere a rămas activ.
O situație similară a trăit și Lucia (nume schimbat), o tânără din Texas, care a fost suspendată timp de două săptămâni pentru presupusa încălcare a politicii Meta privind exploatarea sexuală a copiilor, fără a i se preciza clar ce postare a încălcat regulile. Ea suspectează că o fotografie în care apare alături de o prietenă în costum de baie a declanșat eroarea algoritmului AI, care a interpretat-o greșit ca fiind o potențială încălcare a regulilor. Lucia utilizează contul și pentru a comunica cu minori din familie, iar acuzațiile au fost extrem de jignitoare pentru ea, mai ales în contextul dorinței sale de a activa în domeniul justiției juvenile. Odată cu intervenția BBC, contul i-a fost restaurat în câteva ore, fără nicio explicație suplimentară.
Peste 36.000 de persoane au semnat o petiție împotriva Meta, acuzând compania că folosește inteligența artificială într-un mod nedrept, astfel că numeroase conturi sunt blocate pe nedrept. Forumurile de pe Reddit și alte rețele sociale abundă în plângeri similare. Principala critică este că apelurile la reluarea conturilor sunt analizate tot de sisteme automate, iar contactul direct cu o persoană din partea Meta este aproape imposibil dacă utilizatorul nu plătește pentru serviciul Meta Verified.
Duncan Edmonstone, un pacient din Cheshire cu cancer pulmonar în stadiu patru, găsește suport în grupurile private de Facebook. El a fost blocat pentru 12 zile în luna iunie pentru o presupusă încălcare a regulilor, dar contul i-a fost reluat ulterior. Duncan subliniază importanța acestor grupuri în viața sa și în ajutorul acordat altor persoane, iar suspendarea a generat mult stres și singurătate.
Un alt caz dramatic este cel al lui Ryan, fost profesor londonez, care a fost suspendat de mai multe ori din cauza unor acuzații legate de politica Meta privind exploatarea sexuală a copiilor. După o lună de apeluri, un moderator uman a decis că nu a încălcat regulile, iar contul i-a fost redat cu scuze oficiale. Cu toate acestea, la scurt timp, a fost din nou blocat pe Instagram și, pentru prima dată, și pe Facebook. Experiența l-a făcut să se simtă profund protejat și îngrijorat că autoritățile ar putea interveni.
Meta a recunoscut în iunie o problemă legată de blocarea eronată a unor grupuri Facebook, dar respinge ideea unei probleme mai largi pe Facebook sau Instagram. Deși deseori refuză să comenteze direct asupra plângerilor utilizatorilor, compania a intervenit punctual în cazuri individuale sesizate de BBC, restabilind accesul la conturile greșit blocate. Conform Meta, procesul de revizuire a conținutului implică o combinație de tehnologie AI și intervenție umană. În iulie, grupul a comunicat că a eliminat 635.000 de conturi ce încălcau regulile referitoare la conținut sexualizat cu minori.
Politica Meta privind exploatarea sexuală a copiilor a suferit trei modificări de la începutul anului, toate după 17 iulie, însă compania nu a comunicat impactul acestor schimbări asupra cazurilor semnalate recent. Apelurile la transparență și soluționarea rapidă a problemelor continuă să fie ridicate de utilizatorii afectați și observatori din domeniul tehnologiei.