Mișcarea globală pentru protecția copiilor în online stimulează dezvoltarea tehnologiilor AI de siguranță

Valul global de reglementări privind siguranţa copiilor în online a declanșat o explozie de tehnologii bazate pe inteligență artificială (AI), menite să protejeze minorii de pericolele internetului. De la smartphone-uri cu funcții de blocare automată a conținutului explicit, până la sisteme de verificare a vârstei prin recunoaștere facială, industria tech trece printr-o transformare profundă. 

Legi dure și amenzi uriașe dacă guvernele nu respectă reglementările privind siguranţa copiilor în online

În Marea Britanie, noul Online Safety Act obligă marile companii tehnologice să asigure protecția copiilor împotriva materialelor nepotrivite vârstei, discursului instigator la ură, fraudelor, bullyingului și, mai ales, împotriva conținutului legat de abuzuri sexuale asupra minorilor. Pedepsele pentru nerespectarea legii sunt uriașe: amenzi de până la 10% din veniturile globale anuale ale companiilor vizate.

Acest model inspiră deja inițiative legislative similare în Statele Unite, unde proiectul de lege Kids Online Safety Act prevede ca platformele de social media să fie direct responsabile pentru prevenirea expunerii minorilor la riscuri și conținut dăunător, scrie CNBC.

Doi clienți misterioși au generat aproape 40% din veniturile Nvidia

16:50

Volkswagen a fost amendată cu 30 de milioane $ pentru exploatarea muncitorilor în Brazilia

16:29

Presiunea guvernelor a produs deja primele efecte vizibile. Platforme precum Pornhub sau alte site-uri pentru adulți au început să blocheze accesul total al utilizatorilor până la finalizarea unui proces de verificare a vârstei. În același timp, giganți precum Spotify, Reddit sau X (fosta Twitter) au introdus sisteme de control suplimentar pentru a preveni accesul copiilor la materiale sexuale sau violente.

Totuși, aceste măsuri nu sunt lipsite de critici. O parte din industria tech atrage atenția că monitorizarea strictă și verificările de identitate pot duce la riscuri privind confidențialitatea datelor personale și chiar la abuzuri din partea unor terți.

AI intră în joc: cum selfie-urile devin pașapoarte digitale

Pe lângă legislație, tehnologia bazată pe inteligență artificială joacă un rol tot mai important în verificarea vârstei utilizatorilor. Companii precum Yoti au dezvoltat sisteme capabile să estimeze vârsta unui utilizator analizând pur și simplu o fotografie tip selfie. Algoritmul, antrenat pe milioane de imagini, reușește să calculeze cu o marjă de eroare de doar doi ani vârsta tinerilor cuprinsă între 13 și 24 de ani.

Yoti a colaborat deja cu Poșta Britanică și speră să profite de valul de interes pentru introducerea unor carte de identitate digitale la nivel național. Deși există și alți furnizori pe piață, precum Entrust, Persona sau iProov, Yoti este în prezent liderul în furnizarea de soluții pentru verificarea vârstei sub noul regim legal britanic.

„Există o adevărată competiție pentru câștigarea încrederii publicului și a autorităților. Cine reușește să demonstreze eficiență și siguranță va domina această industrie emergentă”, explică Pete Kenyon, partener la firma de avocatură Cripps.

Dar tocmai aici apare problema centrală: cum se poate proteja un copil fără a colecta și stoca date biometrice sensibile? Specialiștii în protecția datelor avertizează că sistemele de recunoaștere facială pot genera „probleme masive de confidențialitate” și pot deveni ținte atractive pentru hackeri.

De la smartphone-uri sigure la comunități digitale mai curate

Inovațiile nu se limitează la software. În Finlanda, producătorul de telefoane HMD Global a lansat modelul Fusion X1, un smartphone construit special pentru copii. Dispozitivul folosește AI pentru a bloca automat orice tentativă de a fotografia sau trimite imagini nud, precum și accesul la materiale sexuale din aplicații și browsere.

Telefonul a fost dezvoltat în parteneriat cu compania britanică SafeToNet, specializată în securitate cibernetică pentru protecția minorilor. Oficialii HMD susțin că ideea unui astfel de telefon a apărut înainte de adoptarea legislației britanice, dar că noul context legal ar putea accelera cererea pentru astfel de dispozitive.

Lansarea Fusion X1 vine într-un moment în care tot mai mulți părinți se alătură mișcării „smartphone-free kids”, prin care încearcă să întârzie cât mai mult posibil momentul în care copiii primesc primul lor telefon inteligent. Noile soluții AI le oferă părinților un compromis: acces la tehnologie, dar cu garanții suplimentare de siguranță.

Presiunea asupra giganților digitali: Google și Meta sub lupă

Organizații pentru protecția copiilor, precum NSPCC din Marea Britanie, atrag atenția că responsabilitatea finală nu trebuie să cadă doar pe umerii startup-urilor sau ai companiilor mici, ci și pe cei ai giganților globali precum Google și Meta.

De ani de zile, aceste platforme sunt acuzate că au contribuit la agravarea problemelor de sănătate mintală în rândul adolescenților, prin expunerea constantă la bullying online, presiune socială și dependență de rețele. În replică, companiile au introdus controale parentale extinse și setări de confidențialitate mai stricte, însă criticii spun că acestea sunt doar „măsuri cosmetice” și nu atacă adevăratele cauze.

„Pentru prea mult timp, marile companii tech au închis ochii în fața valului de conținut periculos care circula pe platformele lor, expunând copiii la riscuri enorme. Acea epocă a neglijenței trebuie să se încheie”, a declarat Rani Govender, manager de politici pentru siguranța copiilor online în cadrul NSPCC.