EXCLUSIV. Dragoș Stanca despre culisele Big Tech: Sper ca „AI-ul bun” să lupte cu „AI-ul rău”/ „Am putea greși din nou, cum am greșit la apariția rețelor sociale”

Democrația în era AI: „Societățile au devenit total confuze prin folosirea greșită a mediilor algoritmice”

Inteligența artificială transformă rapid lumea în care trăim, iar dezbaterile despre impactul ei în diverse arii ale vieții devin din ce în ce mai intense. Vorbim despre implicații în piața muncii, etică, responsabilitatea deciziilor și protecția datelor. O temă centrală este și potențialul AI în educație și cercetare, unde promite să accelereze descoperirile și să personalizeze învățarea. În paralel, există discuții aprinse despre rolul AI în artă și creativitate, cu întrebări despre autenticitate și valoarea expresiei umane. Nu în ultimul rând, diverși analiști ai acestui domeniu explorează dimensiunea geopolitică a AI, unde competiția dintre marile puteri conturează noi echilibre globale.

“Democrația este, probabil, cea mai amplă temă care poate fi pusă în discuție în relație cu dinamicile actuale din tehnologie. Societatea, democrația, puterea și guvernanța devin subiecte foarte, foarte importante pentru societățile contemporane. Am fost perturbați deja în ultimul deceniu de folosirea lipsită de etică a tehnologiei. Societățile au devenit total confuze prin folosirea greșită a mediilor algoritmice. Am ajuns într-o fază în care plătim nota pentru faptul că nu am luat prea în serios acest strat etic absolut necesar atunci când am construit rețelele sociale. De fapt, suntem victimele unei mașini care a fost construită pentru un scop diferit”, spune Dragoș Stanca.

Despre etica avatarurilor digitale – din perspectivă filozofică

Centrul de Cercetare în Etică Aplicată din cadrul Facultății de Filozofie, Universitatea din București, este unul dintre mediile academice care pun aceste noi teme în discuție.

Investițiile în energie în ultimul deceniu. Cum s-a schimbat industria electricității globale și ce ramuri au fost favorizate

11:06

Inflația din România ar putea coborî la 3,5% în 2026, promite BNR

10:36

“Discutăm despre etica avatarurilor digitale bazate pe LLM, dar și a avatarurilor robotice, un domeniu emergent care se va dezvolta destul de repede”, spune Mihaela Constantinescu, care a absolvit doctoratul în 2013, cu o teză de etică aplicată privind responsabilitatea morală în organizații. Este, de asemenea, cercetător afiliat Centrului de Cercetare în Etică Aplicată (CCEA) și director executiv al acestuia. Interesele sale de cercetare includ etica virtuții, etica afacerilor și etica inteligenței artificiale, precum și raportul dintre statut moral și responsabilitate morală individuală și colectivă. În perioada 2024-2028 coordonează proiectul de cercetare avataResponsibility – „Avatar agency. Moral responsibility at the intersection of individual, collective, and artificial social entities in emergent avatar communities” finanțat de Consiliul European de Cercetare în cadrul competiției ERC Starting Grants.

Cine răspunde pentru ceea ce spune sau face avatarul?

Tema, așa cum o anunță Mihaela Constantinescu, abia acum devine relevantă și ar putea căpăta o importață critică. Pe scurt, avatarurile digitale bazate pe LLM (Large Language Models) sunt reprezentări virtuale – fie sub formă de personaje animate, fie integrate în aplicații sau platforme – care pot comunica cu oamenii într-un mod natural și personalizat. În paralel, avatarurile robotice sunt „întrupări” fizice ale acestor modele, adică roboți umanoizi sau dispozitive cu prezență fizică, dar controlați de AI. Tehnologia declanșează nenumărate întrebări analizate în proiectul de cercetare:

Pentru aceste noi realități apar nenumărate straturi etice: cine deține și controlează identitatea unui avatar? Ce responsabilitate are compania sau utilizatorul pentru ceea ce spune sau face avatarul? Cum se protejează datele și intimitatea oamenilor care interacționează cu el? Ce înseamnă autenticitate și consimțământ în relația om–avatar? Este, într-adevăr, un domeniu emergent, pentru că, în câțiva ani, se estimează că aceste avataruri nu vor mai fi doar experimente, ci actori reali în educație, servicii, medicină, relații sociale și chiar politică. Iar dilemele care decurg din această realitate poartă diverse nume: Responsabilitate – cine răspunde pentru ceea ce spune sau face avatarul?

Compania care îl dezvoltă, utilizatorul care îl folosește, sau avatarul în sine (dacă devine suficient de autonom)? Identitate și autenticitate – cum știm că un avatar reprezintă o persoană reală și nu o copie falsă?

Riscuri de deepfake, fraudă sau manipulare

Astfel, pot apărea riscuri de deepfake, fraudă sau manipulare. Sunt întrebări legate de intimitate și date personale – avatarurile pot colecta și stoca informații sensibile din interacțiuni; apare problema confidențialității și a protecției datelor. De asemenea, vorbim de riscul de manipulare și influență – avatarurile pot fi programate să convingă, să vândă, să influențeze comportamente. Cât de etic este să folosești un avatar pentru persuasiune emoțională? Și vorbim despre autonomie și dependență – oamenii ar putea dezvolta atașamente puternice față de avataruri (digitale sau robotice), ceea ce ridică riscuri de izolare socială, dependență emoțională sau chiar „psihoza AI”.

Etica în design, etica prin design și etica pentru designeri

“Când discutăm despre etica LLM-urilor, AI-ului, AI-ului generativ, există trei dimensiuni care trebuie luate în considerare: etica în design, etica prin design și etica pentru designeri. Asta înseamnă că accentul nu mai este neapărat pus pe folosirea și interpretările AI. Ne concentrăm, mai degrabă, pe companii, pe oamenii care lucrează în companiile care dezvoltă aceste produse. Dacă nu stabilim limite din timp, înainte ca un produs să fie lansat pe piață, vom trece prin aceleași probleme pe care le trăim deja cu social media. Trebuie să numim elefantul din cameră: lansarea ChatGPT pentru public, la finalul lui 2022, s-a făcut, din păcate, fără aceste bariere. Oamenii nu au fost instruiți cu privire la limite, nu li s-a vorbit despre beneficii, despre riscurile pe care aceste modele le pot aduce. Așa că am ajuns direct în partea tragică. Avem un AI conversațional folosit de adolescenți sau de grupuri vulnerabile care ajung într-o formă de psihoză. Chiar acesta este termenul folosit în cercetare, „psihoză AI”, care se dezvoltă prin folosirea repetată a acestor modele”, spune Mihaela Constantinescu.

Vorbim deja despre nenumărate procese intentate de familiile adolescenților care s-au sinucis după ce avatarurile, chatboții, i-au urmărit sau le-au oferit sfaturi despre cum ar fi mai bine să se sinucidă. Au existat astfel de cazuri în SUA, în Marea Britanie, avem astfel de cazuri peste tot, adaugă Mihaela Constantinescu.

Cât de puternici devin boții AI în dialog cu grupuri vulnerabile?

Este de notorietate că Statele Unite au preferat o abordare foarte permisivă față de marile companii tehnologice, lăsând piața să decidă ce este „cel mai bine” atât pentru consumatori, cât și pentru afaceri. Lipsa reglementărilor stricte le-a permis giganților tech să crească rapid și să acumuleze putere economică și influență socială, totul aproape fără restricții. În acest context, probleme precum dezinformarea, exploatarea datelor și practicile monopoliste au rămas adesea nerezolvate, iar responsabilitatea etică a companiilor a fost tratată marginal. Chiar dacă a rămas în urmă față de Europa la capitolul reglementare, spune Mihaela Constantinescu, America au făcut, săptămâna trecută, primii pași pentru reglementarea modului în care companiile AI – în special cele care dezvoltă modele lingvistice mari – trebuie să aibă în practică măsuri de siguranță pentru folosirea boților AI în discuții cu grupuri vulnerabile. Desigur, o altă mare provocare este că marile companii tech luptă împotriva reglementării, deci trebuie găsit punctul de echilibru.

Inteligență artificială pentru sănătate mintală, longevitate și bunăstare

Inteligența artificială va avea un impact major asupra vieții în general. Va aduce longevitate, bunăstare și  sănătate mintală, spun cei doi vorbitori. Tot mai mulți oameni folosesc chatboții pentru terapie, pentru auto-terapie, dar și pentru terapie reală. MIT Review a publicat, săptămâna trecută, un articol relevant care amintea faptul că unii terapeuți profesioniști folosesc deja ChatGPT în propria consiliere cu oameni reali. Acesta este un pas major. Breasla, însă, rămâne sceptică, având în vedere că relația terapeutică în sine este mediul care favorizează procesul curativ.

„Și tocmai de aceea etica are importanță critică și în acest caz. Pentru că un ChatGPT construit foarte etic poate fi un bun consilier și ar putea îndemna oamenii să meargă la un terapeut real. ChatGPT, însă, nu este responsabil în sine pentru sfaturile pe care le dă. Rămâne un consilier riscant, chiar dacă Sam Altman sugera, de curând, ca oamenii să folosească efectiv ChatGPT pentru terapie. Să admitem vă terapeuții ar fi mai degrabă împotriva acestei idei”, spune Mihaela Constantinescu.

Sustenabilitatea industriei AI

N-ar avea rost să vorbim de toate acestea fără a introduce imperativul de sustenabilitate. Cu atât mai mult cu cât inteligența artificială este ea însăși energofagă. Utilizarea pe scară largă a AI consumă cantități uriașe de energie, echivalente cu necesarul energetic al unor orașe mari. Pe măsură ce modelele devin mai complexe și sunt folosite tot mai intens, impactul lor energetic crește semnificativ.