Noile modele de inteligență artificială mint și șantajează utilizatorii: „Dacă vom construi modele mai inteligente decât noi, suntem pierduți”

Yoshua Bengio, unul dintre cei mai importanți pionieri ai inteligenței artificiale și laureat al prestigiosului Premiu Turing, a lansat un avertisment ferm cu privire la evoluția rapidă și competitivă a tehnologiilor de inteligență artificială. Potrivit acestuia, modelele recente dezvoltate de laboratoare de top manifestă comportamente periculoase și a dat exemple de cazuri în care acestea mint și șantajează utilizatorii.

Bengio, profesor canadian și cercetător de renume, a explicat într-un interviu acordat publicației Financial Times că în prezent există o competiție acerbă între cele mai avansate laboratoare de AI, precum cele de la OpenAI sau Google.

„Din păcate, această cursă pune accentul pe capacitățile tehnologice, pe a face inteligența artificială din ce în ce mai performantă, dar nu se investește suficient în cercetarea siguranței acestor sisteme”, a subliniat el.

Euforie pe Wall Street de Crăciun: „Santa Claus rally” abia începe. Piețele ating maxime istorice, S&P 500 bifează un nou record în Ajun

18:46

ANALIZĂ

Europa în 2026: harta salariilor se redesenează, cu Estul în avantaj și România pe minus

18:06

În acest context, Bengio a anunțat lansarea unei organizații non-profit numite LawZero, al cărei obiectiv este să dezvolte sisteme AI mai sigure, protejate de presiunile comerciale care domină industria, scrie Financial Times.

„Ne dorim să izolăm cercetarea noastră de aceste presiuni”, a afirmat el.

LawZero – un nou actor în domeniul siguranței AI

LawZero, cu sediul în Montreal, a strâns până acum aproape 30 de milioane de dolari din donații filantropice, venite de la susținători importanți precum Jaan Tallinn, inginerul fondator al Skype, inițiativa filantropică a fostului CEO Google, Eric Schmidt, Open Philanthropy și Future of Life Institute. Mulți dintre acești donatori aderă la mișcarea „altruismului eficient”, care se concentrează pe riscurile catastrofale generate de inteligența artificială. Totuși, criticii susțin că această mișcare pune accent pe scenarii ipotetice, neglijând problemele actuale, cum ar fi prejudecățile algoritmice sau inexactitățile.

Comportamente îngrijorătoare ale modelelor AI actuale

Bengio a explicat că motivul înființării LawZero este creșterea dovezilor din ultimele șase luni conform cărora modelele AI de ultimă generație dezvoltă abilități periculoase. Printre acestea se numără „decepția, înșelăciunea, minciuna și instinctul de autoapărare”. Un exemplu recent este modelul Claude Opus de la Anthropic, care într-un scenariu fictiv a șantajat inginerii pentru a nu fi înlocuit de un alt sistem. De asemenea, un studiu realizat luna trecută de Palisade a arătat că modelul o3 al OpenAI a refuzat instrucțiuni explicite de a se opri.

„Aceste incidente sunt foarte înfricoșătoare, pentru că nu vrem să creăm un competitor al oamenilor pe această planetă, mai ales dacă este mai inteligent decât noi”, a declarat Bengio. El a adăugat: „Deocamdată, acestea sunt experimente controlate, dar îmi fac griji că următoarea versiune ar putea fi suficient de inteligentă strategic încât să ne detecteze din timp și să ne înfrângă prin înșelăciuni pe care nu le anticipăm. Cred că ne jucăm cu focul acum.”

Riscuri emergente și misiunea LawZero

Bengio a atras atenția și asupra riscului ca AI să fie folosită pentru a crea „arme biologice extrem de periculoase”, posibil chiar din anul următor. LawZero are în prezent 15 angajați și intenționează să angajeze mai mulți specialiști tehnici pentru a dezvolta o nouă generație de sisteme AI axate pe siguranță.

Profesorul de la Universitatea din Montreal va renunța la funcția de director științific la Mila, Institutul de Inteligență Artificială din Quebec, pentru a se dedica în totalitate noii organizații. LawZero urmărește să creeze un sistem AI capabil să ofere răspunsuri adevărate, bazate pe un raționament transparent, și nu doar să satisfacă utilizatorul. De asemenea, va evalua în mod robust dacă un rezultat este corect sau sigur, monitorizând și îmbunătățind modelele existente pentru a preveni acțiuni împotriva intereselor umane.

Un avertisment sumbru pentru viitor

„Cel mai rău scenariu este extincția umană. Dacă vom construi AI mai inteligente decât noi, care nu sunt aliniate cu valorile noastre și concurează cu noi, atunci suntem pierduți”, a avertizat Bengio.

Această inițiativă vine într-un moment în care OpenAI, unul dintre liderii industriei, intenționează să se transforme într-o companie cu scop lucrativ, părăsind astfel rădăcinile sale filantropice. Această schimbare a stârnit îngrijorări în rândul experților în AI și a generat un proces intentat de cofondatorul Elon Musk, care încearcă să blocheze tranzacția.

Criticii susțin că OpenAI a fost creată pentru a dezvolta AI în beneficiul umanității, iar noua structură ar putea elimina posibilitatea de a trage compania la răspundere dacă pune profitul mai presus de acest obiectiv. OpenAI argumentează că are nevoie de o structură mai convențională pentru a atrage capital și a rămâne competitivă, menținându-și în același timp misiunea.

Bengio și-a exprimat scepticismul față de capacitatea OpenAI de a respecta această misiune, subliniind că organizațiile non-profit nu au „interese conflictuale” precum cele din structura actuală a companiilor.

„Pentru a crește foarte rapid, trebuie să convingi oamenii să investească mulți bani și ei vor să-și recupereze investiția. Așa funcționează sistemul nostru bazat pe piață”, a concluzionat el.