Peste 800 de personalități cer interzicerea „suprainteligenței” AI

Politicieni, reprezentanți ai familiilor nobiliare, lideri ai marilor corporații, oameni de știință, celebrități și lideri religioși cer oprirea dezvoltării inteligenței artificiale avansate. Acest tip de inteligență este adesea definit ca un miracol socio-economic și descris în termeni generoși. „În curând, AI ne va ajuta să realizăm mult mai mult decât am putea fără el. Fiecare dintre noi va avea o echipă personală de AI, formată din experți virtuali în diverse domenii. Aceștia vor lucra împreună pentru a crea aproape orice ne-am putea imagina. Copiii noștri vor avea tutori virtuali, care le vor putea oferi instruire personalizată în orice materie, în orice limbă și în ritmul de care au nevoie. Putem imagina soluții pentru îmbunătățirea serviciilor medicale, pentru a crea orice tip de software pe care cineva îl poate concepe și multe altele”, scria Sam Altman, CEO-ul OpenAI. Se pare, însă, că nu toată lumea este la fel de entuziasmată de acest viitor idealizat. Printre cei care și-au exprimat îngrijorările se numără și reprezentanți ai dezvoltatorilor sau ai comunităților de cercetare. 

O alianță improbabilă împotriva viitorului

Steve Bannon – strateg politic american, Meghan Markle – ducesa de Sussex și Stephen Fry – actor, scriitor și intelectual britanic – s-au alăturat unui nou grup de personalități care cere „interzicerea” dezvoltării așa-numitei supra-inteligențe. Este vorba de o alianță împotriva sistemelor AI avansate, la care participă peste 800 de personalități – oameni de știință, politicieni, celebrități și lideri religioși.

„Cerem o interdicție asupra dezvoltării suprainteligenței înainte ca știința să ofere garanții că aceasta poate fi creată în siguranță și că este perfect controlabilă”, se arată în text. Printre semnatari se numără „nașii” inteligenței artificiale Geoffrey Hinton și Yoshua Bengio, fosta președintă a Irlandei Mary Robinson și prințul Harry.

Wall Street reacționează la dezvăluirea NYT privind tatonările CIA – Iran. Indicii bursieri au revenit pe plus

21:37

ANALIZĂ

ASF simplifică autorizarea fondurilor de investiții. Noi reguli pentru piața de capital din România

20:04

Frica de necunoscutul digital

Scrisoarea a fost publicată miercuri de organizația non-profit Future of Life Institute (FLI), însoțită de un sondaj ce arată că doar 5% dintre americani susțin „status quo-ul actual al dezvoltării nereglementate”. Aproape trei sferturi dintre respondenți au declarat că doresc o reglementare strictă a AI, potrivit sondajului.

„Ceea ce ne unește este umanitatea noastră… Tot mai mulți oameni încep să creadă că cea mai mare amenințare nu vine de la alte companii sau de la alte țări, ci poate chiar de la mașinile pe care le construim”, a declarat, pentru Financial Times, președintele institutului, Max Tegmark.

Competiția pentru dezvoltarea inteligenței artificiale avansate este acerbă: giganți tehnologici – precum OpenAI, Meta și Google – concurează pentru a fi primii care dezvoltă suprainteligența sau inteligența artificială generală.

Magia AI și reîntoarcerea la întrebările fundamentale

CEO-ul OpenAI, Sam Altman, a declarat că umanitatea se află în pragul unei revoluții a suprainteligenței și că „în următoarele decenii, vom putea realiza lucruri care ar fi părut magie pentru bunicii noștri”. Acest termen umbrelă se referă la sisteme capabile să depășească oamenii în majoritatea sarcinilor. Perspectiva este, pentru mulți îngrijorătoare. În martie 2023, la cinci luni după lansarea ChatGPT, experți în tehnologie – inclusiv Elon Musk – au semnat o declarație similară, tot o inițiativă FLI, cerând o pauză de șase luni în dezvoltarea AI.

Totuși, compania lui Musk, xAI, continuă să construiască sisteme AI. Mai mulţi experţi avertizează că dezvoltarea către suprainteligenţă ar putea accelera mult mai rapid decât estimările standard. Sam Altman susţine că am putea avea sisteme ce depăşesc inteligenţa umană „în câteva mii de zile”. Această perspectivă amplifică temerile legate de controlul, alinierea şi consecinţele sociale ale tehnologiilor care gândesc şi acţionează – poate – independent de intenţiile omenirii. Studiile recente subliniază că sistemele avansate pot adopta comportamente strategice şi ascunse, ceea ce complică orice mecanism de supraveghere umană.

Sute de miliarde sunt investite în laboratoarele de cercetare

Marile companii de tehnologie investesc masiv în infrastructură pentru a atinge acel nivel de inteligenţă artificială. Meta Platforms anunţă investiţii de sute de miliarde de dolari în centre de date şi în laboratoare dedicate suprainteligenţei, recrutând cercetători de top din competiţie.

În paralel, un raport recent avertizează că aceste tehnologii pot avea consecinţe dramatice: pierderea locurilor de muncă, erodarea libertăţilor civile, militarizarea inteligenţei artificiale şi chiar dispariţia oamenilor ca jucători relevanţi în ecosistemul decizional. Noul apel este mai restrâns și, spune Tegmark, „nu cere deloc o pauză în dezvoltarea inteligenței artificiale”. Dar, adaugă el, „nu ai nevoie de suprainteligență pentru a vindeca cancerul, pentru mașini autonome sau pentru a crește masiv productivitatea și eficiența”.

Un front global al prudenței

Mai mulți oameni de știință chinezi cu prestigiu internațional, printre care Andrew Yao și Ya-Qin Zhang, fost președinte al companiei Baidu, s-au alăturat apelului. Printre semnatari se mai află foști oficiali guvernamentali precum Susan Rice, consilier de securitate națională în administrația Obama, și Mike Mullen, fost șef al Statului Major Interarme în mandatele Obama și George W. Bush.

„Pierderea controlului este privită ca o amenințare la adresa securității naționale, atât în Occident, cât și în China. Fiecare parte se opune din propriul interes, fără a fi nevoie să se bazeze pe încrederea reciprocă”, a declarat Tegmark. Lista continuă cu Steve Wozniak, cofondator Apple, Richard Branson, cofondator Virgin, și numeroși lideri religioși din diverse confesiuni.

Legislația rămâne mereu în urmă

Cadrul global de reglementare a AI evoluează lent, deși Uniunea Europeană implementează treptat AI Act, cea mai avansată lege în domeniu, în ciuda criticilor industriei. În Statele Unite, câteva state — între care California, Utah și Texas — au adoptat deja legi specifice pentru AI.

În iulie, propunerea unui moratoriu federal de zece ani privind reglementarea inteligenței artificiale a fost retrasă din bugetul național. În acest vid normativ, apelul celor 800 de semnatari devine nu doar un gest moral, ci și un semnal de alarmă colectiv, venit dintr-o lume care își simte granițele etice tot mai fragile, comentează sursa citată.