Marile mistere și cele mai cumplite temeri care vin o dată cu Inteligența Artificială Generală

Se spune că AGI este aproape: o să o vedem la lucru în „doi ani, cinci ani — poate chiar anul viitor!”. Descrierile acestei noi descoperiri sunt extraordinar de generoase: va vindeca boli, va salva planeta, va aduce abundență, va redefini condiția umană. Există și alte narațiuni, însă, deopotrivă fascinante. Mulți spun că va declanșa apocalipsa și ne va ucide pe toți.

Oricum ar fi, se pregătește ceva mare și este inevitabil. În Silicon Valley, AGI nu e doar subiect științific, ci a devenit un adevărat crez mistic. Unii ar fi gata să îți povestească cum Ilya Sutskever a cântat „Feel the AGI!” în cursul unor ședințe ale echipei. Apoi, a părăsit OpenAI pentru a fonda Safe Superintelligence, un startup dedicat prevenirii unui scenariu apocaliptic AGI. Superinteligența – versiunea „îmbunătățită” a AGI – a devenit noul produs-vedetă.

Evangheliștii AGI: „va fi monumental, va fi o ruptură — va exista un înainte și un după”

Sutskever este el însuși un bun exemplu cu privire la motivațiile contradictorii în rândul evangheliștilor AGI. A pus fundațiile unei tehnologii pe care acum o privește ca pe un potențial dezastru: „Va fi monumental, va fi o ruptură! Vom vorbi despre un înainte și un după”, a spus el. Întrebat de ce s-a schimbat și de ce toate eforturile lui sunt orientate acum către control, a răspuns: „Fac asta din interes propriu. E important ca orice superinteligență să nu devină rebelă. Evident”.

Sutskever nu este singurul străbătut de gânduri grandioase sau apocaliptice. Fiecare epocă are credincioșii ei, scrie MIT Technology Review. În fiecare segment de timp au existat oameni convinși că trăiesc o mare tranziție istorică. Pentru era noastră, această tranziție promisă e AGI. „Se spunea că vine epoca computerelor. Apoi era internetului, iar acum ne temem de epoca AI. Dar, spre deosebire de computere și internet, AGI încă nu există”, spune Shannon Vallor, specialistă în etica tehnologiei.

AGI – cea mai articulată teorie conspiraționistă a timpului nostru

Sentimentul că „simți AGI” nu e chiar același lucru cu adoptarea unei tehnologii inovatoare. Este ceva mai straniu, comentează sursa citată. AGI seamănă mult cu o teorie conspiraționistă. Poate că este cea mai articulată teorie conspiraționistă a timpului nostru, scrie sursa citată. Pe parcursul mai multor ani, ideea unei superinteligențe a ieșit din cotloane obscure și a devenit narațiunea dominantă, care trasează direcția întregii industrii.

Ce era odinioară un vis marginal, azi susține fluxuri uriașe de profit în marile companii și, indirect, pe piețele bursiere. Se justifică investiții astronomice în centrale de date și în infrastructură energetică. Povestea grandioasă despre o tehnologie ipotetică le permite firmelor AI să ne vândă o viziune.

AGI ne va duce spre stele și spre colonizarea galaxiei

Mesajele liderilor din tehnologie descriu un univers grandios și straniu: AGI va fi inteligent ca un întreg „ținut populat cu genii” (Dario Amodei). Va declanșa o nouă eră a prosperității, ne va duce spre stele și spre colonizarea galaxiei (Demis Hassabis). Va crește abundența și va încuraja oamenii să trăiască mai intens și să facă copii (Sam Altman).

Atunci când nu vând această utopie, mogulii tech încearcă să ne încredințeze că fac eforturi să ne salveze de iad, scrie sursa citată. În 2023, Amodei, Hassabis și Altman semnau o declarație de 22 de cuvinte: „Controlul asupra riscului de extincție din AI ar trebui să fie o prioritate globală, alături de alte riscuri globale critice, cum sunt pandemiile și războiul nuclear”. Elon Musk spune că AI ar avea cam 20% șanse să anihileze omenirea.

Pare o conversație de conspiraționist, nu-i așa? Asta pentru că AGI întrunește, de fapt, elementele-cheie pentru a fi catalogat la conspirații: are un scenariu care poate fi ajustat când predicțiile nu se împlinesc. Vine cu promisiunea unui viitor mai bun, care se poate realiza doar dacă adepții descoperă adevăruri ascunse. Oferă speranța unei salvări din prăpastie. Deși nu e o teorie conspirațională în sens strict, asemănările sunt clare.

Câteva asemănări cu teoria conspirației

MIT Technology Review listează o serie de particularități care fac din cea mai avangardistă narațiune, cea despre tehnologie, o poveste conspiraționistă articulată.

1. Tranziția din zone marginale, la mainstream

Teoriile conspirației în general încep marginal. Apar câțiva entuziaști care postează pe forumuri. Unele câștigă adepți și cresc, ajung să comunice cu elite și devin acceptabile. AGI a urmat cu exactitate această traiectorie. Termenul a apărut pentru a distinge conceptul de AI restrâns, propus de Shane Legg. Legg a fondat DeepMind și a integrat ideea AGI în discursul instituțional. În 2007, AI nu era o poveste prea sexy, scrie sursa citată. Cât despre AGI – aceasta era considerată chiar o idee excentrică. Andrew Ng chiar a spus cândva că ideea este „nebunească”.

Ben Goertzel a înființat reuniunea Conference on Artificial General Intelligence în 2008. Evenimentul a crescut treptat și a legitimat termenul. Legg și Hassabis l-au adus în corporațiile mari. În paralel, Goertzel a făcut conexiuni cu Peter Thiel și cu mediul financiar. Așa a ajuns viziunea AGI să prindă în lumea reală.

2. Doomerii și catastrofa inevitabilă

Eliezer Yudkowsky a construit minuțios ideea că AGI aduce un risc enorm de catastrofă. Yudkowsky vorbește despre o probabilitate de 99,5%. Chiar a fondat o organizație non-profit care promovează controlul AGI. Apoi, Nick Bostrom a publicat ideea de Superintelligență și a adus aceste idei într-un cadru acceptabil pentru elitele tehnologice și academice. În timp, viziunea doomer a devenit mainstream: mulți ingineri au crescut și s-au dezvoltat profesional citind și dezbătând aceste perspective.

Yudkowsky e portretizat ca un fel de propovăduitor al apocalipsei AI. Cartea sa – „If Anyone Builds It, Everyone Dies” – promovează ideea că dezvoltarea AGI fără control echivalează cu sfârșitul lumii. Ideea este preluată și amplificată de experți în securitate, de oameni politici și de figuri culturale. Yudkowsky a introdus conexiuni între Thiel și DeepMind li astfel a atras investiții. OpenAI a fost fondat în 2015, cu singura ambiție de a dezvolta AGI și de a-l face sigur. Sam Altman a admis că Yudkowsky a generat interes pentru AGI în cercurile de top. Thiel, însă, s-a arătat îngrijorat de „siguranță AI”.

Astăzi, AGI a devenit parte din mainstream. Ca orice conspirație puternică, și AGI s-a strecurat în discursul public și în cel tehnologic.

3. Mitul și ficțiunea în spatele AGI

Deși conceptul AGI pare nou, cu mai puțin de 20 de ani de istorie, mitologia din spate lui datează, de fapt, de la începuturile informaticii. Turing se întreba, de pildă, dacă mașinile pot gândi, anticipând că, după ce vor învăța să se îmbunătățească reciproc, vor depăși controlul uman. În 1955, John McCarthy a cerut finanțare pentru proiecte care le-ar permite mașinilor să folosească limbaj, concepte și să se auto-îmbunătățească.

Mitul e esența: AGI nu e tehnologie, e vis, comentează sursa citată. E imposibil să demontezi un concept care se reinventează permanent. Criticii spun că, deși companiile investesc miliarde, nimeni nu știe exact cum să construiască AGI. Definițiile variază: ce înseamnă „inteligență umană”? Ce sarcini va prelua? Cât de larg este spectrul? Microsoft a realizat un studiu intitulat „Sparks of AGI”, după experimente cu GPT-4, provocând polemici. Unii cercetători au crezut că „scântei” de AGI au apărut, alții nu. Dar nimeni nu poate dovedi că este adevărat, precum nimeni nu poate demonstra că nu e adevărat.

Predicțiile devin numerologie, comentează sursa citată. Termenele vin și pleacă, fără consecințe reale. Creșterea hype-ului permite reinterpretări constante. OpenAI a lansat GPT-5 și nu s-a produs saltul așteptat, dar credincioșii nu au renunțat. Au amânat doar termenele, așa cum se face în orice teorie a conspirației veritabilă. Jeremy Cohen numește asta „colectarea de dovezi imperfecte”, adică o trăsătură tipică a gândirii conspiraționiste, comentează sursa citată.

4. Insiderii și secretul dezvăluit

Teoriile conspirației evocă deseori elite invizibile, care controlează totul. În discursul AGI, nu apar explicit grupuri legendare, cum ar fi Illuminati, dar practica e similară: oamenii din industrie știu ceva ce restul nu știe și nici nu poate vedea. Un fost angajat OpenAI, Leopold Aschenbrenner, a publicat un manifest de 165 de pagini numit Situational Awareness: ori vezi adevărul despre AGI, ori nu. Nu ai nevoie de dovezi riguroase, ci ai nevoie să „simți” conceptul. Cei care nu îl văd, pur și simplu nu sunt inițiați.

Goertzel spune că, înainte de toate marile realizări din istorie au existat tot felul de cârcotași inteligenți care să spună că acestea nu vor veni. Adevărații credincioși sunt cei care „simt”, iar Krueger numește scepticismul drept „necredință inversă”: e credința că n-o să vină AGI, care devine paradoxală.

Silicon Valley își construiește legitimitate și capital propriu

Mitul AGI s-a împletit, în timp, cu unele interese de putere. Silicon Valley își construiește legitimitate și capital propriu. Demontarea mitului ar eroda autoritatea întregii narațiuni. „AGI trebuie mereu să fie la 6–12 luni distanță. Dacă e mai departe, nu poți recruta talente. Dacă e mai aproape, ce sens mai are?”, spune un executiv AI, citat de MIT.

Vallor rezumă situația: dacă spui că o construiești o mașină care va crește puterea corporațiilor, nu obții sprijin public. Dar dacă vorbești despre mașina care salvează omenirea, acest spectacol excită. Îți creezi o zeiță, iar tu devii congruent cu ea. Pentru mulți, AGI e mijlocul de a dobândi putere nemărginită.

Investitorii și promotorii visului AGI beneficiază direct

Mitul este doar instrument, scrie MIT. Goertzel spune că regretă să vadă că visul inovator, de frontieră, s-a transformat într-o narațiune masivă: „Acum, AGI e ce spune bunică-ta, nu visul excentric al unui vizionar”.

Mitul AGI se bazează pe presupunerea că inteligența e o marfă cuantificabilă, care poate fi amplificată îndelung, folosind date și putere de calcul. Dar inteligența umană nu funcționează ca o singură scară pe care o montezi și urci pe ea, mai scrie sursa citată. Unii sunt buni la matematică, alții la artă sau empatie. Unii cred că AGI vine în anul următor. E greu să nu te întrebi ce va fi mitul următor care ne va prinde.