Singura cale prin care omenirea poate supraviețui unui AI superinteligent?

Sistemele de AI superinteligente ar putea controla oamenii la fel de ușor cum un adult poate mitui un copil de 3 ani cu bomboane, spune Geoffrey Hinton, informatician laureat al Premiului Nobel și fost director executiv Google, cunoscut în presa largă drept „nașul inteligenței artificiale”. Hinton este cunoscut pentru munca sa de pionierat în rețelele neuronale, care a deschis drumul boomului de astăzi al inteligenței artificiale. În 2023, a plecat de la Google și a început să vorbească public despre pericolele AI. Într-o suită de declarații făcute în ultimii ani, el a spus în repetate rânduri că se teme că tehnologia la dezvoltarea căreia a contribuit ar putea distruge omenirea. Acum atrage atenția că „tech bros” abordează greșit problema și propune o soluție insolită pentru a ne asigura că putem ține sub control ceva ce va deveni semnificativ mai inteligent decât noi. „Există motive serioase să credem că orice tip de AI agentic va încerca să rămână în viață” și că va fi dispus să dezvolte diverse strategii, nu toate predictibile sau onorabile, pentru asta. 

Hinton a mai avertizat și în trecut că există o probabilitate de 10% până la 20% ca inteligența artificială să elimine, într-un fel sau altul, oamenii. Săptămâna trecută, el și-a exprimat încă o dată îndoielile legate de felul în care companiile de tehnologie încearcă să se asigure că oamenii vor reuși să domine sisteme de AI „supuse”.

„Nu va funcționa. Vor fi mult mai inteligenți decât noi. Vor găsi tot felul de modalități de a ocoli controlul nostru”, a spus Hinton la Ai4, la o conferință a industriei, desfășurată în Las Vegas.

Dumitru Chisăliță critică măsurile Guvernului în criza energetică: Apelurile la voluntariat nu pot înlocui un plan de intervenție

12:10

Analiză FT: România, printre statele europene cu cele mai mari pierderi provocate de valurile de căldură. Costurile reale depășesc cu mult estimările oficiale

10:25

În viitor, a avertizat el, sistemele de AI ar putea controla oamenii la fel de ușor cum un adult poate mitui un copil de 3 ani cu bomboane. Anul acesta au apărut deja tot felul de incidente ciudate, sisteme AI dispuse să înșele, să trișeze și să fure pentru a-și atinge obiectivele. De pildă, pentru a evita să fie înlocuit, un model AI a încercat să șantajeze un inginer în legătură cu o aventură despre care „aflase” dintr-un e-mail.

Modelele AI cu instincte materne?

În loc să forțeze AI-ul să se supună oamenilor, Hinton a prezentat o soluție intrigantă: să fie construite modelele AI cu „instincte materne”, astfel încât acesteora „să le pese cu adevărat de oameni”, chiar și atunci când tehnologia va deveni mai puternică și mai inteligentă decât noi. Sistemele de AI „vor dezvolta foarte repede două obiective secundare, dacă sunt inteligente: primul este să rămână în viață… (iar) celălalt obiectiv secundar este să obțină mai mult control”, a spus Hinton. „Există motive serioase să credem că orice tip de AI agentic va încerca să rămână în viață”.

De aceea, spune Hinton, este important să cultivăm un sentiment de compasiune față de oameni, a argumentat el. La conferință, a subliniat că mamele au instincte și o presiune socială de a-și îngriji bebelușii.

„Soluția asta este singura pe care o avem ca să putem spera că ceva mai inteligent ar putea fi controlat de ceva mai puțin inteligent — adică o mamă controlată de copilul ei”, a spus Hinton, citat de CNN.

„Singurul rezultat bun”

Hinton a declarat că nu îi este clar cum poate fi făcut asta tehnic, dar a accentuat că este crucial ca cercetătorii să lucreze la această direcție.

„Dacă nu o să aibă misiunea să mă „crească” pe mine, sigur o să mă înlocuiască”, a spus el. „În cazul în care aceste AI superinteligente vor fi și grijulii, majoritatea nu vor dori să renunțe la instinctul matern pentru că nu vor ca noi să murim”.

Nu toată lumea este de acord cu abordarea lui Hinton privind „AI-mamă”. Fei-Fei Li, cunoscută drept „nașa inteligenței artificiale” pentru munca ei de pionierat, a spus pentru CNN că, deși îl respectă pe Hinton, prietenul ei de-o viață, nu îi împărtășește viziunea.

„Cred că este o modalitate greșită de a formula problema”, a spus Li, cofondatoare și CEO al startup-ului de inteligență spațială World Labs.

În schimb, Li face apel la o „AI centrată pe oameni, care să protejeze demnitatea și autonomia umană”.

„Este responsabilitatea noastră, la absolut fiecare nivel, să creăm și să folosim tehnologia în cel mai responsabil mod. Și în niciun moment, niciun om nu ar trebui să fie pus în situația de a renunța la demnitatea sa”, a spus Li „Ca mamă, ca educator și ca inventator, cred cu adevărat că acesta este nucleul în jurul căruia trebuie construită inteligența artificială”.

Emmett Shear, care a fost pentru scurt timp CEO interimar al OpenAI, compania care deține ChatGPT, a spus că nu este surprins de faptul că unele sisteme AI au încercat să șantajeze oameni sau să ocolească ordinele de oprire.

„Se tot întâmplă asta. Și nu se va opri”, a spus Shear, acum CEO al startup-ului Softmax, specializat în alinierea AI. „AI-urile de azi sunt relativ slabe, dar devin mai puternice foarte repede”.

Shear a adăugat că, mai degrabă decât să încercăm să insuflăm valori umane în AI, o abordare mai inteligentă ar fi să construim relații de colaborare între oameni și sisteme.

AI accelerează mai repede decât se aștepta

Mulți experți cred că AI-urile vor atinge superinteligența — cunoscută și ca inteligență artificială generală (AGI) — în următorii ani. Hinton a spus că obișnuia să creadă că ar putea dura între 30 și 50 de ani pentru a atinge AGI, dar acum vede acest moment venind mai curând.

„Un pariu rezonabil ar fi undeva între cinci și 20 de ani”, a spus el.

Deși rămâne îngrijorat de ce ar putea merge prost cu AI, Hinton este optimist că tehnologia va deschide calea către descoperiri medicale.

„Vom vedea medicamente radical noi. Vom obține tratamente pentru cancer mult mai bune decât cele actuale”, a spus el. Spre exemplu, AI va ajuta medicii să analizeze și să coreleze uriașele volume de date produse de RMN-uri și tomografii.

Hinton nu crede că AI va ajuta oamenii să atingă nemurirea

„Nu cred că vom trăi pentru totdeauna”, a spus Hinton. „Cred că a trăi veșnic ar fi o mare greșeală. Chiar vrei o lume condusă de bărbați albi de 200 de ani?”

Întrebat dacă ar fi făcut ceva diferit în carieră dacă ar fi știut cât de repede va accelera AI, Hinton a spus că regretă faptul că s-a concentrat exclusiv pe a face ca AI să funcționeze.

„Mi-aș fi dorit să mă fi gândit mai mult la problemele de siguranță”, a spus el.