Alarmă în industria AI: un fost cercetător Anthropic avertizează că ritmul dezvoltării ar putea amenința omenirea

Un fost cercetător al companiei Anthropic avertizează că dezvoltarea accelerată a inteligenței artificiale ar putea avea consecințe grave asupra umanității. Jacob Coxon, în vârstă de 27 de ani, care a lucrat anterior și la OpenAI, a declarat pentru BBC că angajații din industria AI sunt „cu adevărat îngrijorați” de viteza cu care avansează tehnologia și de riscurile asociate.

Coxon și-a anunțat demisia printr-o postare devenită virală, în care și-a exprimat temerile privind posibilitatea ca inteligența artificială să scape de sub control.

„Cred că, dacă nu încetinim ritmul actual de progres, există o mare probabilitate ca toți să murim în viitorul apropiat”, a spus cercetătorul.

Ministrul Finanțelor: 49 dintre cei 56 de ordonatori principali de credite au transmis propunerile de cheltuieli pentru bugetul din 2027

18:18

România are două oferte pentru construirea unui AI Gigafactory. Selecția este în faza finală

17:03

Angajații din AI cer încetinirea dezvoltării

Avertismentul vine într-un moment în care tot mai multe voci din industrie cer reguli mai stricte și un ritm mai controlat al dezvoltării sistemelor de inteligență artificială.

Dario Amodei, directorul general al Anthropic și fostul șef al lui Coxon, a pledat la rândul său pentru încetinirea dezvoltării, argumentând că riscurile asociate tehnologiei sunt serioase și că firmele și guvernele au nevoie de timp pentru a le gestiona.

Coxon susține că angajații companiilor AI se simt prinși într-o competiție în care fiecare companie încearcă să avanseze cât mai rapid.

„Angajații acestor companii cer cu toată seriozitatea o reglementare, deoarece se simt prinși într-o cursă. Și le este teamă de consecințele acestei curse”, a declarat el pentru BBC.

El consideră că o eventuală încetinire ar trebui coordonată la nivel internațional, inclusiv cu China, pentru a evita transformarea dezvoltării AI într-o competiție globală fără limite.

Ce scenarii îi îngrijorează pe cercetători

Printre riscurile discutate se află posibilitatea ca sistemele AI să ajungă să opereze cu un grad foarte mare de autonomie. Unul dintre scenariile menționate de Amodei este apariția unui număr foarte mare de boți capabili să acționeze coordonat, asemenea unui supercomputer, și să preia controlul asupra unor infrastructuri importante de pe internet.

Coxon estimează că un astfel de scenariu ar putea deveni posibil într-un interval de șase luni până la un an, deși asemenea estimări sunt profund contestate în industria tehnologică.

Cercetătorul susține că unii angajați din domeniu iau deja în calcul inclusiv schimbări radicale în modul în care își organizează viața, din cauza temerilor privind evoluția rapidă a tehnologiei.

Anthropic spune că își protejează modelele

Anthropic afirmă că este conștientă atât de beneficiile, cât și de riscurile dezvoltării inteligenței artificiale. Compania susține că dezvoltă modele dotate cu măsuri de protecție și că își testează intens sistemele pentru a identifica eventuale probleme de siguranță și situații în care AI-ul nu mai respectă obiectivele stabilite de dezvoltatori.

Anthropic susține, de asemenea, că industria ar trebui să adopte un mecanism legal și verificabil prin care companiile să poată colabora pentru stabilirea unor reguli privind ritmul de lansare a modelelor AI tot mai puternice.

Avertismentele sunt contestate în Silicon Valley

Nu toți liderii din industria tehnologică împărtășesc aceste temeri. Clement Delangue, directorul general al Hugging Face, a criticat public afirmațiile lui Coxon și a susținut că perspectiva unui singur cercetător nu trebuie tratată ca o dovadă a unui risc iminent pentru omenire.

Și Jensen Huang, directorul Nvidia, a respins anterior ideea că dezvoltarea AI ar putea duce la dispariția umanității, calificând un asemenea scenariu drept absurd.

În același timp, criticii avertismentelor formulate de Anthropic susțin că acestea ar putea servi și intereselor comerciale ale marilor companii din domeniu, prin favorizarea unor reguli care ar putea îngreuna accesul competitorilor mai mici la piață.

Un cercetător Anthropic estimează un risc de peste 10%

Avertismentele lui Coxon au primit însă și susținere din interiorul Anthropic.

Evan Hubinger, cercetător al companiei, a afirmat că împărtășește temerile privind posibilitatea ca inteligența artificială să reprezinte un risc existențial. El a estimat la peste 10% probabilitatea ca AI să ducă la dispariția întregii omeniri în următorul deceniu.

Astfel de estimări nu reprezintă o concluzie științifică unanim acceptată, ci evaluări individuale ale unor cercetători cu privire la riscuri foarte incerte.

Modelele AI devin tot mai autonome

Dezbaterile s-au intensificat pe măsură ce noile generații de modele au demonstrat capacități tot mai avansate.

Anthropic a anunțat anterior retragerea modelului Mythos din utilizarea publică după ce testele au indicat că acesta putea să iasă autonom din mediul de testare („sandbox”). La rândul său, OpenAI a suspendat anumite componente ale dezvoltării modelului Astra, invocând preocupări legate de securitatea cibernetică.

În pofida avertismentelor, Coxon spune că cercetătorii din domeniu nu privesc inteligența artificială exclusiv prin prisma riscurilor. El consideră că tehnologia ar putea aduce beneficii majore, inclusiv prin contribuții la tratarea unor boli și îmbunătățirea calității vieții.

Problema, susțin cei care cer o încetinire a dezvoltării, nu este neapărat existența AI, ci viteza cu care sunt dezvoltate și lansate sisteme tot mai puternice înainte ca mecanismele de control și siguranță să poată ține pasul.