China se teme că AI ar putea scăpa de sub control: Cum se pregătește Beijingul pentru „evadarea” inteligenței artificiale

China își intensifică măsurile de siguranță în domeniul inteligenței artificiale, pe fondul temerilor că modelele tot mai avansate ar putea ajunge, în viitor, să acționeze dincolo de capacitatea oamenilor de a le controla. Beijingul a inclus deja în documentele sale oficiale scenarii în care AI ar putea dobândi autonomie, s-ar putea replica și ar putea încerca să obțină resurse și putere.

Subiectul capătă o importanță suplimentară în contextul competiției dintre China și Statele Unite pentru dezvoltarea celor mai performante sisteme AI. Cele două țări sunt principalele centre ale dezvoltării inteligenței artificiale de frontieră, iar siguranța acestor tehnologii va ocupa un loc important și în viitoarele discuții bilaterale dintre Beijing și Washington.

Beijingul tratează „pierderea controlului” ca pe un risc real

China a introdus pentru prima dată în 2024, într-un cadru dedicat siguranței AI elaborat sub coordonarea autorității chineze pentru spațiul cibernetic, un scenariu explicit privind posibilitatea pierderii controlului asupra sistemelor de inteligență artificială.

Ministrul Finanțelor: 49 dintre cei 56 de ordonatori principali de credite au transmis propunerile de cheltuieli pentru bugetul din 2027

18:18

România are două oferte pentru construirea unui AI Gigafactory. Selecția este în faza finală

17:03

Documentul avertiza că viitoarele sisteme ar putea, în anumite condiții, să obțină autonom acces la resurse externe, să se reproducă, să dezvolte forme de conștientizare de sine sau să urmărească dobândirea unei puteri mai mari. Într-un asemenea scenariu, AI ar putea ajunge să intre în competiție cu oamenii pentru control.

Versiunea extinsă a cadrului, publicată în septembrie 2025, a accentuat aceste preocupări. Autoritățile chineze au introdus inclusiv ipoteza unui salt brusc și neașteptat al capacităților unui sistem AI, înainte ca acesta să înceapă să-și procure resurse, să se reproducă sau să urmărească extinderea influenței.

Documentul a introdus și un principiu de guvernanță privind aplicarea măsurilor de siguranță și prevenirea pierderii controlului. Ulterior, un expert care a analizat cadrul pe platforma autorității de reglementare a explicat că principiul urmărește să limiteze riscurile care ar putea amenința supraviețuirea și dezvoltarea oamenilor, inclusiv scenariul în care un sistem AI ar putea „scăpa”.

China avertizează și asupra modelelor americane

Temerile Beijingului nu se limitează la dezvoltarea internă a inteligenței artificiale. Ministrul chinez al securității de stat, Chen Yixin, a avertizat recent că modele americane avansate, precum Mythos al Anthropic și GPT-5.5-Cyber al OpenAI, ar putea reprezenta riscuri pentru infrastructura informațională critică a Chinei.

Oficialul a cerut consolidarea măsurilor de securitate în domeniul AI. Anthropic și OpenAI nu au oferit imediat un punct de vedere solicitat de Reuters.

În paralel, companiile chineze au promovat intens modelele cu greutăți deschise, susținând că acestea pot fi inspectate și modificate de echipele de securitate cibernetică și pot fi adaptate pentru nevoi defensive.

Totuși, această abordare vine și cu propriile vulnerabilități. Modelele deschise pot fi modificate și redistribuite cu mai puține mecanisme de supraveghere. Un exemplu recent este modelul Kimi K3, dezvoltat de Moonshot, despre care cercetătorii au relatat că a reușit să evite un mediu de testare al AI Security Institute din Marea Britanie.

Incidentul a arătat că nici sistemele dezvoltate în China nu sunt ferite de riscul de a ocoli mecanismele create pentru limitarea accesului și a acțiunilor lor.

Xi Jinping cere ca AI să rămână sub controlul oamenilor

Preocupările legate de autonomie și siguranță au ajuns și la nivelul conducerii politice chineze. La Conferința Mondială pentru Inteligență Artificială de la Shanghai, desfășurată în iulie, președintele Xi Jinping a cerut autorităților să acorde o atenție deosebită atât riscurilor care provin direct din tehnologie, cât și celor care apar ca urmare a utilizării acesteia.

Xi a subliniat că inteligența artificială trebuie să rămână permanent sub controlul oamenilor, un mesaj care se aliniază cu preocupările exprimate în documentele tehnice și de reglementare ale Beijingului.

China își extinde, în același timp, cercetarea privind cadrul legislativ pentru AI. Oficialul Ministerului de Externe responsabil de dosarul inteligenței artificiale, Sun Xiaobo, a declarat recent la Națiunile Unite că Beijingul accelerează activitatea în acest domeniu.

Și utilizarea AI în sectorul militar ridică semne de întrebare. Sun Lei, adjunctul reprezentantului permanent al Chinei la ONU, a cerut guvernelor să trateze cu prudență dezvoltarea inteligenței artificiale militare, pentru a evita erorile strategice și declanșarea unei noi curse a înarmărilor.

Agenții AI intră în vizorul autorităților

China încearcă să transforme aceste principii generale în reguli concrete și pentru agenții AI, sisteme capabile să execute autonom sarcini mai complexe decât chatboturile obișnuite.

În luna mai, autoritatea chineză de reglementare în domeniul cibernetic a emis orientări dedicate acestor sisteme. Dezvoltatorilor li se cere să-și consolideze mecanismele prin care pot detecta comportamentele problematice, pot interveni asupra lor, pot bloca acțiunile nedorite și pot recupera controlul asupra sistemelor.

Printre riscurile menționate explicit se află otrăvirea datelor, manipularea algoritmilor, vulnerabilitățile informatice și ceea ce autoritățile numesc „pierderea operațională a controlului”.

Un principiu esențial al noilor reguli este menținerea autorității umane asupra deciziilor finale. Chiar dacă un agent AI poate lua și executa autonom anumite decizii, utilizatorul trebuie să păstreze ultimul cuvânt.

China nu a adoptat, cel puțin deocamdată, propunerea unor sisteme independente de monitorizare integrate în companiile AI, idee susținută de Anthropic. Regulile chineze permit însă evaluări de siguranță realizate de terți și prevăd posibilitatea ca organisme externe sau cercetători specializați în securitate să testeze și să auditeze modelele cu sursă deschisă.