Reglementarea AI: Geniile tech cer la ONU reguli stricte până nu e prea târziu

Reglementarea AI a devenit subiectul unui apel internațional care a zguduit comunitatea științifică și politică. Peste 200 de experți, inclusiv laureați ai premiului Nobel și cercetători de la Google, Microsoft, OpenAI și Anthropic, cer Națiunilor Unite să stabilească reguli stricte privind dezvoltarea inteligenței artificiale, scrie Puterea.ro.

Documentul intitulat „Global Call for AI Red Lines” solicită statelor membre ONU să intervină până în 2026 pentru a bloca utilizările considerate extrem de periculoase. Printre semnatari se află Geoffrey Hinton și Yoshua Bengio, cunoscuți drept „părinții inteligenței artificiale”.

Pericole fără precedent pentru omenire

Specialiștii avertizează că, deși AI poate îmbunătăți viața oamenilor, direcția actuală de dezvoltare aduce riscuri fără precedent. Printre limitele propuse se numără interzicerea AI de a controla arsenalul nuclear sau alte arme autonome letale. De asemenea, folosirea AI pentru supraveghere în masă, atacuri cibernetice sau crearea de deepfake-uri este considerată extrem de periculoasă. Alte riscuri menționate includ provocarea pandemiei artificial, dezinformarea pe scară largă și manipularea populației, inclusiv a copiilor. Specialiștii avertizează asupra destabilizării securității naționale, pierderii masive a locurilor de muncă și încălcării sistematice a drepturilor omului.

România se apropie de o criză majoră a forței de muncă. Avertismentul ministrului: „Vom ajunge într-un punct fără întoarcere”

17:43

Debut istoric pentru SpaceX pe bursă. Investitorii au pariat masiv pe imperiul spațial al lui Elon Musk

15:38

„Inteligența artificială ar putea depăși în curând capacitățile umane, amplificând pericolele existente. Dacă nu se iau măsuri acum, în câțiva ani va deveni tot mai dificil să se exercite un control uman real asupra acestei tehnologii”, se arată în document.

O cursă contra-cronometru pentru reglementarea AI

Experții subliniază că timpul pentru reglementarea AI este foarte scurt. Ritmul accelerat al inovației crește șansele apariției unor scenarii dezastruoase fără o reglemetare AI clară. Comunitatea științifică cere guvernelor să trateze inteligența artificială cu aceeași urgență ca armele de distrugere în masă. Apelul internațional pune presiune pe liderii mondiali să decidă rapid dacă tehnologia va rămâne un instrument al progresului sau va deveni o amenințare globală.

Impactul tot mai mare al AI asupra lumii reale

Campania pentru reglementarea AI are o amploare fără precedent. Peste 200 de personalități proeminente și 70 de organizații din politică, știință, societate și industrie susțin apelul. Printre semnatari se află fostul prim-ministru italian Enrico Letta, fosta președintă irlandeză Mary Robinson, membri ai Parlamentului European, 10 laureați ai Premiului Nobel și lideri din tehnologie, inclusiv cofondatorul OpenAI și directorul tehnic al Google. Mișcarea apare în contextul îngrijorărilor tot mai mari privind impactul AI asupra lumii reale.

Chatboții de top, inclusiv ChatGPT, Claude și Gemini de la Google, au oferit răspunsuri inconsistente la întrebări despre sinucidere. Aceste răspunsuri pot agrava crizele de sănătate mintală. Mai multe sinucideri au fost legate de conversații cu sisteme de inteligență artificială. Yoshua Bengio a subliniat că dezvoltarea rapidă de modele mai puternice creează riscuri la care societățile nu sunt pregătite să facă față.

Reglementările UE și necesitatea unui acord global

Reglementările Uniunii Europene privind AI sunt binevenite, dar un amestec de reguli naționale și europene nu poate reglementa o tehnologie globală. Susținătorii inițiativei cer crearea unui organism independent care să aplice aceste reguli. În timp ce SUA, China și membri UE își elaborează reglementările, doar un acord global poate asigura standarde comune și aplicarea lor.

Susținătorii reglementării AI speră că negocierile privind interdicțiile obligatorii vor începe rapid. Ahmet Üzümcü, fost director general al Organizației pentru Interzicerea Armelor Chimice, a descris riscul drept „daune ireversibile aduse umanității”. Liniile roșii AI reprezintă, astfel, un pas necesar pentru prevenirea unui impact negativ global.

Necesitatea clarității în utilizarea AI

Fără clarificări privind limitele, AI ar putea fi folosită în moduri extrem de periculoase. Stabilirea reglementării AI ajută guvernele să interzică utilizările care pun în pericol siguranța oamenilor. Specialiștii recomandă reguli clare pentru controlul AI asupra armelor, supravegherii și manipulării populației. Aceștia avertizează că doar prin colaborare internațională se pot preveni efectele catastrofale ale tehnologiei.

Reglementarea AI și responsabilitatea globală

Liderii mondiali și comunitatea științifică trebuie să colaboreze pentru a defini liniile roșii AI. Este nevoie de un organism global care să asigure aplicarea regulilor. Numărul mare de experți și organizații implicate reflectă gravitatea situației. Dezvoltarea AI continuă rapid, iar fără reglementări clare riscurile cresc exponențial.

Reglementarea AI este concepută pentru a proteja oamenii de pericolele potențiale ale inteligenței artificiale. Apelul internațional reprezintă un semnal clar pentru state și organizații. Comunitatea globală trebuie să acționeze acum pentru a preveni scenarii în care AI scapă de sub controlul uman.