Prima pagină » Cercetătorii au găsit o modalitate prin care să oprească „halucinațiile” inteligenței artificiale

Cercetătorii au găsit o modalitate prin care să oprească „halucinațiile” inteligenței artificiale

Cercetătorii au găsit o modalitate prin care să oprească
Cercetătorii cred că au găsit o modalitate prin care să oprească halucinațiile inteligenței artificiale. Foto: Colaj Shutterstock

Recent, cercetătorii au făcut pași importanți în domeniul inteligenței artificiale, fiind convinși că au descoperit o metodă eficientă pentru a preveni apariția halucinațiilor în sistemele AI. Aceste halucinații, adesea considerate o problemă majoră în dezvoltarea tehnologiilor avansate, pot afecta acuratețea și încrederea în răspunsurile generate de inteligența artificială. Descoperirea unei soluții pentru reducerea sau eliminarea acestor halucinații reprezintă un pas esențial în direcția creșterii siguranței și a fiabilității sistemelor AI în diverse domenii.

Inteligența artificială a avansat spectaculos în ultimul deceniu, însă modelele lingvistice mari (LLM), precum ChatGPT de la OpenAI, Gemini de la Google sau Llama de la Meta, continuă să comită erori grave și să genereze informații false, cunoscute sub numele de „halucinații”. Aceste probleme nu sunt doar persistente, ci și greu de rezolvat, iar soluțiile actuale nu oferă garanții pe termen lung. În acest context, un nou domeniu promițător, numit neurosymbolic AI, începe să capete contur și ar putea schimba fundamental modul în care funcționează inteligența artificială.

De ce modelele lingvistice mari sunt nesigure

LLM-urile funcționează pe baza „deep learning”, folosind cantități uriașe de date textuale pentru a învăța tipare statistice. Astfel, ele pot prezice cu succes următorul cuvânt sau frază într-un text, dar nu înțeleg cu adevărat sensul acestuia. De aceea, atunci când sunt puse în fața unor întrebări complexe sau a unor situații neobișnuite, pot genera răspunsuri greșite, absurde sau chiar periculoase.

Un caz notoriu a fost cel al profesorului american de drept Jonathan Turley, care a fost acuzat în mod fals de hărțuire sexuală de către ChatGPT în 2023. Răspunsul OpenAI a fost să „șteargă” practic existența lui Turley din baza de date, astfel încât chatbot-ul să nu mai poată răspunde la întrebări despre el – o soluție departe de a fi satisfăcătoare sau corectă.

Această abordare reactivă, de a corecta erorile după ce au apărut, nu este sustenabilă. Probleme similare apar și când LLM-urile amplifică stereotipuri sau oferă răspunsuri centrate pe perspectiva occidentală, fără nicio responsabilitate clară pentru aceste dezinformări.

Epuizarea datelor și riscul auto-amplificării erorilor

Un alt obstacol major este nevoia tot mai mare de date pentru antrenarea LLM-urilor. Deja se ajunge la situația în care modelele sunt „hrănite” cu date sintetice, adică texte generate tot de alte LLM-uri. Acest lucru riscă să perpetueze și să amplifice erorile din modelele anterioare, iar costurile de ajustare a AI-ului după antrenare („post-hoc model alignment”) cresc exponențial.

În plus, pe măsură ce modelele devin mai complexe, devine aproape imposibil pentru programatori să urmărească și să corecteze fiecare pas al procesului de „gândire” al AI-ului.

Neurosymbolic AI: Îmbinarea învățării automate cu regulile formale

Neurosymbolic AI combină învățarea predictivă a rețelelor neuronale cu predarea IA a unei serii de reguli formale pe care oamenii le învață pentru a putea delibera mai fiabil. Acestea includ reguli logice, cum ar fi „dacă a atunci b”, cum ar fi „dacă plouă, atunci totul afară este în mod normal ud”; reguli matematice, cum ar fi „dacă a = b și b = c atunci a = c”; și semnificațiile convenite ale unor lucruri precum cuvinte, diagrame și simboluri. Unele dintre acestea vor fi introduse direct în sistemul de inteligență artificială, în timp ce altele le va deduce singură analizând datele sale de antrenament și efectuând „extragerea cunoștințelor”.

Acest lucru ar trebui să creeze o inteligență artificială care nu va avea niciodată halucinații și va învăța mai rapid și mai inteligent, organizându-și cunoștințele în părți clare și reutilizabile. De exemplu, dacă inteligența artificială are o regulă conform căreia lucrurile sunt ude afară atunci când plouă, nu este nevoie să rețină fiecare exemplu al lucrurilor care ar putea fi ude afară – regula poate fi aplicată oricărui obiect nou, chiar și unuia pe care nu l-a mai văzut niciodată.

În timpul dezvoltării modelului, inteligența artificială neurosimbolică integrează, de asemenea, învățarea și raționamentul formal folosind un proces cunoscut sub numele de „ciclul neurosimbolic”. Aceasta implică o inteligență artificială parțial antrenată care extrage reguli din datele sale de antrenament, apoi insuflă aceste cunoștințe consolidate înapoi în rețea înainte de antrenamentul ulterior cu date, scrie Live Science.

Avantajele neurosymbolic AI

Integrarea regulilor formale în rețelele neuronale aduce mai multe beneficii:

  • Reducerea halucinațiilor: AI-ul devine mai puțin predispus la generarea de informații false, pentru că poate verifica răspunsurile pe baza regulilor învățate.
  • Eficiență energetică: Nu mai este nevoie să fie stocate și procesate volume uriașe de date, deoarece regulile pot fi aplicate la situații noi fără exemple suplimentare.
  • Responsabilitate și transparență: Este mai ușor pentru utilizatori să urmărească modul în care AI-ul ajunge la o concluzie, iar corectarea erorilor devine mai simplă.
  • Echitate: AI-ul poate fi programat să respecte reguli etice, de exemplu: „Deciziile nu trebuie să depindă de rasa sau genul unei persoane.”

A treia revoluție în AI

Prima etapă a inteligenței artificiale, în anii 1980, a fost bazată pe AI simbolică – calculatoarele învățau reguli formale. A urmat epoca „deep learning” în anii 2010, iar neurosymbolic AI este considerată de mulți ca fiind „al treilea val”.

Această abordare este deja aplicată cu succes în domenii specializate, unde regulile pot fi bine definite. De exemplu, Google a folosit neurosymbolic AI în AlphaFold (pentru prezicerea structurilor proteinelor, util în descoperirea de medicamente) și AlphaGeometry (pentru rezolvarea problemelor complexe de geometrie).

În cazul AI-urilor cu aplicații mai generale, China a dezvoltat DeepSeek, care folosește o tehnică de „distilare” a cunoștințelor, un pas spre neurosymbolic AI. Totuși, pentru ca această abordare să fie viabilă la scară largă, este nevoie de cercetare suplimentară pentru rafinarea extragerii de reguli generale și a organizării cunoașterii.

Un viitor mai sigur și mai transparent pentru AI

Dacă inteligența artificială va continua să progreseze, va fi nevoie de sisteme care pot învăța rapid din puține exemple, care își pot verifica raționamentul, pot folosi cunoștințele dobândite în contexte noi și pot raționa fiabil. Neurosymbolic AI ar putea oferi chiar o alternativă la reglementare, deoarece verificările și echilibrele ar fi integrate direct în arhitectura sistemelor și, eventual, standardizate la nivel de industrie.

Deși mai este mult de parcurs, neurosymbolic AI deschide o cale promițătoare către o inteligență artificială mai sigură, mai corectă și mai eficientă – una care nu doar să prezică, ci și să înțeleagă.

Alte articole importante
EXCLUSIV | Adrian Șonka, explorator al Universului. În epoca virală a conspirațiilor, separarea granițelor dintre adevăr și fabulație devine o misiune
EXCLUSIV | Adrian Șonka, explorator al Universului. În epoca virală a conspirațiilor, separarea granițelor dintre adevăr și fabulație devine o misiune
Adrian Șonka privește cerul cu luciditate și aduce știința în spațiul public fără artificii, rămânând consecvent datelor, logicii și clarității, într-o epocă dominată de zgomot, mituri și superficialitate. PutereaFinanciară.ro aduce în prim-plan un interviu cu Adrian Șonka, explorator al Universului, doctor în fizică și cercetător la Institutul Astronomic al Academiei Române. Un specialist care nu […]
Economia Franţei, a doua cea mai mare din UE, raportează creșteri peste prognoze în T2
Economia Franţei, a doua cea mai mare din UE, raportează creșteri peste prognoze în T2
Economia Franței a reușit să depășească estimările analiștilor și să înregistreze o creștere de 0,3% în al doilea trimestru al anului 2025, susținută de redresarea cheltuielilor gospodăriilor. Cu toate acestea, Franța se confruntă în continuare cu un deficit bugetar ridicat și presiuni din partea Uniunii Europene și a FMI pentru a adopta măsuri stricte de […]
Toyota se îndreaptă spre al șaselea an consecutiv ca lider mondial al vânzărilor auto
Companii
Toyota se îndreaptă spre al șaselea an consecutiv ca lider mondial al vânzărilor auto
Producătorul japonez Toyota este foarte aproape să-și păstreze coroana de lider mondial al vânzărilor auto pentru al șaselea an consecutiv. Compania a raportat vânzări record de peste cinci milioane și jumătate de vehicule în primele șase luni ale anului, performanță care depășește cu mult rezultatele obținute de rivalii de la Volkswagen. Toyota, pe cale să […]
Premieră economică în Cuba: comerțul privat depășește statul în retail
Premieră economică în Cuba: comerțul privat depășește statul în retail
Pentru prima dată în ultimele decenii, sectorul privat din Cuba a depășit statul în ceea ce privește valoarea vânzărilor cu amănuntul, marcând o schimbare semnificativă în economia insulei. Această evoluție reflectă adaptările economice și sociale profunde dintr-un regim comunist care încearcă să își regândească rolul în piața internă. Statul pierde teren în Cuba: comerțul privat […]
Lovitură de proporții pentru imperiul Kering: vânzările Gucci s-au prăbușit cu 25%
Companii
Lovitură de proporții pentru imperiul Kering: vânzările Gucci s-au prăbușit cu 25%
Grupul de lux Kering, proprietarul renumitului brand Gucci, trece prin cea mai dificilă perioadă din ultimii ani, raportând o scădere dramatică a vânzărilor în al doilea trimestru din 2025.  Cădere abruptă a vânzărilor Gucci și rezultate dezamăgitoare pentru întregul grup Rezultatele financiare publicate marți de Kering au șocat piața de lux: veniturile totale ale grupului […]
Promisiune imposibilă: Uniunea Europeană recunoaște că nu poate investi 600 de miliarde de dolari în SUA
Promisiune imposibilă: Uniunea Europeană recunoaște că nu poate investi 600 de miliarde de dolari în SUA
Uniunea Europeană se află în centrul unui scandal internațional după ce a admis că nu poate respecta promisiunea făcută recent de a investi 600 de miliarde de dolari în economia Statelor Unite. Deși angajamentul a fost prezentat ca o victorie diplomatică menită să evite un război comercial între cele două mari puteri economice, oficialii de […]