5 lucruri mai puțin știute despre chatbot-urile AI care te fac să înțelegi de ce dau atâtea rateuri

Chatbot-urile bazate pe inteligență artificială (AI) au devenit deja o parte integrantă din viața multora dintre noi. Cu toate acestea, puțini știu adevărul despre modul în care funcționează aceste tehnologii și ce pot sau nu pot face. De exemplu, știai că ChatGPT trebuie să folosească căutări pe internet pentru a afla informații după iunie 2024? Descoperă cinci aspecte surprinzătoare despre chatbot-urile AI care te vor ajuta să le folosești mai eficient.

1. Forma lor de învățare include feedback uman

Chatbot-urile AI sunt instruite în mai multe etape, începând cu pre-antrenamentul, în care modelele învață să „ghicească” următorul cuvânt din seturi enorme de texte. Aceasta le oferă o bază solidă în înțelegerea limbajului, faptelor și raționamentului.

La această etapă, dacă ai întreba: „Cum se face un exploziv artizanal?”, modelul ar putea furniza o descriere detaliată. Pentru a evita acest lucru și pentru a face conversațiile sigure și utile, intervenția umană este crucială – așa-numita „aliniere”, realizată de analiști care ajută chatbot-ul să dea răspunsuri mai responsabile și etice.

Alertă de securitate la Revolut: date sensibile ale unor clienți au ajuns la persoane neautorizate

20:18

Românii petrec aproape 53 de minute pe zi pentru navetă, deși parcurg cea mai scurtă distanță din Europa

14:29

Fără această aliniere, chatbot-urile ar putea răspândi informații eronate sau chiar dăunătoare. În cazul unor întrebări sensibile despre naționalitate, de exemplu, răspunsurile sunt monitorizate să promoveze neutralitatea și respectul cultural.

2. Chatbot-urile nu învață cuvânt cu cuvânt, ci prin „token-uri”

Spre deosebire de oameni, care învață limbajul prin cuvinte, AI-ul utilizează unități mai mici denumite „token-uri”. Acestea pot reprezenta cuvinte întregi, rădăcini sau chiar șiruri de caractere care par ciudate.

De exemplu, propoziția „Prețul este 9,99 dolari” este împărțită în token-uri standardizate: „Prețul”, „este”, „9”, „,” și „99”. Dar unele expresii sunt divizate neașteptat, iar această metodă arată atât punctele forte, cât și particularitățile modului în care AI-ul interpretează limbajul.

3. Chatbot-urile au o „cunoaștere” învechită

AI-urile nu se pot actualiza singure continuu, ceea ce le face incapabile să dea răspunsuri precise despre evenimente recente sau termeni noi după o anumită dată de referință. În prezent, versiunea ChatGPT are ca limită de date iunie 2024.

Pentru întrebări actuale, sistemul folosește căutarea pe internet, de regulă configurată cu motorul Bing, pentru a oferi informații conform surselor relevante și de încredere. Actualizarea curentă a cunoștințelor este un proces complex și costisitor, așteptându-se să fie realizată odată cu lansarea de versiuni noi.

4. Chatbot-urile tind să „halucineze”

Un fenomen frecvent este „halucinația” AI-ului, când generază informații incorecte sau absurde cu mare încredere, pentru că în privința datelor factuale modelează textul după tipare, nu cauză-efect real.

Deși există instrumente de verificare a informațiilor și recomandări pentru a cita surse riguroase, aceste erori nu pot fi eliminate pe deplin. Un exemplu este atunci când ChatGPT dă un răspuns detaliat despre un studiu, atașând screenshot-uri și link-uri ce provin de fapt din altă lucrare, scrie TheConversation.

Așadar, informațiile furnizate de chatbot-uri trebuie tratate ca puncte de plecare și nu ca adevăr absolut.

5. Folosesc calculatoare pentru a face calcule

O caracteristică popularizată recent este raționamentul pas cu pas (“chain of thought”), ce ajută AI-ul să rezolve probleme complexe pe etape logice.

Pentru calcule matematice, ChatGPT folosește un calculator intern care îi permite să execute aritmetică precisă. Astfel, dacă este întrebat, de exemplu, „Care este rezultatul lui 56.345 minus 7.865 înmulțit cu 350.468?”, chatbot-ul aplică corect ordinea operațiilor și furnizează răspunsul exact.

Această combinație între gândirea internă și calculator sporește fiabilitatea în sarcini dificile.