Pericolul din spatele sfaturilor medicale oferite de AI-ul Google

AI-ul Google stârnește îngrijorări majore, după ce utilizatorii au primit sfaturi medicale false sau posibil dăunătoare.

EAU părăsește OPEC: o lovitură neașteptată pentru grup

05:35

Angajații trag mai tare, dar câștigă la fel: val de nemulțumire pe piața muncii din România

20:37

Experții în domeniu avertizează asupra faptului că dependența de astfel de sfaturi automate poate pune sănătatea oamenilor în pericol

Sănătatea utilizatorilor, amenințată de sfaturile primite de la AI-ul Google

Foto: Marginmedia.com.au

O investigație realizată de publicația The Guardian a arătat că utilizatorii pot fi expuși riscurilor din cauza informațiilor medicale false din rezumatele oferite de AI-ul Google. Gigantul tech susține că aceste prezentări, care oferă instantanee despre subiecte sau întrebări, sunt „utile” și „fiabile”. Totuși, unele apar în topul rezultatelor căutării și oferă informații medicale inexacte, punând oamenii în pericol.

Într-un caz descris de experți ca „foarte periculos”, Google a sfătuit eronat pacienții cu cancer pancreatic să evite alimentele bogate în grăsimi. Specialiștii spun că recomandarea este opusul a ceea ce ar trebui și ar putea crește riscul de deces.

Un alt exemplu „alarmant” este cel în care AI-ul Google a oferit informații false despre testele funcționale hepatice. Acestea au indus în eroare persoanele care sufereau de boli grave de ficat. Căutările legate de testele de cancer la femei au furnizat, de asemenea, informații „complet eronate”, ce ar putea determina oamenii să ignore simptome reale.

Un purtător de cuvânt Google a spus că multe exemple prezentate au fost „capturi de ecran incomplete”. Totuși, AI-ul se bazează pe „surse reputate” și recomandă consultarea unui specialist. Alte rapoarte arată că ChatGPT poate fi păcălit pentru a oferi sfaturi despre infracțiuni, de la spălare de bani, la exporturi ilegale de arme.

Sfaturi medicale inexacte

Ancheta publicației britanice apare pe fondul îngrijorării că datele AI pot induce consumatorii în eroare. Un studiu din noiembrie anul trecut a arătat că chatboții oferă adesea sfaturi financiare inexacte. Totodată, preocupările se extind și asupra rezumatelor știrilor.

Sophie Randall, directoarea Forumului de Informare a Pacienților, spune că prezentările AI Google pot plasa informații medicale inexacte în topul căutărilor. Iar, asta poate reprezente un risc pentru sănătate. Stephanie Parker, de la organizația Marie Curie, adaugă că oamenii caută online în momente de criză, iar informațiile greșite le pot afecta grav sănătatea.

The Guardian a descoperit mai multe cazuri de informații false despre sănătate în secțiunea „AI Overviews” a Google, după sesizările organizațiilor medicale și caritabile. Anna Jewell, de la Pancreatic Cancer UK, a declarat că sfatul de a evita alimentele bogate în grăsimi este „complet incorect” și „periculos”. Pacienții care urmează aceste recomandări pot să nu consume suficiente calorii, să nu tolereze chimioterapia sau intervențiile chirurgicale salvatoare.

Tastarea întrebării „care este intervalul normal pentru analizele de sânge hepatice” a produs, de asemenea, informații înșelătoare. Cifrele erau multiple și fără context legat de vârstă, sex, etnie sau naționalitate. Studiile recente arată că asistenții AI pot colecta și partaja date sensibile, precum informații bancare, dosare medicale sau numere fiscale.

Rezultate înșelătoare pentru sănătatea mintală

Pamela Healy, directorul British Liver Trust, spune că AI-ul Google oferă informații alarmante. Unele persoane cu boli hepatice grave ar putea crede că au rezultate normale și să nu se prezinte la doctor pentru consult.

Stephen Buckley, de la Mind, avertizează că rezumatele AI despre afecțiuni mentale, ca psihoza sau tulburările de alimentație, pot fi „foarte periculoase” și „incorecte”. Ele pot determina oamenii să evite să ceară ajutor medical. Unele omit contextul sau nuanțe importante și pot reflecta prejudecăți ori stereotipuri stigmatizante.

Google afirmă că majoritatea prezentărilor AI sunt corecte, utile și că lucrează constant la îmbunătățirea calității acestora.