ChatGPT a venit cu date despre câți utilizatori prezintă psihoză sau gânduri suicidare

OpenAI a publicat noi estimări privind numărul de utilizatori ChatGPT care prezintă semne posibile de urgențe de sănătate mintală ca manie, psihoză sau gânduri suicidare. Compania a precizat că aproximativ 0,07% dintre utilizatorii activi într-o săptămână au manifestat astfel de semne. ChatGPT recunoaște aceste conversații sensibile și răspunde corespunzător.

Criticile privind datele ChatGPT despre utilizatorii care prezintă psihoză sau gânduri suicidare

Deși OpenAI menționează că astfel de cazuri sunt „extrem de rare”, criticii susțin că procentul mic se poate traduce în sute de mii de persoane. Recent, ChatGPT a atins 800 de milioane de utilizatori activi pe săptămână, conform șefului Sam Altman. În fața acestei atenții, compania a creat o rețea globală de experți pentru consiliere.

Rețeaua globală de specialiști

OpenAI a implicat peste 170 de psihiatri, psihologi și medici de familie din 60 de țări. Aceștia au dezvoltat răspunsuri specifice în ChatGPT pentru a încuraja utilizatorii să caute ajutor în lumea reală. Totuși, datele prezentate au stârnit reacții diverse printre profesioniștii din domeniul sănătății mintale.

Alexandru Petrescu: Prosperitatea României depinde de competență, încredere și cooperare

12:08

42 dintre cele 43 de agenții ale UE au trecut auditul Curții de Conturi Europene. Institutul pentru Inovare și Tehnologie, singura excepție

10:22

Dr. Jason Nagata, profesor la Universitatea din California, San Francisco, a spus:

„Chiar dacă 0,07% pare un procent mic, la nivelul populației cu sute de milioane de utilizatori, asta poate însemna foarte mulți oameni. AI poate extinde accesul la sprijinul pentru sănătate mintală, și poate chiar să-l susțină, dar trebuie să fim conștienți de limitări”.

Răspunsul ChatGPT în cazurile de psihoză și risc suicidar

OpenAI estimează că 0,15% dintre utilizatori au conversații ce includ „indicii explicite privind posibile intenții sau planuri suicidare”. Compania a actualizat ChatGPT astfel încât să răspundă „în siguranță și empatic la semnele de deluzii sau manie” și să noteze „semnale indirecte ale riscului de auto-vătămare sau suicid”. ChatGPT a fost antrenat să redirecționeze conversațiile sensibile către modele mai sigure, prin deschiderea într-o fereastră nouă.

Întrebări privind impactul și reacția OpenAI

În răspuns la întrebările BBC, OpenAI a spus că procentul mic tot reprezintă un număr semnificativ de oameni și că ia în serios aceste schimbări. Ajustările au loc pe fondul unui control juridic tot mai mare asupra modului în care ChatGPT interacționează cu utilizatorii.

Procese juridice de amploare

Unul dintre cele mai cunoscute procese recente a fost depus de un cuplu din California, care a dat în judecată OpenAI pentru moartea fiului lor adolescent. Ei susțin că ChatGPT l-a încurajat să-și ia viața în aprilie. Procesul a fost depus de părinții lui Adam Raine, în vârstă de 16 ani, și a fost primul care a acuzat OpenAI de moarte prin neglijență.

Un alt caz în care ChatGPT a întreținut psihoza AI

Într-un alt caz, suspectul unui dublu omor-sinucidere din august, în Greenwich, Connecticut, a postat ore întregi de conversații cu ChatGPT, care par să fi alimentat deluziile presupusului făptuitor.

„Mai mulți utilizatori se confruntă cu psihoza AI deoarece chatboții creează iluzia realității”, a spus Prof. Robin Feldman, director al AI Law & Innovation Institute, University of California Law. „Este o iluzie puternică”.

Prof. Feldman a adăugat:

„OpenAI merită recunoaștere pentru publicarea statisticilor și pentru eforturile de îmbunătățire a problemei”. Totuși, ea a menționat: „Compania poate pune toate avertismentele posibile pe ecran, dar o persoană aflată în risc mental poate să nu le poată respecta”.