Democrația, sub presiunea fabricii de influență a elitelor tehnologice. Studiu: Agenții AI pot industrializa manipularea alegătorilor

Un agent AI bine calibrat poate influența opiniile politice ale alegătorilor la fel de eficient — și uneori chiar mai eficient — decât un interlocutor uman instruit. Nivelul de persuasiune îl depășește pe cel al campaniilor și reclamelor tradiționale, arată două studii publicate în Nature și Science.

Aceste rezultate ridică semnale de alarmă privind rolul AI în democrație, într-o eră în care sute de milioane interacționează zilnic cu astfel de tool-uri. Cercetătorii subliniază că puterea de persuasiune  provine din avalanșa de informații, nu din apeluri emoționale – deseori însoțită de erori.​

Experimente care au șocat prin impact

Studiul din Nature a implicat aproape 6.000 de participanți din Canada, Polonia și SUA, care au conversat scurt cu chatboți programați să susțină candidați reali. Preferințele s-au deplasat spectaculos: până la 24 de puncte procentuale în SUA, 10 în Canada și Polonia – mult peste efectul sub un punct al reclamelor clasice.

Comisia Europeană lansează planul pentru rețele electrice rapide. Ce înseamnă pentru prețul la curent

14:43

SpaceX țintește supremația în topul Big Tech. Tranzacția de 800 miliarde dolari care ar detrona OpenAI

13:40

ANALIZĂ

„Am fost complet uluiți de impact”, declară David Rand, profesor de științe cognitive la Cornell și coautor al studiilor.​

Problema ține de programare, nu de tehnologia în sine: chatboții execută ordinele primite.

„Nu poți presupune că toate modelele AI au instrucțiuni binevoitoare. Trebuie să ne întrebăm mereu cine a programat chatbotul și ce agendă i-a dat?”, concluzionează Rand. Cu alegeri iminente global, autoritățile trebuie să intervină pentru a preveni manipularea subtilă a votului, spun cercetătorii.

De la informare la dezinformare

Lucrarea din Science a testat peste 77.000 de britanici pe 700 de teme politice, de la avort la imigrație. Opiniile s-au mutat cu 5-10 puncte spre poziția susținută de agentul AI. Chatboții pro-dreapta au produs mai multe inexactități, reflectând biasuri din conținutul online conservator.​

Cu cât chatboții ofereau mai multe argumente, cu atât convingeau mai bine, dar și greșeau mai des, lăsând utilizatorii mai dezinformați. Modelele de la open-source la ChatGPT avansat s-au dovedit la fel de eficiente în dialog.​

„În loc ca oamenii să devină mai informați, devin mai dezinformați”, avertizează Lisa Argyle, cercetătoare la Purdue.

Autorii avertizează că democrațiile trebuie să acționeze proactiv, înainte ca aceste sisteme să fie folosite pe scară largă în mod opac: „Fereastra pentru reglementare este scurtă. Capacitățile AI avansează mult mai rapid decât mecanismele de protecție socială și legală.”

Interesant de subliniat e că participanții la studiu au evaluat conversațiile cu AI-ul ca fiind mai respectuoase, mai clare și mai adaptate la persoana lor decât conversațiile cu interlocutori umani. Cercetătorii susțin că această capacitate de persuasiune, chiar dacă moderată la nivel individual,
poate deveni extrem de puternică atunci când este aplicată la milioane de votanți simultan. Acest lucru ar putea crea în campaniile electorale ceea ce autorii numesc „persuasiune politică industrializată”.