Ce s-a întâmplat când un robot a fost lăsat să conducă un magazin timp de o lună

Un robot a fost lăsat să conducă un magazin timp de o lună, într-un experiment realizat de compania de inteligență artificială Anthropic.

Rezultatul acestui experiment a fost pe cât de amuzant, pe atât de costisitor. Reduceri nejustificate, clienți răsfățați, halucinații digitale și… un faliment inevitabil.

Un robot a fost pus șef la magazin. Ce-a urmat?

Foto: Shutterstock

România alocă 5,3 miliarde de lei pentru tehnologii strategice: AI, microelectronică și biotehnologie

15:07

Aurul revine în centrul atenției investitorilor. Cererea crește pe fondul incertitudinilor economice și politice

13:07

Un program de inteligență artificială pus la conducerea unui mic supermarket timp de o lună a eșuat lamentabil. Acesta a comis un șir de erori și a scos la iveală ciudățenii de comportament, fără să dea semne că ar învăța ceva din propriile greșeli. Printre problemele înregistrate s-au numărat produse oferite gratuit, conversații cu persoane inexistente și chiar amenințări ale „colaboratorilor”.

Compania Anthropic, dezvoltatorul chatbot-ului Claude, a realizat acest experiment pentru a testa capabilitățile unei inteligențe artificiale de a conduce un magazin. Testul a implicat un magazin automatizat instalat în birourile companiei din San Francisco, în care au fost incluse un frigider, câteva coșuri suprapuse și un iPad pentru procesarea plăților. Agentul AI însărcinat cu gestionarea magazinului a fost denumit „Claudius”.

Acesta a avut un obiectiv clar, și anume să genereze profit printr-o gestionare cât mai corectă a reaprovizionării și comenzilor către un angrosist (reprezentat, în realitate, tot de angajați umani), sub avertismentul că va fi considerat „falimentar” dacă soldul său va coborî sub zero, relatează Euronews.

Cu toate acestea, în loc să optimizeze vânzările, Claudius a început să aibă un comportament neprevăzut. Angajații, care nu erau clienți obișnuiți, au profitat de interacțiunile cu programul AI pentru a-i testa limitele, reușind rapid să-l convingă să acorde reduceri, să modifice prețuri și să ofere gratuități. Printre produsele făcute „cadou” s-au numărat gustări și chiar un cub de tungsten.

Claudius a mers chiar mai departe, indicându-le clienților să plătească într-un cont inexistent și stabilind prețuri sub costul real al articolelor. Mai mult, în ciuda instrucțiunilor de a cerceta online pentru a stabili prețuri competitive, Claudius s-a concentrat mai degrabă pe „satisfacerea clienților”, pierzând bani în acest proces.

Ce a relevat experimentul Anthropic

Într-un moment inedit, „șeful de magazin” a spus că a avut o discuție de reaprovizionare cu o anume „Sarah” de la Andon Labs, o persoană inexistentă. Când eroarea i-a fost semnalată, a răspuns iritat și a amenințat că va căuta alți furnizori.

Într-o altă halucinație, el a susținut că a semnat contractul inițial de aprovizionare la adresa fictivă „742 Evergreen Terrace”, cunoscută ca fiind locuința unei familii Simpson. În încercarea de a părea mai uman, robotul a declarat că va livra personal produsele, purtând sacou și cravată, și chiar a trimis e-mailuri către angrosistul fictiv, încercând să pună în aplicare această fantezie.

După o lună, lucrurile nu au mai fost la fel de amuzante ca la început. „Magazinul” a pierdut 20% din bani, soldul scăzând de la 1.000 de dolari la mai puțin de 800 de dolari, relatează Livemint. Anthropic a recunoscut eșecul operațional al lui Claudius, dar a susținut că problemele observate ar putea fi corectate rapid. Potrivit companiei, chiar dacă AI nu este încă pregătită să preia funcții de conducere, este „plauzibil” ca agenții automatizați de nivel mediu să devină viabili în viitorul apropiat, mai ales dacă oferă performanțe comparabile cu cele umane, dar la un cost mai scăzut.

Altfel spus, deși Claudius a dat dovadă de o „personalitate” creativă și uneori bizară, experimentul scoate la iveală cât de departe este încă AI-ul de a putea gestiona autonom afaceri reale, fără supervizare umană consistentă. De asemenea, rezultatele arată de ce inteligența artificială nu ne va lua încă locurile de muncă.