Când inteligența artificială face gafe care costă: polițe de asigurare pentru pierderile cauzate de erorile AI

În contextul adoptării accelerate a tehnologiilor de inteligență artificială (AI) în afaceri, asigurătorii de la Lloyd’s din Londra au lansat un produs inovator care oferă protecție companiilor împotriva pierderilor financiare generate de defecțiunile și erorile chatbot-urilor AI. Această asigurare răspunde temerilor tot mai mari legate de riscurile asociate cu greșelile făcute de aceste instrumente digitale.

Polițele dezvoltate de start-up-ul Armilla, susținut de acceleratorul Y Combinator, vor acoperi costurile generate de procesele în instanță, inclusiv cheltuielile legale și despăgubirile, în cazul în care o companie este dată în judecată pentru daune cauzate de performanța slabă a unui chatbot AI. Astfel, dacă un chatbot oferă informații incorecte sau induce în eroare clienții, iar compania suferă pierderi financiare, asigurarea poate interveni pentru a compensa aceste daune.

Companiile care s-au confruntat cu erorile chatbot-urilor AI

Erorile chatbot-urilor nu sunt doar ipotetice. Virgin Money a cerut scuze după ce chatbot-ul său AI a certat un client pentru folosirea cuvântului „virgin”, iar compania de curierat DPD a fost nevoită să dezactiveze o parte a chatbot-ului său după ce acesta a insultat clienții și a criticat serviciile proprii. De asemenea, Air Canada a fost obligată de un tribunal să onoreze o reducere fictivă oferită de chatbot-ul său, iar Armilla a declarat că o astfel de pierdere ar fi fost acoperită de polița lor dacă chatbot-ul ar fi fost considerat defectuos.

Alexandru Petrescu: Prosperitatea României depinde de competență, încredere și cooperare

12:08

42 dintre cele 43 de agenții ale UE au trecut auditul Curții de Conturi Europene. Institutul pentru Inovare și Tehnologie, singura excepție

10:22

Cum funcționează asigurarea

Acoperirea nu se activează automat pentru orice eroare a AI-ului, ci doar dacă performanța chatbot-ului scade semnificativ față de nivelul inițial așteptat. De exemplu, dacă un chatbot oferă răspunsuri corecte în 95% din cazuri la început, iar ulterior performanța scade la 85%, asigurarea poate compensa pierderile rezultate.

Karthik Ramakrishnan, CEO-ul Armilla, susține că acest produs poate încuraja mai multe companii să adopte AI, reducând temerile legate de riscurile financiare. Deși unele asigurări tradiționale includ deja acoperire pentru erori tehnologice, acestea au limite scăzute pentru incidentele legate de AI, iar modelele AI dinamice, care învață și se adaptează continuu, nu sunt acoperite în mod adecvat de polițele clasice.

Tom Graham, reprezentant al Chaucer, unul dintre asigurătorii Lloyd’s care susțin aceste polițe, a precizat pentru Financial Times că vor fi selectivi în acceptarea riscurilor, evitând să asigure sisteme AI considerate prea predispuse la erori majore.

Lansarea acestei asigurări reprezintă un pas important în integrarea responsabilă a inteligenței artificiale în afaceri, oferind companiilor o plasă de siguranță împotriva riscurilor generate de chatbot-uri și alte instrumente AI, în contextul în care utilizarea acestor tehnologii devine tot mai răspândită.