Cum se construiesc agenții AI pentru companii. Cristiana Deca: „Noul aur este AI-ul, dar foarte puțini lideri înțeleg ce înseamnă să-l integrezi”

Agenții AI nu mai sunt doar experimente de lux al marilor corporații. În prezent, tot mai multe companii — de la retail la logistică, de la servicii financiare la administrație — au introdus sau au în plan să implementeze automatizări cu agenți AI. Dar între „a avea un agent AI” și „a avea un agent AI sigur, eficient și conform cu legislația” există o diferență uriașă.

Maparea proceselor și licențierea seturilor de date, vitale pentru agentificare

În noul episod al podcastului Puterea Financiară, Cristiana Deca, CEO Decalex Digital, explică de ce maparea proceselor, licențierea seturilor de date și aplicarea principiilor etice sunt fundamentale pentru companiile care folosesc AI.

În termeni simpli, un agent AI este un sistem care analizează mediul (prin date), ia decizii pe baza unui model de inteligență artificială și acționează pentru a executa o anumită categorie de sarcini și a atinge obiective clar definite. Agenții pot planifica, acţiona, învăţa, adapta execuția unor sarcini. De asemenea, comunică și colaborează cu alţi agenţi AI din companie şi/sau cu echipele. Algoritmii specializați pot accesa date, trimite e-mailuri, genera documente sau interacţiona cu aplicaţii.

Singapore depășește Londra în topul piețelor de listări publice inițiale

22:04

Piața auto locală își revine: creștere de 39% a înmatriculărilor

21:23

Cristiana Deca este și cofondator al Decalex Digital, companie românească specializată în servicii cyber­secu­rity şi conformare digitală. În România, Decalex Digital estimează afaceri de un milion de euro în 2025.

Agenții AI, primul pas către companii semi-autonome

Potrivit unei analize publicate de McKinsey anul acesta, peste 60% dintre companiile care folosesc deja AI în procesele interne și intenționează să dezvolte și să implementeze proprii agenți AI până în 2026.

Agenţii AI, explică pentru Puterea Financiară Cristiana Deca, deschid uşa către organizaţii semi-autonome sau hibride. Astfel, o parte din decizii sunt luate de software iar cealaltă parte (esenţială, de altfel) de către top managementul „uman”. Cu agenţii AI, controlul centralizat pierde teren, iar deciziile se iau mai rapid. Însă este esențial ca acești algoritmi să fie corect construiți, pentru a se evita haosul în organizații.

„Sigur, problemele și provocările apar, pentru că seturile de date trebuie să fie curate și organizate corect. De asemenea, procesele interne trebuie să fie organizate corect. Fără maparea acestor procese de exemplu, nu ai cum să introduci AI. Adică tu poți să introduci, dar n-o să aducă niciun fel de valoare. Și atunci cred că putem să vorbim despre integrarea AI și a principiilor etice ce țin de utilizarea cu bună-credință a AI-ului în momentul în care ți-ai făcut curățenie în procesele din organizație. Până atunci, orice AI pe care-l introduci poate să-ți aducă de fapt un mare dezavantaj, atât din perspectivă etică, dar și operațională”, spune  Cristiana Deca.

Categorii de agenți AI folosiți în afaceri

În funcție de nivelul de autonomie și scopul utilizării, putem vorbi despre trei mari categorii de agenți folosiți în mediul de afaceri:

• Agenți de asistență (AI Assistants) – automatizează sarcini repetitive (ex. răspunsuri la clienți, raportări interne, procesare documente). Exemple: chatboți corporativi, asistenți HR, suport AI pentru clienți.
• Agenți de decizie (Decision AI Agents) – analizează date complexe, fac recomandări și optimizează procese (supply chain, pricing, logistică).
• Agenți autonomi (Autonomous AI Agents) – interacționează cu alte sisteme și pot acționa independent (ex. programare automată, management de infrastructură IT, operațiuni în robotică).

Cum se construiesc algoritmii specializați pe procese de business

Cristiana Deca explică faptul că dezvoltarea unui agent AI eficient nu începe cu tehnologia, ci cu ordine internă și date curate. Ea a explicat cum se construiește un astfel de algoritm.

Compania trebuie să înțeleagă clar ce vrea să automatizeze. Se definesc fluxurile de lucru, se identifică punctele unde AI poate adăuga valoare și se stabilește ce date sunt disponibile. Urmează selectarea și pregătirea datelor – „combustibilul” AI-ului (data curation). Datele trebuie să fie curate, corecte și licențiate, să nu încalce drepturi de proprietate intelectuală, să respecte normele GDPR și AI Act privind transparența și scopul utilizării.

Deca avertizează că multe companii lucrează cu seturi de date neclare, ceea ce poate duce la erori grave sau chiar atacuri cibernetice. „Un AI antrenat pe date viciate va fi bolnav din start. Poate produce rezultate greșite, halucinații sau vulnerabilități de securitate”, spune ea.

Antrenarea modelului se face inițial pe date fictive

Procesul începe cu date dummy – date fictive, pentru testare inițială, urmate de un volum mic de date reale pentru calibrare. Modelul este apoi ajustat și testat în medii controlate înainte de a fi implementat („deployment”). Această etapă este esențială pentru a evita halucinațiile algoritmice și comportamentele nedorite.

Implementarea se face pe segmente mici de proces, nu în toată compania simultan. „Dacă vrei ca agentul AI să optimizeze logistica, îl testezi mai întâi doar pe fluxul de intrare a camioanelor, apoi extinzi treptat către întregul lanț operațional”, explică Deca.

„Simplist vorbind, inițial se introduce – se promptează – ceea ce ne dorim să facă. În spatele prompturilor se introduc seturile de date pe care se antrenează modelul. Apoi intră într-o fază de testare în care se introduc date nereale, ca să nu afecteze întregul algoritm. Se introduce apoi un calup mic de date pe care se testează real-time și ulterior se face deployment-ul – se integrează – însă integrarea lui nu este deplină. Dacă vrei să-l integrezi pe tot business-ul pe un flux cap-coadă, îl introduci prima dată pe o singură bucată. Ca să te asiguri că nu halucinează și că seturile de date sunt corecte, cel mai bine așa este introduci pe o bucată din fluxul operațional pe care îl extinzi ulterior către tot procesul”, spune CEO-ul Decalex Digital.

Unde ar fi necesari şi pot fi implementaţi primii agenţi? Departamentele financiare, recrutare, marketing sau juridic ar putea fi printre primele.

Riscurile unei implementări greșite

Există riscuri? Categoric, da, spune Cristiana Deca. Cel puţin patru. Poate deveni o problemă  dependenţa de AI: dacă agenţii sunt prost configuraţi, deciziile pot deveni eronate, ineficiente, decontextualizate. În al doilea rând, sunt riscuri legate de securitatea şi confidenţialitatea datelor: un agent cu acces la ERP sau CRM poate deveni o breşă majoră dacă nu este proiectat şi administrat corect. Al treilea risc vine în cazul eşecurilor: cine răspunde legal pentru deciziile greşite ale unui agent autonom? În al patrulea rând, se ridică întrebarea cum gestionăm eficient acei agenţi implementaţi local, fără aprobarea departamentelor de guvernanţă?

În ceea ce privește integrarea AI-ului, în companiile cu care a lucrat Decalex Digital au existat trei tipuri de situații.

„Una este lipsa de awarness la nivel de bord, adică nu înțeleg exact ce este AI-ul și cum ar trebui integrat, pentru că toată lumea își dorește să prindă acest val, să integreze. AI-ul este într-adevăr o febră nouă. Noul aur este AI-ul, însă sunt foarte puțini lideri sunt conștienți de ce înseamnă să integrezi.  Trebuie să ai procesele mapate, acestea trebuie să fie să arate într-un fel, trebuie să știi pe fiecare proces ce fluxuri de date ai, unde sunt seturile de date, cine are acces la ele și așa mai departe. Ecosistemul de integrare este destul de complex.

A doua este că managerii au nevoie de educația personalului care utilizează AI-ul. Pentru că oamenii nu își dau seama când are probleme, dacă are probleme, ce ar trebui să facă și ce înseamnă acele probleme pentru departamente. Uneori o halucinație a unui AI poate să ducă la o pierdere financiară. Iar a treia e necesitatea licențierii seturilor de date, care – de asemenea – trebuie să fie curate și corecte”, spune Cristiana Deca.

Cât de importante sunt datele pe care este antrenat AI-ul

În cazul în care datele nu sunt licențiate și nu au un proprietar, nu poți să ai siguranța că ele sunt sănătoase, adaugă Deca.

„Și atunci a apărut această acest nou tip de business de vânzare de seturi de date licențiate, care cred eu că va lua o amploare foarte mare în anii viitori. Ce se întâmplă este că genul ăsta de seturi de date pe care tu antrenezi AI-ul și care nu știi de unde vin sau ce s-a întâmplat cu ele înainte aduc foarte multe riscuri. Apare riscul legal – pentru că pot să fie niște date care de fapt să reprezinte proprietate intelectuală a cuiva”, exemplifică reprezentantul Decalex.

De asemenea, datele pot fi viciate, ceea ce înseamnă că sunt vulnerabile la atacuri, iar AI-ul „va fi bolnav din start”.   Și a treia problemă este legată de capabilitate AI-ului.

„De fapt, tocmai de asta eu cred că va exista un data marketplace, cum este acum situația SAS-urilor, unde oamenii, companiile, vor plăti un abonament și vor avea acces la seturi de date licențiate, corecte, neviciate și așa mai departe. Cred că ăsta e viitorul”, adaugă Deca.

Una peste alta, agentificarea reprezintă o transformare radicală a modelelor de business clasice şi vine la pachet cu o serie de riscuri şi provocări ce trebuie atent gestionate. Un lucru este însă cert: companiile care adoptă rapid agenţi AI vor câştiga viteză decizională. Pentru aceasta este însă necesar şi un leadership de nivel următor, pregătit să înţeleagă şi să colaboreze cu AI.