Când Modelul Nu Este Problema

Imaginați o scenariu obișnuit în servicii financiare. O echipă implementează inteligență artificială pentru a revizui contracte: sute de pagini, clauze repetitive și lucrări rutiniere care în mod normal iau zile angajaților. Modelul identifică riscurile și referințele la paragrafele corecte. Însă rezultatul nu se adaugă.

Afirmați că problema se află în dosarul de contracte, unde fișierele stau unul lângă altul, denumite contract_v1.docx, contract_v2.docx, contract_final.docx, contract_final2.docx și contract_finalfinal_THIS_ONE.docx.

Inteligența artificială a selectat fișierul cel mai recent salvat. Însă acel fișier era o versiune mai veche pe care cineva a deschis-o și a salvat-o automat în urmă cu o săptămână.

Modelul a făcut exact ceea ce a fost proiectat să facă. Procesul, însă, l-a lăsat în urmă.

Când Modelul Nu Este Problema

În articolul meu anterior, am argumentat că eșecurile inteligenței artificiale încep adesea în afara modelului – în structurile de guvernanță, proprietate și luare a deciziilor care îl înconjoară. Însă guvernanța este doar o parte a problemei. Chiar și un sistem de inteligență artificială bine guvernat va avea dificultăți dacă procesul de sub el depinde de documente învechite, excepții informale sau căi de aprobare proiectate pentru un ritm de lucru mult mai lent.

Când un sistem de inteligență artificială produce un rezultat slab, modelul este de obicei primul suspect. Poate că a halucinat, a înțeles greșit sarcina sau a primit un prompt slab. Însă uneori modelul a făcut exact ceea ce trebuia să facă. Eșecul a apărut în procesul care i-a furnizat informații sau în organizația care nu a putut acționa în funcție de ieșirile sale.

Implementarea inteligenței artificiale revelează probleme de proces care au existat întotdeauna, dar nu au fost niciodată vizibile – ca un instrument de diagnostic. Acesta expune slăbiciuni pe care oamenii le-au compensat anterior fără să se gândească: context lipsă, proprietate neclară și soluții informale care nu au fost niciodată documentate.

Viteză Fără Capacitate

Inteligența artificială nu accelerează doar ieșirile. Aceasta accelerează și escaladarea, solicitările de decizii și descoperirea problemelor. Un model semnalează o anomalie în timp real, nu vineri după-amiază, când cineva găsește în sfârșit timpul să verifice jurnalele.

Organizațiile nu sunt pregătite pentru acest ritm. Procesele de aprobare, căile de escaladare, autoritatea de decizie – toate au fost calibrate pentru viteza umană. Când inteligența artificială produce ieșiri mai rapide decât organizația poate absorbi, pot apărea trei lucruri:

• Inteligența artificială așteaptă o decizie, ștergând câștigul de eficiență.
• Angajații ignoră ieșirile sale și se întorc la ceea ce cred că funcționează – vechiul proces.
• Angajații promovează decizii înainte fără a le verifica corespunzător, deoarece se simt presați să mențină viteza promisă de tehnologie.

Unii angajați se întorc la verificări manuale, deoarece acestea li se par mai sigure. Alții aprobă rezultate pe care nu au avut timp să le verifice, deoarece se simt presați să mențină viteza promisă de tehnologie. În ambele cazuri, organizația plătește pentru ieșiri mai rapide, fără a deveni mai rapidă la luarea deciziilor responsabile.

Proprietatea poate deveni, de asemenea, neclară. Cine este responsabil pentru revizuirea unei anomalii semnalate, pentru a decide dacă modelul este greșit și pentru a escalada problema atunci când sunt implicate mai multe echipe? Fără un răspuns clar, inteligența artificială continuă să ruleze în fundal, producând ieșiri pe care nimeni nu le deține cu adevărat.

Acest lucru reflectă o problemă organizațională mai largă. După cum a observat o analiză Forbes din sfârșitul anului 2025, atunci când tehnologia schimbă fluxurile de lucru mai repede decât o organizație poate absorbi, rezultatul nu este eficiența; este suprasolicitarea. Inteligența artificială poate accelera o etapă a procesului, dar valoarea sa depinde încă de capacitatea organizației de a absorbi și a acționa în funcție de ceea ce produce.

Cunoașterea Tăcută Pe Care Nimeni Nu A Scris-O

Imaginați-vă că Martin știe că contractul companiei cu un furnizor include o excepție pentru plăți sub 2.000 de euro. A fost convenit verbal cu trei ani în urmă, dar niciodată documentat. Când compania implementează inteligență artificială pentru a automatiza aprobările de plată, sistemul blochează plata – corect, conform contractului scris.

Aceasta este cunoaștere tacită: cunoașterea organizațională care trăiește în capetele oamenilor, mai degrabă decât în sisteme. Fiecare companie are astfel de cunoaștere. Și majoritatea companiilor nu au nici o idee câtă astfel de cunoaștere posedă.

Inteligența artificială poate utiliza doar cunoașterea care i-a fost făcută accesibilă. Excepția lui Martin nu există din perspectiva sistemului. Fără acel context, decizia sa poate fi corectă din punct de vedere tehnic, dar greșită din punct de vedere operațional.

McKinsey a identificat aceeași provocare în implementările de inteligență artificială agențială. Construirea unor agenți de inteligență artificială eficienți necesită ca companiile să codifice practicile experților care pot exista în proceduri standard – sau doar ca cunoaștere tacită în capetele angajaților. Cu alte cuvinte: implementarea inteligenței artificiale poate fi prima dată când o organizație vede cât de mult procesul depinde de ceea ce știe Martin.

Sursa Falsă A Adevărului

Cea mai periculoasă ieșire a inteligenței artificiale nu este întotdeauna una evident greșită. Poate fi un răspuns credibil, prezentat profesional, produs din informații învechite.

De-a lungul anilor, multe departamente au funcționat cu multiple versiuni ale aceluiași document, deoarece Jane de la departamentul juridic a știut întotdeauna care este versiunea autoritară. Din nefericire, inteligența artificială nu are această capacitate.

Dacă nu i s-au furnizat reguli pentru a distinge între versiuni, sistemul nu are nici un motiv să pună la îndoială documentul pe care îl primește. Așadar, revizuirea inteligenței artificiale rulează corect – pe documentul greșit. Acest lucru poate fi mai rău decât lipsa revizuirii, deoarece ieșirea pare credibilă.

Un angajat experimentat poate ști unde se află adevărul și poate naviga prin haos. Un sistem, însă, are nevoie de o modalitate de a identifica care informație este curentă, aprobată și relevantă.

Cunoașterea tacită, documentele nereabile și procesele de aprobare create pentru viteza umană par a fi probleme separate. Însă au aceeași cauză comună. Nici una dintre ele nu a fost creată de inteligența artificială, dar inteligența artificială le face mai greu de ignorat.

Întrebări De Răspuns Înainte De A Construi Un Agent

Înainte de a implementa un agent de inteligență artificială, o organizație ar trebui să poată răspunde la trei întrebări.

Care Decizii Depind De Cunoașterea Care Nu A Fost Niciodată Documentată?

Acest lucru înseamnă identificarea excepțiilor, scurtăturilor și apelurilor la judecată pe care angajații experimentați le aplică fără a le descrie conștient. Interviurile singure nu pot revela toată această cunoaștere. Organizațiile pot avea nevoie să observe cum se desfășoară lucrul în realitate și să compare acest lucru cu procesul oficial.

Cum Va Identifica Sistemul Informația Care Este Curentă, Aprobată Și Relevantă?

A oferi unui agent acces la mai multe documente nu rezolvă problema dacă nu poate distinge un contract aprobat de o schiță sau o politică activă de una învechită. Versiunile, proprietatea, starea de aprobare și regulile de păstrare trebuie să fie suficient de clare pentru ca sistemul să poată identifica care sursă ar trebui să guverneze decizia sa.

Procesele De Aprobare Și Escaladare Existente Pot Absorbi Volumul Și Viteza Ieșirilor Sale?

Echipele ar trebui să estimeze nu doar cât de multă muncă poate face agentul, ci și câte revizuiri, excepții și escaladări ar putea crea acea muncă. Cadru de gestionare a riscurilor pentru inteligență artificială al NIST recomandă definirea clară a rolurilor și responsabilităților pentru supravegherea umană a sistemelor de inteligență artificială. Acestea trebuie proiectate pentru volumul așteptat înainte de implementarea sistemului – nu după ce angajații devin copleșiți de acesta.

Acestea nu sunt întrebări la care să răspunzi o singură dată și să uiți. Procesele se schimbă, documentele se învechesc și excepțiile nedocumentate se acumulează din nou. Prin urmare, pregătirea trebuie menținută, nu doar stabilită înainte de lansare.

Pregătirea Pentru Inteligența Artificială Începe Cu Procesul

Pregătirea pentru inteligența artificială nu este doar o testare a tehnologiei. Este o testare a faptului că organizația și-a făcut procesele suficient de explicite pentru ca tehnologia să funcționeze în cadrul lor.

Pregătirea unei organizații pentru inteligența artificială implică mai mult decât selectarea unui model sau construirea unui agent. Acest lucru înseamnă clarificarea proprietății, identificarea informației autoritare, documentarea excepțiilor și reproiectarea modului în care ieșirile sunt revizuite, escalate și puse în aplicare.

Acesta este un lucru dificil, dar o implementare eșuată va forța în cele din urmă organizația să o facă oricum. Singura variabilă este momentul.

Sursele articolului original: forbes.com [1] · nvlpubs.nist.gov [2]