IA ia decizii de la un minut la altul. Cea mai mare parte a guvernanței încă se desfășoară trimestrial

Un sistem asistat de IA poate influența sute de decizii operaționale înainte ca un comitet director să-și programeze următoarea ședință. Guvernanța bazată pe evaluări trimestriale nu a fost concepută pentru un asemenea ritm, iar această discrepanță este punctul în care multe programe de IA din întreprinderi încep să întâmpine dificultăți.

Petrecem enorm de mult timp dezbătând ce modele să implementăm. Totuși, Gartner estimează că, până în 2026, organizațiile vor abandona 60% dintre proiectele de IA care nu beneficiază de date pregătite pentru IA. Eșecurile IA în întreprinderi au foarte puțin de-a face cu modelul în sine. Ele își au originea într-o problemă mai fundamentală: organizațiile nu au o înțelegere de încredere și integrată a propriei activități.

Costul ascuns al datelor „pregătite pentru IA”

Majoritatea întreprinderilor subestimează efortul necesar pentru a stabili responsabilitatea, guvernanța, încrederea și contextul asociate datelor lor. Puține investesc în expertiza interfuncțională și în modelul operațional necesare pentru a crea cadre de guvernanță care să asigure transparența, explicabilitatea și responsabilitatea necesare pentru a extinde utilizarea IA dincolo de proiectele-pilot.

Există un test simplu pe care le îndemn pe organizații să-l facă. Pot explica în mod clar cine deține datele, cum se raportează acestea la procesele de business, ce controale le reglementează utilizarea și cine rămâne responsabil pentru deciziile asistate de IA? Dacă nu, este puțin probabil ca inițiativele lor de IA să reușească, indiferent cât investesc în platforme, infrastructură sau modele.

Primul pas în orice parcurs al unei întreprinderi către IA ar trebui să fie investiția în guvernanță și într-un model operațional practic, care să stabilească în mod clar responsabilitățile, răspunderea și drepturile decizionale. Ceea ce observ este că majoritatea organizațiilor procedează invers: implementează modele și infrastructură înainte de a pune bazele necesare pentru a opera IA la scară largă.

Însă deciziile asistate de IA se bazează pe mai mult decât puncte de date individuale; ele depind și de înțelegerea legăturilor dintre informații și procesele de business, politici, responsabilități și contextul operațional. Când aceste legături sunt fragmentate, organizațiile nu ar trebui să se mire că recomandările IA devin inconsecvente.

Atunci când aplicațiile IA sunt implicate în situații evitate la limită, eșecuri sau recomandări contradictorii, întrebările importante țin de organizație, nu de aspectele tehnice. Cine deține datele? Cine răspunde de decizie? Cine poate să anuleze decizia IA? Cum sunt escaladate excepțiile? Fără răspunsuri, întreprinderile riscă să creeze automatizare fără responsabilitate.

Încrederea se construiește înainte de implementare

Încrederea în IA se consolidează cu mult înainte ca orice model să fie pus în funcțiune. O guvernanță eficientă presupune colaborarea dintre tehnologie, funcțiile de business, managementul riscurilor, departamentul juridic, conformitate și securitate, deoarece sistemele IA funcționează dincolo de granițele organizaționale, în timp ce responsabilitatea rămâne adesea fragmentată pe departamente. Multe dintre provocările de guvernanță puse pe seama IA sunt simptomele unor probleme mai vechi legate de responsabilitatea asupra datelor și de autoritatea decizională, pe care tehnologia doar le-a scos la iveală.

Majoritatea organizațiilor au deja mecanisme de guvernanță, prin politici de securitate, cadre de conformitate și procese de aprobare. Ceea ce le lipsește adesea este o imagine integrată a modului în care aceste componente se îmbină.

Încrederea se dezvoltă atunci când părțile interesate înțeleg raționamentul din spatele recomandărilor, au încredere în datele pe care se bazează acestea și știu că există controale adecvate și mecanisme de escaladare. Nimic din toate acestea nu poate fi adăugat ulterior, după producerea unui incident.

Când guvernanța trimestrială se întâlnește cu decizii luate minut de minut

Modelele tradiționale de guvernanță se bazează pe evaluări periodice, comitete directoare și raportări retrospective. Sistemele asistate de IA generează recomandări în mod continuu și la scară largă. Cadrele existente nu sunt greșite, dar sunt prea lente și deconectate de procesul decizional operațional. Un ciclu de evaluare trimestrială nu poate guverna decizii luate în fiecare oră, în fiecare zi.

Cele mai bune rezultate le observ în organizațiile care integrează guvernanța direct în fluxurile operaționale de lucru, prin aplicarea politicilor, fluxuri de aprobare, monitorizare, posibilitatea auditării și supraveghere umană. Acestea s-au angajat să treacă de la o guvernanță periodică la una continuă, astfel încât să poată vedea în timp real ce date sunt folosite, ce decizii sunt influențate, cine răspunde de ele și când este necesară intervenția umană.

Guvernanța continuă înseamnă mai mult decât monitorizarea rezultatelor IA. Înseamnă să înțelegem ce informații folosește IA, dacă acestea rămân valabile și dacă deciziile continuă să fie în acord cu politicile și obiectivele de business.

IA nu va fi de acord cu sine însăși

Organizațiile mari gestionează deja zilnic priorități concurente. Echipele de securitate vor să reducă riscurile, echipele operaționale vor stabilitate, echipele de business vor rapiditate, iar echipele financiare vor eficiență a costurilor. Acum intră în scenă sistemele IA, antrenate pe seturi de date și obiective diferite, care vor reflecta în mod firesc aceste priorități.

Un sistem IA de securitate poate recomanda remedierea imediată a unei vulnerabilități critice, în timp ce echipa operațională amână modificarea, deoarece sistemul afectat susține un serviciu esențial pentru activitatea companiei. Ambele poziții pot fi justificate. Pentru a soluționa aceste conflicte sunt necesare drepturi decizionale clare, responsabilități bine definite în materie de riscuri și căi de escaladare.

IA ar trebui să furnizeze datele, contextul și recomandările, însă responsabilitatea de a echilibra considerentele de afaceri, operaționale și de risc trebuie să rămână în cadrul organizației.

Gestionarea scepticismului atunci când apar inconsecvențe

Când IA formulează o recomandare inconsecventă, este evident că, pe viitor, compania va privi cu scepticism recomandările sale. Încrederea se reconstruiește atunci când părțile interesate înțeleg de ce a fost formulată o recomandare, ce date au fost folosite și cine rămâne responsabil pentru rezultat.

IA scoate adesea la iveală probleme de calitate a datelor, lacune în ceea ce privește responsabilitatea și inconsecvențe ale proceselor care existau deja în cadrul organizației. Este mult mai productiv să tratăm aceste momente ca pe niște ocazii de a îmbunătăți guvernanța și procedurile operaționale decât să apărăm tehnologia. În timp, încrederea se câștigă prin transparență, consecvență și rezultate de afaceri demonstrabile.

O bază informațională de încredere

Discuțiile despre pregătirea pentru IA se concentrează, de regulă, pe modele, infrastructură și instrumente. În practică, organizațiile care au cele mai mari succese investesc în ceva mai fundamental: o bază informațională de încredere. Aceasta oferă contextul de afaceri care explică modul în care informațiile se leagă de procese, politici, responsabilități și decizii operaționale, oferind IA o bază mai solidă pentru recomandări pe care organizațiile le pot înțelege, guverna și considera de încredere.

Nici măcar cel mai avansat model de IA nu poate compensa o guvernanță slabă a informațiilor, responsabilități neclare sau un context de afaceri deficitar. Organizațiile trebuie să construiască contextul, guvernanța, memoria instituțională și inteligența decizională necesare pentru a utiliza IA în mod responsabil și eficient, la scară largă.

Acest demers durează mai mult și este mai puțin vizibil decât implementarea unui model nou, dar, în cele din urmă, el determină dacă modelul va genera valoare de afaceri durabilă.