Inteligența artificială la nivel enterprise depinde de datele în care oamenii pot avea încredere

În 2025, companiile au investit estimativ între 30 și 40 de miliarde de dolari în AI generativ, totuși Project NANDA de la MIT a constatat că doar 5% din cele peste 300 de implementări enterprise a examinat au produs rezultate financiare măsurabile.

Am petrecut peste 25 de ani lucrând în cadrul programelor de date enterprise. Cu mult timp înainte ca AI generativ să intre în discuție, am observat cât de repede tehnologia își pierde credibilitatea când oamenii nu pot avea încredere în datele din spatele ei. AI generativ ridică miza deoarece poate transforma datele discutabile într-un răspuns sigur.

Obișnuiam să spunem gunoi la intrare, gunoi la ieșire. Acum este gunoi la intrare, dezastru la ieșire. Când datele păreau suspecte, o persoană își putea folosi judecata și contacta un specialist în date. Specialistul efectua o analiză a cauzei rădăcinii, identifica problema și aplica o remediere. Astăzi, agenții pot acționa pe baza oricăror date pe care le întâlnesc. Fără supraveghere umană competentă, rezultatul poate deveni parte a operațiunilor, poate fi utilizat în decizii și se poate scala în întreaga organizație.

Aceeași problemă poate apărea într-un chatbot. O guvernanță omisă poate transforma date proaste sau slab înțelese într-un răspuns care pare autoritar, imediat și la scară.

Încrederea este adevăratul obstacol în adopție

Când un chatbot intern oferă cuiva un răspuns sigur, dar greșit, acea persoană poate să nu îi mai aibă încredere. Într-o organizație mare, AI va găsi și datele pe care ai prefera să nu le găsească. O compar cu șosetele murdare de sub pat: acele date pot fi ascunse, dar AI le va descoperi și le va folosi.

Contextul trebuie să călătorească împreună cu datele și să fie fundația pe care se bazează modelele LLM. Înainte ca un model AI să utilizeze datele, oamenii trebuie să știe ce înseamnă acestea, de unde provin, cine le deține și ce reguli și politici de afaceri le înconjoară.

Conducerea poate omite acest aspect deoarece sistemul rareori se blochează. AI poate fi sigur, dar greșit; poate sugera lipici pentru pizza (exemplu foarte vechi). Gândește-te la un chatbot care oferă un răspuns sigur, dar greșit, iar forța de muncă își pierde încrederea în el. Reconstruirea acelei încrederi durează mult mai mult decât stabilirea corectă a controalelor de la început.

Angajații din peste 90% dintre companii pe care le‑a studiat MIT continuă să folosească instrumente AI personale pe lângă, chiar și după ce pilotul oficial pe care angajatorul l‑a creat nu a reușit să le câștige încrederea. Când instrumentul aprobat nu le‑a câștigat încrederea, angajații găsesc o altă modalitate de a‑și îndeplini sarcinile.

Majoritatea cercetărilor AI din acest an indică aceeași problemă: organizațiile avansează cu AI înainte de a fi realizată munca necesară pentru a face datele lor de încredere. Gartner a estimat că aproape două treimi dintre organizații fie nu dispun de practicile corecte de gestionare a datelor pentru AI, fie nu sunt sigure dacă le au. Separat cercetarea de la IDC a constatat un decalaj similar în ceea ce privește încrederea: 78% dintre organizații declară că au încredere deplină în AI, dar doar 40% au investit efectiv în guvernanța și explicabilitatea necesare pentru a justifica acea încredere.

Neconcordanța dintre încredere și investiție ajută la explicarea motivului pentru care atât de multe inițiative AI se blochează înainte de a ajunge în producție sau nu reușesc să se alinieze cu valoarea vizată.

Guvernanța AI este acum avantajul competitiv

Pentru cea mai mare parte a carierei mele, guvernanța datelor a fost una dintre cele mai puțin strălucitoare părți ale IT-ului enterprise. Catalogarea metadatelor, definirea proprietății, profilarea datelor și gestionarea fluxurilor de lucru puteau părea muncă de menajer. Oamenii deseori o omiteau deoarece efortul părea mai mare decât valoarea pe care o producea.

AI a schimbat acest lucru. Devine o capacitate de guvernanță în domenii precum proiectarea planurilor de date, crearea de glosare curate de industrie și recomandarea și activarea politicilor de date. Chiar și linia de proveniență a datelor poate fi acum inferată și simplificată mai rapid decât înainte, facilitând realizarea valorii conductelor de date gestionate și a observabilității.

Reglementarea face, de asemenea, ca transparența datelor să devină mai urgentă. EU AI Act a devenit aplicabil pe scară largă la 2 august 2026, incluzând reguli de transparență pentru anumite sisteme și conținut generat de AI. Actul stabilește, de asemenea, cerințe separate pentru sisteme cu risc ridicat, inclusiv documentație și informații care ajută implementatorii să interpreteze rezultatele, deși unele prevederi pentru riscuri ridicate urmează termene ulterioare.

Pentru companii, lecția practică este simplă: o linie de proveniență și o guvernanță clare facilitează documentarea datelor utilizate, a originii lor și a modului în care sistemul trebuie să funcționeze.

Imaginea reglementărilor din SUA rămâne incertă. Fără o lege federală cuprinzătoare privind AI, companiile trebuie să navigheze prin diferite cerințe de stat, chiar și în timp ce Casa Albă încearcă să limiteze capacitatea statelor de a crea și aplica propriile reguli AI. Legea AI a statului Colorado, cel mai cuprinzător cadru de stat existent, a fost deja amânată și rescrisă o dată în acest conflict, iar obligațiile sale principale au fost amânate până în 2027. Pentru multe companii americane, tentația este să aștepte să treacă incertitudinea.

Aș susține că acesta este instinctul greșit. Orice model de reglementare care va reuși în cele din urmă în SUA, cerința de bază nu va dispărea. Știți de unde provin datele. Știți dacă cineva le-a validat efectiv înainte ca AI să le folosească. Dezvoltarea acestei discipline acum va ajuta companiile să se pregătească pentru noile reglementări și să transforme proiectele pilot AI promițătoare în instrumente pe care afacerea le poate utiliza cu încredere.

Ce separă cei 5%

Permiteți-mi să vă povestesc despre un client. Echipa lor de registru general trebuia să parcurgă 300 de foi de calcul separate de fiecare dată când apărea o discrepanță în registre. Trei sute. În cele din urmă, cineva a reconstruit tot acel haos ca un singur activ de date guvernat, cu calculele, rapoartele și datele de bază ambalate împreună și validate în avans. Data viitoare când a apărut o problemă, remedierea a necesitat o fracțiune din efortul anterior. În acest singur proces, s-au economisit aproximativ 750 de zile de muncă. Aceasta reprezintă milioane de dolari în economii de costuri doar prin curățarea acelui haos.

Îmbunătățirea a venit din faptul că datele corecte au devenit ușor de găsit și suficient de fiabile pentru a fi utilizate fără a le pune sub semnul întrebării. Colaborarea și reutilizarea au făcut acest lucru posibil. Produsele de date de încredere pot fi aliniate cu standardele corporative, extinse și actualizate în timp, evaluate pentru încredere și gestionate pentru valoare. Această abordare reduce necesitatea de a crea sute sau mii de produse legate de tabele de baze de date fizice individuale.

Programele solide fac acea încredere vizibilă. În piețele de date cu care lucrez, activele pot fi clasificate ca aur, argint sau bronz pe baza unor factori precum calitatea, curarea, utilizarea și proprietatea. Un utilizator de business poate vedea cât de fiabil este un activ înainte de a-l folosi. Această vizibilitate îi ajută pe oameni să nu mai ghicească și îi face mai dispuși să reutilizeze datele care există deja.

Cifra de 95% este un avertisment privind modul în care multe companii au tratat în mod lejer datele din spatele AI generativ. Organizațiile care progresează oferă oamenilor o vedere clară asupra originii datelor, a modului în care au fost validate și dacă sunt adecvate pentru sarcină. După ani în care gestionarea datelor a fost considerată muncă de fundal, AI în sfârșit își face valoarea vizibilă.

Sursele articolului original: artificialintelligenceact.eu [1]