De ce GenAI se blochează fără o guvernanță puternică

Pe măsură ce companiile se luptă cu trecerea proiectelor de Inteligență Artificială Generativă de la experimentare la producție, multe afaceri rămân blocate în modul de pilot. Așa cum subliniază cercetarea noastră recentă, 92% din organizații sunt îngrijorate că proiectele pilot GenAI se accelerează fără a aborda mai întâi problemele fundamentale de date. Mai mult decât atât: 67% nu au putut să scaleze nici măcar jumătate din proiectele lor pilot la producție. Această lacună de producție este mai mult despre maturitatea tehnologică și mai puțin despre pregătirea datelor subiacente. Potențialul GenAI depinde de puterea temeliei pe care stă. Și astăzi, pentru majoritatea organizațiilor, această temelie este cel mult șubredă.

De ce GenAI rămâne blocat în pilot

Deși soluțiile GenAI sunt cu adevărat puternice, ele sunt la fel de eficiente ca și datele care le alimentează. Vechea zicală “gunoi în, gunoi ieșit” este mai adevărată astăzi decât oricând. Fără date de încredere, complete, îndreptățite și explicabile, modelele GenAI produc adesea rezultate inexacte, părtinitoare sau nefolositoare.

Din nefericire, organizațiile s-au grăbit să implementeze cazuri de utilizare cu efort redus, cum ar fi chatbot-urile alimentate de IA care oferă răspunsuri personalizate din diferite documente interne. Și, deși acestea îmbunătățesc experiența clienților într-o oarecare măsură, ele nu cer schimbări profunde în infrastructura de date a unei companii. Dar pentru a scala GenAI strategic, indiferent dacă este vorba de sănătate, servicii financiare sau automatizarea lanțului de aprovizionare, este necesar un nivel diferit de maturitate a datelor.

De fapt, 56% din directorii de date menționează fiabilitatea datelor ca o barieră cheie pentru implementarea IA. Alte probleme sunt datele incomplete (53%), problemele de confidențialitate (50%) și lacunele mai mari de guvernanță a IA (36%).

Fără guvernanță, fără GenAI

Pentru a duce GenAI dincolo de stadiul de pilot, companiile trebuie să trateze guvernanța datelor ca o prioritate strategică pentru afacerile lor. Ele trebuie să se asigure că datele sunt suficient de bune pentru a alimenta modelele IA și, pentru a face acest lucru, următoarele întrebări trebuie să fie abordate:

• Provin datele utilizate pentru antrenarea modelului din sistemele corecte?
• Am eliminat informațiile cu caracter personal și am urmat toate regulamentele de date și confidențialitate?
• Suntem transparenți și putem dovedi proveniența datelor utilizate de model?
• Putem documenta procesele noastre de date și suntem pregătiți să demonstrăm că datele nu au niciun fel de părtinire?

Guvernanța datelor trebuie, de asemenea, să fie integrată în cultura organizației. Pentru a face acest lucru, este necesar să se construiască alfabetizarea IA în toate echipele. Actul UE privind IA formalizează această responsabilitate, cerând atât furnizorilor, cât și utilizatorilor de sisteme IA să facă eforturi pentru a se asigura că angajații sunt suficient de alfabetizați în IA, pentru a înțelege cum funcționează aceste sisteme și cum să le utilizeze în mod responsabil. Cu toate acestea, adoptarea eficientă a IA depășește cunoștințele tehnice. Ea cere, de asemenea, o bază solidă în abilitățile de date, de la înțelegerea guvernanței datelor la formularea de întrebări analitice. Tratarea alfabetizării IA în mod izolat de alfabetizarea datelor ar fi mioapă, având în vedere cât de strâns sunt legate.

În ceea ce privește guvernanța datelor, încă există lucruri de făcut. Printre companiile care doresc să crească investițiile în gestionarea datelor, 47% sunt de acord că lipsa de alfabetizare în date este o barieră de top. Acest lucru subliniază nevoia de a construi sprijin la nivel superior și de a dezvolta abilitățile potrivite în toată organizația, ceea ce este crucial. Fără aceste fundații, chiar și cele mai puternice modele de învățare automată vor lupta pentru a livra.

Dezvoltarea IA care trebuie să fie responsabilă

În mediul regulamentar actual, nu este suficient ca IA să “funcționeze”, ci trebuie să fie și responsabilă și explicabilă. Actul UE privind IA și Planul de acțiune AI propus de Regatul Unit cer transparență în cazurile de utilizare a IA cu risc ridicat. Alții urmează exemplul, și peste 1.000 de proiecte de lege legate de IA sunt pe ordinea de zi în 69 de țări.

Acestă mișcare globală către responsabilitate este o consecință directă a creșterii cererilor consumatorilor și ale părților interesate pentru echitate în algoritmi. De exemplu, organizațiile trebuie să poată explica de ce un client a fost refuzat pentru un împrumut sau de ce a fost taxat cu o primă de asigurare ridicată. Pentru a putea face acest lucru, ele ar trebui să știe cum a luat modelul acea decizie, și aceasta depinde de existența unei urme clare și auditabile a datelor utilizate pentru antrenarea sa.

Dacă nu există explicabilitate, afacerile riscă să piardă încrederea clienților, precum și să facă față unor repercusiuni financiare și legale. Ca urmare, trasabilitatea liniei de date și justificarea rezultatelor nu este un “ar fi bine să”, ci o cerință de conformitate.

Și pe măsură ce GenAI se extinde dincolo de a fi utilizat pentru unelte simple la agenți complet funcționali care pot lua decizii și acționa în consecință, pariul pentru o guvernanță puternică a datelor crește și mai mult.

Pași pentru construirea unei IA de încredere

Deci, ce înseamnă “bun” în acest context? Pentru a scala GenAI în mod responsabil, organizațiile ar trebui să adopte o strategie de date unică pe trei piloni:

• Adaptați IA la afaceri: Catalogați datele în jurul obiectivelor cheie de afaceri, asigurându-vă că reflectă contextul, provocările și oportunitățile specifice afacerii dvs.
• Stabiliți încredere în IA: Stabiliți politici, standarde și procese pentru conformitate și supraveghere a implementării etice și responsabile a IA.
• Construiți conducte de date gata pentru IA: Combinați sursele dvs. diverse de date într-o fundație de date robustă pentru coacerea IA, integrând conectivitatea preconstruită GenAI.

Când organizațiile fac acest lucru corect, guvernanța accelerează valoarea IA. De exemplu, în serviciile financiare, fondurile de investiții utilizează GenAI pentru a depăși analiștii umani în predicția prețurilor acțiunilor, reducând în același timp semnificativ costurile. În producție, optimizarea lanțului de aprovizionare condusă de IA permite organizațiilor să reacționeze în timp real la schimbările geopolitice și presiunile de mediu.

Și acestea nu sunt doar idei futuriste, ci se întâmplă acum, conduse de date de încredere.

Cu fundații solide de date, companiile reduc deriva modelului, limitează ciclurile de reantrenare și cresc viteza de valorificare. De aceea, guvernanța nu este un obstacol, ci un factor care facilitează inovarea.

Ce urmează?

După experimentare, organizațiile se mută dincolo de chatbot-uri și investesc în capacități transformaționale. De la personalizarea interacțiunilor cu clienții la accelerarea cercetării medicamentului, îmbunătățirea sănătății mintale și simplificarea proceselor de reglementare, GenAI începe să-și demonstreze potențialul în diverse industrii.

Cu toate acestea, aceste câștiguri depind în întregime de datele care le susțin. GenAI începe cu construirea unei fundații solide de date, prin guvernanță puternică a datelor. Și, deși GenAI și IA agentică vor continua să evolueze, ele nu vor înlocui supravegherea umană în orice moment curând. În schimb, intrăm într-o fază de creare structurată de valoare, în care IA devine un copilot de încredere. Cu investițiile potrivite în calitatea datelor, guvernanță și cultură, afacerile pot, în sfârșit, transforma GenAI dintr-un pilot promițător în ceva care decoltează cu adevărat.