3 Considerații pentru agenți AI siguri și de încredere pentru întreprinderi

Conform lui Gartner, 30% din proiectele GenAI vor fi probabil abandonate după demonstrarea conceptului până la sfârșitul anului 2025. Adoptarea timpurie a GenAI a arătat că majoritatea infrastructurilor de date și a practicilor de guvernanță ale întreprinderilor nu erau pregătite pentru o implementare eficientă a AI. Primul val de productizare a GenAI a întâmpinat obstacole considerabile, multe organizații luptând pentru a trece de la etapele de demonstrare a conceptului la obținerea unei valori comerciale semnificative.

Pe măsură ce intrăm în al doilea val de productizare a inteligenței artificiale generative, companiile își dau seama că implementarea cu succes a acestor tehnologii necesită mai mult decât simpla conectare a unui LLM la datele lor. Cheia deblocării potențialului AI se află pe trei piloni de bază: pregătirea datelor și asigurarea că acestea sunt gata pentru integrarea cu AI; revizuirea practicilor de guvernanță a datelor pentru a aborda provocările unice pe care le introduce GenAI; și implementarea agenților AI în moduri care fac ca utilizarea sigură și de încredere să fie naturală și intuitivă, astfel încât utilizatorii să nu fie obligați să învețe abilități specializate sau modele de utilizare precise. Împreună, acești piloni creează o bază solidă pentru agenți AI siguri și eficienți în mediile enterprise.

Pregătirea corespunzătoare a datelor pentru AI

Deși datele structurate pot părea organizate la vedere, fiind aranjate în tabele și coloane, LLM-urile au adesea dificultăți în a înțelege și a lucra cu aceste date structurate în mod eficient. Acest lucru se întâmplă pentru că, în majoritatea întreprinderilor, datele nu sunt etichetate într-un mod semantic semnificativ. Datele au adesea etichete criptice, de exemplu, “ID” fără nicio indicație clară dacă se referă la un client, un produs sau o tranzacție. Cu datele structurate, este dificil de a captura contextul și relațiile corecte între diferitele puncte de date interconectate, cum ar fi modul în care etapele dintr-un parcurs al clientului sunt legate între ele. La fel cum a trebuit să etichetăm fiecare imagine în aplicații de viziune computerizată pentru a permite interacțiuni semnificative, organizațiile trebuie acum să întreprindă sarcina complexă de a eticheta semantic datele lor și de a documenta relațiile din toate sistemele pentru a permite interacțiuni AI semnificative.

În plus, datele sunt dispersate în multe locuri diferite – de la servere tradiționale la diverse servicii cloud și aplicații software diferite. Acest mozaic de sisteme duce la probleme critice de interoperabilitate și integrare care devin și mai problematice atunci când se implementează soluții AI.

O altă provocare fundamentală constă în inconsistența definițiilor de afaceri în diferite sisteme și departamente. De exemplu, echipele de succes ale clienților pot defini “upsell” într-un mod, în timp ce echipa de vânzări îl definește în alt mod. Când conectați un agent AI sau un chatbot la aceste sisteme și începeți să puneți întrebări, veți obține răspunsuri diferite pentru că definițiile datelor nu sunt aliniate. Lipsa acestei alinieri nu este o inconveniență minoră – este o barieră critică pentru implementarea soluțiilor AI de încredere.

Calitatea slabă a datelor creează un scenariu clasic “gunoi la intrare, gunoi la ieșire” care devine exponențial mai grav atunci când se implementează instrumente AI la nivel de întreprindere. Datele incorecte sau murdare afectează mult mai mult decât o singură analiză – ele răspândesc informații incorecte tuturor celor care utilizează sistemul prin întrebările și interacțiunile lor. Pentru a construi încredere în sistemele AI pentru decizii comerciale reale, întreprinderile trebuie să se asigure că aplicațiile lor AI au date care sunt curate, precise și înțelese într-un context comercial corespunzător. Acest lucru reprezintă o schimbare fundamentală în modul în care organizațiile trebuie să gândească despre activele lor de date în era AI – unde calitatea, coerența și claritatea semantică devin la fel de importante ca și datele însele.

Consolidarea abordărilor de guvernanță

Guvernanța datelor a fost un focus major pentru organizații în ultimii ani, concentrat în principal pe gestionarea și protejarea datelor utilizate în analize. Companiile au făcut eforturi pentru a cartografia informațiile sensibile, a respecta standardele de acces, a se conforma legilor precum GDPR și CCPA și a detecta datele cu caracter personal. Aceste inițiative sunt vitale pentru crearea unor date gata pentru AI. Cu toate acestea, pe măsură ce organizațiile introduc agenți AI generativi în fluxurile lor de lucru, provocarea guvernanței se extinde dincolo de datele însele pentru a cuprinde întreaga experiență a interacțiunii utilizatorilor cu AI.

Ne confruntăm acum cu imperativele de a guverna nu numai datele subiacente, ci și procesul prin care utilizatorii interacționează cu aceste date prin agenți AI. Legislația existentă, cum ar fi Actul AI al Uniunii Europene, și reglementările ulterioare subliniază necesitatea guvernanței procesului de răspuns la întrebări. Acest lucru înseamnă asigurarea că agenții AI oferă răspunsuri transparente, explicabile și trazabile. Când utilizatorii primesc răspunsuri “cutii negre” – cum ar fi întrebarea “Câți pacienți cu gripă au fost internați ieri?” și primirea doar a numărului “50” fără context – este dificil să se încredințeze aceste informații pentru decizii critice. Fără a ști de unde provin datele, cum au fost calculate sau definițiile termenilor precum “admis” și “ieri”, ieșirile AI pierd fiabilitatea.

În contrast cu interacțiunile cu documente, unde utilizatorii pot urmări răspunsurile înapoi la documente specifice sau politici pentru a verifica acuratețea, interacțiunile cu date structurate prin agenți AI adesea lipsesc de acest nivel de trazabilitate și explicabilitate. Pentru a aborda aceste probleme, organizațiile trebuie să implementeze măsuri de guvernanță care nu numai că protejează datele sensibile, ci și fac experiența interacțiunii cu AI guvernată și de încredere. Acest lucru include stabilirea unor controale robuste de acces pentru a se asigura că numai personalul autorizat poate accesa informații specifice, definirea clară a responsabilităților de proprietate și administrare a datelor și asigurarea că agenții AI oferă explicații și referințe pentru ieșirile lor. Prin revizuirea practicilor de guvernanță a datelor pentru a include aceste considerații, întreprinderile pot să-și asigure puterea agenților AI în timp ce se conformează reglementărilor în evoluție și mențin încrederea utilizatorilor.

Gândirea dincolo de ingineria prompturilor

Pe măsură ce organizațiile introduc agenți AI generativi într-un efort de a îmbunătăți accesibilitatea datelor, ingineria prompturilor a apărut ca o nouă barieră tehnică pentru utilizatorii de afaceri. Deși este considerată o carieră promițătoare, ingineria prompturilor este esențialmente recrearea acelorași bariere cu care am luptat în analiza datelor. Crearea de prompturi perfecte nu este diferită de scrierea de interogări SQL specializate sau de construirea filtrelor de dashboard – este o schimbare a expertizei tehnice dintr-un format în altul, încă cerând abilități specializate pe care majoritatea utilizatorilor de afaceri nu le au și nu ar trebui să le aibă.

Întreprinderile au încercat de mult timp să rezolve accesibilitatea datelor prin antrenarea utilizatorilor pentru a înțelege mai bine sistemele de date, crearea documentației și dezvoltarea rolurilor specializate. Dar această abordare este inversată – cerem utilizatorilor să se adapteze la date, în loc de a face datele să se adapteze la utilizatori. Ingineria prompturilor amenință să continue acest model, creând încă o nouă barieră tehnică.

Adevărata democratizare a datelor necesită sisteme care înțeleg limbajul de afaceri, nu utilizatori care înțeleg limbajul datelor. Când directorii executivi întreabă despre retenția clienților, nu ar trebui să aibă nevoie de terminologie perfectă sau de prompturi. Sistemele ar trebui să înțeleagă intenția, să recunoască datele relevante de-a lungul etichetelor diferite (indiferent dacă este “pierdere”, “retenție” sau “ciclu de viață al clientului”) și să ofere răspunsuri contextuale. Acest lucru permite utilizatorilor de afaceri să se concentreze pe decizii, mai degrabă decât să învețe să pună întrebări tehnice perfecte.

Concluzie

Agenții AI vor aduce schimbări importante în modul în care întreprinderile operează și iau decizii, dar vin și cu propriile provocări unice care trebuie abordate înainte de a fi implementați. Cu AI, fiecare eroare este amplificată atunci când utilizatorii non-tehnici au acces self-service, făcând crucial să se pună bazele corecte.

Organizațiile care abordează cu succes provocările fundamentale ale calității datelor, alinierii semantice și guvernanței, în timp ce depășesc limitările ingineriei prompturilor, vor fi poziționate pentru a democratiza în siguranță accesul la date și luarea deciziilor. Abordarea optimă implică crearea unui mediu colaborativ care facilitează munca în echipă și aliniază interacțiunile om-mașină, precum și interacțiunile mașină-mașină. Acest lucru garantează că insight-urile conduse de AI sunt precise, securizate și de încredere, încurajând o cultură la nivel de organizație care gestionează, protejează și maximizează datele la potențialul lor maxim.