Interacțiunea mașină-om: problema „ultimului kilometru” care împiedică dezvoltarea inteligenței artificiale în întreprinderi

Până de curând, discuțiile din săli de consiliu de administrație despre inteligență artificială (AI) s-au axat pe modelele însele. Este ieșirea lor precisă? Cât de curat a fost datul de antrenament? Cum putem reduce prejudecățile? Sunt halucinațiile sub control? Aceste întrebări încă mai sunt importante, desigur, dar ieșirea nu mai este singurul lucru la care se uită consiliile de administrație și acționarii. În schimb, ei devin interesați de ceva mult mai greu de măsurat – dacă sistemele AI lucrează cu oamenii la fel de eficient pe cât ar putea în interacțiunile de zi cu zi.

Acesta este unul dintre motivele pentru care IBM a găsit recent o propunere a acționarilor care cere o transparență mai mare cu privire la modul în care gestionează prejudecățile și guvernanța AI. Propunerea s-a axat în special pe reducerea prejudecăților, dar ideea mai largă a fost că, pe măsură ce AI devine mai profund integrat în procesele de luare a deciziilor, este judecat pe baza responsabilității sale operaționale și a rezultatelor comerciale măsurabile, mai degrabă decât a capacității sale de bază.

Ceea ce văd în conversațiile cu întreprinderile este că foarte puțini oameni mai discută despre faptul că modelele însele sunt capabile. Majoritatea organizațiilor știu deja că aceste sisteme pot genera ieșiri, pot automatiza fluxurile de lucru și pot furniza informații cu o viteză extraordinară. Întrebarea mai dificilă este dacă toate acestea îmbunătățesc în mod constant rezultatele din interiorul afacerii. Angajații folosesc cu adevărat aceste sisteme în moduri semnificative? Au încredere în recomandările pe care le primesc? Devin deciziile mai clare, mai rapide sau mai consistente? Sau organizațiile generează pur și simplu mai mult conținut, mai multă analiză și mai mult zgomot fără a schimba modul în care oamenii operează? Decalajul dintre capacitatea AI și adoptarea umană este ceea ce numesc „ultimul kilometru” al inteligenței artificiale în întreprinderi. Aici se întâlnesc ROI, încrederea, responsabilitatea și consistența operațională, și aici multe implementări încep să se oprească.

Capacitatea nu este stânjenitor – contextul uman este

Propunerea acționarilor IBM în sine s-a axat pe prejudecăți, o preocupare familiară și în creștere în industrie. Rezoluția a cerut IBM să producă raportări suplimentare despre metodele pe care le utilizează pentru a identifica și a reduce prejudecățile în modelele sale AI, inclusiv riscurile potențiale asociate cu eforturile de reducere a prejudecăților. IBM a respins, argumentând că multe dintre aceste informații erau deja disponibile public prin carduri de model, documentație de guvernanță, raportare transparentă și depuneri la Indexul de transparență a modelului de la Stanford. Majoritatea observatorilor au recunoscut că IBM a făcut mai mult decât mulți furnizori pentru a operaționaliza practicile responsabile de AI, în timp ce au recunoscut și că guvernanța și prejudecățile rămân provocări nerezolvate la nivelul întregii industrii.

Ceea ce mă interesează nu este dacă răspunsul IBM a fost corect sau greșit. Este ceea ce spune întreaga situație despre direcția în care se îndreaptă conversațiile despre AI în întreprinderi. Consiliile de administrație au trecut în mare măsură într-o nouă fază a evaluării AI, axată pe calitatea deciziilor, impactul operațional, încrederea angajaților și adoptarea pe termen lung în cadrul afacerii.

Acesta este punctul în care o perspectivă din neuroștiință mă conduce la o concluzie diferită de cea a majorității conversațiilor actuale despre AI în întreprinderi. Oamenii nu sunt mașini raționale de intrare-ieșire. Abordăm deciziile cu o atenție finită, o încredere fluctuantă, o supraîncărcare cognitivă și o intenție care se schimbă constant. Când interacțiunile par lente, când răspunsurile standardizate ratează ceea ce am vrut de fapt, sau când oamenii trebuie să lupte cu sistemul pentru a ajunge la ceva util, implicarea se prăbușește mult înainte ca metricile de adoptare să se actualizeze. Riscul de halucinație, inconsistență și prejudecăți compun doar problema, creând fricțiuni în fluxurile de lucru care au fost inițial destinate să îmbunătățească productivitatea și luarea deciziilor. Acest „ultim kilometru” este ceea ce majoritatea organizațiilor încă subestimează: valoarea AI nu este creată atunci când un model generează un răspuns, ci atunci când oferă răspunsul corect la momentul potrivit și oamenii pot avea încredere suficientă pentru a acționa în funcție de ceea ce produce.

De ce ignorăm adevăratul „om în buclă” – utilizatorul?

Am auzit recent mult despre „omul în buclă” și importanța prezenței unui om pentru a semna ieșirile conduse de AI. Dar ce se întâmplă dacă cel mai important om – utilizatorul – nu este înțeles corespunzător? Interacțiunea om-om este complexă și multifacetată, dar motivul pentru care comunicarea directă funcționează atât de bine este că nuanța nu se pierde. Dacă cineva ezită, pierde încrederea, devine frustrat sau confuz, sau intenția lui se schimbă, acest lucru se transmite în timpul interacțiunii și conversația se schimbă corespunzător. Majoritatea sistemelor AI încă luptă pentru a recunoaște aceste semnale, deoarece sunt mai mult sau mai puțin „pe șine” în sensul că răspund doar la ultima comandă a utilizatorului.

În opinia mea, aceasta devine una dintre limitările definitorii ale implementărilor actuale de AI în întreprinderi. Am construit sisteme care sunt excepțional de bune la generarea de informații, dar rămân limitate în capacitatea de a recunoaște dacă aceste informații ajută pe cineva să ia decizii mai bune.

O organizație poate implementa instrumente de AI pentru mii de angajați și totuși nu reuși să atingă o aliniere semnificativă în ceea ce privește modul în care aceste sisteme sunt utilizate în realitate. Cadrele precum Cadrul de gestionare a riscurilor AI NIST, ISO/IEC 42001 și Actul UE privind AI împing organizațiile către o maturitate mai mare a guvernanței și responsabilității operaționale. Dar guvernanța pe hârtie nu merge prea departe dacă implicarea angajaților cu AI rămâne fragmentată. Dacă diferite echipe au încredere și utilizează AI în moduri complet diferite, măsurarea ROI în mod constant devine aproape imposibilă, și acesta este un problemă pe care nicio comandă nu o poate rezolva.

Costul suprasarcinii AI

Acum intrăm într-o fază în care AI devine complet ubicuu în fluxurile de lucru AI. Există copiloți încorporați în suite de productivitate, rezumate de întâlniri generate de AI care sosesc după fiecare apel, tablouri care prezintă informații predictive în timp real, motoare de recomandare care alimentează angajații cu sugestii constante și analize automate care apar mai repede decât majoritatea echipelor pot procesa în mod realist. Pe hârtie, acest lucru pare a fi progres – afacerile produc mai multe informații decât oricând. Dar știința cognitivă a fost clară despre acest lucru de decenii: mai multe informații nu produc automat decizii mai bune.

Oamenii pot absorbi doar atât de multe informații înainte ca suprasarcina să înceapă să se instaleze. Prea multe recomandări creează ezitare. Prea multe alerte devin zgomot de fundal. Prea multe opțiuni generate de AI pot lăsa angajații să se îndoiască în loc să acționeze cu încredere. Ceea ce este interesant este că sistemele AI devin excepțional de bune la producerea de informații, dar rămân relativ slabe în înțelegerea modului în care oamenii primesc, interpretează și răspund la aceste informații în context. Consiliile de administrație nu se preocupă de câte rezumate, recomandări sau informații generate de AI poate produce un sistem. Ei se preocupă de faptul dacă deciziile devin mai clare și mai fiabile în întreaga afacere.

AI a intrat în faza de responsabilitate

Propunerea acționarilor IBM poate fi venit din preocupări cu privire la prejudecăți, dar cred că reflectă ceva mult mai larg care se întâmplă în întreaga industrie a inteligenței artificiale. Noii AI au trecut, și întreprinderile care caută o returnare solidă a investiției lor în AI nu mai pot să se uite doar la capacitatea modelului. Tehnologia și-a dovedit valoarea, dar acum are nevoie de o măsură de responsabilitate. Angajații folosesc cu adevărat aceste sisteme în mod constant? Se îmbunătățesc deciziile? Crește încrederea și implicarea în timp, sau se erodează treptat? Pe măsură ce AI devine mai încorporat în fluxurile de lucru de zi cu zi, următoarea generație de sisteme poate avea nevoie să devină mult mai conștientă de comportamentul uman, atenția, încrederea și intenția, dacă afacerile doresc o adoptare susținută și un ROI măsurabil. Până atunci, „ultimul kilometru” va rămâne probabil una dintre cele mai mari provocări în adoptarea inteligenței artificiale în întreprinderi.