Guvernarea IA: O problemă pentru majoritate, un avantaj pentru cei puțini

Inteligența artificială (IA) a companiilor acumulează riscuri mai repede decât oricine le poate ține evidența. Agentele de IA încep să atingă datele clienților, codul de producție și deciziile comerciale importante, iar în majoritatea organizațiilor, acestea sunt guvernate de controale proiectate pentru o epocă foarte diferită a tehnologiei. În același timp, suporturile externe pe care companiile ar fi putut să se bazeze se subțiază. Laboratoarele de IA de top au redus angajamentele voluntare pentru siguranță, iar reglementarea rămâne fragmentată în diferite jurisdicții. Încărcătura de încredere revine companiilor care implementează IA, deoarece, în final, acestea sunt cele care vor suferi consecințele negative atunci când și dacă acestea vor apărea.

Lucrez la proiecte strategice de IA cu companii din aproape toate industriile și vorbesc zilnic cu directori executivi și consilii de administrație. Modelul consistent pe care îl observ este următorul: implementarea se accelerează, în timp ce infrastructura de control nu ține pasul. Modelul este suficient de consistent încât îl consider structural, mai degrabă decât o eșec a unei singure firme, și voi face o previziune: nu suntem departe de momentul în care un director executiv va trebui să explice că o greșeală mare a costat compania milioane, și va da vina pe IA. Aș sugera politicos că aceasta nu este o scuză.

Veștile bune sunt că am norocul să văd direct câteva companii care abordează guvernarea în mod diferit, și cred că aceste firme construiesc un avantaj pe termen lung care se compune în timp, în timp ce altele care așteaptă pe margine riscă să devină învechite. Înțelegerea a ceea ce văd cei puțini începe cu înțelegerea direcției în care ne îndreptăm în prezent.

Ne Îndreptăm Spre O Problemă

Implementările de astăzi sunt suficient de mici pentru ca supravegherea umană să poată absorbi riscul. Cea mai recentă cercetare Deloitte privind starea IA în cadrul companiilor a arătat că doar o pătrime dintre organizațiile chestionate au mutat cel puțin 40% din experimentele lor de IA în producție. Majoritatea companiilor sunt încă la începutul curbei, rulând câteva agenți în cazuri de utilizare îngustă, cu oameni care urmăresc fiecare piesă de ieșire.

Traiectoria este ceea ce contează. Pe măsură ce implementările se extind de la doi agenți la 20, la 200, la 2.000 și mai departe, complexitatea se compune. Fiecare agent nou aduce propriul comportament, plus interacțiunile sale cu fiecare sistem pe care îl atinge și cu fiecare alt agent cu care lucrează. La doi agenți, încrederea este ușoară: cunoașteți echipa și revizuiți ieșirile personal. La 20, încrederea trebuie să devină un proces, cu proprietari definiți, testare și căi de escaladare. Poate funcționa încă, dar devine din ce în ce mai greu de susținut. La 200, revizuirea informală devine teatru, deoarece nicio echipă de conducere nu poate examina atât de multă activitate. Și la 2.000, omul din buclă este virtual inutil, deoarece interacțiunile dintre agenți, date și procese comerciale formează o rețea dincolo de ceea ce supravegherea manuală poate acoperi. La acea scară, încrederea trebuie să existe și la scară și să fie încorporată în arhitectura tehnică a companiei.

Costul Așteptării

Infrastructura de încredere lipsă este și una dintre cauzele pentru randamentele dezamăgitoare. În ultimul sondaj global al directorilor executivi PwC, 56% dintre directorii executivi au spus că IA a produs nici o creștere a veniturilor, nici o reducere a costurilor în ultimul an. În experiența mea, chiar și randamentele raportate par mai puțin convingătoare odată ce examinezi economia de bază. Majoritatea firmelor numără orele economisite și le numesc randament al investiției. Orele economisite devin randament financiar doar atunci când organizația convertește acea capacitate în ceva mai valoros: producție mai mare, calitate mai bună, costuri evitate, creștere mai rapidă etc.

Această conversie necesită încredere. O organizație poate muta judecata umană către o muncă de valoare mai mare doar atunci când conducerea încredințează sistemele care preiau munca de valoare mai mică. Lipsa încrederii, companiile acumulează datorii tehnice care nu se extind, și, în timp, au un impact semnificativ asupra productivității. Este cel mai rău din ambele lumi: cheltuieli crescute cu puțin de arătat. Încrederea este fundamentul pe care se acumulează aceste randamente.

Problema Ascensorului

Legătura dintre încredere și adoptare nu este una nouă, și putem reveni la mijlocul secolului al XX-lea pentru un punct de referință rezonabil. Ascensoarele fără șofer au existat cu decenii înainte ca cineva să le folosească. Tehnologia a funcționat, dar pasagerii au intrat într-o mașină, au văzut că nu există un operator și au ieșit din nou. Ceea ce s-a schimbat nu a fost ascensorul, ci controalele de siguranță din jurul lui. După o grevă a operatorilor din 1945 care a oprit clădirile de birouri din New York, industria a proiectat încrederea în mașină însăși: butonul de oprire de urgență, linia telefonică, ușile care s-au redeschis atunci când au întâlnit rezistență și o voce înregistrată care explică ce să facă. Într-o generație, intrarea într-un ascensor fără un om la comenzi a devenit atât de obișnuită încât intrarea într-un ascensor cu o persoană la butoane a părut învechită. Barierele pentru înlăturarea omului din buclă nu au fost niciodată capacitatea. A fost încrederea, și industria a rezolvat-o prin construirea unor controale vizibile și verificabile în sistem și plasarea lor acolo unde fiecare pasager le putea vedea.

IA pentru companii se află în stadiul de intrare, ieșire. Echipele de conducere văd agenți care lucrează fără un om la comenzi și ezită, și ezitarea este rațională: majoritatea organizațiilor nu au construit încă echivalentul butonului de oprire, al liniei telefonice și al ușii care nu se va închide asupra ta. Companiile care proiectează aceste controale în sistemele lor vor fi cele ale căror oameni, clienți și reglementatori intră și rămân.

Furnizorii Pot Transporta Doar O Parte Din Aceasta

Mulți lideri speră că furnizorii lor de IA vor purta încărcătura de încredere. Furnizorii pot oferi garanții și controale de securitate la nivel de model, și cei buni o fac. Decizia dacă o anumită implementare este adecvată pentru datele dvs., obligațiile dvs. de reglementare, clienții dvs. și toleranța dvs. la risc rămâne sarcina dvs., deoarece furnizorul dvs. lipsește contextul pentru a o face. Ei nu au văzut niciodată obligațiile dvs. și nu au nicio modalitate de a prețui ce ar costa o consecință negativă.

Un angajament de siguranță al furnizorului acoperă modelul său, nu utilizarea acestuia. De asemenea, nu este permanent: așa cum a arătat anul trecut, aceste angajamente pot fi revizuite sau retrase. Industriile reglementate au rezolvat această problemă de mult pentru modelele terțe, și standardul pe care l-au adoptat este cel corect: instituția care implementează modelul deține riscul.

Ce Fac Cei Puțini

Companiile care se desprind fac trei mișcări:

1. Construiscri infrastructura de control de acum, dimensionată pentru scara pe care intenționează să o atingă, și nu pentru scara la care se află, deoarece controalele trebuie să existe înainte de agenții care au nevoie de ele.
2. Încorporează clasificarea și atenuarea riscului la începutul procesului de implementare, și nu ca o poartă de revizuire la sfârșit, astfel încât fiecare caz de utilizare să fie clasificat și controalele să fie proporționale cu riscul de la început.
3. Și pun în picioare o guvernare independentă cu autoritate reală pentru a verifica că aceste sisteme se comportă așa cum sunt destinate, păstrându-le suficient de flexibile pentru a evolua odată cu tehnologia. Independența face verificarea credibilă. Flexibilitatea o ține actualizată.

Este demn de remarcat că puțini reglementatori au stabilit în mod explicit reguli privind utilizarea și supravegherea IA generativă, dar acest lucru nu înseamnă că nu avem nimic la care să ne uităm pentru îndrumare. Reglementatorii au reguli bine stabilite pentru gestionarea modelelor tradiționale, și putem folosi acestea ca ghid. În aprilie, Rezerva Federală, OCC și FDIC au emis îndrumări revizuite privind riscul modelului, care reflectă decenii de practică, o abordare bazată pe principii care include inventare de modele, controale bazate pe risc proporționale cu expunerea, validare independentă, monitorizare continuă și răspundere la nivel de întreprindere pentru produsele furnizorilor, și au îndrumat instituțiile să aplice aceste practici și pentru IA pe cont propriu. Mesajul este clar: principiile care funcționează sunt cunoscute, și regulile formale pentru IA nu vin curând. Companiile care așteaptă clarificări de reglementare vor aștepta în timp ce cei puțini acționează. Acesta este motivul pentru care industriile puternic reglementate, descrise adesea ca fiind lente, intră în această eră cu un avans. Au petrecut decenii construind exact mașinaria de încredere de care are nevoie toată lumea, și nu așteaptă permisiunea de a o folosi.

Întrebarea Care Contează

Divizarea este deja în formare. Majoritatea companiilor tratează guvernarea ca pe un cost: ceva absorbit, suportat și minimizat. Cei puțini o tratează ca infrastructura care le permite să mute oamenii către o muncă de valoare mai mare și să se extindă cu încredere. Fiecare echipă de conducere se află pe una sau alta dintre părți, fie că au ales deliberat sau nu, și decalajul se compune în mod silențios înainte de scara care îl va expune. Nimeni nu se gândește de două ori să intre într-un ascensor astăzi, deoarece încrederea a fost construită în el. Companiile care fac același lucru pentru IA vor depăși pe toți cei care încă decid dacă să intre sau nu.