Gerald Kierce, CEO și Co-Fondator al Trustible – Seria de Interviuri

Gerald Kierce, CEO și Co-Fondator al Trustible, este un lider în tehnologie și politici, axat pe operaționalizarea inteligenței artificiale responsabile. El conduce misiunea Trustible de a ajuta organizațiile să construiască încredere, să gestioneze riscurile și să se conformeze reglementărilor emergente privind inteligența artificială. Anterior, el a ocupat funcția de Vicepreședinte și Director General al Soluțiilor de Inteligență Artificială la FiscalNote, unde a supervizat produsele de inteligență artificială pentru întreprinderi și a deținut roluri senior în dezvoltarea corporativă, produs, succesul clienților și operațiunile executive. Cariera sa a stat constant la intersecția tehnologiei, reglementării și executării întreprinderilor scalabile.

Trustible oferă o platformă de guvernanță a inteligenței artificiale care ajută organizațiile să inventarieze sistemele de inteligență artificială, să evalueze și să atenueze riscurile, și să operaționalizeze conformitatea prin fluxuri de lucru structurate și documentație. Proiectată pentru echipele juridice, de conformitate și de inteligență artificială, platforma centralizează activitățile de guvernanță, aliniază cazurile de utilizare a inteligenței artificiale cu cadrele de reglementare și permite o implementare mai rapidă și mai transparentă a inteligenței artificiale responsabile în întreaga întreprindere.

Ai trecut de la marketingul de produs și munca de Șef de Stat la conducerea soluțiilor de inteligență artificială la FiscalNote, înainte de a fonda Trustible. Ce ai văzut în aceste roluri care te-a convins că guvernanța inteligenței artificiale are nevoie de o platformă dedicată, și care a fost problema pe care ai fost hotărât să o rezolvi prima dată când ai lansat Trustible?

Am avut norocul de a avea multe roluri în cei peste 8 ani petrecuți la FiscalNote, unde am început ca angajat timpuriu în perioada Seed/Series A și am plecat ca director executiv senior după IPO.

De-a lungul marketingului de produs, muncii de Șef de Stat și, în cele din urmă, conducerii soluțiilor de inteligență artificială la FiscalNote, am văzut mereu aceeași problemă care apărea din diferite unghiuri. Guvernanța inteligenței artificiale este, în esență, o problemă sociotehnică, dar majoritatea organizațiilor abordau această problemă în mod fragmentat. Echipele tratau performanța, securitatea, confidențialitatea, etica și revizuirile legale ale inteligenței artificiale ca fiind track-uri separate, adesea deținute de funcții diferite, cu puțină coloană vertebrală operațională care le lega împreună. Aceste cinci dimensiuni sunt absolut importante și trebuie abordate în mod colaborativ. Dar acolo unde organizațiile se luptau era în traducerea acestei intenții sociotehnice în ceva durabil, odată ce inteligența artificială se muta în luarea deciziilor reale.

În același timp, mediul de reglementare în jurul inteligenței artificiale se schimba în mod evident. Actul privind Inteligența Artificială din UE și standardele conexe au semnalat o schimbare către guvernanța inteligenței artificiale ca infrastructură reglementată, mai degrabă decât tehnologie experimentală. Ce a devenit aparent a fost că multe companii încercau să cartografieze politica și așteptările de reglementare pe sistemele de inteligență artificială după implementare, în loc de a proiecta guvernanța care ar putea să operaționalizeze în mod continuu intenția de reglementare de-a lungul acestor dimensiuni sociotehnice.

Experiența mea la FiscalNote a fost importantă, deoarece am aplicat inteligența artificială asupra peisajului politic, juridic și de reglementare în sine. Am ajutat organizațiile să înțeleagă cum evoluează legile, cum sunt interpretate cerințele și cum așteptările de reglementare se traduc în obligații operaționale de-a lungul timpului. Această experiență a făcut clar că guvernanța eficientă a inteligenței artificiale necesită aceeași disciplină în sens invers: aplicarea gândirii politice și de reglementare direct asupra modului în care sistemele de inteligență artificială sunt construite, implementate, monitorizate și adaptate pe măsură ce condițiile se schimbă.

Clienții au descris în mod constant aceleași puncte dureroase. Ei nu puteau răspunde cu încredere la întrebarea ce sisteme de inteligență artificială erau în producție, care dintre ele erau cu risc ridicat sub reglementările emergente, cine era responsabil atunci când sistemele traversau granițele funcționale, sau cum să demonstreze conformitatea continuă pe măsură ce modelele, datele, furnizorii și reglementările evoluează simultan.

Când am lansat Trustible, prima problemă pe care am încercat să o rezolvăm a fost transformarea guvernanței sociotehnice din teorie în realitate operațională. Ne-am concentrat pe crearea unui sistem care conectează comportamentul tehnic, contextul de risc al cazului de utilizare, proprietatea și așteptările de reglementare într-un singur loc. Trustible a fost construit pentru a oferi organizațiilor un sistem de înregistrare vie a inteligenței artificiale, cu vizibilitate și responsabilitate continuă, astfel încât guvernanța să poată ține pasul atât cu schimbarea tehnologică, cât și cu evoluția reglementării, mai degrabă decât să rămână în urmă.

De pe linia frontului, ce ai învățat în ultimul an despre de ce programele de guvernanță se opresc odată ce inteligența artificială se mută în decizii reale, fluxuri de lucru și experiențe cu clienții?

Odată ce inteligența artificială iese din experimentare și intră în fluxuri de lucru reale, guvernanța are tendința de a se opri din cauze practice, mai degrabă decât filosofice. Majoritatea organizațiilor pur și simplu nu știu cum să evalueze riscul inteligenței artificiale într-un mod care se potrivește cu modul în care sistemele sunt utilizate în realitate. Ei pot evalua modelele în abstract, dar se luptă să evalueze riscul la nivelul cazului de utilizare, unde contextul, impactul și deciziile downstream contează mult mai mult decât metricile tehnice alone.

Această problemă devine și mai pronunțată cu inteligența artificială generativă. Un singur model de bază poate fi utilizat pentru suportul clienților, cercetarea internă, suportul decizional, generarea de conținut, fiecare cu profiluri de risc foarte diferite. Fără o metodă structurată de a evalua și compara aceste utilizări, echipele fie se concentrează prea mult pe precauție, fie merg înainte fără adevărată încredere.

Inteligența artificială terță parte complică și mai mult lucrurile. Organizațiile se bazează puternic pe furnizori și capacități de inteligență artificială încorporate, dar lipsesc metodele consistente de a evalua aceste sisteme, de a înțelege controalele upstream sau de a determina cum riscul furnizorului se traduce în propria expunere operațională și de reglementare. Ca urmare, revizuirile devin subiective și lente.

Aceste provocări sunt amplificate de lacunele în expertiză și proprietate. Responsabilitățile de guvernanță sunt adesea distribuite între echipele juridice, de conformitate, securitate, date și produse, fără un cadru comun sau un proprietar clar responsabil odată ce sistemele ajung în producție. În combinație cu instrumentele nepotrivite, cum ar fi foi de calcul, depozite de documente sau platforme GRC legacy, echipele de guvernanță pierd vizibilitatea asupra a ceea ce se schimbă și de ce contează.

La nivelul său fundamental, guvernanța se oprește pentru că organizațiile aplică vechile cărți de joc concepute pentru sisteme statice la sistemele dinamice de inteligență artificială. Inteligența artificială necesită evaluarea continuă a riscului, proprietatea clară legată de rezultate și instrumente care reflectă modul în care sistemele se comportă în realitate, mai degrabă decât cum au fost aprobate pe hârtie. Echipele de guvernanță nu pot vedea ce se schimbă, când se schimbă sau de ce contează.

În cele din urmă, proprietatea este adesea nerezolvată. În multe organizații, nu există un proprietar clar responsabil pentru un sistem de inteligență artificială odată ce acesta trece de la experimentare la producție. Fără un proprietar de afaceri numit care este responsabil pentru rezultate, guvernanța devine consultativă și progresul se încetinește.

Firul comun este că organizațiile aplică vechile cărți de joc de guvernanță la o tehnologie fundamental nouă. Aceste cărți de joc au fost create pentru sisteme statice și revizuiri periodice. Inteligența artificială necesită evaluarea continuă a riscului, proprietatea mai clară și instrumente care conectează guvernanța direct la modul în care sistemele funcționează în realitate.

Cum definesc guvernanța anului doi, și ce se schimbă atunci când o organizație trece de la adoptarea inițială la monitorizarea continuă, gestionarea derapajului și conformitatea continuă?

Guvernanța Inteligenței Artificiale din Anul Doi este momentul în care inteligența artificială încetează să fie tratată ca o serie de proiecte și începe să fie tratată ca infrastructură subiacentă pentru luarea deciziilor. Ceea ce vreau să spun prin aceasta este că, în primul an, guvernanța inteligenței artificiale este în mare măsură despre împuternicire. Echipele se concentrează pe aprobarea cazurilor de utilizare, documentarea modelelor și stabilirea proceselor de revizuire, astfel încât inteligența artificială să poată avansa în mod responsabil.

Pe măsură ce sistemele de inteligență artificială se extind și devin încorporate în procesele de afaceri de bază, focalizarea se schimbă. Întrebarea nu mai este dacă ceva ar trebui să fie implementat, ci dacă poate fi operat în siguranță și fiabil pe termen lung, pe măsură ce datele, utilizatorii, furnizorii și reglementările se schimbă. Guvernanța inteligenței artificiale devine continuă, mai degrabă decât episodică, declanșată de schimbări reale în comportament sau context, mai degrabă decât revizuiri bazate pe calendar.

Riscul devine, de asemenea, dinamic. În loc de a atribui o clasificare de risc statică la lansare, organizațiile trebuie să înțeleagă cum riscul evoluează pe măsură ce modelele se deplasează, scopurile se extind sau noii stakeholderi interacționează cu sistemul. Conformitatea urmează aceeași schimbare. Cerințele de reglementare se mută de la a fi cartografiate la politici în a fi impuse prin controale live, semnale de monitorizare și dovezi capturate în mod continuu.

Un alt aspect cheie al Guvernanței Inteligenței Artificiale din Anul Doi este introducerea managementului real de incidente de inteligență artificială. Organizațiile trebuie să știe care sisteme sunt monitorizate, să prioritizeze pe baza riscului inerent, să integreze datele potrivite pentru a suprafața semnale semnificative și să definească criterii clare de alertă și escaladare. Acest lucru permite echipelor să intervene devreme, înainte ca problemele să se transforme în incidente.

Cu sisteme fragmentate și resurse limitate, care sunt primele capacități de guvernanță pe care crezi că companiile ar trebui să le standardizeze la nivelul întregii organizații?

Când resursele sunt limitate, organizațiile trebuie să fie deliberate cu privire la unde încep, deoarece alegerile inițiale setează traiectoria pentru tot ceea ce urmează. Prioritatea principală este obținerea unei vizibilități fiabile asupra a ceea ce inteligența artificială există în mod real în afaceri. Multe echipe cred că au doar câteva sisteme de inteligență artificială, doar pentru a descoperi inteligență artificială ascunsă, capacități încorporate de la furnizori și cazuri de utilizare extinse care nu au fost niciodată revizuite în mod formal. Fără o vedere vie asupra a ceea ce este în producție, discuțiile despre guvernanță rămân teoretice și desconectate de realitate.

Odată ce există vizibilitate prin Inventarul de Inteligență Artificială, este vorba despre introducerea responsabilității în cazurile de utilizare a inteligenței artificiale. Guvernanța se prăbușește rapid atunci când responsabilitatea este distribuită între comitete sau funcții. Organizațiile trebuie să atribuie în mod clar cine este responsabil pentru rezultate atunci când un sistem de inteligență artificială ia sau influențează decizii, nu doar cine a construit-o sau a revizuit-o inițial. Această claritate devine deosebit de importantă atunci când apar incidente sau când modelele evoluează dincolo de scopul lor inițial.

De acolo, echipele au nevoie de o modalitate practică de a gândi despre risc. Acest lucru înseamnă stabilirea unei abordări comune de clasificare a riscului care funcționează pe sisteme interne construite, cazuri de utilizare a inteligenței artificiale generative și furnizori terți. Fără o lentilă de risc comună, organizațiile fie supraveghează excesiv sistemele cu risc scăzut, fie monitorizează sub sistemele care contează cel mai mult.

În cele din urmă, guvernanța trebuie să genereze dovezi ca produs al operațiunilor normale. Ne place să vorbim despre “Spune, Fă, Demonstrează” ca o modalitate de a demonstra caracterul de încredere în guvernanța inteligenței artificiale. Capturarea aprobărilor, schimbărilor și semnalelor de monitorizare pe măsură ce sistemele funcționează permite organizațiilor să răspundă la audituri, incidente, solicitări ale clienților și întrebări de reglementare cu încredere, mai degrabă decât să reconstruiască decizii.

De ce crezi că guvernanța inteligenței artificiale trebuie tratată cu aceeași seriozitate ca securitatea cibernetică sau GRC, și unde liderii subestimează cel mai mult încărcătura operațională?

Guvernanța inteligenței artificiale poartă riscuri sistemice care sunt comparabile cu securitatea cibernetică și GRC, dar cu complexitate adăugată. La fel ca eșecurile de securitate cibernetică, eșecurile inteligenței artificiale pot propaga rapid și invizibil în întreaga organizație. La fel ca GRC, inteligența artificială se intersectează cu obligațiile legale, etice și operaționale. În contrast cu oricare dintre acestea, sistemele de inteligență artificială pot schimba comportamentul pe parcursul timpului fără acțiune umană explicită.

Unde liderii tind să subestimeze încărcătura de lucru este în cererile operaționale continue. Monitorizarea este continuă, mai degrabă decât periodică. Coordonarea se extinde asupra produselor, datelor, IT, juridic, conformității și achizițiilor. Managementul schimbărilor este constant, deoarece modelele, furnizorii, cazurile de utilizare și reglementările evoluează simultan.

Organizațiile care tratează guvernanța inteligenței artificiale ca pe un exercițiu de conformitate de o singură dată se luptă în mod inevitabil. Cele care abordează guvernanța ca infrastructură operațională, similar cu securitatea sau ingineria fiabilității, sunt mult mai bine poziționate pentru a scala inteligența artificială în siguranță și în mod durabil.

Cum ar trebui organizațiile să proiecteze guvernanța pentru a rămâne rezistente în fața incertitudinii de reglementare, în timp ce statele americane promovează reguli de inteligență artificială, în timp ce politica federală rămâne disputată?

Mediul de reglementare pentru inteligența artificială este incert și în evoluție. Programele de guvernanță cele mai rezistente sunt construite în jurul cerințelor, mai degrabă decât a reglementărilor individuale. În loc de a reacționa la fiecare nouă lege cu procese personalizate, organizațiile ar trebui să se concentreze asupra așteptărilor comune care apar în diferite jurisdicții, cum ar fi inventarierea, transparența, responsabilitatea, evaluarea riscului, supravegherea umană și documentația.

Când sistemele de guvernanță sunt modulare, noile cerințe de reglementare pot fi cartografiate pe controale existente, mai degrabă decât a forța echipele să-și reinventeze abordarea de fiecare dată când peisajul se schimbă. Acest lucru reduce fricțiunea și ajută guvernanța să țină pasul cu schimbarea politică.

Scopul nu este de a optimiza conformitatea cu regulile de astăzi, ci de a o adapta pe măsură ce așteptările evoluează.

Privind spre 2026, care sunt capacitățile de guvernanță a inteligenței artificiale pe care le așteptați să devină inegociabile, pe măsură ce organizațiile extind inteligența artificială în mai multe unități de afaceri?

Pe măsură ce inteligența artificială trece de la piloți izolați la sisteme care influențează decizii reale, așteptările de guvernanță se schimbă la fel de rapid. Până în 2026, organizațiile nu vor mai putea să se bazeze pe cărțile de joc care au funcționat în 2024 și 2025, când supravegherea inteligenței artificiale era adesea manuală, episodică și centrată pe revizuiri individuale. Monitorizarea continuă va deveni o cerință de bază, deoarece documentația statică și evaluările la un moment dat nu vor mai satisface regulatorii, consiliile de administrație, angajații sau clienții într-un mediu dinamic de inteligență artificială.

Pe măsură ce inteligența artificială se încorporează în mai multe echipe și fluxuri de lucru, organizațiile vor avea nevoie și de guvernanță consistentă pe lanțurile de aprovizionare din ce în ce mai complexe de inteligență artificială. Modelele interne, furnizorii terți, funcțiile de inteligență artificială încorporate și componentele autonome vor trebui să fie guvernate prin aceeași lentilă, mai degrabă decât să se trateze inteligența artificială a furnizorilor ca pe un punct orb sau să se presupună că responsabilitatea se încheie la achiziție.

Dovezile pregătite pentru audit vor trebui să fie disponibile la cerere, pe măsură ce aplicarea reglementărilor se întărește și așteptările publice de transparență cresc. Acest lucru înseamnă capturarea activității de guvernanță pe măsură ce sistemele de inteligență artificială sunt proiectate, implementate și monitorizate, mai degrabă decât reconstruirea deciziilor după un incident sau o solicitare de audit.

Dacă ai sfătui o companie care are deja inteligență artificială în producție, dar nu are un program formal de guvernanță, ce ar arăta o perioadă realistă de 90 de zile?

Primele 30 de zile ar trebui să se concentreze pe obținerea unei vizibilități de bază. Acest lucru înseamnă identificarea sistemelor de inteligență artificială care sunt în producție, înțelegerea unde influențează decizii reale și atribuirea unei proprietăți clare.

Faza următoare se concentrează pe stabilirea controalelor de bază. Organizațiile ar trebui să definească cum clasifică riscul, să introducă puncte de aprobare pentru sistemele cu risc mai ridicat și să înceapă monitorizarea în domeniile care contează cel mai mult.

În etapa finală, guvernanța trebuie să treacă de la configurare la operare. Monitorizarea ar trebui să fie integrată în fluxurile de lucru existente, căile de escaladare ar trebui să fie definite clar, iar dovezile ar trebui să înceapă să se acumuleze în mod natural pe măsură ce sistemele funcționează.

Scopul în primele 90 de zile nu este perfecțiunea. Este impulsul. Un program de guvernanță care funcționează imperfect în practică este mult mai valoros decât unul care există doar pe hârtie.”

Mulțumim pentru acest interviu minunat, cititorilor care doresc să afle mai multe despre Trustible.