Gerald Kierce, CEO og medgrunnlegger av Trustible – Intervju-serie

Gerald Kierce, CEO og medgrunnlegger av Trustible, er en teknologi- og politisk leder som fokuserer på å operationalisere ansvarlig AI. Han leder Trustibles misjon om å hjelpe organisasjoner med å bygge tillit, håndtere risiko og være i samsvar med fremvoksende AI-reguleringer. Tidligere var han visepresident og generaldirektør for AI-løsninger i FiscalNote, der han overvåket bedrifts-AI-produkter og hadde seniorstillinger innen bedriftsutvikling, produkt, kundesuksess og ledelsesoperasjoner. Hans karriere har konsekvent vært på交点et mellom teknologi, regulering og skalerbar bedriftsutførelse.

Trustible tilbyr en AI-styringsplattform som hjelper organisasjoner med å inventarisere AI-systemer, vurdere og mildne risiko og operationalisere samsvar gjennom strukturerte arbeidsflyter og dokumentasjon. Designet for juridiske, samsvar og AI-team, sentraliserer plattformen styringsaktiviteter, harmoniserer AI-bruksområder med reguleringer og muliggjør raskere og mer gjennomsiktig deployering av ansvarlig AI på tvers av bedriften.

Du flyttet fra produktmarkedsføring og arbeid som sjef for staben inn i å lede AI-løsninger i FiscalNote før du grunnla Trustible. Hva så du i disse rollene som overbeviste deg om at AI-styring trengte en dedikert plattform, og hvilket problem var du bestemt på å løse først når du lanserte Trustible?

Jeg var heldig å ha mange roller under mine 8+ år i FiscalNote, der jeg startet som en tidlig ansatt i Seed/Series A og forlot som en senior eksekutiv etter børsnoteringen.

Over produktmarkedsføring, arbeid som sjef for staben og til slutt å lede AI-løsninger i FiscalNote, så jeg stadig det samme problemet fra forskjellige vinkler. AI-styring er i grunn en sosioteknisk problem, men de fleste organisasjoner nærmet seg det på fragmenterte måter. Teamene behandlet AI-ytelse, sikkerhet, personvern, etikk og juridisk gjennomgang som separate spor, ofte eid av forskjellige funksjoner med liten felles operativ ryggrad som knytter dem sammen. Disse fem dimensjonene er absolutt viktige, og de må håndteres samarbeidende. Men der organisasjoner kjempet var å oversette denne sosiotekniske intensjonen til noe varig når AI gikk inn i virkelig beslutningstagning.

I samme periode var det reguleringer rundt AI som tydelig endret seg. EU AI-loven og relaterte standarder signaliserte en skifte mot å regulere AI som regulert infrastruktur i stedet for eksperimentell teknologi. Hva som ble tydelig var at mange selskaper prøvde å kartlegge politikk og reguleringer på AI-systemer etter deployering, i stedet for å designe styring som kunne kontinuerlig operationalisere reguleringer på tvers av disse sosiotekniske dimensjonene.

Min erfaring i FiscalNote var viktig fordi vi anvendte AI på politikken, juridiske og reguleringer selv. Vi hjalp organisasjoner med å forstå hvordan lover utvikler seg, hvordan krav tolkes og hvordan reguleringer oversettes til operasjonelle forpliktelser over tid. Denne erfaringen gjorde det klart at effektiv AI-styring krever samme disiplin i motsatt retning: å anvende politikk og reguleringer direkte på hvordan AI-systemer bygges, deployeres, overvåkes og tilpasses når forhold endrer seg.

Kundene beskrev stadig de samme smertepunktene. De kunne ikke med sikkerhet svare på hva AI-systemer var i produksjon, hvilke som var høyrisiko under fremvoksende reguleringer, hvem som var ansvarlig når systemer krysset funksjonelle grenser eller hvordan de kunne demonstrere kontinuerlig samsvar når modeller, data, leverandører og reguleringer utviklet seg samtidig.

Når vi lanserte Trustible, var det første problemet vi satte oss til å løse å gjøre sosioteknisk styring fra teori til operasjonell realitet. Vi fokuserte på å skape et system som kobler teknisk atferd, bruksområde-risikokontekst, eierskap og reguleringer i ett sted. Trustible ble bygget for å gi organisasjoner et levende system for AI, med kontinuerlig synlighet og ansvar, slik at styring kunne holde tritt med både teknologisk endring og reguleringer i stedet for å ligge etter.

Hva har du lært over det siste året om hvorfor styringsprogrammer stopper når AI går inn i virkelig beslutninger, arbeidsflyter og kundeorienterte opplevelser?

Når AI går ut av eksperiment og inn i virkelig arbeidsflyter, tenderer styring til å stoppe av praktiske årsaker i stedet for filosofiske. De fleste organisasjoner vet simpelthen ikke hvordan de skal vurdere AI-risiko på en måte som korresponderer med hvordan systemene faktisk brukes. De kan vurdere modeller i abstrakt, men de kjemper med å vurdere risiko på bruksområdenivå, der kontekst, påvirkning og nedstrømsbeslutninger betyr langt mer enn tekniske målinger alene.

Dette problemet blir enda mer uttalt med generativ AI. En enkelt grunnmodell kan brukes til kundesupport, intern forskning, beslutningsstøtte eller innholdsgenerering, hver med svært forskjellige risikoprofiler. Uten en strukturert måte å vurdere og sammenligne disse bruksområdene, kan teamene enten overreagere på forsiktighet eller gå videre uten virkelig tillit.

Tredjeparts-AI kompliserer ting ytterligere. Organisasjoner er avhengige av leverandører og innebygde AI-kapasiteter, men mangler konsistente metoder for å vurdere disse systemene, forstå oppstrømskontroller eller bestemme hvordan leverandør-risiko oversettes til deres egen regulering og operasjonell eksponering. Som følge blir gjennomgangene subjektive og langsomme.

Disse utfordringene forsterkes av hull i ekspertise og eierskap. Styringsansvar er ofte spredt over juridiske, samsvar, sikkerhet, data og produktteam uten en felles ramme eller en tydelig ansvarlig eier når systemer når produksjon. Kombinert med dårlig egnet verktøy som regneark, dokumentarkiver eller legacy GRC-plattformer, mister styringsteamene synlighet på hva som endrer seg og hvorfor det betyr noe.

I kjernen stopper styring fordi organisasjoner anvender gamle spilleregler designet for statiske systemer til dynamiske AI-systemer. AI krever kontinuerlig risikovurdering, tydelig eierskap knyttet til resultater og verktøy som reflekterer hvordan systemer faktisk oppfører seg i produksjon i stedet for hvordan de ble godkjent på papir.

Til slutt er eierskap ofte uløst. I mange organisasjoner er det ingen tydelig ansvarlig eier for et AI-system når det krysser fra eksperiment til produksjon. Uten en navngitt forretnings-eier som er ansvarlig for resultater, blir styring rådgivende og fremgangen sakter.

Felles tråden er at organisasjoner anvender gamle styrings-spilleregler til fundamentalt ny teknologi. Disse spilleregler var bygget for statiske systemer og periodiske gjennomganger. AI krever kontinuerlig risikovurdering, tydeligere eierskap og verktøy som kobler styring direkte til hvordan systemer faktisk opererer i produksjon.

Hvordan definerer du År To-styring, og hva endrer seg når en organisasjon skifter fra initialt innføring til kontinuerlig overvåking, driftshåndtering og kontinuerlig samsvar?

År To AI-styring er øyeblikket når AI slutter å behandles som en serie prosjekter og begynner å behandles som underliggende infrastruktur for beslutningstagning. Det jeg mener med dette er at, i det første året, er AI-styring hovedsakelig om enablement. Teamene fokuserer på å godkjenne bruksområder, dokumentere modeller og etablere gjennomgangsprosesser så AI kan gå fremover ansvarlig.

Når AI-systemer skalerer og blir innbygget i kjerneprosesser, skifter fokus. Spørsmålet er ikke lenger om noe skal deployeres, men om det kan opereres trygt og pålitelig over tid når data, brukere, leverandører og reguleringer endrer seg. AI-styring blir kontinuerlig i stedet for episodisk, utløst av faktiske endringer i atferd eller kontekst i stedet for kalenderbaserte gjennomganger.

Risiko blir også dynamisk. I stedet for å tildele en statisk risikoklassifisering ved lansering, må organisasjoner forstå hvordan risiko utvikler seg når modeller drifter, områder utvides eller nye interessenter samhandler med systemet. Samsvar følger samme skifte. Reguleringskrav flytter fra å bli kartlagt til politikk til å bli tvunget gjennom live-kontroller, overvåkningssignaler og kontinuerlig fanget bevis.

En annen viktig del av År To AI-styring er innføringen av virkelig AI-hendelseshåndtering. Organisasjoner må vite hvilke systemer som overvåkes, prioritere dem basert på innebygget risiko, integrere riktig data for å overflate meningsfulle signaler og definere tydelige varsling- og eskalasjonskriterier. Dette lar teamene intervenere tidlig, før problemer utvikler seg til hendelser.

Med fragmenterte systemer og begrensede ressurser, hva er de første styringskapasiteter du mener selskaper bør standardisere på tvers av organisasjonen?

Når ressurser er begrensede, må organisasjoner være bevisste på hvor de starter, fordi tidlige valg setter retningen for alt som følger. Første prioritet er å få pålitelig synlighet på hvor AI faktisk eksisterer i bedriften. Mange team tror de har bare et fåtall AI-systemer, bare for å oppdage skygge-AI, innebygde leverandørkapasiteter og stille skalerte bruksområder som aldri ble formelt gjennomgått. Uten en levende oversikt over hva som er i produksjon, blir styringsdiskusjoner teoretiske og frakoblet fra virkeligheten.

Når synlighet eksisterer gjennom din AI-inventar, handler det om å drive ansvar inn i AI-bruksområder. Styring bryter raskt sammen når ansvar er spredt over komiteer eller funksjoner. Organisasjoner må tydelig tildele hvem som er ansvarlig for resultater når et AI-system tar eller påvirker beslutninger, ikke bare hvem bygget det eller gjennomgikk det opprinnelig. Denne tydeligheten blir spesielt viktig når hendelser skjer eller når modeller utvikler seg utenfor deres opprinnelige område.

Deretter må teamene ha en praktisk måte å vurdere risiko på. Dette betyr å etablere en felles tilnærming til risikoklassifisering som fungerer på tvers av internt bygde systemer, generativ AI-bruksområder og tredjepartsleverandører. Uten en felles risikolins, vil organisasjoner enten overvurdere lav-impakt-systemer eller underovervåke de som betyr mest.

Til slutt må styring generere bevis som en biprodukt av normal drift. Vi liker å snakke om “Si det, gjør det, bevise det” som en måte å demonstrere tillit i din AI-styring på. Fanget godkjenninger, endringer og overvåkningssignaler når systemer kjører, lar organisasjoner svare på auditor, hendelser, kundeforespørsler og reguleringsspørsmål med tillit i stedet for rekonstruksjon. Disse grunnene trenger ikke å være perfekte fra starten, men de må være koherente og gjentakende hvis styring skal skaleres.

Hvorfor tror du AI-styring må behandles med samme alvor som cybersikkerhet eller GRC, og hvor underestimerer ledere mest den operative arbeidsbyrden?

AI-styring innebærer systemisk risiko som er sammenlignbar med cybersikkerhet og GRC, men med tilleggskompleksitet. Liksom cybersikkerhetsfeil, kan AI-feil spre seg raskt og usynlig over en organisasjon. Liksom GRC, krysser AI over med juridiske, etiske og operative forpliktelser. I motsetning til begge, kan AI-systemer endre atferd over tid uten eksplisitt menneskelig handling.

Hvor ledere tendrer til å underestime arbeidsbyrden, er i de kontinuerlige operative kravene. Overvåking er kontinuerlig i stedet for periodisk. Koordinering spenner over produkt, data, IT, juridiske, samsvar og innkjøps-team. Endringshåndtering er konstant fordi modeller, leverandører, bruksområder og reguleringer utvikler seg samtidig.

Organisasjoner som behandler AI-styring som en engangs compliance-øvelse, kjemper uunngåelig. De som nærmer seg det som operasjonell infrastruktur, mye som sikkerhet eller pålitelighetsteknikk, er langt bedre posisjonert til å skalerer AI trygt og bærekraftig.

Ettersom amerikanske stater presses fremover på AI-regler mens føderal politikk forblir kontroversiell, hvordan bør bedrifter designe styring som forblir resilient gjennom reguleringusikkerhet?

Reguleringsmiljøet for AI er usikkert og utvikler seg. De mest resiliente styringsprogrammene er bygget rundt krav i stedet for enkeltreguleringer. I stedet for å reagere på hver ny lov med tilpassede prosesser, bør organisasjoner fokusere på de felles forventningene som dukker opp på tvers av jurisdiksjoner, som inventar, transparens, ansvar, risikovurdering, menneskelig overvåking og dokumentasjon.

Når styringssystemer er modulære, kan nye reguleringer kartlegges på eksisterende kontroller i stedet for å tvinge teamene til å finne opp sin tilnærming hver gang landskapet endrer seg. Dette reduserer friksjon og hjelper styring holde tritt med politikkendringer.

Målet er ikke å optimere for compliance med dagens regler, men å tilpasse det når forventningene utvikler seg.

Ser du mot 2026, hvilke AI-styringskapasiteter forventer du blir ikke-forhandlingsbare når organisasjoner skalerer AI på tvers av flere forretningsenheter?

Når AI flytter fra isolerte piloter til systemer som former virkelige beslutninger, endrer styringsforventningene seg like raskt. Innen 2026 vil organisasjoner ikke lenger kunne stole på spilleregler som fungerte i 2024 og 2025, da AI-overvåking ofte var manuell, episodisk og sentrert på enkeltgjennomganger. Kontinuerlig overvåking vil bli en selvfølge, fordi statisk dokumentasjon og punkt-i-tiden-vurderinger ikke vil tilfredsstille reguleringer, styre, ansatte eller kunder i et dynamisk AI-miljø.

Når AI blir innbygget på tvers av flere team og arbeidsflyter, vil organisasjoner også trenger konsistent styring på tvers av stadig mer komplekse AI-levirkedjer. Interne modeller, tredjepartsleverandører, innebygde AI-funksjoner og autonome komponenter vil alle måtte styrers gjennom samme lins, i stedet for å behandle tredjeparts-AI som en blind flekk eller anta at ansvar slutter ved innkjøp.

Revisjonsklar bevis må være tilgjengelig på forespørsel når reguleringstvang tetter og offentlige forventninger til transparens stiger. Dette betyr å fange styringsaktivitet når AI-systemer designes, deployeres og overvåkes, i stedet for å rekonstruere beslutninger etter en hendelse eller revisjonsforespørsel.

Hvis du rådet en bedrift som allerede har AI i produksjon, men ingen formell styringsprogram, hva ville en realistisk første 90 dager se ut?

De første 30 dagene bør fokusere på å få grunnleggende synlighet. Det betyr å identifisere hva AI-systemer er i produksjon, forstå hvor de påvirker virkelige beslutninger og tildele tydelig eierskap.

Neste fase er å etablere basis-kontroller. Organisasjoner bør definere hvordan de klassifiserer risiko, introdusere godkjenningssjekkpunkter for høyere risikosystemer og begynne å overvåke områdene som betyr mest.

I den siste fasen må styring flytte fra oppsett til drift. Overvåking bør integreres i eksisterende arbeidsflyter, eskalasjonsveier bør være tydelig definert og bevis bør begynne å akkumulere naturlig når systemer kjører.

Målet over de første 90 dagene er ikke perfeksjon. Det er momentum. Et styringsprogram som fungerer ufullkomment i praksis er langt mer verdifullt enn ett som bare eksisterer på papir.”

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Trustible.