Gerald Kierce, VD och medgrundare av Trustible – Intervju-serie

Gerald Kierce, VD och medgrundare av Trustible, är en teknologi- och politisk ledare som fokuserar på att operationalisera ansvarsfull AI. Han leder Trustibles uppdrag att hjälpa organisationer att bygga förtroende, hantera risker och följa nya AI-regler. Tidigare har han varit vice VD och general manager för AI-lösningar på FiscalNote, där han ansvarade för företags AI-produkter och haft seniora roller inom företagsutveckling, produkt, kundsupport och verkställande verksamhet. Hans karriär har konsekvent varit placerad vid skärningspunkten mellan teknik, reglering och skalbar företagsverksamhet.

Trustible erbjuder en AI-styrningsplattform som hjälper organisationer att inventera AI-system, bedöma och mildra risker och operationalisera regelefterlevnad genom strukturerade arbetsflöden och dokumentation. Utformad för juridiska, regelefterlevnads- och AI-team, centraliserar plattformen styrningsaktiviteter, samordnar AI-användningsfall med regelramar och möjliggör snabbare, mer transparent distribution av ansvarsfull AI inom hela företaget.

När du gick från produktmarknadsföring och chefsstabsarbete till att leda AI-lösningar på FiscalNote innan du grundade Trustible, vad såg du i dessa roller som övertygade dig om att AI-styrning behövde en dedikerad plattform, och vilket problem var du fast besluten att lösa först när du lanserade Trustible?

Jag hade turen att ha många roller under mina 8+ år på FiscalNote, där jag började som en tidig anställd i seed-/serie A-fasen och lämnade som en senior chef efter börsnoteringen.

Under min tid på FiscalNote, oavsett om det var produktmarknadsföring, chefsstabsarbete eller att leda AI-lösningar, såg jag samma problem uppstå från olika vinklar. AI-styrning är i grunden ett sociotekniskt problem, men de flesta organisationer angrep det på fragmenterade sätt. Team behandlade AI-prestanda, säkerhet, sekretess, etik och juridisk granskning som separata spår, ofta ägda av olika funktioner med liten gemensam operativ ryggrad som band dem samman. Dessa fem dimensioner är absolut viktiga, och de måste hanteras samfällt. Men där organisationer kämpade var att översätta den sociotekniska avsikten till något beständigt när AI gick in i verkliga beslutsfattanden.

Samtidigt var den reglerande miljön kring AI tydligt förändrad. EU:s AI-lag och relaterade standarder signalerade en skiftning mot att reglera AI som reglerad infrastruktur snarare än experimentell teknik. Vad som blev uppenbart var att många företag försökte kartlägga policy och regleringsförväntningar på AI-system efter distribution, snarare än att utforma styrning som kunde kontinuerligt operationalisera regleringsavsikter över dessa sociotekniska dimensioner.

Min erfarenhet på FiscalNote var viktig eftersom vi tillämpade AI på den politiska, juridiska och reglerande landskaps själva. Vi hjälpte organisationer att förstå hur lagar utvecklas, hur krav tolkas och hur regleringsförväntningar översätts till operativa skyldigheter över tid. Den erfarenheten gjorde det klart att effektiv AI-styrning kräver samma disciplin i omvänd ordning: att tillämpa policy- och regleringstänkande direkt på hur AI-system byggs, distribueras, övervakas och anpassas när förhållandena förändras.

Kunderna beskrev konsekvent samma smärtproblem. De kunde inte med säkerhet svara på vad AI-system var i produktion, vilka som var högrisk under nya regler, vem som var ansvarig när system korsade funktionella gränser eller hur man kunde demonstrera kontinuerlig regelefterlevnad när modeller, data, leverantörer och regler utvecklades samtidigt.

När vi lanserade Trustible var det första problemet vi satte oss att lösa att förvandla socioteknisk styrning från teori till operativ verklighet. Vi fokuserade på att skapa ett system som kopplar samman tekniskt beteende, användningsfallriskkontext, ägarskap och regleringsförväntningar på en plats. Trustible byggdes för att ge organisationer ett levande system för AI, med kontinuerlig synlighet och ansvar, så att styrning kunde hålla jämna steg med både teknisk förändring och regleringsutveckling snarare än att ligga efter.

Från frontlinjen, vad har du lärt dig under det senaste året om varför styrningsprogram stannar av när AI går in i verkliga beslut, arbetsflöden och kundorienterade upplevelser?

När AI går ut från experiment och in i verkliga arbetsflöden, tenderar styrning att stanna av av mycket praktiska skäl snarare än filosofiska. De flesta organisationer vet helt enkelt inte hur de ska utvärdera AI-risk på ett sätt som motsvarar hur systemen faktiskt används. De kan utvärdera modeller i abstrakt, men de kämpar för att utvärdera risk på användningsfallsnivå, där kontext, påverkan och nedströmsbeslut betyder mycket mer än tekniska mått ensamma.

Detta problem blir ännu mer uttalat med generativ AI. En enda grundmodell kan användas för kundsupport, intern forskning, beslutsstöd eller innehållsgenerering, var och en med mycket olika riskprofiler. Utan en strukturerad metod för att utvärdera och jämföra dessa användningar, antingen överdrivar team försiktigheten eller går vidare utan verklig tillförsikt.

Tredjeparts-AI komplicerar saker ytterligare. Organisationer förlitar sig tungt på leverantörer och inbäddade AI-funktioner, men saknar konsekventa metoder för att utvärdera dessa system, förstå uppströmskontroller eller bestämma hur leverantörsrisk översätts till deras egen reglerings- och operativa exponering. Som ett resultat blir granskningar subjektiva och långsamma.

Utmaningarna förstärks av kompetens- och ägarskapsluckor. Styrningsansvar är ofta spridda över juridiska, regelefterlevnads-, säkerhets-, data- och produktteam utan en gemensam ram eller en tydligt ansvarig ägare när system når produktion. Kombinerat med olämplig verktygsutrustning som kalkylblad, dokumentarkiv eller äldre GRC-plattformar, förlorar styrningsteam synligheten i vad som förändras och varför det betyder något.

I sin kärna stannar styrning av omdat organisationer tillämpar gamla spelböcker utformade för statiska system på dynamiska AI-system. AI kräver kontinuerlig riskutvärdering, tydligt ägarskap knutet till resultat och verktyg som återspeglar hur system faktiskt beter sig i produktion snarare än hur de godkändes på papper.

Slutligen är ägarskap ofta olöst. I många organisationer finns det ingen tydligt ansvarig ägare för ett AI-system när det går från experiment till produktion. Utan en namngiven affärsägare som är ansvarig för resultat, blir styrning rådgivande och framsteg bromsas.

Den gemensamma tråden är att organisationer tillämpar gamla styrningsplayböcker på fundamentalt ny teknik. Dessa playböcker byggdes för statiska system och periodiska granskningar. AI kräver kontinuerlig riskutvärdering, tydligare ägarskap och verktyg som kopplar styrning direkt till hur system faktiskt opererar i produktion.

Hur definierar du Year Two-styrning, och vad förändras när en organisation går från initial adoption till kontinuerlig övervakning, driftshantering och kontinuerlig regelefterlevnad?

Year Two AI-styrning är ögonblicket när AI slutar att behandlas som en serie projekt och börjar behandlas som underliggande infrastruktur för beslutsfattande. Vad jag menar med detta är att, under det första året, är AI-styrning i stor utsträckning om enablement. Team fokuserar på att godkänna användningsfall, dokumentera modeller och etablera granskningsprocesser så att AI kan fortsätta ansvarsfullt.

När AI-system skalar och blir inbäddade i kärnverksamhetsprocesser, skiftar fokus. Frågan är inte längre om något ska distribueras, utan om det kan opereras säkert och tillförlitligt över tid när data, användare, leverantörer och regler förändras. AI-styrning blir kontinuerlig snarare än episodisk, utlöst av verkliga förändringar i beteende eller kontext snarare än kalenderbaserade granskningar.

Risk blir också dynamisk. Istället för att tilldela en statisk riskklassning vid lansering, behöver organisationer förstå hur risk utvecklas när modeller drar, omfång utvidgas eller nya intressenter interagerar med systemet. Regelefterlevnad följer samma skift. Regleringskrav flyttar från att kartläggas till policy till att verkställas genom levande kontroller, övervakningssignaler och kontinuerligt insamlad bevisning.

En annan viktig aspekt av Year Two AI-styrning är införandet av riktigt AI-incidenthantering. Organisationer behöver veta vilka system som övervakas, prioritera dem baserat på inbyggd risk, integrera rätt data för att yta meningsfulla signaler och definiera tydliga varnings- och eskalationskriterier. Detta tillåter team att ingripa tidigt, innan problem blir till incidenter.

Med fragmenterade system och begränsade resurser, vilka är de första styrningsförmågorna du tror att företag bör standardisera över hela organisationen?

När resurser är begränsade, måste organisationer vara medvetna om var de börjar, eftersom tidiga val sätter riktningen för allt som följer. Det första prioritet är att få tillförlitlig synlighet i var AI faktiskt existerar i verksamheten. Många team tror att de bara har ett fåtal AI-system, bara för att upptäcka skugg-AI, inbäddade leverantörsfunktioner och tyst skalförändrade användningsfall som aldrig formellt granskades. Utan en levande vy över vad som är i produktion, förblir styrningsdiskussioner teoretiska och avskilda från verkligheten.

När synlighet finns genom din AI-inventering, handlar det om att driva ansvar in i AI-användningsfall. Styrning bryter snabbt när ansvar sprids över kommittéer eller funktioner. Organisationer behöver tydligt tilldela vem som är ansvarig för resultat när ett AI-system fattar eller påverkar beslut, inte bara vem som byggde det eller granskade det initialt. Denna tydlighet blir särskilt viktig när incidenter inträffar eller när modeller utvecklas bortom sitt ursprungliga omfång.

Därefter behöver team en praktisk metod för att resonera om risk. Detta innebär att etablera en gemensam approach till riskklassificering som fungerar över internbyggda system, generativ AI-användningsfall och tredjepartsleverantörer. Utan en gemensam risklins, antingen övergranskar organisationer lågriskiga system eller underövervakar de som betyder mest.

Slutligen måste styrning generera bevis som en biprodukt av normala operationer. Vi pratar ofta om “Säg det, gör det, bevisa det” som ett sätt att demonstrera tillförlitlighet i din AI-styrning. Att fånga godkännanden, förändringar och övervakningssignaler när system körs tillåter organisationer att svara på revisioner, incidenter, kundförfrågningar och regleringsfrågor med tillförsikt snarare än rekonstruktion. Dessa grundvalar behöver inte vara perfekta från början, men de måste vara samstämmiga och upprepningsbara om styrning ska skalas.

Varför tror du att AI-styrning behöver behandlas med samma allvar som cybersäkerhet eller GRC, och var underskattar ledare mest den operativa arbetsbelastningen?

AI-styrning bär systemrisk som är jämförbar med cybersäkerhet och GRC, men med tillagd komplexitet. Liksom cybersäkerhetsmisslyckanden kan AI-misslyckanden spridas snabbt och osynligt över en organisation. Liksom GRC, AI skär över juridiska, etiska och operativa skyldigheter. Till skillnad från båda, kan AI-system förändra beteende över tid utan uttrycklig mänsklig handling.

Där ledare tenderar att underskatta arbetsbelastningen är i de pågående operativa kraven. Övervakning är kontinuerlig snarare än periodisk. Samordning spänner över produkt-, data-, IT-, juridiska, regelefterlevnads- och inköps-team. Förändringshantering är konstant eftersom modeller, leverantörer, användningsfall och regler utvecklas samtidigt.

Organisationer som behandlar AI-styrning som en engångs regelefterlevnadsövning kämpar ofta. De som närmar sig det som operativ infrastruktur, liknande säkerhet eller tillförlitlighetsingenjörskap, är bättre positionerade att skalera AI säkert och hållbart.

När amerikanska delstater driver AI-regler framåt medan federal politik förblir omstridd, hur bör företag utforma styrning som förblir motståndskraftig genom regleringsosäkerhet?

Den reglerande miljön för AI är osäker och utvecklas. De mest motståndskraftiga styrningsprogrammen byggs kring krav snarare än enskilda regler. Istället för att reagera på varje ny lag med anpassade processer, bör organisationer fokusera på de gemensamma förväntningarna som visas över jurisdiktioner, såsom inventering, transparens, ansvar, riskbedömning, mänsklig tillsyn och dokumentation.

När styrningssystem är modulära kan nya regleringskrav mappas på befintliga kontroller snarare än att tvinga team att uppfinna sin approach varje gång landskapet förändras. Detta minskar friktion och hjälper styrning att hålla jämna steg med policyförändring.

Målet är inte att optimera för regelefterlevnad med dagens regler, utan att anpassa det när förväntningar utvecklas.

Med blick mot 2026, vilka AI-styrningsförmågor tror du kommer att bli oeftergivliga när organisationer skalar AI över fler affärsenheter?

När AI flyttar från isolerade piloter till system som formar verkliga beslut, förändras styrningsförväntningarna lika snabbt. Till 2026 kommer organisationer inte längre att kunna förlita sig på spelböckerna som fungerade 2024 och 2025, när AI-övervakning ofta var manuell, episodisk och centrerad kring enskilda granskningar. Kontinuerlig övervakning kommer att bli en grundförutsättning, eftersom statisk dokumentation och punkt-i-tiden-bedömningar inte kommer att tillfredsställa reglerare, styrelser, anställda eller kunder i en dynamisk AI-miljö.

När AI blir inbäddat över fler team och arbetsflöden, kommer organisationer också att behöva konsekvent styrning över alltmer komplexa AI-leverantörskedjor. Interna modeller, tredjepartsleverantörer, inbäddade AI-funktioner och autonoma komponenter kommer alla att behöva styras genom samma lins, snarare än att behandla leverantörs-AI som en blind fläck eller anta att ansvar slutar vid inköp.

Granskningsklara bevis kommer att behöva finnas tillgängliga på begäran när regleringsverksamhet stramas åt och allmänna förväntningar på transparens ökar. Detta innebär att insamla styrningsaktivitet när AI-system designas, distribueras och övervakas, snarare än att rekonstruera beslut efter en incident eller granskningsbegäran.

Slutligen kommer styrning att behöva vara inbäddad över hela AI-livscykeln. Övervakning kommer inte att vara en juridisk granskning vid distribution, utan en operativ förmåga integrerad i SDLC, MLOps och inköpsarbetsflöden för tredjeparter. Organisationer som bygger dessa förmågor kommer att vara bättre positionerade att anpassa sig till regleringsosäkerhet, svara på incidenter och skala AI snabbare och säkrare när förväntningar fortsätter att utvecklas.

Om du rådde ett företag som redan har AI i produktion men inget formellt styrningsprogram, vad skulle en realistisk första 90 dagar se ut?

De första 30 dagarna bör fokusera på att få grundläggande synlighet. Det innebär att identifiera vilka AI-system som är i produktion, förstå var de påverkar verkliga beslut och tilldela tydligt ägarskap.

Nästa fas handlar om att etablera baslinjekontroller. Organisationer bör definiera hur de klassificerar risk, införa godkännandepunkter för högriskiga system och börja övervaka de områden som betyder mest.

I den sista etappen behöver styrning gå från inställning till drift. Övervakning bör integreras i befintliga arbetsflöden, eskalationsvägar bör definieras tydligt och bevis bör börja ackumuleras naturligt när system körs.

Målet under de första 90 dagarna är inte perfektion. Det är momentum. Ett styrningsprogram som fungerar ofullkomligt i praktiken är mycket mer värdefullt än ett som bara existerar på papper.”

Tack för den utmärkta intervjun, läsare som vill lära sig mer bör besöka Trustible.