Gerald Kierce, CEO en mede-oprichter van Trustible – Interviewreeks

Gerald Kierce, CEO en mede-oprichter van Trustible, is een technologie- en beleidsleider die zich richt op het operationaliseren van verantwoordelijke AI. Hij leidt de missie van Trustible om organisaties te helpen vertrouwen op te bouwen, risico’s te beheren en te voldoen aan de opkomende AI-regelgeving. Eerder was hij vice-president en algemeen directeur van AI-oplossingen bij FiscalNote, waar hij enterprise AI-producten beheerde en senior rollen had in corporate ontwikkeling, product, klantensucces en uitvoerende operaties. Zijn carrière heeft consistent gezeten op het snijvlak van technologie, regelgeving en schaalbare ondernemingsuitvoering.

Trustible biedt een AI-governanceplatform dat organisaties helpt om AI-systemen te inventariseren, risico’s te beoordelen en te mitigeren, en compliance te operationaliseren via gestructureerde workflows en documentatie. Ontworpen voor juridische, compliance- en AI-teams, centraliseert het platform governance-activiteiten, aligneert AI-use cases met regelgevingskaders en maakt het mogelijk om verantwoordelijke AI sneller en transparanter te implementeren in het hele bedrijf.

U bent overgestapt van productmarketing en Chief of Staff-werk naar het leiden van AI-oplossingen bij FiscalNote voordat u Trustible oprichtte. Wat zag u in die rollen dat u ervan overtuigde dat AI-governance een gewijd platform nodig had, en welk probleem was u vastbesloten om eerst op te lossen toen u Trustible lanceerde?

Ik had het geluk om veel rollen te hebben tijdens mijn 8+ jaar bij FiscalNote, waar ik begon als een vroege Seed/Series A-medewerker en vertrok als een senior executive na de IPO.

Over productmarketing, Chief of Staff-werk en het leiden van AI-oplossingen bij FiscalNote, zag ik steeds hetzelfde probleem vanuit verschillende hoeken. AI-governance is fundamenteel een sociotechnisch probleem, maar de meeste organisaties benaderen het op gefragmenteerde wijze. Teams behandelen AI-prestaties, beveiliging, privacy, ethiek en juridische beoordelingen als afzonderlijke sporen, vaak eigendom van verschillende functies met weinig gedeelde operationele ruggengraat die ze met elkaar verbindt. Die vijf dimensies zijn absoluut belangrijk, en ze moeten samen worden aangepakt. Maar waar organisaties moeite mee hadden, was het vertalen van die sociotechnische intentie in iets duurzaams zodra AI in werkelijke beslissingen terechtkwam.

Op hetzelfde moment was de regelgevingsomgeving rond AI duidelijk aan het veranderen. De EU AI-wet en verwante normen wezen op een verschuiving naar het reguleren van AI als gereguleerde infrastructuur in plaats van experimentele technologie. Wat duidelijk werd, was dat veel bedrijven probeerden om beleid en regelgevingsverwachtingen op AI-systemen te kaarten na implementatie, in plaats van governance te ontwerpen die voortdurend regelgevingsintentie kon operationaliseren over die sociotechnische dimensies.

Mijn ervaring bij FiscalNote was belangrijk omdat we AI toepasten op de beleids-, juridische en regelgevingslandschap zelf. We hielpen organisaties begrijpen hoe wetten evolueren, hoe vereisten worden geïnterpreteerd en hoe regelgevingsverwachtingen worden vertaald in operationele verplichtingen in de loop van de tijd. Die ervaring maakte het duidelijk dat effectieve AI-governance dezelfde discipline in omgekeerde richting vereist: het toepassen van beleids- en regelgevingsdenken rechtstreeks op hoe AI-systemen worden gebouwd, geïmplementeerd, gemonitord en aangepast als omstandigheden veranderen.

Klanten beschreven consistent dezelfde pijnpunten. Ze konden niet met vertrouwen zeggen welke AI-systemen in productie waren, welke hoge risico’s waren onder opkomende regelgeving, wie verantwoordelijk was wanneer systemen functionele grenzen overschreden, of hoe ze voortdurende compliance konden aantonen terwijl modellen, gegevens, leveranciers en regelgeving gelijktijdig evolueerden.

Toen we Trustible lanceerden, was het eerste probleem dat we wilden oplossen het omzetten van sociotechnische governance van theorie naar operationele realiteit. We richtten ons op het creëren van een systeem dat technisch gedrag, use case-risicocomtext, eigendom en regelgevingsverwachtingen op één plaats verbindt. Trustible was gebouwd om organisaties een levend systeem van record voor AI te geven, met voortdurende zichtbaarheid en verantwoordelijkheid, zodat governance gelijke tred kon houden met zowel technologische verandering als regelgevingsontwikkeling, in plaats van achter te blijven.

Vanuit de frontlinie, wat hebt u geleerd over de afgelopen jaar over waarom governanceprogramma’s stilvallen zodra AI in werkelijke beslissingen, workflows en klantgerichte ervaringen terechtkomt?

Zodra AI uit experimentatie en in werkelijke workflows terechtkomt, heeft governance de neiging om stil te vallen om praktische redenen, in plaats van filosofische. De meeste organisaties weten simpelweg niet hoe ze AI-risico’s moeten beoordelen op een manier die overeenkomt met de manier waarop de systemen daadwerkelijk worden gebruikt. Ze kunnen modellen in het abstracte beoordelen, maar ze worstelen met het beoordelen van risico’s op use case-niveau, waar context, impact en downstream-beslissingen veel meer tellen dan technische metrics alleen.

Dit probleem wordt nog verergerd met generatieve AI. Een enkel foundation-model kan worden gebruikt voor klantondersteuning, intern onderzoek, beslissingsondersteuning of contentgeneratie, elk met zeer verschillende risicoprofielen. Zonder een gestructureerde manier om die gebruiken te beoordelen en te vergelijken, gaan teams ofwel te veel voorzichtigheid betrachten ofwel zonder echte vertrouwen vooruitgaan.

Derde partij AI compliceert dingen verder. Organisaties zijn sterk afhankelijk van leveranciers en ingebedde AI-mogelijkheden, maar ontbreken consistent aan methoden om die systemen te beoordelen, upstream-controles te begrijpen of te bepalen hoe leveranciersrisico’s worden vertaald in hun eigen regelgevings- en operationele blootstelling. Als gevolg daarvan worden beoordelingen subjectief en langzaam.

Deze uitdagingen worden verergerd door kloven in expertise en eigendom. Governance-verantwoordelijkheden worden vaak verspreid over juridische, compliance-, beveiligings-, gegevens- en productteams zonder een gedeeld kader of een duidelijk verantwoordelijke eigenaar zodra systemen in productie komen. In combinatie met ongeschikte tooling zoals spreadsheets, documentenrepositories of legacy GRC-platforms, verliezen governance-teams zicht op wat verandert en waarom het ertoe doet.

In zijn kern stagneert governance omdat organisaties oude playbooks toepassen die zijn ontworpen voor statische systemen op dynamische AI-systemen. AI vereist voortdurende risicobeoordeling, duidelijke eigendom gekoppeld aan resultaten en tooling die weerspiegelt hoe systemen daadwerkelijk in productie werken, in plaats van hoe ze op papier zijn goedgekeurd. Governance-teams kunnen niet zien wat verandert, wanneer het verandert of waarom het ertoe doet.

Tenslotte is eigendom vaak onopgelost. In veel organisaties is er geen duidelijk verantwoordelijke eigenaar voor een AI-systeem zodra het van experimentatie naar productie gaat. Zonder een genoemde zakelijke eigenaar die verantwoordelijk is voor resultaten, wordt governance adviserend en vertraagt de vooruitgang.

De gemeenschappelijke draad is dat organisaties oude governance-playbooks toepassen op fundamenteel nieuwe technologie. Die playbooks waren gebouwd voor statische systemen en periodieke beoordelingen. AI vereist voortdurende risicobeoordeling, duidelijkere eigendom en tooling die governance rechtstreeks verbindt met hoe systemen daadwerkelijk in productie werken.

Hoe definieert u Year Two governance, en wat verandert wanneer een organisatie overschakelt van initiële adoptie naar voortdurende monitoring, driftbeheer en voortdurende compliance?

Year Two AI Governance is het moment waarop AI ophoudt te worden behandeld als een reeks projecten en begint te worden behandeld als onderliggende infrastructuur voor besluitvorming. Wat ik bedoel, is dat in het eerste jaar AI-governance voornamelijk over enablement gaat. Teams zijn gefocust op het goedkeuren van use cases, documenteren van modellen en het instellen van beoordelingsprocessen, zodat AI verantwoordelijk kan worden doorgevoerd.

Naarmate AI-systemen schalen en worden ingebed in kernbedrijfsprocessen, verschuift de focus. De vraag is niet langer of iets moet worden geïmplementeerd, maar of het veilig en betrouwbaar kan worden geopereerd in de loop van de tijd, terwijl gegevens, gebruikers, leveranciers en regelgeving veranderen. AI-governance wordt voortdurend in plaats van episodisch, getriggerd door echte veranderingen in gedrag of context, in plaats van kalendergebonden beoordelingen.

Risico wordt ook dynamisch. In plaats van een statische risicoclassificatie toe te kennen bij lancering, moeten organisaties begrijpen hoe risico evolueert terwijl modellen veranderen, scopes uitbreiden of nieuwe stakeholders interactie hebben met het systeem. Compliance volgt dezelfde verschuiving. Regelgevingsvereisten verhuizen van het worden gekoppeld aan beleid naar het worden afgedwongen via live-controles, monitoren signalen en voortdurend vastgelegde bewijs.

Een ander belangrijk aspect van Year Two AI Governance is de introductie van echte AI-incidentbeheer. Organisaties moeten weten welke systemen worden gemonitord, prioriteit geven op basis van inherente risico’s, de juiste gegevens integreren om betekenisvolle signalen naar boven te brengen en duidelijke waarschuwings- en escalatiecriteria definiëren. Dit stelt teams in staat om vroeg in te grijpen, voordat problemen zich ontwikkelen tot incidenten.

Met gefragmenteerde systemen en beperkte middelen, welke governance-mogelijkheden denkt u dat bedrijven eerst moeten standaardiseren over de hele organisatie?

Wanneer middelen beperkt zijn, moeten organisaties doelgericht zijn over waar ze beginnen, omdat vroege keuzes de richting bepalen voor alles wat volgt. De eerste prioriteit is het verkrijgen van betrouwbare zichtbaarheid in waar AI daadwerkelijk bestaat in het bedrijf. Veel teams denken dat ze slechts een handvol AI-systemen hebben, om vervolgens te ontdekken dat er schaduw-AI, ingebedde leveranciersmogelijkheden en stilletjes geschaalde use cases zijn die nooit formeel zijn beoordeeld. Zonder een levend beeld van wat in productie is, blijven governance-discussies theoretisch en losgekoppeld van de realiteit.

Als zodra zichtbaarheid bestaat via uw AI-inventaris, gaat het om het stimuleren van verantwoordelijkheid in AI-use cases. Governance valt snel uit elkaar wanneer verantwoordelijkheid wordt verspreid over commissies of functies. Organisaties moeten duidelijk aangeven wie verantwoordelijk is voor resultaten wanneer een AI-systeem beslissingen neemt of beïnvloedt, niet alleen wie het heeft gebouwd of aanvankelijk heeft beoordeeld. Deze duidelijkheid wordt vooral belangrijk wanneer incidenten optreden of wanneer modellen evolueren voorbij hun oorspronkelijke scope.

Vervolgens hebben teams een praktische manier nodig om over risico na te denken. Dit betekent het instellen van een gedeelde aanpak voor risicoclassificatie die werkt over interne systemen, generatieve AI-use cases en derde partijen. Zonder een gemeenschappelijk risicolens zullen organisaties ofwel lage-impactsystemen overmatig scruten ofwel degenen die het meest tellen onvoldoende monitoren.

Tenslotte moet governance bewijs genereren als een nevenproduct van normale operaties. We praten vaak over “Zeg het, Doe het, Bewijs het” als een manier om vertrouwen te demonstreren in uw AI-governance. Het vastleggen van goedkeuringen, wijzigingen en monitoren signalen terwijl systemen draaien, stelt organisaties in staat om te reageren op audits, incidenten, klantverzoeken en regelgevingsvragen met vertrouwen, in plaats van reconstructie. Deze fundamenten hoeven niet perfect te zijn vanaf het begin, maar ze moeten coherent en herhaalbaar zijn als governance moet schalen.

Waarom denkt u dat AI-governance met dezelfde ernst moet worden behandeld als cybersecurity of GRC, en waar onderschatten leiders het meest de operationele workload?

AI-governance draagt systemisch risico dat vergelijkbaar is met cybersecurity en GRC, maar met toegevoegde complexiteit. Net als cybersecurity-falen, kunnen AI-falen snel en onzichtbaar door een organisatie propageren. Net als GRC, snijdt AI door juridische, ethische en operationele verplichtingen heen. In tegenstelling tot een van beide, kunnen AI-systemen gedrag veranderen in de loop van de tijd zonder expliciete menselijke actie.

Waar leiders de workload onderschatten, is in de voortdurende operationele eisen. Monitoring is voortdurend in plaats van periodiek. Coördinatie omvat product-, gegevens-, IT-, juridische, compliance- en inkoopteams. Change management is constant omdat modellen, leveranciers, use cases en regelgeving gelijktijdig evolueren.

Organisaties die AI-governance behandelen als een eenmalige compliance-oefening, worstelen onvermijdelijk. Diegenen die het benaderen als operationele infrastructuur, net als beveiliging of betrouwbaarheidsengineering, zijn veel beter gepositioneerd om AI veilig en duurzaam te schalen.

Aangezien Amerikaanse staten AI-regels naar voren duwen terwijl federaal beleid nog steeds omstreden is, hoe moeten ondernemingen governance ontwerpen die standhoudt door regelgevingsonzekerheid heen?

De regelgevingsomgeving voor AI is onzeker en in ontwikkeling. De meest veerkrachtige governance-programma’s zijn gebouwd rond vereisten in plaats van individuele regelgeving. In plaats van te reageren op elke nieuwe wet met op maat gemaakte processen, moeten organisaties zich richten op de gemeenschappelijke verwachtingen die over jurisdicties heen verschijnen, zoals inventaris, transparantie, verantwoordelijkheid, risicobeoordeling, menselijke toezicht en documentatie.

Wanneer governance-systemen modulair zijn, kunnen nieuwe regelgevingsvereisten op bestaande controles worden gekoppeld in plaats van teams te dwingen hun aanpak opnieuw uit te vinden elke keer dat het landschap verandert. Dit vermindert wrijving en helpt governance om gelijke tred te houden met beleidsverandering.

Het doel is niet om te optimaliseren voor compliance met de regels van vandaag, maar om het aan te passen terwijl verwachtingen evolueren.

Kijkend naar 2026, welke AI-governance-mogelijkheden verwacht u dat onmisbaar worden als organisaties AI schalen over meer bedrijfseenheden?

Terwijl AI van geïsoleerde pilots naar systemen beweegt die echte wereldbeslissingen beïnvloeden, veranderen governance-verwachtingen even snel. In 2026 zullen organisaties niet langer in staat zijn om te vertrouwen op de playbooks die werkten in 2024 en 2025, toen AI-toezicht vaak handmatig, episodisch en gecentreerd was op individuele beoordelingen. Voortdurende monitoring zal tafelstaken worden, omdat statische documentatie en punt-in-tijd-beoordelingen regulators, raden, werknemers of klanten in een dynamische AI-omgeving niet zullen tevredenstellen.

Terwijl AI wordt ingebed over meer teams en workflows, zullen organisaties ook consistent governance nodig hebben over steeds complexere AI-leveranciersketens. Interne modellen, derde partijen, ingebedde AI-functies en autonome componenten moeten allemaal worden beheerd via dezelfde lens, in plaats van derde partij AI als een blinde vlek te behandelen of aan te nemen dat verantwoordelijkheid eindigt bij inkoop.

Op audit gereed bewijs zal beschikbaar moeten zijn op aanvraag terwijl regelgevingshandhaving verscherpt en publieke verwachtingen voor transparantie stijgen. Dit betekent het vastleggen van governance-activiteit terwijl AI-systemen worden ontworpen, geïmplementeerd en gemonitord, in plaats van beslissingen te reconstrueren na een incident of auditverzoek.

Als u een bedrijf zou adviseren dat al AI in productie heeft, maar nog geen formeel governance-programma, wat zou een realistische eerste 90 dagen eruitzien?

De eerste 30 dagen moeten zich richten op het verkrijgen van basiszichtbaarheid. Dat betekent het identificeren van welke AI-systemen in productie zijn, het begrijpen waar ze echte beslissingen beïnvloeden en het toewijzen van duidelijke eigendom.

De volgende fase is het instellen van basiscontroles. Organisaties moeten definiëren hoe ze risico’s classificeren, goedkeuringscontroles introduceren voor hoger risicosystemen en beginnen met het monitoren van de gebieden die het meest tellen.

In de laatste fase moet governance van setup naar operatie gaan. Monitoring moet worden geïntegreerd in bestaande workflows, escalatiepaden moeten duidelijk worden gedefinieerd en bewijs moet beginnen te accumuleren op een natuurlijke manier terwijl systemen draaien.

Het doel over de eerste 90 dagen is niet perfectie. Het is momentum. Een governance-programma dat imperfect werkt in de praktijk is veel waardevoller dan een dat alleen op papier bestaat.”

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Trustible bezoeken.