Waarom GenAI vastloopt zonder sterke governance

Bedrijven worstelen met het verplaatsen van Generative AI-projecten van experimenten naar productie, en veel bedrijven blijven vastzitten in de pilootfase. Onlangs onderzoek onderstreept dat 92% van de organisaties zich zorgen maakt dat GenAI-piloten versnellen zonder eerst fundamentele gegevensproblemen aan te pakken. Nog veelzeggender: 67% is niet in staat geweest om zelfs maar de helft van hun piloten naar productie te schalen. Deze productiegap heeft minder te maken met technologische volwassenheid en meer met de gereedheid van de onderliggende gegevens. Het potentieel van GenAI hangt af van de sterkte van de grond waarop het staat. En vandaag, voor de meeste organisaties, is die grond op zijn best zwak.

Waarom GenAI vastloopt in de pilootfase

Hoewel GenAI-oplossingen zeker krachtig zijn, zijn ze alleen zo effectief als de gegevens die ze voeden. Het oude gezegde “garbage in, garbage out” is vandaag waardevoller dan ooit. Zonder vertrouwde, complete, geautoriseerde en uitlegbare gegevens produceren GenAI-modellen vaak resultaten die onnauwkeurig, bevooroordeeld of ongeschikt voor het doel zijn.

Helaas hebben organisaties haastig laag-inspanningsgevallen geïmplementeerd, zoals AI-geactiveerde chatbots die aangepaste antwoorden bieden uit verschillende interne documenten. En hoewel deze de klantervaring enigszins verbeteren, eisen ze geen diepgaande veranderingen in de gegevensinfrastructuur van een bedrijf. Maar om GenAI strategisch te schalen, of het nu gaat om de gezondheidszorg, financiële dienstverlening of automatisering van de supply chain, is een ander niveau van gegevensvolwassenheid vereist.

In feite citeren 56% van de Chief Data Officers gegevensbetrouwbaarheid als een belangrijke barrière voor de implementatie van AI. Andere problemen zijn onvolledige gegevens (53%), privacyproblemen (50%) en grotere AI-governancegaten (36%).

Geen governance, geen GenAI

Om GenAI voorbij de pilootfase te brengen, moeten bedrijven gegevensgovernance behandelen als een strategisch imperatief voor hun bedrijf. Ze moeten ervoor zorgen dat de gegevens geschikt zijn voor het aandrijven van AI-modellen en om dat te doen, moeten de volgende vragen worden beantwoord:

• Komt de gegevens die worden gebruikt om het model te trainen uit de juiste systemen?
• Zijn we persoonlijk identificeerbare informatie verwijderd en hebben we alle gegevens- en privacyregelgeving gevolgd?
• Zijn we transparant en kunnen we de herkomst van de gegevens die het model gebruikt, aantonen?
• Kunnen we onze gegevensprocessen documenteren en aantonen dat de gegevens geen vooroordelen bevatten?

Gegevensgovernance moet ook worden ingebed in de cultuur van een organisatie. Dit vereist het opbouwen van AI-geletterdheid over alle teams. De EU AI-wet formaliseert deze verantwoordelijkheid, waarbij zowel aanbieders als gebruikers van AI-systemen hun best moeten doen om ervoor te zorgen dat medewerkers voldoende AI-geletterd zijn, zodat ze begrijpen hoe deze systemen werken en ze op verantwoorde wijze kunnen gebruiken. Echter, effectieve AI-adoptie gaat verder dan technische kennis. Het vereist ook een sterke basis in gegevensvaardigheden, van het begrijpen van gegevensgovernance tot het formuleren van analytische vragen. Het behandelen van AI-geletterdheid in isolatie van gegevensgeletterdheid zou kortzichtig zijn, gezien hoe nauw ze met elkaar verweven zijn.

Wat betreft gegevensgovernance, is er nog werk te doen. Onder bedrijven die hun gegevensbeheerinvesteringen willen verhogen, stemt 47% in met het feit dat een gebrek aan gegevensgeletterdheid een van de belangrijkste barrières is. Dit benadrukt de noodzaak om bovensteun te bouwen en de juiste vaardigheden over de hele organisatie te ontwikkelen. Zonder deze fundamenten zullen zelfs de meest krachtige LLM’s worstelen om te presteren.

Ontwikkeling van AI die verantwoordelijk moet worden gehouden

In de huidige regelgevingsomgeving is het niet langer voldoende dat AI “gewoon werkt”, het moet ook verantwoordelijk en verklaarbaar zijn. De EU AI-wet en het voorgestelde AI-actieplan van het VK vereisen transparantie in high-risk AI-gevallen. Anderen volgen dit voorbeeld, en 1.000+ gerelateerde beleidsvoorstellen zijn op de agenda in 69 landen.

Deze mondiale beweging naar verantwoordelijkheid is een direct gevolg van de toenemende consumenten- en stakeholder-eisen voor eerlijkheid in algoritmes. Bijvoorbeeld, organisaties moeten in staat zijn om de redenen te geven waarom een klant is afgewezen voor een lening of een premietarief voor verzekeringen is berekend. Om dat te kunnen doen, moeten ze weten hoe het model die beslissing heeft genomen, en dat hangt weer af van het hebben van een duidelijke, auditable trail van de gegevens die zijn gebruikt om het te trainen.

Tenzij er uitlegbaarheid is, riskeren bedrijven het verlies van klantvertrouwen en kunnen ze ook financiële en juridische gevolgen ondervinden. Als gevolg hiervan is de traceerbaarheid van gegevenslijnen en de rechtvaardiging van resultaten geen “leuke extra”, maar een vereiste voor compliance.

En naarmate GenAI zich ontwikkelt van eenvoudige tools tot volledig functionerende agenten die beslissingen kunnen nemen en daarop kunnen handelen, worden de inzetten voor sterke gegevensgovernance nog hoger.

Stappen voor het opbouwen van vertrouwd AI

Dus, wat ziet goed eruit? Om GenAI verantwoordelijk te schalen, moeten organisaties ernaar streven om een enkele gegevensstrategie over drie pijlers te adopteren:

• AI aanpassen aan het bedrijf: Catalogiseer uw gegevens rond belangrijke bedrijfsdoelstellingen, waarbij u ervoor zorgt dat ze de unieke context, uitdagingen en kansen specifiek voor uw bedrijf weerspiegelen.
• Vertrouwen in AI vestigen: Stel beleid, normen en processen in voor compliance en toezicht op ethische en verantwoorde AI-implementatie.
• AI-gegevensklaar maken: Combineer uw diverse gegevensbronnen in een robuuste gegevensbasis voor robuuste AI, met ingebouwde GenAI-connectiviteit.

Wanneer organisaties dit goed doen, versnelt governance de AI-waarde. In de financiële dienstverlening, bijvoorbeeld, gebruiken hedgefondsen Gen AI om menselijke analisten te overtreffen in aandelenprijsvoorspelling terwijl ze de kosten aanzienlijk verlagen. In de productie ermöglicht AI-gedreven supply chain-optimalisatie organisaties om in real-time te reageren op geopolitieke veranderingen en milieudruk.

En dit zijn geen toekomstige ideeën, ze gebeuren nu, aangedreven door vertrouwde gegevens.

Met sterke gegevensfundamenten verminderen bedrijven modeldrift, beperken ze omscholingscycli en verhogen ze de snelheid naar waarde. Daarom is governance geen obstakel; het is een innovatie-versterker.

Wat is de volgende stap?

Na experimenten investeren organisaties in transformationele capaciteiten. Van het personaliseren van klantinteracties tot het versnellen van medisch onderzoek, het verbeteren van de geestelijke gezondheid en het vereenvoudigen van regelgevingsprocessen, begint GenAI zijn potentieel te demonstreren in verschillende industrieën.

Toch zijn deze voordelen volledig afhankelijk van de onderliggende gegevens. GenAI begint met het opbouwen van een sterk gegevensfundament, door sterke gegevensgovernance. En hoewel GenAI en agente AI zullen blijven evolueren, zal het de menselijke toezicht niet binnenkort vervangen. In plaats daarvan gaan we een fase van gestructureerde waardecreatie in, waarin AI een betrouwbare co-piloot wordt. Met de juiste investeringen in gegevenskwaliteit, governance en cultuur kunnen bedrijven GenAI eindelijk van een veelbelovende piloot omvormen tot iets dat volledig van de grond komt.