Waarom GenAI vastloopt zonder sterk bestuur

Terwijl bedrijven worstelen met de overstap van generatieve AI-projecten van experiment naar productie, blijven veel bedrijven steken in de pilotfase. Zoals ons recente onderzoek benadrukt: 92% van de organisaties maakt zich zorgen dat GenAI-pilots in een stroomversnelling raken zonder dat eerst fundamentele dataproblemen zijn aangepaktNog veelzeggender: 67% is er niet in geslaagd om zelfs maar de helft van hun pilots op te schalen naar productie. Deze productiekloof heeft minder te maken met technologische volwassenheid en meer met de paraatheid van de onderliggende data. Het potentieel van GenAI hangt af van de stevigheid van de basis waarop het staat. En voor de meeste organisaties is die basis vandaag de dag op zijn best wankel.

Waarom GenAI vastloopt in de pilotfase

Hoewel GenAI-oplossingen zeker krachtig zijn, Ze zijn slechts zo effectief als de data die ze voeden. Het oude gezegde "garbage in, garbage out" is vandaag de dag meer dan ooit van toepassing. Zonder betrouwbare, volledige, relevante en verklaarbare data produceren GenAI-modellen vaak resultaten die onnauwkeurig, bevooroordeeld of ongeschikt zijn voor het beoogde doel.

Helaas zijn organisaties overhaast begonnen met het implementeren van use cases die weinig moeite kosten, zoals AI-gestuurde chatbots die antwoorden op maat bieden vanuit verschillende interne documenten. Hoewel deze de klantervaring weliswaar tot op zekere hoogte verbeteren, vereisen ze geen ingrijpende veranderingen in de data-infrastructuur van een bedrijf. Maar om GenAI strategisch te schalen, of het nu gaat om de gezondheidszorg, financiële dienstverlening of automatisering van de toeleveringsketen, is een ander niveau van datavolwassenheid vereist.

Eigenlijk, 56% van de Chief Data Officers noemt de betrouwbaarheid van data als een belangrijke barrière voor de inzet van AIAndere problemen zijn onvolledige gegevens (53%), privacyproblemen (50%) en grotere tekortkomingen in AI-bestuur (36%).

Geen bestuur, geen GenAI

Om GenAI verder te brengen dan de pilotfase, moeten bedrijven datagovernance beschouwen als een strategische noodzaak voor hun bedrijf. Ze moeten ervoor zorgen dat de data geschikt is om AI-modellen aan te sturen. Daarom moeten de volgende vragen worden beantwoord:

• Zijn de gegevens die gebruikt worden om het model te trainen afkomstig van de juiste systemen?
• Hebben wij persoonlijk identificeerbare informatie verwijderd en alle regelgeving omtrent gegevens en privacy nageleefd?
• Zijn we transparant en kunnen we de herkomst van de gegevens die het model gebruikt, bewijzen?
• Kunnen we onze dataprocessen documenteren en aantonen dat de data niet vooringenomen zijn?

Data governance moet ook verankerd zijn in de cultuur van een organisatie. Hiervoor is het nodig om AI-vaardigheden in alle teams te ontwikkelen. De EU AI-wet formaliseert deze verantwoordelijkheid en vereist dat zowel aanbieders als gebruikers van AI-systemen hun uiterste best doen om ervoor te zorgen dat medewerkers voldoende AI-vaardigheden bezitten, dat ze begrijpen hoe deze systemen werken en hoe ze deze verantwoord kunnen gebruiken. Effectieve AI-implementatie gaat echter verder dan technische kennis. Het vereist ook een sterke basis in datavaardigheden, van inzicht in data governance tot het formuleren van analytische vragen. AI-vaardigheden los van datageletterdheid behandelen zou kortzichtig zijn, gezien hoe nauw ze met elkaar verweven zijn.

Op het gebied van data governance is er nog werk aan de winkel. Bedrijven die hun investeringen in databeheer willen verhogen, 47% is het ermee eens dat gebrek aan datageletterdheid een groot obstakel isDit onderstreept de noodzaak om topondersteuning op te bouwen en de juiste vaardigheden binnen de hele organisatie te ontwikkelen. Zonder deze basis zullen zelfs de meest invloedrijke LLM's moeite hebben om te presteren.

Het ontwikkelen van AI die verantwoording moet afleggen

In de huidige regelgeving is het niet langer voldoende dat AI 'gewoon werkt'; er moet ook verantwoording over worden afgelegd en uitleg worden gegeven. EU AI-wet en het door het Verenigd Koninkrijk voorgestelde AI-actieplan vereist transparantie in risicovolle AI-toepassingen. Anderen volgen dit voorbeeld en Meer dan 1,000 gerelateerde beleidswetsvoorstellen staan ​​op de agenda in 69 landen.

Deze wereldwijde beweging richting verantwoording is een direct gevolg van de toenemende vraag van consumenten en belanghebbenden naar eerlijke algoritmen. Organisaties moeten bijvoorbeeld kunnen aangeven waarom een ​​klant is afgewezen voor een lening of een bepaalde verzekeringspremie in rekening is gebracht. Om dat te kunnen doen, moeten ze weten hoe het model tot die beslissing is gekomen, en dat hangt weer af van een duidelijk, controleerbaar spoor van de data die is gebruikt om het model te trainen.

Zonder uitleg lopen bedrijven het risico het vertrouwen van klanten te verliezen en financiële en juridische gevolgen te ondervinden. Traceerbaarheid van data en verantwoording van resultaten is daarom geen 'nice to have', maar een vereiste.

En naarmate GenAI zich ontwikkelt van eenvoudige tools tot volwaardige agents die beslissingen kunnen nemen en ernaar kunnen handelen, wordt de inzet voor krachtig databeheer alleen maar groter.

Stappen voor het bouwen van betrouwbare AI

Dus, hoe ziet 'goed' eruit? Om GenAI verantwoord te schalen, zouden organisaties moeten streven naar één datastrategie die drie pijlers beslaat:

• Pas AI aan op uw bedrijf:Cataloguseer uw gegevens op basis van belangrijke bedrijfsdoelstellingen en zorg ervoor dat ze de unieke context, uitdagingen en kansen van uw bedrijf weerspiegelen.
• Vertrouwen in AI creëren: Stel beleid, normen en processen vast voor naleving en toezicht op ethische en verantwoorde AI-implementatie.
• Bouw AI-dataklare pijplijnenCombineer uw diverse gegevensbronnen tot een veerkrachtige databasis voor robuuste AI-integratie in vooraf gebouwde GenAI-connectiviteit.

Wanneer organisaties dit goed aanpakken, versnelt governance de waarde van AI. In de financiële dienstverlening bijvoorbeeld, zijn hedgefondsen het gebruik van generatie AI om menselijke analisten te overtreffen bij het voorspellen van aandelenkoersen Terwijl de kosten aanzienlijk worden verlaagd. In de productie stelt optimalisatie van de toeleveringsketen, aangestuurd door AI, organisaties in staat om realtime te reageren op geopolitieke veranderingen en milieudruk.

En dit zijn niet alleen futuristische ideeën; ze worden nu al gerealiseerd, aangestuurd door betrouwbare data.

Met een sterke datafundament verminderen bedrijven modeldrift, beperken ze omscholingscycli en versnellen ze de waardecreatie. Daarom is governance geen obstakel, maar een stimulans voor innovatie.

What’s next?

Na experimenten gaan organisaties verder dan chatbots en investeren ze in transformatieve mogelijkheden. Van het personaliseren van klantinteracties tot het versnellen van medisch onderzoek, verbetering van de geestelijke gezondheid en het vereenvoudigen van regelgevingsprocessen, begint GenAI zijn potentieel in verschillende sectoren te bewijzen.

Deze winst is echter volledig afhankelijk van de data die eraan ten grondslag ligt. GenAI begint met het bouwen van een sterke databasis, door middel van sterk databeheer. En hoewel GenAI en agentische AI ​​zich zullen blijven ontwikkelen, zal het menselijk toezicht voorlopig niet vervangen. In plaats daarvan betreden we een fase van gestructureerde waardecreatie, waarin AI een betrouwbare copiloot wordt. Met de juiste investeringen in datakwaliteit, governance en cultuur kunnen bedrijven GenAI eindelijk omvormen van een veelbelovende pilot tot iets dat volledig van de grond komt.