3 Overwegingen voor Veilige en Betrouwbare AI-Agents voor Ondernemingen

Volgens Gartner, zal naar verwachting 30% van de GenAI-projecten waarschijnlijk worden stopgezet na het bewijs van concept tegen het einde van 2025. De vroege adoptie van GenAI heeft aangetoond dat de meeste ondernemingen niet klaar waren voor een effectieve AI-implementatie vanwege hun gegevensinfrastructuur en governance-praktijken. De eerste golf van GenAI-productisering stuitte op aanzienlijke hindernissen, waarbij veel organisaties moeite hadden om verder te gaan dan de proof-of-concept-fase om waardevolle bedrijfsresultaten te behalen.

Nu we de tweede golf van generatieve AI-productisering ingaan, realiseren bedrijven zich dat het succesvol implementeren van deze technologieën meer vereist dan alleen het aansluiten van een LLM op hun gegevens. De sleutel tot het ontsluiten van de potentie van AI ligt bij drie kernpijlers: het in orde brengen van de gegevens en ervoor zorgen dat ze klaar zijn voor integratie met AI; het herzien van de gegevensgovernance-praktijken om de unieke uitdagingen van GenAI aan te pakken; en het inzetten van AI-agents op een manier die veilig en betrouwbaar gebruik natuurlijk en intuïtief maakt, zodat gebruikers geen gespecialiseerde vaardigheden of specifieke gebruiks patronen hoeven te leren. Samen vormen deze pijlers een solide basis voor veilige, effectieve AI-agents in ondernemingsomgevingen.

Uw Gegevens Correct Voorbereiden voor AI

Hoewel gestructureerde gegevens mogelijk georganiseerd lijken voor het blote oog, netjes gerangschikt in tabellen en kolommen, hebben LLM’s vaak moeite om deze gestructureerde gegevens effectief te begrijpen en te gebruiken. Dit gebeurt omdat de gegevens in de meeste ondernemingen niet op semantisch bedeutende wijze zijn gelabeld. Gegevens hebben vaak cryptische labels, zoals “ID” zonder duidelijke aanduiding of het een identificatie is voor een klant, product of transactie. Met gestructureerde gegevens is het ook moeilijk om de juiste context en relaties tussen verschillende verbonden gegevenspunten te vastleggen, zoals hoe stappen in een klantreis met elkaar verbonden zijn. Net zoals we elke afbeelding in computer vision-toepassingen moesten labelen om een betekenisvolle interactie mogelijk te maken, moeten organisaties nu de complexe taak aanpakken om hun gegevens semantisch te labelen en relaties over alle systemen heen te documenteren om betekenisvolle AI-interacties mogelijk te maken.

Bovendien zijn gegevens verspreid over veel verschillende plaatsen – van traditionele servers tot verschillende cloudservices en verschillende softwaretoepassingen. Deze patchwork van systemen leidt tot kritieke interoperabiliteits- en integratieproblemen die nog problematischer worden bij het implementeren van AI-oplossingen.

Een andere fundamentele uitdaging ligt in de inconsistentie van bedrijfsdefinities over verschillende systemen en afdelingen. Bijvoorbeeld, klantensucces-teams kunnen “upsell” op één manier definiëren, terwijl de verkoopafdeling het op een andere manier definieert. Wanneer u een AI-agent of chatbot met deze systemen verbindt en vragen begint te stellen, krijgt u verschillende antwoorden omdat de gegevensdefinities niet zijn afgestemd. Dit gebrek aan afstemming is geen kleine ongemakkelijkheid – het is een kritieke barrière voor het implementeren van betrouwbare AI-oplossingen.

Slechte gegevenskwaliteit creëert een klassieke “garbage in, garbage out“-situatie die exponentieel ernstiger wordt wanneer AI-hulpmiddelen worden ingezet in een onderneming. Onjuiste of rommelige gegevens beïnvloeden meer dan één analyse – ze verspreiden onjuiste informatie naar iedereen die het systeem gebruikt via hun vragen en interacties. Om vertrouwen in AI-systemen te bouwen voor echte bedrijfsbeslissingen, moeten ondernemingen ervoor zorgen dat hun AI-toepassingen gegevens hebben die schoon, nauwkeurig en in een juiste bedrijfscontext worden begrepen. Dit vertegenwoordigt een fundamentele verschuiving in hoe ondernemingen over hun gegevensactiva moeten denken in de leeftijd van AI – waar kwaliteit, consistentie en semantische duidelijkheid even cruciaal zijn als de gegevens zelf.

Governance-benaderingen Versterken

Gegevensgovernance is de afgelopen jaren een belangrijk aandachtspunt geweest voor ondernemingen, voornamelijk gericht op het beheren en beschermen van gegevens die worden gebruikt in analytics. Bedrijven hebben inspanningen geleverd om gevoelige informatie in kaart te brengen, toegangsstandaarden te volgen, te voldoen aan wetten zoals de AVG en de CCPA, en persoonlijke gegevens te detecteren. Deze initiatieven zijn essentieel voor het creëren van AI-klaar gegevens. Echter, nu ondernemingen generatieve AI-agents in hun workflows introduceren, breidt de governance-uitdaging zich uit voorbij alleen de gegevens zelf en omvat nu de hele gebruikersinteractie-ervaring met AI.

We staan nu voor de noodzaak om niet alleen de onderliggende gegevens te reguleren, maar ook het proces waarbij gebruikers met die gegevens via AI-agents interacteren. Bestaande wetgeving, zoals de AI-wet van de Europese Unie, en meer regelgeving in het verschiet benadrukken de noodzaak van het reguleren van het vraag- en antwoordproces zelf. Dit betekent dat AI-agents transparante, verklarende en traceerbare antwoorden moeten bieden. Wanneer gebruikers antwoorden in een zwarte doos krijgen – zoals wanneer ze vragen “Hoeveel griep-patiënten werden gisteren opgenomen?” en alleen “50” krijgen zonder context – is het moeilijk om dat informatie te vertrouwen voor kritieke beslissingen. Zonder te weten waar de gegevens vandaan komen, hoe ze zijn berekend of definities van termen zoals “opgenomen” en “gisteren”, verliest de AI-uitvoer zijn betrouwbaarheid.

In tegenstelling tot interacties met documenten, waarbij gebruikers antwoorden kunnen traceren naar specifieke PDF’s of beleidsregels om de nauwkeurigheid te verifiëren, ontbreken interacties met gestructureerde gegevens via AI-agents vaak aan dit niveau van traceerbaarheid en verklarbaarheid. Om deze problemen aan te pakken, moeten ondernemingen governance-maatregelen implementeren die niet alleen gevoelige gegevens beschermen, maar ook de AI-interactie-ervaring reguleren en betrouwbaar maken. Dit omvat het instellen van robuuste toegangscontroles om ervoor te zorgen dat alleen geautoriseerd personeel toegang heeft tot specifieke informatie, het definiëren van duidelijke gegevensbezit en -stewardship-verantwoordelijkheden, en ervoor zorgen dat AI-agents verklaringen en referenties voor hun uitvoer bieden. Door de gegevensgovernance-praktijken te herzien om deze overwegingen te omvatten, kunnen ondernemingen de kracht van AI-agents veilig benutten, terwijl ze tegelijkertijd voldoen aan de evoluerende regelgeving en het vertrouwen van de gebruikers behouden.

Verder Gaan dan Prompt-Engineering

Nu ondernemingen generatieve AI-agents introduceren om de toegang tot gegevens te verbeteren, is prompt-engineering opgedoken als een nieuwe technische barrière voor bedrijfsgebruikers. Terwijl het als een veelbelovende carrièrepad wordt aangeprezen, is prompt-engineering in wezen het creëren van dezelfde barrières waarmee we hebben geworsteld in data-analyse. Het creëren van perfecte prompts is niet anders dan het schrijven van gespecialiseerde SQL-queries of het bouwen van dashboard-filters – het is het verplaatsen van technische expertise van het ene formaat naar het andere, waarbij nog steeds gespecialiseerde vaardigheden zijn vereist die de meeste bedrijfsgebruikers niet hebben en niet nodig zouden moeten hebben.

Ondernemingen hebben lang geprobeerd om de toegang tot gegevens op te lossen door gebruikers te trainen om de gegevenssystemen beter te begrijpen, documentatie te creëren en gespecialiseerde rollen te ontwikkelen. Maar deze aanpak is achterstevoren – we vragen gebruikers om zich aan te passen aan de gegevens in plaats van de gegevens aan te passen aan de gebruikers. Prompt-engineering dreigt deze trend voort te zetten door het creëren van nog een laag technische tussenpersonen.

Echte datademocratisering vereist systemen die bedrijfstaal begrijpen, niet gebruikers die datataal begrijpen. Wanneer executives vragen stellen over klantbehoud, hoeven ze geen perfecte terminologie of prompts te hebben. Systemen moeten intentie begrijpen, relevante gegevens over verschillende labels herkennen (of het nu “churn”, “retentie” of “klantlevenscyclus” is), en contextuele antwoorden bieden. Dit laat bedrijfsgebruikers toe om zich te concentreren op beslissingen in plaats van te leren om technisch perfecte vragen te stellen.

Conclusie

AI-agents zullen belangrijke veranderingen brengen in de manier waarop ondernemingen opereren en beslissingen nemen, maar komen met hun eigen unieke set uitdagingen die moeten worden aangepakt voordat ze worden ingezet. Met AI is elke fout versterkt wanneer niet-technische gebruikers zelfbedienings-toegang hebben, waardoor het cruciaal is om de fundamenten goed te krijgen.

Ondernemingen die de fundamentele uitdagingen van gegevenskwaliteit, semantische afstemming en governance aanpakken en verder gaan dan de beperkingen van prompt-engineering, zullen goed zijn gepositioneerd om de toegang tot gegevens en beslissingen veilig te democratiseren. De beste aanpak omvat het creëren van een collaboratieve omgeving die teamwork faciliteert en menselijke interacties met machines en machine-interacties afstemt. Dit garandeert dat AI-gegenereerde inzichten nauwkeurig, veilig en betrouwbaar zijn, en stimuleert een ondernemingsbrede cultuur die gegevens beheert, beschermt en maximaliseert tot hun volle potentieel.