In 2025 zullen GenAI-co-piloten opkomen als de killer-app die bedrijven en gegevensbeheer transformeert

Elke technologische revolutie heeft een bepalend moment waarop een specifiek gebruiksscenario de technologie naar brede acceptatie brengt. Dat moment is aangebroken voor generatieve AI (GenAI) met de snelle verspreiding van co-piloten.

GenAI als technologie heeft de afgelopen jaren grote stappen gezet. Toch is de adoptie door bedrijven, ondanks alle headlines en hype, nog steeds in de beginfase. De 2024 Gartner CIO en Tech Executive Survey geeft aan dat de adoptie bij slechts 9% van de ondervraagden ligt, waarbij 34% aangeeft dat ze dit binnen het komende jaar willen doen. Een recente enquête van de Enterprise Strategy Group geeft aan dat de adoptie van GenAI bij 30% ligt. Maar alle enquêtes komen tot dezelfde conclusie over 2025.

Voorspelling 1. De meeste ondernemingen zullen GenAI in productie gebruiken tegen het einde van 2025

De adoptie van GenAI wordt gezien als cruciaal voor het verbeteren van de productiviteit en winstgevendheid en is een topprioriteit geworden voor de meeste bedrijven. Maar dit betekent dat bedrijven de uitdagingen die tot nu toe zijn ervaren bij GenAI-projecten, moeten overwinnen, waaronder:

• Slechte gegevenskwaliteit: GenAI is alleen zo goed als de gegevens die het gebruikt, en veel bedrijven vertrouwen hun gegevens nog steeds niet. Gegevenskwaliteit, evenals onvolledige of bevooroordeelde gegevens, zijn allemaal problemen die tot slechte resultaten leiden.
• GenAI-kosten: het trainen van GenAI-modellen zoals ChatGPT is voornamelijk alleen gedaan door de beste GenAI-teams en kost miljoenen aan rekenkracht. Daarom gebruiken mensen een techniek genaamd retrieval augmented generation (RAG). Maar zelfs met RAG wordt het snel duur om toegang te krijgen tot en gegevens voor te bereiden en experts te verzamelen die nodig zijn om te slagen.
• Beperkte vaardigheden: veel van de vroege GenAI-implementaties vereisten veel codering door een kleine groep experts in GenAI. Hoewel deze groep groeit, is er nog steeds een echt tekort.
• Hallucinaties: GenAI is niet perfect. Het kan hallucineren en verkeerde antwoorden geven wanneer het denkt dat het gelijk heeft. U hebt een strategie nodig om te voorkomen dat verkeerde antwoorden uw bedrijf beïnvloeden.
• Gegevensbeveiliging: GenAI heeft gegevens blootgesteld aan de verkeerde mensen omdat het werd gebruikt voor training, fine-tuning of RAG. U moet beveiligingsmaatregelen implementeren om deze lekken te voorkomen.

Gelukkig heeft de software-industrie de afgelopen jaren aan deze uitdagingen gewerkt. 2025 lijkt het jaar te zijn waarin enkele van deze uitdagingen beginnen te worden opgelost en GenAI mainstream wordt.

Voorspelling 2. Modulaire RAG-co-piloten zullen het meest voorkomende gebruik van GenAI worden

Het meest voorkomende gebruik van GenAI is het creëren van assistenten, of co-piloten, die mensen helpen om informatie sneller te vinden. Co-piloten worden meestal gebouwd met behulp van RAG-pijpleidingen. RAG is de manier. Het is de meest voorkomende manier om GenAI te gebruiken. Omdat Large Language Models (LLM) algemene modellen zijn die niet alle of zelfs de meest recente gegevens hebben, moet u queries, ook wel prompts genoemd, aanvullen om een nauwkeuriger antwoord te krijgen.
Co-piloten helpen kenniswerkers productiever te zijn, eerder onbeantwoorde vragen aan te pakken en expertbegeleiding te bieden, terwijl ze soms ook routineuze taken uitvoeren. Misschien is het meest succesvolle co-pilot-gebruiksscenario tot nu toe hoe ze software-ontwikkelaars helpen om code te schrijven of legacy-code te moderniseren.

Maar co-piloten zullen een grotere impact hebben wanneer ze buiten de IT worden gebruikt. Voorbeelden zijn:

• In klantenservice kunnen co-piloten een ondersteuningsaanvraag ontvangen en deze either escaleren naar een mens voor interventie of een oplossing bieden voor eenvoudige vragen zoals het opnieuw instellen van een wachtwoord of toegang tot een account, waardoor de CSAT-scores hoger worden.
• In de productie kunnen co-piloten technici helpen om complexe machines te diagnosticeren en specifieke acties of reparaties aan te bevelen, waardoor de downtime wordt verminderd.
• In de gezondheidszorg kunnen clinici co-piloten gebruiken om toegang te krijgen tot de medische geschiedenis van een patiënt en relevante onderzoeken, en om de diagnose en klinische zorg te begeleiden, waardoor de efficiency en de klinische resultaten worden verbeterd.

RAG-pijpleidingen hebben meestal allemaal op dezelfde manier gewerkt. De eerste stap is om een kennisbasis in een vector-database te laden. Wanneer iemand een vraag stelt, wordt een GenAI RAG-pijpleiding opgeroepen. Het herschrijft de vraag in een prompt, vraagt de vector-database door de prompt te coderen om de meest relevante informatie te vinden, roept een LLM op met de prompt met behulp van de opgehaalde informatie als context, evalueert en formateert de resultaten, en toont deze aan de gebruiker.

Maar het blijkt dat u niet alle co-piloten even goed kunt ondersteunen met één RAG-pijpleiding. Dus RAG is geëvolueerd naar een meer modulaire architectuur genaamd modulaire RAG, waarbij u verschillende modules kunt gebruiken voor elk van de vele stappen die zijn betrokken:

• Indexeren, inclusief gegevenschunking en -organisatie
• Pre-retrieval, inclusief query- (prompt-) engineering en -optimalisatie
• Retrieval met retriever-fine-tuning en andere technieken
• Post-retrieval reranking en selectie
• Generatie met generator-fine-tuning, met behulp van en vergelijken van meerdere LLM’s, en verificatie
• Orkestratie die dit proces beheert en het iteratief maakt om de beste resultaten te behalen

U zult een modulaire RAG-architectuur moeten implementeren om meerdere co-piloten te ondersteunen.

Voorspelling 3. No-code/low-code GenAI-hulpmiddelen zullen de manier worden

Op dit moment realiseert u zich misschien dat GenAI RAG zeer complex en snel veranderend is. Het is niet alleen dat nieuwe best practices constant naar voren komen. Alle technologie die is betrokken bij GenAI-pijpleidingen verandert zo snel dat u uiteindelijk een aantal van deze moet vervangen of moet ondersteunen. Ook is GenAI niet alleen over modulaire RAG. Retrieval Augmented Fine Tuning (RAFT) en full model training worden ook kosteneffectief. Uw architectuur moet al deze veranderingen ondersteunen en de complexiteit voor uw ingenieurs verbergen.
Gelukkig bieden de beste GenAI-no-code/low-code-hulpmiddelen deze architectuur. Ze voegen constant ondersteuning toe voor toonaangevende gegevensbronnen, vector-databases en LLM’s, en maken het mogelijk om modulaire RAG te bouwen of gegevens in te voeren in LLM’s voor fine-tuning of training. Bedrijven gebruiken deze hulpmiddelen met succes om co-piloten te implementeren met behulp van hun interne middelen.

Nexla gebruikt GenAI niet alleen om integratie eenvoudiger te maken. Het bevat een modulaire RAG-pijpleidingarchitectuur met geavanceerde gegevenschunking, query-engineering, reranking en selectie, multi-LLM-ondersteuning met resultaatrangschikking en -selectie, orkestratie en meer – alles zonder codering.

Voorspelling 4. De grens tussen co-piloten en agenten zal vervaagd worden

GenAI-co-piloten zoals chatbots zijn agenten die mensen ondersteunen. Uiteindelijk nemen mensen de beslissing over wat te doen met de gegenereerde resultaten. Maar GenAI-agenten kunnen volledig geautomatiseerde antwoorden geven zonder menselijke tussenkomst. Deze worden vaak aangeduid als agenten of agentic AI.

Sommige mensen zien dit als twee afzonderlijke benaderingen. Maar de realiteit is ingewikkelder. Co-piloten beginnen al enkele basis taken te automatiseren, waarbij gebruikers optioneel acties kunnen bevestigen en de stappen kunnen automatiseren die nodig zijn om deze te voltooien.

Verwacht dat co-piloten in de loop van de tijd evolueren naar een combinatie van co-piloten en agenten. Net zoals toepassingen helpen om bedrijfsprocessen te herengineeren en te stroomlijnen, zouden assistenten ook gebruikt moeten worden om tussenstappen van de taken die ze ondersteunen te automatiseren. GenAI-gebaseerde agenten zouden ook mensen moeten omvatten om uitzonderingen af te handelen of een plan te goedkeuren dat is gegenereerd met behulp van een LLM.

Voorspelling 5. GenAI zal de adoptie van data-stoffen, data-producten en open data-standaarden stimuleren

GenAI wordt verwacht de grootste driver van verandering in IT te zijn in de komende jaren, omdat IT moet aanpassen om bedrijven in staat te stellen het volledige voordeel van GenAI te realiseren.

Als onderdeel van de Gartner Hype Cycles voor Data Management, 2024, heeft Gartner 3, en slechts 3 technologieën geïdentificeerd als transformatief voor gegevensbeheer en voor de organisaties die afhankelijk zijn van gegevens: Data-stoffen, Data-producten en Open Table Formats. Alle 3 helpen om gegevens veel toegankelijker te maken voor gebruik met GenAI, omdat ze het gemakkelijker maken voor gegevens om te worden gebruikt door deze nieuwe sets GenAI-hulpmiddelen.

Nexla heeft een data-productarchitectuur geïmplementeerd op basis van een data-stof om deze reden. De data-stof biedt een uniforme laag om alle gegevens op dezelfde manier te beheren, ongeacht de verschillen in formaten, snelheden of toegangsprotocollen. Data-producten worden vervolgens gemaakt om specifieke gegevensbehoeften te ondersteunen, zoals voor RAG.

Voorbeeld:
Een grote financiële dienstverlener implementeert GenAI om risicobeheer te verbeteren. Ze gebruiken Nexla om een uniforme data-stof te creëren. Nexla detecteert automatisch schema’s en genereert connectors en data-producten. Het bedrijf definieert vervolgens data-producten voor specifieke risicometrieken die gegevens aggregaten, reinigen en transformeren in het juiste formaat als invoer voor het implementeren van RAG-agenten voor dynamische regelgevingsrapportage. Nexla biedt gegevensbeheerfuncties, waaronder gegevensafkomst en toegangscontrole, om te garanderen dat het voldoet aan de regelgeving.
Ons integratieplatform voor analytics, operations, B2B en GenAI is geïmplementeerd op een data-stofarchitectuur waarbij GenAI wordt gebruikt om herbruikbare connectors, data-producten en workflows te creëren. Ondersteuning voor open data-standaarden zoals Apache Iceberg maakt het gemakkelijker om toegang te krijgen tot meer en meer gegevens.

Hoe u uw weg kunt vinden naar agentic AI met co-piloten

Hoe moet u zich voorbereiden om GenAI mainstream te maken in uw bedrijf op basis van deze voorspellingen?
Ten eerste, als u dat nog niet heeft gedaan, begin dan met uw eerste GenAI RAG-assistent voor uw klanten of medewerkers. Identificeer een belangrijk en relatief eenvoudig gebruiksscenario waarvoor u al de juiste kennisbasis heeft om te slagen.

Ten tweede, zorg ervoor dat u een klein team van GenAI-experts heeft die kunnen helpen bij het opzetten van de juiste modulaire RAG-architectuur, met de juiste integratiehulpmiddelen om uw eerste projecten te ondersteunen. Wees niet bang om nieuwe leveranciers te evalueren met no-code/low-code-hulpmiddelen.

Ten derde, begin met het identificeren van die gegevensbeheerbest practices die u nodig heeft om te slagen. Dit omvat niet alleen een data-stof en concepten zoals data-producten. U moet ook uw gegevens voor AI beheren.

De tijd is nu. 2025 is het jaar waarin de meerderheid zal slagen. Laat u niet achter.