In 2025 zullen GenAI-co-piloten opkomen als de killer-app die bedrijven en gegevensbeheer transformeert

Elke technologische revolutie heeft een bepalend moment waarop een specifiek gebruiksscenario de technologie naar breed gebruik brengt. Dat moment is aangebroken voor generatieve AI (GenAI) met de snelle verspreiding van co-piloten.

GenAI als technologie heeft de afgelopen jaren grote stappen gezet. Toch is de adoptie door bedrijven, ondanks alle headlines en hype, nog steeds in de vroege stadia. De 2024 Gartner CIO en Tech Executive Survey geeft aan dat de adoptie slechts 9% is van de ondervraagden, waarbij 34% aangeeft dat ze dit binnen het komende jaar zullen doen. Een recente enquête van de Enterprise Strategy Group geeft aan dat de adoptie van GenAI 30% is. Maar alle enquêtes komen tot dezelfde conclusie over 2025.

Voorspelling 1. De meeste bedrijven zullen GenAI in productie gebruiken tegen het einde van 2025

De adoptie van GenAI wordt gezien als cruciaal voor het verbeteren van de productiviteit en winstgevendheid en is een topprioriteit geworden voor de meeste bedrijven. Maar dit betekent dat bedrijven de uitdagingen die tot nu toe zijn ervaren in GenAI-projecten, moeten overwinnen, waaronder:

• Slechte gegevenskwaliteit: GenAI is alleen zo goed als de gegevens die het gebruikt, en veel bedrijven vertrouwen hun gegevens nog steeds niet. Gegevenskwaliteit, evenals onvolledige of bevooroordeelde gegevens, zijn allemaal problemen die leiden tot slechte resultaten.
• GenAI-kosten: het trainen van GenAI-modellen zoals ChatGPT is voornamelijk alleen gedaan door de beste GenAI-teams en kost miljoenen aan rekenkracht. Dus mensen gebruiken een techniek genaamd retrieval augmented generation (RAG). Maar zelfs met RAG wordt het snel duur om toegang te krijgen tot en gegevens voor te bereiden en experts te verzamelen die nodig zijn om te slagen.
• Beperkte vaardigheden: veel van de vroege GenAI-implementaties vereisten veel codering door een kleine groep experts in GenAI. Terwijl deze groep groeit, is er nog steeds een echt tekort.
• Hallucinaties: GenAI is niet perfect. Het kan hallucineren en verkeerde antwoorden geven wanneer het denkt dat het gelijk heeft. U moet een strategie hebben om verkeerde antwoorden te voorkomen die uw bedrijf beïnvloeden.
• Gegevensbeveiliging: GenAI heeft gegevens blootgesteld aan de verkeerde mensen omdat het werd gebruikt voor training, fine-tuning of RAG. U moet beveiligingsmaatregelen implementeren om te beschermen tegen deze lekken.

Gelukkig heeft de software-industrie deze uitdagingen de afgelopen jaren aangepakt. 2025 lijkt het jaar te zijn waarin een aantal van deze uitdagingen beginnen te worden opgelost en GenAI mainstream wordt.

Voorspelling 2. Modulaire RAG-co-piloten zullen de meest voorkomende toepassing van GenAI worden

De meest voorkomende toepassing van GenAI is het creëren van assistenten, of co-piloten, die mensen helpen om informatie sneller te vinden. Co-piloten worden meestal gebouwd met behulp van RAG-pijpleidingen. RAG is de manier. Het is de meest voorkomende manier om GenAI te gebruiken. Omdat Large Language Models (LLM) algemene modellen zijn die niet alle of zelfs de meest recente gegevens hebben, moet u queries aanvullen, ook wel prompts genoemd, om een meer accurate antwoord te krijgen.
Co-piloten helpen kenniswerkers om productiever te zijn, eerder onbeantwoorde vragen te beantwoorden en expertbegeleiding te bieden, terwijl ze soms ook routineuze taken uitvoeren. Misschien is het meest succesvolle co-pilot-gebruiksscenario tot nu toe de manier waarop ze software-ontwikkelaars helpen om code te schrijven of legacy-code te moderniseren.

Maar co-piloten worden verwacht om een grotere impact te hebben wanneer ze buiten IT worden gebruikt. Voorbeelden zijn:

• In klantenservice, kunnen co-piloten een ondersteuningsaanvraag ontvangen en deze either escaleren naar een mens voor interventie of een oplossing bieden voor eenvoudige vragen zoals wachtwoordherstel of accounttoegang, waardoor de CSAT-scores hoger worden.
• In de productie, kunnen co-piloten technici helpen om complexe machines te diagnosticeren en specifieke acties of reparaties aan te bevelen, waardoor de downtime wordt vermindert.
• In de gezondheidszorg, kunnen clinici co-piloten gebruiken om toegang te krijgen tot patiëntgeschiedenis en relevante onderzoek en om diagnose en klinische zorg te begeleiden, waardoor de efficiëntie en klinische resultaten worden verbeterd.

RAG-pijpleidingen hebben meestal allemaal op dezelfde manier gewerkt. De eerste stap is om een kennisbasis in een vector-database te laden. Wanneer iemand een vraag stelt, wordt een GenAI RAG-pijpleiding opgeroepen. Het herschrijft de vraag in een prompt, vraagt de vector-database door de prompt te coderen om de meest relevante informatie te vinden, roept een LLM op met de prompt met behulp van de opgehaalde informatie als context, evalueert en formateert de resultaten en toont ze aan de gebruiker.

Maar het blijkt dat u niet alle co-piloten even goed kunt ondersteunen met een enkele RAG-pijpleiding. Dus RAG is geëvolueerd naar een meer modulaire architectuur genaamd modulaire RAG, waarbij u verschillende modules kunt gebruiken voor elk van de vele stappen die zijn betrokken:

• Indexeren, inclusief gegevenschunking en -organisatie
• Pre-retrieval, inclusief query (prompt) engineering en optimalisatie
• Retrieval met retriever fine-tuning en andere technieken
• Post-retrieval reranking en selectie
• Generatie met generator fine-tuning, met behulp van en vergelijken van meerdere LLM’s en verificatie
• Orkestratie die het proces beheert en het iteratief maakt om de beste resultaten te behalen

U zult een modulaire RAG-architectuur moeten implementeren om meerdere co-piloten te ondersteunen.

Voorspelling 3. No-code/low-code GenAI-hulpmiddelen zullen de manier worden

Tot nu toe kunt u zich realiseren dat GenAI RAG zeer complex en snel veranderend is. Het is niet alleen dat nieuwe best practices constant ontstaan. Alle technologie die betrokken is bij GenAI-pijpleidingen verandert zo snel dat u uiteindelijk een aantal van deze technologieën zult moeten vervangen of ondersteunen. Ook is GenAI niet alleen over modulaire RAG. Retrieval Augmented Fine Tuning (RAFT) en full model training worden ook kosteneffectief. Uw architectuur zal alle veranderingen moeten ondersteunen en de complexiteit voor uw ingenieurs moeten verbergen.
Gelukkig bieden de beste GenAI no-code/low-code-hulpmiddelen deze architectuur. Ze voegen constant ondersteuning toe voor toonaangevende gegevensbronnen, vector-databases en LLM’s, en maken het mogelijk om modulaire RAG te bouwen of gegevens in LLM’s te voeden voor fine-tuning of training. Bedrijven gebruiken met succes deze hulpmiddelen om co-piloten te implementeren met behulp van hun interne middelen.

Nexla gebruikt GenAI niet alleen om integratie eenvoudiger te maken. Het bevat een modulaire RAG-pijpleidingarchitectuur met geavanceerde gegevenschunking, query-engineering, reranking en selectie, multi-LLM-ondersteuning met resultaatrangschikking en selectie, orkestratie en meer – allemaal geconfigureerd zonder codering.

Voorspelling 4. De grens tussen co-piloten en agenten zal vervaagd worden

GenAI-co-piloten zoals chatbots zijn agenten die mensen ondersteunen. Uiteindelijk nemen mensen de beslissing over wat te doen met de gegenereerde resultaten. Maar GenAI-agenten kunnen volledig geautomatiseerde antwoorden geven zonder menselijke tussenkomst. Deze worden vaak aangeduid als agenten of agente AI.

Sommige mensen zien dit als twee afzonderlijke benaderingen. Maar de realiteit is complexer. Co-piloten beginnen al enkele basis taken te automatiseren, waarbij gebruikers optioneel acties kunnen bevestigen en de stappen kunnen automatiseren die nodig zijn om ze te voltooien.

Verwacht dat co-piloten in de loop van de tijd zullen evolueren naar een combinatie van co-piloten en agenten. Net zoals toepassingen helpen om bedrijfsprocessen te herengineeren en te stroomlijnen, zouden assistenten gebruikt moeten worden om tussenliggende stappen van de taken die ze ondersteunen te automatiseren. GenAI-gebaseerde agenten zouden ook mensen moeten omvatten om uitzonderingen te behandelen of een plan te goedkeuren dat is gegenereerd met behulp van een LLM.

Voorspelling 5. GenAI zal de adoptie van gegevensweefsel, gegevensproducten en open gegevensstandaarden stimuleren

GenAI wordt verwacht de grootste driver van verandering in IT te zijn in de komende jaren, omdat IT zich zal moeten aanpassen om bedrijven in staat te stellen het volledige voordeel van GenAI te realiseren.

Als onderdeel van de Gartner Hype Cycles voor gegevensbeheer 2024, heeft Gartner 3, en slechts 3, technologieën geïdentificeerd als transformatief voor gegevensbeheer en voor de organisaties die afhankelijk zijn van gegevens: gegevensweefsel, gegevensproducten en open tabelformaten. Alle drie maken gegevens veel toegankelijker voor gebruik met GenAI, omdat ze het gemakkelijker maken voor gegevens om te worden gebruikt door deze nieuwe sets GenAI-hulpmiddelen.

Nexla heeft een gegevensproductarchitectuur geïmplementeerd op basis van een gegevensweefsel om deze reden. Het gegevensweefsel biedt een uniforme laag om alle gegevens op dezelfde manier te beheren, ongeacht de verschillen in formaten, snelheden of toegangsportalen. Gegevensproducten worden vervolgens gemaakt om specifieke gegevensbehoeften te ondersteunen, zoals voor RAG.

Voorbeeld: een grote financiële dienstverleningsfirma implementeert GenAI om risicobeheer te verbeteren. Ze gebruiken Nexla om een uniform gegevensweefsel te creëren. Nexla detecteert automatisch schema’s en genereert connectors en gegevensproducten. Het bedrijf definieert vervolgens gegevensproducten voor specifieke risicometrieken die gegevens aggregaten, reinigen en transformeren in het juiste formaat als invoer voor RAG-agenten voor dynamische regelgevingsrapportage. Nexla biedt gegevensbeheerfuncties, waaronder gegevensafkomst en toegangscontrole, om te garanderen dat het voldoet aan de regelgevingsvereisten. Ons integratieplatform voor analytics, operations, B2B en GenAI is geïmplementeerd op een gegevensweefselarchitectuur waarbij GenAI wordt gebruikt om herbruikbare connectors, gegevensproducten en workflows te creëren. Ondersteuning voor open gegevensstandaarden zoals Apache Iceberg maakt het gemakkelijker om toegang te krijgen tot meer en meer gegevens.

Hoe u uw weg kunt vinden naar agente AI met co-piloten

Hoe moet u zich voorbereiden om GenAI mainstream te maken in uw bedrijf op basis van deze voorspellingen?
Ten eerste, als u dat nog niet heeft gedaan, start u uw eerste GenAI RAG-assistent voor uw klanten of medewerkers. Identificeer een belangrijk en relatief eenvoudig gebruiksscenario waarvoor u al de juiste kennisbasis heeft om te slagen.

Ten tweede, zorg ervoor dat u een klein team van GenAI-experts heeft die kunnen helpen bij het opzetten van de juiste modulaire RAG-architectuur, met de juiste integratiehulpmiddelen om uw eerste projecten te ondersteunen. Wees niet bang om nieuwe leveranciers met no-code/low-code-hulpmiddelen te evalueren.

Ten derde, start u met het identificeren van die gegevensbeheerbest practices die u nodig heeft om te slagen. Dit omvat niet alleen een gegevensweefsel en concepten zoals gegevensproducten. U moet ook uw gegevens voor AI beheren.

De tijd is nu. 2025 is het jaar waarin de meerderheid zal slagen. Laat u niet achter.