I 2025 vil GenAI-kopiloter oppstå som den definitive appen som transformerer bedrift og datahåndtering

Hver teknologisk revolusjon har et avgjørende øyeblikk når et bestemt brukstilfelle driver teknologien inn i vid utbredelse. Den tiden har kommet for generativ AI (GenAI) med den raske spredningen av kopiloter.

GenAI som teknologi har tatt betydelige skritt de siste årene. Likevel, til tross for alle overskriftene og hypen, er dens adopsjon av selskaper fortsatt i de tidlige stadiene. 2024 Gartner CIO og Tech Executive Survey setter adopsjonen til bare 9% av de som ble spurgt, med 34% som sier de planlegger å gjøre det i løpet av det neste året. En nylig undersøkelse av Enterprise Strategy Group setter GenAI-adopsjonen til 30%. Men undersøkelsene kommer alle til samme konklusjon om 2025.

Prediction 1. Et flertall av bedrifter vil bruke GenAI i produksjon ved utgangen av 2025

GenAI-adopsjon sees på som kritisk for å forbedre produktivitet og lønnsomhet og har blitt en topprioritet for de fleste bedriftene. Men det betyr at selskapene må overvinne utfordringene som er erfart så langt i GenAI-prosjekter, inkludert:

• Dårlig datakvalitet: GenAI ender opp med å være like god som dataen den bruker, og mange selskaper stoler fortsatt ikke på sine data. Datakvalitet sammen med ufullstendig eller forvrengt data har alle vært problemer som har ført til dårlige resultater.
• GenAI-kostnader: å trene GenAI-modeller som ChatGPT har hovedsakelig bare blitt gjort av de aller beste GenAI-lagene og koster millioner i beregningskraft. Så i stedet har folk blitt brukt en teknikk kalt retrieval augmented generation (RAG). Men selv med RAG, blir det raskt dyrt å få tilgang til og forberede data og samle ekspertene du trenger for å lykkes.
• Begrensede ferdigheter: Mange av de tidlige GenAI-utbredelsene krevde mye kode fra en liten gruppe eksperter i GenAI. Mens denne gruppen vokser, er det fortsatt en reel mangel.
• Hallusinasjoner: GenAI er ikke perfekt. Den kan hallusinere og gi feil svar når den tror den er rett. Du trenger en strategi for å forhindre feil svar fra å påvirke din bedrift.
• Data sikkerhet: GenAI har eksponert data til feil personer fordi den ble brukt til trening, finjustering eller RAG. Du trenger å implementere sikkerhetstiltak for å beskytte mot disse lekkasjene.

Lykkeligvis har programvareindustrien tatt tak i disse utfordringene de siste årene. 2025 ser ut til å være året når flere av disse utfordringene begynner å løses, og GenAI blir mainstream.

Prediction 2. Modulære RAG-kopiloter vil bli den vanligste bruken av GenAI

Den vanligste bruken av GenAI er å lage assistenter, eller kopiloter, som hjelper mennesker å finne informasjon raskere. Kopiloter er vanligvis bygget ved hjelp av RAG-pipelines. RAG er veien. Det er den vanligste måten å bruke GenAI på. Fordi store språkmodeller (LLM) er generelle modeller som ikke har all eller den nyeste dataen, trenger du å augmentere spørringer, også kjent som promter, for å få et mer nøyaktig svar.
Kopiloter hjelper kunnskapsarbeidere å være mer produktive, å besvare tidligere ubesvarte spørsmål og å gi ekspertråd mens de noen ganger også utfører rutineoppgaver. Kanskje det mest suksessfulle kopilot-tilfellet til dags dato er hvordan de hjelper programvareutviklere å kode eller modernisere legacy-kode.

Men kopiloter forventes å ha en større innvirkning når de brukes utenfor IT. Eksempler inkluderer:

• I kundeservice, kan kopiloter motta en støtteforespørsel og enten eskalere til en menneskelig intervensjon eller gi en løsning for enkle spørsmål som passordtilbakestilling eller konto-tilgang, noe som resulterer i høyere CSAT-poeng.
• I produksjon, kan kopiloter hjelpe teknikerne med å diagnostisere og anbefale bestemte handlinger eller reparasjoner for komplekse maskiner, noe som reduserer nedtiden.
• I helsevesenet, kan kliniske ansatte bruke kopiloter til å få tilgang til pasienthistorikk og relevant forskning og hjelpe med å guide diagnose og klinisk behandling, noe som forbedrer effisiens og kliniske resultater.

RAG-pipelines har hovedsakelig alle fungert på samme måte. Det første steget er å laste en kunnskapsbase inn i en vektor-database. Når en person stiller et spørsmål, kalles en GenAI RAG-pipeline. Den omarbeider spørsmålet til en prompt, spør vektor-databasen ved å kode prompten for å finne den mest relevante informasjonen, kalles en LLM med prompten ved hjelp av den hentede informasjonen som kontekst, vurderer og formatterer resultater og viser dem til brukeren.

Men det viser seg at du ikke kan støtte alle kopiloter like godt med en enkelt RAG-pipeline. Så RAG har utviklet seg til en mer modulær arkitektur kalt modulær RAG hvor du kan bruke forskjellige moduler for hver av de mange stegene som er involvert:

• Indexering inkludert data-chunking og organisering
• Før-retrieval inkludert spørring (prompt) ingeniørarbeid og optimalisering
• Retrieval med retriever-fine-tuning og andre tekniker
• Etter-retrieval reranking og valg
• Generering med generator-fine-tuning, ved hjelp av og sammenligning av flere LLM-er og verifisering
• Orkestrering som håndterer denne prosessen og gjør den iterativ for å hjelpe med å få de beste resultater

Du vil trenge å implementere en modulær RAG-arkitektur for å støtte flere kopiloter.

Prediction 3. No-Code/Low-Code GenAI-verktøy vil bli veien

Nå kan du kanskje innse at GenAI RAG er svært kompleks og raskt forandrer seg. Det er ikke bare at nye beste praksis konstant oppstår. All teknologien involvert i GenAI-pipelines endrer seg så raskt at du vil trenge å bytte ut noen av dem eller støtte flere. Dessuten er GenAI ikke bare om modulær RAG. Retrieval Augmented Fine Tuning (RAFT) og full modell-trening blir også kostnadseffektive. Din arkitektur vil trenge å støtte all denne forandringen og skjule kompleksiteten fra dine ingeniører.
Lykkeligvis tilbyr de beste GenAI no-code/low-code-verktøyene denne arkitekturen. De legger konstant til støtte for ledende datakilder, vektor-databaser og LLM-er, og gjør det mulig å bygge modulær RAG eller mata data inn i LLM-er for fine-tuning eller trening. Selskaper bruker med hell disse verktøyene til å utrulle kopiloter ved hjelp av deres interne ressurser.

Nexla bruker ikke bare GenAI for å gjøre integrasjon enklere. Den inkluderer en modulær RAG-pipeline-arkitektur med avansert data-chunking, spørring-ingeniørarbeid, reranking og valg, multi-LLM-støtte med resultater-reranking og valg, orkestrering og mer – alt konfigurert uten kode.

Prediction 4. Linjen mellom kopiloter og agenter vil bli utvisket

GenAI-kopiloter som chatbots er agenter som støtter mennesker. Til slutt er det menneskene som tar beslutningen om hva de skal gjøre med de genererte resultater. Men GenAI-agenter kan fullt automatisere svar uten å involvere mennesker. Disse kalles ofte agenter eller agentisk AI.

Noen mennesker ser på disse som to separate tilnærminger. Men virkeligheten er mer komplisert. Kopiloter begynner allerede å automatisere noen grunnleggende oppgaver, og lar brukerne bekrefte handlinger og automatisere stegene som trengs for å fullføre dem.

Forvent at kopiloter utvikler seg over tid til en kombinasjon av kopiloter og agenter. Like som applikasjoner hjelper med å omorganisere og strømlinje forretningsprosesser, kan assistenter også begynne å brukes til å automatisere mellomliggende steg i oppgavene de støtter. GenAI-baserte agenter bør også inkludere mennesker for å håndtere unntak eller godkjenne en plan generert ved hjelp av en LLM.

Prediction 5. GenAI vil drive adopsjonen av datafabrikker, dataprodukter og åpne datastandarder

GenAI forventes å være den største driveren for endring i IT de neste årene fordi IT må tilpasse seg for å muliggjøre at selskaper kan realisere fullt ut fordelen av GenAI.

Som en del av Gartner Hype Cycles for Data Management, 2024, har Gartner identifisert 3, og bare 3, teknologier som transformerende for datahåndtering og for organisasjonene som avhenger av data: Datafabrikker, dataprodukter og åpne tabellformater. Alle 3 hjelper med å gjøre data mer tilgjengelig for bruk med GenAI fordi de gjør det enklere for data å bli brukt av disse nye GenAI-verktøyene.

Nexla implementerte en dataprodukt-arkitektur bygget på en datafabrikk av denne grunn. Datafabrikken gir en enhetlig lag for å håndtere all data på samme måte uavhengig av forskjeller i formater, hastigheter eller tilgangsprotokoller. Dataprodukter blir deretter laget for å støtte bestemte databehov, som for RAG.

For eksempel er ett stort finansselskap i ferd med å implementere GenAI for å forbedre risikostyring. De bruker Nexla til å lage en enhetlig datafabrikk. Nexla detekterer automatisk skjema og genererer koblinger og dataprodukter. Selskapet definerer deretter dataprodukter for bestemte risikometrikker som aggregerte, renser og transformerer data i riktig format som inndata ved å implementere RAG-agenter for dynamisk regulatorisk rapportering. Nexla tilbyr datastyringskontroller inkludert data-avstamning og tilgangskontroll for å sikre regulatorisk overholdelse. Vår integrasjonsplattform for analyse, drift, B2B og GenAI er implementert på en datafabrikk-arkitektur hvor GenAI brukes til å lage gjenbrukbare koblinger, dataprodukter og arbeidsflyter. Støtte for åpne datastandarder som Apache Iceberg gjør det enklere å få tilgang til mer og mer data.

Hvordan du kan kopilot din vei mot agentisk AI

Hvordan skal du forberede deg på å gjøre GenAI mainstream i ditt selskap basert på disse forutsagnene?
Først, hvis du ikke allerede har gjort det, kom i gang med din første GenAI RAG-assistent for dine kunder eller ansatte. Identifiser et viktig og relativt enkelt brukstilfelle hvor du allerede har den riktige kunnskapsbasen for å lykkes.

Andre, sørg for å ha et lite team av GenAI-eksperter som kan hjelpe med å sette riktig modulær RAG-arkitektur og riktige integrasjonsverktøy på plass for å støtte dine første prosjekter. Vær ikke redd for å evaluere nye leverandører med no-code/low-code-verktøy.

Tredje, begynn å identifisere de datahåndteringsbeste praksisene som du vil trenge for å lykkes. Dette inkluderer ikke bare en datafabrikk og konsepter som dataprodukter. Du trenger også å styre dine data for AI.

Tiden er nå. 2025 er året da flertallet vil lykkes. Ikke bli latt tilbake.