I 2025 vil GenAI-kopiloter oppstå som den drapsapplikasjonen som transformerer bedrift og datahåndtering

Hver teknologisk revolusjon har et avgjørende øyeblikk når et bestemt brukstilfelle skyver teknologien inn i vid utbredelse. Den tiden er kommet for generativ AI (GenAI) med den raske spredningen av kopiloter.

GenAI som teknologi har tatt betydelige skritt de siste årene. Likevel, til tross for alle overskriftene og hypeen, er dens adopsjon av selskaper fortsatt i de tidlige stadiene. 2024 Gartner CIO og Tech Executive Survey setter adopsjonen til bare 9% av de som ble spurgt, med 34% som sier de planlegger å gjøre det i løpet av det neste året. En nylig undersøkelse av Enterprise Strategy Group setter GenAI-adopsjonen til 30%. Men undersøkelsene kommer alle til samme konklusjon om 2025.

Forutsigelse 1. Flertallet av bedriftene vil bruke GenAI i produksjon ved slutten av 2025

GenAI-adopsjon sees på som kritisk for å forbedre produktivitet og lønnsomhet og har blitt en topprioritet for de fleste bedriftene. Men det betyr at selskapene må overvinne utfordringene som er opplevd så langt i GenAI-prosjekter, inkludert:

• Dårlig datakvalitet: GenAI ender opp med å være like god som dataen den bruker, og mange selskaper stoler fortsatt ikke på sine data. Datakvalitet sammen med ufullstendig eller forvrengt data har alle vært problemer som har ført til dårlige resultater.
• GenAI-kostnader: Trening av GenAI-modeller som ChatGPT har hovedsakelig bare blitt gjort av de aller beste GenAI-lagene og koster millioner i beregningskraft. Så i stedet har folk brukt en teknikk som kalles retrieval augmented generation (RAG). Men selv med RAG blir det raskt dyrt å få tilgang til og forberede data og samle ekspertene du trenger for å lykkes.
• Begrensede ferdigheter: Mange av de tidlige GenAI-utstedene krevde mye kode fra en liten gruppe eksperter i GenAI. Mens denne gruppen vokser, er det fortsatt en reel mangel.
• Hallusinasjoner: GenAI er ikke perfekt. Den kan hallusinere og gi feil svar når den tror den har rett. Du trenger en strategi for å forhindre feil svar fra å påvirke din bedrift.
• Data sikkerhet: GenAI har eksponert data til feil personer fordi den ble brukt til trening, finjustering eller RAG. Du trenger å implementere sikkerhetstiltak for å beskytte mot disse lekkasjene.

Lykkeligvis har programvareindustrien vært opptatt av å løse disse utfordringene de siste årene. 2025 ser ut til å være året når flere av disse utfordringene begynner å løses, og GenAI blir mainstream.

Forutsigelse 2. Modulære RAG-kopiloter vil bli den vanligste bruken av GenAI

Den vanligste bruken av GenAI er å lage assistenter, eller kopiloter, som hjelper mennesker med å finne informasjon raskere. Kopiloter er vanligvis bygget ved hjelp av RAG-pipelines. RAG er veien. Det er den vanligste måten å bruke GenAI på. Fordi Large Language Models (LLM) er generelle modeller som ikke har all eller den nyeste dataen, trenger du å augmentere spørringer, også kjent som promter, for å få et mer nøyaktig svar.
Kopiloter hjelper kunnskapsarbeidere med å være mer produktive, håndtere tidligere ubesvarte spørsmål og gi ekspertråd samt utføre rutineoppgaver. Kanskje det mest suksessfulle kopilot-bruksstedet til dags dato er hvordan de hjelper programvareutviklere med å kode eller modernisere legacy-kode.

Men kopiloter forventes å ha en større innvirkning når de brukes utenfor IT. Eksempler inkluderer:

• I kundeservice kan kopiloter motta en støtteforespørsel og enten eskalere til en menneskelig inngripen eller gi en løsning for enkle spørsmål som passordtilbakestilling eller kontoaksess, noe som resulterer i høyere CSAT-poeng.
• I produksjon kan kopiloter hjelpe tekniske eksperter med å diagnostisere og anbefale bestemte handlinger eller reparasjoner for komplekse maskiner, noe som reduserer nedtiden.
• I helsevesenet kan kliniske eksperter bruke kopiloter til å få tilgang til pasienthistorikk og relevant forskning og hjelpe med å guide diagnose og klinisk omsorg, noe som forbedrer effektivitet og kliniske resultater.

RAG-pipelines har hovedsakelig alle fungert på samme måte. Det første steget er å laste en kunnskapsbase inn i en vektor database. Når en person stiller et spørsmål, kalles en GenAI RAG-pipeline. Den omarbeider spørsmålet til en prompt, spør vektor-databasen ved å kode prompten for å finne den mest relevante informasjonen, kalles en LLM med prompten ved hjelp av den hentede informasjonen som kontekst, vurderer og formatterer resultater og viser dem til brukeren.

Men det viser seg at du ikke kan støtte alle kopiloter like godt med en enkelt RAG-pipeline. Så RAG har utviklet seg til en mer modulær arkitektur kalt modulær RAG hvor du kan bruke forskjellige moduler for hver av de mange stegene som er involvert:

• Indexering inkludert data-chunking og organisering
• Pre-retrieval inkludert spørring (prompt) ingeniørarbeid og optimalisering
• Retrieval med retriever finjustering og andre teknikker
• Post-retrieval reranking og valg
• Generering med generator finjustering, ved hjelp av og sammenligning av flere LLM, og verifisering
• Orkestrering som håndterer denne prosessen og gjør den iterativ for å hjelpe med å få de beste resultater

Du vil trenge å implementere en modulær RAG-arkitektur for å støtte flere kopiloter.

Forutsigelse 3. No-Code/Low-Code GenAI-verktøy vil bli måten

Ved dette punktet kan du kanskje innse at GenAI RAG er svært komplekst og raskt endrer seg. Det er ikke bare at nye beste praksis konstant oppstår. All teknologien involvert i GenAI-pipelines endrer seg så raskt at du vil ende opp med å måtte bytte ut noen av dem eller støtte flere. Dessuten er GenAI ikke bare om modulær RAG. Retrieval Augmented Fine Tuning (RAFT) og full modelltrening blir også kostnadseffektive.
Din arkitektur vil trenge å støtte all denne endringen og skjule kompleksiteten fra dine ingeniører.
Takknemligvis tilbyr de beste GenAI no-code/low-code-verktøyene denne arkitekturen. De legger konstant til støtte for ledende datakilder, vektor-databaser og LLM, og gjør det mulig å bygge modulær RAG eller mata data inn i LLM for finjustering eller trening. Selskaper bruker med hell disse verktøyene til å deployere kopiloter ved hjelp av deres interne ressurser.

Nexla bruker ikke bare GenAI for å gjøre integrasjon enklere. Den inkluderer en modulær RAG-pipeline-arkitektur med avansert data-chunking, spørring ingeniørarbeid, reranking og valg, multi-LLM-støtte med resultater rangering og valg, orkestrering og mer – all konfigurert uten kode.

Forutsigelse 4. Linjen mellom kopiloter og agenter vil bli utydelig

GenAI-kopiloter som chatbots er agenter som støtter mennesker. Til slutt er det mennesker som tar beslutningen om hva de skal gjøre med de genererte resultater. Men GenAI-agenter kan fullstendig automatisere svar uten å involvere mennesker. Disse kalles ofte agenter eller agentic AI.

Noen mennesker ser på disse som to separate tilnærminger. Men virkeligheten er mer komplisert. Kopiloter har allerede begynt å automatisere noen grunnleggende oppgaver, og lar brukerne bekrefte handlinger og automatisere stegene som er nødvendige for å fullføre dem.

Forvent at kopiloter vil utvikle seg over tid til en kombinasjon av kopiloter og agenter. Like som applikasjoner hjelper med å omorganisere og strømlinjeforme forretningsprosesser, kan assistenter også og bør begynne å brukes til å automatisere mellomliggende steg i oppgavene de støtter. GenAI-baserte agenter bør også inkludere mennesker for å håndtere unntak eller godkjenne en plan generert ved hjelp av en LLM.

Forutsigelse 5. GenAI vil drive adopsjonen av datafabrikker, dataprodukter og åpne datastandarder

GenAI forventes å være den største driveren for endring i IT de neste årene fordi IT må tilpasse seg for å enable selskaper å realisere den fulle fordelen av GenAI.

Som en del av Gartner Hype Cycles for Data Management, 2024, har Gartner identifisert 3, og bare 3, teknologier som transformasjonelle for datahåndtering og for organisasjonene som avhenger av data: Data Fabrics, Data Products og Open Table Formats. Alle 3 hjelper med å gjøre data mye mer tilgjengelig for bruk med GenAI fordi de gjør det enklere for data å bli brukt av disse nye settene med GenAI-verktøy.

Nexla implementerte en dataproduktarkitektur bygget på en datafabrikk av denne grunn. Datafabrikken gir en samlet lag for å håndtere all data på samme måte uavhengig av forskjeller i formater, hastigheter eller tilgangsprotokoller. Dataprodukter blir deretter laget for å støtte bestemte databehov, som for RAG.

For eksempel er et stort finansselskap i ferd med å implementere GenAI for å forbedre risikostyring. De bruker Nexla til å lage en samlet datafabrikk. Nexla detekterer automatisk skjema og genererer deretter koblinger og dataprodukter. Selskapet definerer dataprodukter for bestemte risikometrikker som aggregerte, renser og transformerer data til riktig format som inndata ved implementering av RAG-agenter for dynamisk regulatorisk rapportering. Nexla gir datastyringskontroller inkludert dataavstamning og tilgangskontroller for å sikre regulatorisk overholdelse.Vår integrasjonsplattform for analyser, operasjoner, B2B og GenAI er implementert på en datafabrikkarkitektur hvor GenAI brukes til å lage gjenbrukbare koblinger, dataprodukter og arbeidsflyter. Støtte for åpne datastandarder som Apache Iceberg gjør det enklere å få tilgang til mer og mer data.

Hvordan du kan kopilot din vei mot agentic AI

Hvordan bør du forberede deg på å gjøre GenAI mainstream i ditt selskap basert på disse forutsigelsene?
Først, hvis du ikke allerede har gjort det, begynn med din første GenAI RAG-assistent for dine kunder eller ansatte. Identifiser et viktig og relativt enkelt brukstilfelle hvor du allerede har den riktige kunnskapsbasen for å lykkes.

For det andre, sikre deg at du har et lite team av GenAI-eksperter som kan hjelpe med å sette riktig modulær RAG-arkitektur og riktige integrasjonsverktøy på plass for å støtte dine første prosjekter. Vær ikke redd for å evaluere nye leverandører med no-code/low-code-verktøy.

For det tredje, begynn å identifisere de datahåndteringsbeste praksisene du vil trenge for å lykkes. Dette inkluderer ikke bare en datafabrikk og konsepter som dataprodukter. Du trenger også å styre din data for AI.

Tiden er nå. 2025 er året da flertallet vil lykkes. Ikke bli latt tilbake.