I 2025 vil GenAI-kopiloter opstå som den dræbende app, der forvandler forretning og datastyring

Hver teknologisk revolution har et definerende øjeblik, hvor et bestemt brugstilfælde fremmer teknologien til vidt udbredt accept. Den tid er kommet for generativ AI (GenAI) med den hurtige spredning af kopiloter.

GenAI som teknologi har taget betydelige skridt i de seneste par år. Alligevel, på trods af alle overskrifter og hype, er dens adoption af virksomheder stadig i de tidlige faser. 2024 Gartner CIO og Tech Executive Survey angiver adoption på kun 9% af de adspurgte, med 34% siger, at de planlægger at gøre det i det næste år. En ny undersøgelse af Enterprise Strategy Group angiver GenAI-adoption på 30%. Men undersøgelserne kommer alle til den samme konklusion om 2025.

Forudsigelse 1. Flertallet af virksomheder vil bruge GenAI i produktion ved udgangen af 2025

GenAI-adoption anses for at være kritisk for at forbedre produktivitet og profit og er blevet en top-prioritet for de fleste virksomheder. Men det betyder, at virksomheder må overvinde de udfordringer, der er oplevet hidtil i GenAI-projekter, herunder:

• Dårlig datakvalitet: GenAI ender med at være lige så god som de data, den bruger, og mange virksomheder har stadig ikke tillid til deres data. Datakvalitet samt ufuldstændige eller forvrængede data har alle været problemer, der har ført til dårlige resultater.
• GenAI-omkostninger: træning af GenAI-modeller som ChatGPT er hovedsagelig kun blevet gjort af de bedste GenAI-hold og koster millioner i beregningskraft. Så i stedet har mennesker brugt en teknik kaldet retrieval-augmented generation (RAG). Men selv med RAG bliver det hurtigt dyrt at få adgang til og forberede data og samle de eksperter, der er nødvendige for at lykkes.
• Begrænsede kompetenceområder: Mange af de tidlige GenAI-udrulninger krævede meget kodning af en lille gruppe eksperter i GenAI. Selvom denne gruppe er ved at vokse, er der stadig en reel mangel.
• Hallucinationer: GenAI er ikke perfekt. Den kan hallucinere og give forkerte svar, når den tror, det er rigtigt. Du har brug for en strategi for at forhindre forkerte svar i at påvirke din forretning.
• Data sikkerhed: GenAI har eksponeret data for de forkerte personer, fordi den blev brugt til træning, finjustering eller RAG. Du har brug for at implementere sikkerhedsforanstaltninger for at beskytte mod disse lækkager.

Heldigvis har softwareindustrien været beskæftiget med at tackle disse udfordringer i de seneste par år. 2025 ser ud til at være året, hvor flere af disse udfordringer begynder at blive løst, og GenAI bliver mainstream.

Forudsigelse 2. Modulære RAG-kopiloter vil blive den mest almindelige brug af GenAI

Den mest almindelige brug af GenAI er at oprette assistenter eller kopiloter, der hjælper mennesker med at finde information hurtigere. Kopiloter er normalt bygget ved hjælp af RAG-pipelines. RAG er vejen. Det er den mest almindelige måde at bruge GenAI på. Fordi store sprogmodeller (LLM) er generelle modeller, der ikke har alle eller selv de seneste data, har du brug for at supplere forespørgsler, også kendt som prompts, for at få et mere præcist svar.
Kopiloter hjælper videnarbejdere med at være mere produktive, besvare tidligere ubesvarede spørgsmål og give ekspertvejledning, mens de nogle gange også udfører rutineopgaver. Måske det mest succesfulde kopilot-brugstilfælde indtil nu er, hvordan de hjælper softwareudviklere med at kode eller modernisere legacy-kode.

Men kopiloter forventes at have en større indvirkning, når de bruges uden for IT. Eksempler herunder:

• I kundeservice kan kopiloter modtage en supportforespørgsel og enten eskalere til en menneskelig intervention eller give en løsning for simple forespørgsler som adgangskode-nulstilling eller konto-adgang, hvilket resulterer i højere kundetilfredshed.
• I produktion kan kopiloter hjælpe teknikere med at diagnosticere og anbefale specifikke handlinger eller reparationer af komplekse maskiner, hvilket reducerer nedtid.
• I sundhedssektoren kan kliniske medarbejdere bruge kopiloter til at få adgang til patienthistorik og relevant forskning og hjælpe med at vejlede diagnose og klinisk behandling, hvilket forbedrer effektivitet og kliniske resultater.

RAG-pipelines har hovedsagelig fungeret på samme måde. Det første trin er at indlæse en videnbase i en vektor-database. Når en person stiller et spørgsmål, aktiveres en GenAI RAG-pipeline. Den omarbejder spørgsmålet til en prompt, forespørger vektor-databasen ved at kodificere prompten for at finde den mest relevante information, aktiverer en LLM med prompten ved hjælp af den hentede information som kontekst, vurderer og formaterer resultaterne og viser dem til brugeren.

Men det viser sig, at du ikke kan understøtte alle kopiloter lige godt med en enkelt RAG-pipeline. Så RAG er udviklet til en mere modulær arkitektur kaldet modulær RAG, hvor du kan bruge forskellige moduler til hvert af de mange trin, der er involveret:

• Indeksning, herunder data-afkortning og organisation
• Forhåndsgennemføring, herunder forespørgsel (prompt) ingeniørarbejde og optimering
• Hentning med hentningsfinjustering og andre teknikker
• Efterhånden genrangering og udvælgelse
• Generering med generatorfinjustering, ved hjælp af og sammenligning af flere LLM’er og verificering
• Koordinering, der styrer denne proces og gør den iterativ for at hjælpe med at få de bedste resultater

Du vil have brug for at implementere en modulær RAG-arkitektur for at understøtte multiple kopiloter.

Forudsigelse 3. No-Code/Low-Code GenAI-værktøjer vil blive vejen

Indtil nu kan du måske indse, at GenAI RAG er meget kompleks og hurtigt foranderlig. Det er ikke kun, at nye bedste praksis konstant opstår. Al den teknologi, der er involveret i GenAI-pipelines, ændrer sig så hurtigt, at du vil ende med at skulle udskifte nogle af dem eller understøtte flere. Desuden er GenAI ikke kun om modulær RAG. Hentningsforbedret finjustering (RAFT) og fuld modeltræning bliver også kosteffektive. Din arkitektur vil have brug for at understøtte alle disse ændringer og skjule kompleksiteten for dine ingeniører.
Takfullydt tilbyder de bedste GenAI no-code/low-code-værktøjer denne arkitektur. De tilføjer konstant understøttelse af førende datakilder, vektor-databaser og LLM’er og gør det muligt at bygge modulær RAG eller føde data ind i LLM’er til finjustering eller træning. Virksomheder bruger med succes disse værktøjer til at udrulle kopiloter ved hjælp af deres interne ressourcer.

Nexla bruger ikke kun GenAI til at gøre integration simplere. Den inkluderer en modulær RAG-pipeline-arkitektur med avanceret data-afkortning, forespørgsel-ingeniørarbejde, genrangering og udvælgelse, multi-LLM-understøttelse med resultatrangering og udvælgelse, koordinering og mere – alt konfigureret uden kodning.

Forudsigelse 4. Grænsen mellem kopiloter og agenter vil blive uklar

GenAI-kopiloter som chatbots er agenter, der understøtter mennesker. Til sidst er det mennesker, der træffer beslutningen om, hvad der skal gøres med de genererede resultater. Men GenAI-agenter kan fuldt automatisere svar uden at involvere mennesker. Disse kaldes ofte agenter eller agens-ai.

Nogle mennesker ser på disse som to separate tilgange. Men virkeligheden er mere kompliceret. Kopiloter er allerede begyndt at automatisere nogle grundlæggende opgaver, valgfrit tillade brugere at bekræfte handlinger og automatisere de trin, der er nødvendige for at fuldføre dem.

Forvent, at kopiloter udvikler sig over tid til en kombination af kopiloter og agenter. Ligesom applikationer hjælper med at omarbejde og strømline forretningsprocesser, kunne assistenter og burde begynde at blive brugt til at automatisere mellemtrin i de opgaver, de understøtter. GenAI-baserede agenter burde også inkludere mennesker til at håndtere undtagelser eller godkende en plan, der er genereret ved hjælp af en LLM.

Forudsigelse 5. GenAI vil drive adoptionen af datafabrikker, dataprodukter og åbne datastandarder

GenAI forventes at være den største driver for ændring i IT i de næste par år, fordi IT vil have brug for at tilpasse sig for at enable virksomheder til at realisere den fulde fordel af GenAI.

Som en del af Gartner Hype Cycles for Data Management, 2024, har Gartner identificeret 3, og kun 3, teknologier som transformationelle for datastyring og for de organisationer, der afhænger af data: Datafabrikker, dataprodukter og åbne tabelformater. Alle 3 hjælper med at gøre data meget mere tilgængelige til brug med GenAI, fordi de gør det lettere for data at blive brugt af disse nye sæt GenAI-værktøjer.

Nexla har implementeret en dataprodukt-arkitektur bygget på en datafabrik af denne grund. Datafabrikken giver en samlet lag til at styre alle data på samme måde uanset forskelle i formater, hastigheder eller adgangsprotokoller. Dataprodukter oprettes herefter for at understøtte specifikke databehov, såsom for RAG.

For eksempel er en stor finansiel services-virksomhed i gang med at implementere GenAI for at forbedre risikostyring. De bruger Nexla til at oprette en samlet datafabrik. Nexla detekterer automatisk skema og genererer herefter forbindelser og dataprodukter. Virksomheden definerer herefter dataprodukter for specifikke risikometrikker, der samler, rensker og transformerer data til den rigtige format som input til implementering af RAG-agenter til dynamisk regulatorisk rapportering. Nexla giver datastyringskontroller, herunder data-afstamning og adgangskontroller, for at sikre overholdelse af reglerne.Vores integrationsplatform for analytics, operationer, B2B og GenAI er implementeret på en datafabrik-arkitektur, hvor GenAI bruges til at oprette genbrugelige forbindelser, dataprodukter og arbejdsprocesser. Understøttelse af åbne datastandarder som Apache Iceberg gør det lettere at få adgang til mere og mere data.

Hvordan du kan kopilotere din vej mod agens-ai

Så hvordan skal du forberede dig på at gøre GenAI mainstream i din virksomhed baseret på disse forudsigelser?
Først, hvis du endnu ikke har, skal du starte på din første GenAI RAG-assistent til dine kunder eller medarbejdere. Identificer et vigtigt og relativt enkelt brugstilfælde, hvor du allerede har den rette videnbase til at lykkes.

Anden, sikre, at du har et lille hold af GenAI-eksperter, der kan hjælpe med at indsætte den rette modulære RAG-arkitektur med de rette integrationsværktøjer på plads for at understøtte dine første projekter. Vær ikke bange for at evaluere nye leverandører med no-code/low-code-værktøjer.

Tredje, start med at identificere de datastyrings-bedste-praksis, du vil have brug for at lykkes. Dette indebærer ikke kun en datafabrik og begreber som dataprodukter. Du har også brug for at styre dine data for AI.

Tiden er nu. 2025 er året, hvor flertallet vil lykkes. Lad dig ikke blive efterladt.