I 2025 vil GenAI Copilots Fremkomme som den Dræberapplikation, der Forvandler Forretning og Datastyring

Hver teknologisk revolution har et definerende øjeblik, hvor et bestemt brugstilfælde driver teknologien ind i bred anvendelse. Den tid er kommet for generativ AI (GenAI) med den hurtige spredning af copilots.

GenAI som teknologi har taget betydelige skridt i de seneste par år. Alligevel, på trods af alle overskrifter og hype, er dens adoption af virksomheder stadig i de tidlige faser. 2024 Gartner CIO og Tech Executive Survey sætter adoptionen til kun 9% af de adspurgte, med 34% siger, de planlægger at gøre det i det næste år. En seneste undersøgelse af Enterprise Strategy Group sætter GenAI-adoption til 30%. Men undersøgelserne kommer alle til samme konklusion om 2025.

Forudsigelse 1. Flertallet af Virksomheder Vil Bruge GenAI i Produktion ved Årets Udgang 2025

GenAI-adoption anses for at være kritisk for at forbedre produktivitet og profitabilitet og er blevet en top-prioritet for de fleste virksomheder. Men det betyder, at virksomhederne må overvinde de udfordringer, der er oplevet hidtil i GenAI-projekter, herunder:

• Dårlig datakvalitet: GenAI ender med at være lige så god som den data, den bruger, og mange virksomheder har stadig ikke tillid til deres data. Datakvalitet samt ufuldstændig eller forvrængt data har alle været problemer, der har ført til dårlige resultater.
• GenAI-omkostninger: Træning af GenAI-modeller som ChatGPT er hovedsagelig kun blevet gjort af de allerbedste GenAI-hold og koster millioner i beregningskraft. Så i stedet har mennesker brugt en teknik kaldet retrieval augmented generation (RAG). Men selv med RAG bliver det hurtigt dyrt at få adgang til og forberede data og samle de eksperter, du har brug for for at lykkes.
• Begrænsede færdighedsniveauer: Mange af de tidlige GenAI-udrulninger krævede meget kodning af en lille gruppe eksperter i GenAI. Selvom denne gruppe vokser, er der stadig en reel mangel.
• Hallucinationer: GenAI er ikke perfekt. Den kan hallucinere og give forkerte svar, når den tror, det er rigtigt. Du har brug for en strategi for at forhindre forkerte svar i at påvirke din forretning.
• Data sikkerhed: GenAI har eksponeret data for de forkerte personer, fordi den blev brugt til træning, finjustering eller RAG. Du har brug for at implementere sikkerhedsforanstaltninger for at beskytte mod disse lækkager.

Heldigvis har softwareindustrien været beskæftiget med at tackle disse udfordringer i de seneste par år. 2025 ser ud til at være året, hvor flere af disse udfordringer begynder at blive løst, og GenAI bliver mainstream.

Forudsigelse 2. Modulær RAG Copilots Vil Blive Den Mest Almindelige Brug af GenAI

Den mest almindelige brug af GenAI er at skabe assistenter eller copilots, der hjælper mennesker med at finde information hurtigere. Copilots er normalt bygget ved hjælp af RAG-pipelines. RAG er vejen. Det er den mest almindelige måde at bruge GenAI på. Fordi Large Language Models (LLM) er generelle modeller, der ikke har alle eller selv de seneste data, har du brug for at supplere forespørgsler, også kendt som prompts, for at få et mere præcist svar.
Copilots hjælper videnarbejdere med at være mere produktive, besvare tidligere ubesvarede spørgsmål og give ekspertvejledning og udføre rutinemæssige opgaver. Måske det mest succesfulde copilot-brugstilfælde indtil nu er, hvordan de hjælper softwareudviklere med at kode eller modernisere legacy-kode.

Men copilots forventes at have en større indvirkning, når de bruges uden for IT. Eksempler inkluderer:

• I kundeservice kan copilots modtage en supportforespørgsel og enten eskalere til en menneskelig intervention eller give en løsning for simple forespørgsler som adgangskode-nulstilling eller konto-adgang, hvilket resulterer i højere CSAT-score.
• I produktion kan copilots hjælpe teknikerne med at diagnosticere og anbefale specifikke handlinger eller reparationer for komplekse maskiner, hvilket reducerer nedtid.
• I sundhedssektoren kan kliniske medarbejdere bruge copilots til at få adgang til patienthistorik og relevant forskning og hjælpe med at vejlede diagnose og klinisk pleje, hvilket forbedrer effektivitet og kliniske resultater.

RAG-pipelines har hovedsagelig fungeret på samme måde. Det første trin er at indlæse en videnbase i en vektor-database. Når en person stiller et spørgsmål, aktiveres en GenAI RAG-pipeline. Den genopbygger spørgsmålet til en prompt, forespørger vektor-databasen ved at kodificere prompten for at finde den mest relevante information, aktiverer en LLM med prompten ved at bruge den hentede information som kontekst, vurderer og formaterer resultaterne og viser dem til brugeren.

Men det viser sig, at du ikke kan understøtte alle copilots lige godt med en enkelt RAG-pipeline. Så RAG er udviklet til en mere modulær arkitektur kaldet modulær RAG, hvor du kan bruge forskellige moduler til hvert af de mange trin, der er involveret:

• Indeksning inklusive data-chunking og organisation
• Præ-retrieval inklusive forespørgsel (prompt) ingeniørarbejde og optimering
• Retrieval med retriever finjustering og andre teknikker
• Post-retrieval reranking og udvælgelse
• Generering med generator finjustering, ved at bruge og sammenligne multiple LLM’er og verificering
• Orkestrering, der styrer denne proces og gør den iterativ for at få de bedste resultater

Du vil have brug for at implementere en modulær RAG-arkitektur for at understøtte multiple copilots.

Forudsigelse 3. No-Code/Low-Code GenAI-værktøjer Vil Blive Vejen

Indtil nu kan du måske forstå, at GenAI RAG er meget kompleks og hurtigt foranderligt. Det er ikke kun, at nye bedste praksis konstant opstår. Al teknologien involveret i GenAI-pipelines ændrer sig så hurtigt, at du vil ende med at skulle udskifte nogle af dem eller understøtte flere. Desuden er GenAI ikke kun om modulær RAG. Retrieval Augmented Fine Tuning (RAFT) og fuld modeltræning bliver også kosteffektive.
Din arkitektur vil have brug for at understøtte alle disse ændringer og skjule kompleksiteten for dine ingeniører.
Takfullydt giver de bedste GenAI no-code/low-code-værktøjer denne arkitektur. De tilføjer konstant understøttelse af førende datakilder, vektor-databaser og LLM’er og gør det muligt at bygge modulær RAG eller føde data ind i LLM’er til finjustering eller træning. Virksomheder bruger med succes disse værktøjer til at udrulle copilots ved hjælp af deres interne ressourcer.

Nexla bruger ikke kun GenAI til at gøre integration simpler. Den inkluderer en modulær RAG-pipeline-arkitektur med avanceret data-chunking, forespørgsel-ingeniørarbejde, reranking og udvælgelse, multi-LLM-understøttelse med resultatrangordning og udvælgelse, orkestrering og mere – alt konfigureret uden kodning.

Forudsigelse 4. Grænsen mellem Copilots og Agenter Vil Udvælges

GenAI-copilots som chatbots er agenter, der understøtter mennesker. Til sidst træffer mennesker beslutningen om, hvad de skal gøre med de genererede resultater. Men GenAI-agenter kan fuldt automatisere svar uden at involvere mennesker. Disse kaldes ofte for agenter eller agentic AI.

Nogle mennesker ser på dem som to separate tilgange. Men virkeligheden er mere kompliceret. Copilots er allerede begyndt at automatisere nogle grundlæggende opgaver, valgfrit tillade brugere at bekræfte handlinger og automatisere de trin, der er nødvendige for at fuldføre dem.

Forvent, at copilots udvikler sig over tid til en kombination af copilots og agenter. Ligesom applikationer hjælper med at omstrukturere og strømline forretningsprocesser, kan assistenter og bør også begynde at blive brugt til at automatisere mellemtrin i de opgaver, de understøtter. GenAI-baserede agenter bør også inkludere mennesker til at håndtere undtagelser eller godkende en plan, der er genereret ved hjælp af en LLM.

Forudsigelse 5. GenAI Vil Drive Adoptionen af Data Fabrics, Data Products og Åbne Data Standarder

GenAI forventes at være den største driver af ændring i IT i de næste par år, fordi IT vil have brug for at tilpasse sig for at enable virksomheder til at realisere den fulde fordel af GenAI.

Som en del af Gartner Hype Cycles for Data Management, 2024, har Gartner identificeret 3, og kun 3 teknologier som transformationelle for datastyring og for de organisationer, der afhænger af data: Data Fabrics, Data Products og Open Table Formats. Alle 3 hjælper med at gøre data meget mere tilgængeligt til brug med GenAI, fordi de gør det lettere for data at blive brugt af disse nye sæt GenAI-værktøjer.

Nexla har implementeret en data produktarkitektur bygget på en data fabric af denne grund. Data fabricen giver en samlet lag til at styre alle data på samme måde uanset forskelle i formater, hastigheder eller adgangsprotokoller. Data produkter er derefter oprettet for at understøtte specifikke data behov, såsom for RAG.

For eksempel implementerer en stor finansiel services-virksomhed GenAI for at forbedre risikostyring. De bruger Nexla til at oprette en samlet data fabric. Nexla automatisk detekterer skema og genererer derefter connectors og data produkter. Virksomheden definerer derefter data produkter for specifikke risiko-metrisk, der samler, rensker og transformerer data til den rigtige format som input til implementering af RAG-agenter for dynamisk regulatorisk rapportering. Nexla giver data-styringskontroller, herunder data-afstamning og adgangskontrol, for at sikre overholdelse af reglerne.
Vores integrationsplatform for analytics, operationer, B2B og GenAI er implementeret på en data fabric-arkitektur, hvor GenAI bruges til at oprette genbrugelige connectors, data produkter og arbejdsprocesser. Understøttelse af åbne data standarder som Apache Iceberg gør det lettere at få adgang til mere og mere data.

Hvordan du kan Copilot din Vej mod Agentic AI

Så hvordan skal du forberede dig på at gøre GenAI mainstream i din virksomhed baseret på disse forudsigelser?
Først, hvis du endnu ikke har, skal du starte på din første GenAI RAG-assistent til dine kunder eller medarbejdere. Identificer et vigtigt og relativt enkelt brugstilfælde, hvor du allerede har den rigtige videnbase til at lykkes.

Anden, sikre, at du har et lille hold af GenAI-eksperter, der kan hjælpe med at placere den rigtige modulære RAG-arkitektur og de rigtige integrationsværktøjer på plads for at understøtte dine første projekter. Vær ikke bange for at evaluere nye leverandører med no-code/low-code-værktøjer.

Tredje, start med at identificere de datastyrings-bedste-praksis, du vil have brug for for at lykkes. Dette inkluderer ikke kun en data fabric og begreber som data produkter. Du har også brug for at styre dine data til AI.

Tiden er nu. 2025 er året, hvor flertallet vil lykkes. Få ikke efterladt.