År 2025 kommer GenAI-kopiloter att framträda som den avgörande appen som förvandlar företag och datahantering

Varje teknisk revolution har ett avgörande ögonblick när ett specifikt användningsfall driver tekniken mot allmän acceptans. Den tiden har kommit för generativ AI (GenAI) med den snabba spridningen av kopiloter.

GenAI som teknik har tagit betydande steg under de senaste åren. Trots alla rubriker och hype är dess antagande av företag fortfarande i de tidiga stadierna. 2024 Gartner CIO och Tech Executive Survey anger antagandet till endast 9% av de tillfrågade, med 34% som säger att de planerar att göra det inom det närmaste året. En nylig undersökning av Enterprise Strategy Group anger GenAI-antagandet till 30%. Men undersökningarna kommer alla till samma slutsats om 2025.

Prognos 1. En majoritet av företagen kommer att använda GenAI i produktionen vid slutet av 2025

GenAI-antagandet ses som avgörande för att förbättra produktivitet och lönsamhet och har blivit en topprioritet för de flesta företagen. Men det innebär att företagen måste övervinna de utmaningar som hittills har upplevts i GenAI-projekt, inklusive:

• Dålig datakvalitet: GenAI slutar med att vara lika bra som de data den använder, och många företag litar fortfarande inte på sina data. Datakvalitet tillsammans med ofullständig eller partisk data har alla varit problem som har lett till dåliga resultat.
• GenAI-kostnader: utbildning av GenAI-modeller som ChatGPT har huvudsakligen endast gjorts av de bästa GenAI-lagen och kostar miljontals i beräkningskraft. Så istället har människor använt en teknik som kallas retrieval augmented generation (RAG). Men även med RAG blir det snabbt dyrt att komma åt och förbereda data och samla experter som behövs för att lyckas.
• Begränsade färdigheter: Många av de tidiga GenAI-distributionerna krävde mycket kodning av en liten grupp experter i GenAI. Medan denna grupp växer, finns det fortfarande en verklig brist.
• Hallucinationer: GenAI är inte perfekt. Den kan hallucinera och ge fel svar när den tror att den har rätt. Du behöver en strategi för att förhindra att fel svar påverkar ditt företag.
• Data säkerhet: GenAI har utsatt data för fel personer eftersom den användes för utbildning, finjustering eller RAG. Du behöver implementera säkerhetsåtgärder för att skydda mot dessa läckor.

Lyckligtvis har mjukvaruindustrin hanterat dessa utmaningar under de senaste åren. 2025 verkar vara året när flera av dessa utmaningar börjar lösas, och GenAI blir mainstream.

Prognos 2. Modulära RAG-kopiloter kommer att bli det vanligaste användningsområdet för GenAI

Det vanligaste användningsområdet för GenAI är att skapa assistenter, eller kopiloter, som hjälper människor att hitta information snabbare. Kopiloter byggs vanligtvis med RAG-pipelines. RAG är vägen. Det är det vanligaste sättet att använda GenAI. Eftersom stora språkmodeller (LLM) är allmänna modeller som inte har all eller ens den senaste datan, behöver du augmentera frågor, annars kända som prompter, för att få ett mer exakt svar.
Kopiloter hjälper kunskapsarbetare att vara mer produktiva, hantera tidigare ohanterliga frågor och ge expertvägledning medan de ibland också utför rutinuppgifter. Kanske det mest framgångsrika kopilotanvändningsfallet hittills är hur de hjälper programvaruutvecklare att koda eller modernisera äldre kod.

Men kopiloter förväntas ha en större inverkan när de används utanför IT. Exempel inkluderar:

• I kundtjänst kan kopiloter ta emot en supportförfrågan och antingen eskalera till en människa för ingripande eller ge en lösning för enkla frågor som lösenordsåterställning eller kontotillgång, vilket resulterar i högre CSAT-poäng.
• I tillverkning kan kopiloter hjälpa tekniker att diagnostisera och rekommendera specifika åtgärder eller reparationer för komplexa maskiner, vilket minskar nedtiden.
• I hälsovården kan kliniker använda kopiloter för att komma åt patienthistorik och relevant forskning och hjälpa till att vägleda diagnos och klinisk vård, vilket förbättrar effektivitet och kliniska resultat.

RAG-pipelines har huvudsakligen alla fungerat på samma sätt. Det första steget är att ladda en kunskapsbas in i en vektordatabas. När en person ställer en fråga, anropas en GenAI RAG-pipeline. Den omkonstruerar frågan till en prompt, frågar vektordatabasen genom att koda prompten för att hitta den mest relevanta informationen, anropar en LLM med prompten med den hämtade informationen som sammanhang, utvärderar och formaterar resultaten och visar dem för användaren.

Men det visar sig att du inte kan stödja alla kopiloter lika bra med en enda RAG-pipeline. Så RAG har utvecklats till en mer modulär arkitektur som kallas modulär RAG, där du kan använda olika moduler för var och en av de många steg som är inblandade:

• Indexering, inklusive data chunkning och organisation
• För-retrieval, inklusive fråga (prompt) ingenjör och optimering
• Retrieval med retriever finjustering och andra tekniker
• Post-retrieval omrangordning och urval
• Generering med generator finjustering, med användning och jämförelse av flera LLM, och verifikation
• Orkestrering som hanterar den här processen och gör den iterativ för att hjälpa till att få de bästa resultaten

Du kommer att behöva implementera en modulär RAG-arkitektur för att stödja flera kopiloter.

Prognos 3. No-Code/Low-Code GenAI-verktyg kommer att bli vägen

Nu inser du kanske att GenAI RAG är mycket komplext och snabbt föränderligt. Det är inte bara att nya bästa praxis ständigt dyker upp. All teknologi som är inblandad i GenAI-pipelines förändras så snabbt att du kommer att behöva byta ut några av dem eller stödja flera. Dessutom är GenAI inte bara om modulär RAG. Retrieval Augmented Fine Tuning (RAFT) och full modellutbildning blir också kostnadseffektiva. Din arkitektur kommer att behöva stödja all denna förändring och dölja komplexiteten för dina ingenjörer.
Lyckligtvis erbjuder de bästa GenAI no-code/low-code-verktygen den här arkitekturen. De lägger ständigt till stöd för ledande datakällor, vektordatabaser och LLM, och gör det möjligt att bygga modulär RAG eller mata data till LLM för finjustering eller utbildning. Företag använder med framgång dessa verktyg för att distribuera kopiloter med hjälp av sina interna resurser.

Nexla använder inte bara GenAI för att göra integrationen enklare. Den innehåller en modulär RAG-pipelinearkitektur med avancerad data chunkning, frågaingenjör, omrangordning och urval, multi-LLM-stöd med resultatomrangordning och urval, orkestrering och mer – allt konfigurerat utan kodning.

Prognos 4. Gränsen mellan kopiloter och agenter kommer att suddas ut

GenAI-kopiloter som chatbots är agenter som stödjer människor. Till slut är det människor som fattar beslut om vad man ska göra med de genererade resultaten. Men GenAI-agenter kan fullt automatisera svar utan att involvera människor. Dessa kallas ofta agenter eller agentic AI.

Några människor ser dem som två separata tillvägagångssätt. Men verkligheten är mer komplicerad. Kopiloter börjar redan automatisera vissa grundläggande uppgifter, och låter användare bekräfta åtgärder och automatisera de steg som behövs för att slutföra dem.

Förvänta dig att kopiloter kommer att utvecklas över tiden till en kombination av kopiloter och agenter. Precis som applikationer hjälper till att omkonstruera och effektivisera affärsprocesser, borde assistenter börja användas för att automatisera mellanliggande steg i de uppgifter de stödjer. GenAI-baserade agenter bör också inkludera människor för att hantera undantag eller godkänna en plan som genereras med hjälp av en LLM.

Prognos 5. GenAI kommer att driva antagandet av datafabriker, dataprodukter och öppna datastandarder

GenAI förväntas vara den största drivkraften för förändring inom IT under de närmaste åren, eftersom IT måste anpassa sig för att möjliggöra att företag kan förverkliga den fulla fördelen med GenAI.

Som en del av Gartner Hype Cycles för Data Management 2024 har Gartner identifierat 3, och endast 3, teknologier som transformationella för datahantering och för de organisationer som är beroende av data: Datafabriker, Dataprodukter och Öppna tabellformat. Alla 3 hjälper till att göra data mer tillgänglig för användning med GenAI, eftersom de gör det lättare för data att användas av dessa nya uppsättningar GenAI-verktyg.

Nexla har implementerat en dataproduktarkitektur byggd på en datafabrik av detta skäl. Datafabriken tillhandahåller ett enhetligt lager för att hantera all data på samma sätt, oavsett skillnader i format, hastighet eller åtkomstprotokoll. Dataprodukter skapas sedan för att stödja specifika databehov, såsom för RAG.

Till exempel implementerar ett stort finansiellt tjänsteföretag GenAI för att förbättra riskhantering. De använder Nexla för att skapa en enhetlig datafabrik. Nexla upptäcker automatiskt schema och genererar anslutningar och dataprodukter. Företaget definierar sedan dataprodukter för specifika riskmätvärden som aggregerar, rensar och omvandlar data till rätt format som indata för att implementera RAG-agenter för dynamisk regulatorisk rapportering. Nexla tillhandahåller datastyrningskontroller, inklusive datahärstamning och åtkomstkontroll, för att säkerställa regelefterlevnad. Vår integrationsplattform för analys, drift, B2B och GenAI är implementerad på en datafabriksarkitektur där GenAI används för att skapa återanvändbara anslutningar, dataprodukter och arbetsflöden. Stöd för öppna datastandarder som Apache Iceberg gör det lättare att komma åt mer och mer data.

Hur man kan kopilotera sig mot Agentic AI

Så hur ska du förbereda dig för att göra GenAI mainstream i ditt företag baserat på dessa prognoser?
Först, om du inte redan har gjort det, kom igång med din första GenAI RAG-assistent för dina kunder eller anställda. Identifiera ett viktigt och relativt enkelt användningsfall där du redan har rätt kunskapsbas för att lyckas.

Andra, se till att ha ett litet team av GenAI-experter som kan hjälpa till att sätta rätt modulär RAG-arkitektur, med rätt integrationsverktyg, på plats för att stödja dina första projekt. Var inte rädd för att utvärdera nya leverantörer med no-code/low-code-verktyg.

Tredje, börja identifiera de datahanteringsbästa praxis som du kommer att behöva för att lyckas. Detta innefattar inte bara en datafabrik och koncept som dataprodukter. Du behöver också styra din data för AI.

Tiden är nu. 2025 är året då majoriteten kommer att lyckas. Få inte lämnas efter.