Tankeledere

Det Smarte Virksomhed: Gør Generative AI Virksomhedsklar

mm

Lad os begynde her: Ja, mulighederne for Generative AI (GenAI) er enorme. Ja, det ændrer verden, som vi kender den (og hurtigere, end de fleste af os havde forudset). Og ja, teknologien bliver smartere. Men implikationerne for GenAI, med dens evne til at generere tekst, billeder og narrativer, på virksomheder og forretninger er meget forskellige fra effekten på den brede offentlighed – efter alt, de fleste virksomheder skriver ikke digte eller historier (hvad der er populært blandt ChatGPT-brugere), de betjener deres kunder.

Mange virksomheder har erfaring med naturlig sprogbehandling (NLP) og lavniveaudialogrobotter, men GenAI accelererer, hvordan data kan integreres, fortolkes og omdannes til forretningsresultater. Derfor skal de hurtigt afgøre, hvilke GenAI-brugstilfælde der vil løse deres mest presserende forretningsudfordringer og drive vækst. For at forstå, hvordan virksomheder kan gøre GenAI virksomhedsklar med deres data, er det vigtigt at gennemgå, hvordan vi er nået til dette punkt.

Rejsen fra NLP til Stort Sprogmodel (LLM)

Teknologien har forsøgt at give mening til naturlige sprog i årtier. Mens menneskesproget i sig selv er en udviklet form for menneskelig udtryk, har det faktum, at mennesker er udviklet til så mange dialekter verden over – fra symboler og lyde til stavelser, fonetik og sprog – efterladt teknologien afhængig af mere simple digitale kommunikationsmetoder med bits og bytes osv., indtil relativt nylig.

Jeg begyndte at arbejde på NLP-programmer for næsten et årti siden. Dengang handlede det om sprog-taxonomi og -ontologi, entitetsudtrækning og en primitiv form for grafdatabase (overvejende i XML) for at forsøge at opretholde komplekse relationer og kontekst mellem forskellige enheder, give mening til søgeforespørgsler, generere en word cloud og levere resultater. Der var intet matematisk om det. Der var meget Menneske i Løkken for at bygge ud taksonomidatabaser, masser af XML-parsing og vigtigst, masser af beregning og hukommelse i spil. Det er uden tvivl, at nogle programmer var succesfulde, og de fleste var det ikke. Maskinlæring kom herefter med multiple tilgange til dyb læring og neurale netværk osv., hvilket accelererede naturlig sprogforståelse (NLU) og naturlig sprogslæring (NLI). Der var dog tre begrænsende faktorer – beregningskraft til at behandle komplekse modeller, adgang til volumener af data, der kan undervise maskiner, og primært, en model, der kan selv-lære og selv-korrigerere ved at danne tidsmæssige relationer mellem fraser.

I hurtig fremadrettet til to årtier senere, og GPUs leverer massiv beregningskraft, selv-lærende og udviklende neurale netværk er normen, overvåget/uovertaget/semi-overtaget læringmodeller findes alle, og over alt, er der større adgang til massive mængder af data på flere sprog, herunder forskellige sociale medieplatforme, som disse modeller kan træne på. Resultatet er AI-motorer, der kan forbinde sig med dig i dit naturlige sprog, forstå følelsen og meningen bag dine forespørgsler, lyde som et menneske og svare som et.

Vi alle, gennem vores sociale medie-nærvær, har været uvidende en ‘Menneske’ i ‘Løkken’ for at træne disse motorer. Vi har nu motorer, der påstår at være trænet på trillioner af parametre, kan tage hundredvis og tusindvis af inputparametre, der er multi-modale og svare os på vores sprog. Uanset om det er GPT4/5, PaLM2, Llama eller andre LLM’er, der er offentliggjort indtil nu, de opstår som mere kontekstuelle, lodrette problemløsere.

Systemer til Engagement og Systemer til Optegnelse

Mens rejsen fra NLP til LLM’er har været stor takket være Silicon-evolutionen, data-modeller og tilgængeligheden af massive mængder af træningsdata, som vi alle har genereret, har virksomheder – detailhandlende, producenter, banker osv. – hver brug for meget forskellige anvendelser af denne teknologi. Først og fremmest kan virksomheder ikke tillade AI-hallucination – de har brug for 0% hallucination og 100% nøjagtighed for brugere, der interagerer med AI. Der er en række forespørgsler, der kræver absolut nøjagtighed for at være til nogen forretningsbrug – f.eks. Hvor mange værelser er ledige på dit hotel? Har du en førsteklasses billet til rådighed?

For at modvirke AI-hallucination, indtræder den gamle koncept af Systemer til Engagement og Systemer til Optegnelse. Systemer til Engagement, enten det er med dine kunder, leverandører eller ansatte, kan udnytte en GenAI-baseret konversationsplatform ud af æsken, efter at være trænet for business-specifikke prompts – det er den “letteste” del. Udfordringen er at indbygge Systemer til Optegnelse i værdikæden.  Mange virksomheder er stadig i en statisk tabel- og entitetsbaseret verden og vil blive sådan, fordi de fleste virksomheder er statiske på et organisations- eller virksomhedsniveau, mens begivenheder og arbejdsgange gør dem dynamiske på et transaktionsniveau.

Dette er, hvor vi taler om næste generations konversationsplatforme, der ikke kun behandler samtaler, grænseflader og forespørgsler, men også tager kunderejser hele vejen til opfyldelse. Der er forskellige arkitektoniske tilgange til sådanne konversationsplatforme. En umiddelbar mulighed er at bruge hybrid middleware, der fungerer som en konsolidering af sorts mellem vektoriseret og mærket virksomhedsdata og LLM-drevne konversationsprompts og leverer en 0% hallucinationsresultat til forbrugere.

Der er en massiv mængde dataforberedelse, der kræves af virksomheder for at gøre det forståeligt for en LLM-motor. Vi kalder det fladning af de traditionelle tabel- og entitetsdrevne data-modeller. Graf-databaser, der repræsenterer og gemmer data på en måde, som relationelle databaser ikke kan, finder en ny formål i denne rejse. Målet er at konvertere virksomhedsdatabaser til mere forståelige graf-databaser med relationer, der definerer kontekst og mening, og gør det lettere for LLM-motorer at lære og derfor svare på prompts fra slutbrugere gennem en kombination af konversations- og realtidsforespørgsler. Dette opgave med at aktivere virksomhedsdata til at være LLM-klar er nøglen til at give en samlet Systems til Engagement til Systems til Optegnelse-oplevelse og tage brugeroplevelser hele vejen til opfyldelse.

Hvad Kommer Næste

På dette punkt, med disse fremskridt i data og AI, kommer den mest umiddelbare effekt i området software-kodegenerering – som beviset af opkomsten af Microsoft Copilot, Amazone CodeWhisperer og andre værktøjer blandt udviklere. Disse værktøjer sætter legacy-moderniseringsprogrammer i gang, mange af dem er ofte standsede på grund af tid og omkostningsbekymringer. Med kodegenereringsværktøjer, der er drevet af GenAI, ser vi moderniseringsprojekter accelerere deres tidsplaner med 20-40%. I grøn felt-kodeudviklingsprojekter vil disse værktøjer give udviklere mulighed for at flytte tid og produktivitetssparelse mod design-tænkning og mere innovative projekter.

Uden for software-kodeudvikling fører GenAI-værktøjer til skabelsen af nye lodrette brugstilfælde og scenarier, der er rettet mod at løse virksomheders mest presserende udfordringer, og vi er kun lige begyndt at skrabe overfladen af, hvad der skal gøres for at udnytte denne trend fuldt ud. Alligevel løser vi allerede flere problemer og spørgsmål i detail- og logistiksektoren ved at udnytte GenAI:

Hvor meget lager har jeg på lageret, og hvornår skal jeg udløse genopfyldning? Er det profitabelt at lagre forud? Er min landingspris korrekt eller vil den stige? Hvilke varer kan jeg pakke eller hvilken slags personliggørelse kan jeg give for at hæve min profit?

At svare på disse spørgsmål kræver en kombination af konversationsfrontender, højpræcis data-drevne forespørgsler i bagenden og en domæne-tung maskinlæringsmodel, der leverer forudsigelser og fremtidig vejledning. Derfor er min råd til virksomheder, uanset om du er en AI-udforsker eller en Generative AI-forstyrrelse, at samarbejde med serviceudbydere, der har bevist AI-ekspertise og robuste data- og analytics-kapaciteter, som kan udstyre dig til at kapitalisere på GenAI-modeller, der er tilpasset dine forretningsbehov, og hjælpe dig med at blive foran kurven.

Padmanabhan (Paddy) er en cloud-native platform og produktionsingeniørleder med fokus på data-drevne platforme, microservices og cloud-native ingeniørarbejde samt modernisering af legacy-teknologi og -produkter. Han er Senior Vice President & General Manager, der leder den globale forbruger-teknologi-afdeling i Persistent Systems, og hans team muliggør digital produktionsingeniørarbejde for deres kunder på tværs af detail, CPG, rejse og logistik.