Det smarta företaget: Att göra generativ AI företagsklar

Låt oss börja här: Ja, möjligheterna för Generative AI (GenAI) är enorma. Ja, det förändrar världen som vi känner den (och snabbare än de flesta av oss förutspådde). Och ja, tekniken blir smartare. Men implikationerna för GenAI, med dess förmåga att generera text, bilder och berättelser, för företag och företag är mycket annorlunda än påverkan på allmänheten – eftersom de flesta företag inte skriver dikter eller berättelser (vilket är populärt bland ChatGPT-användare), de betjänar sina kunder.

Många företag har erfarenhet av naturlig språkbehandling (NLP) och lågnivåchattbotar, men GenAI accelererar hur data kan integreras, tolkas och omvandlas till affärsresultat. Därför måste de snabbt avgöra vilka GenAI-användningsfall som kommer att lösa deras mest pressande affärsutmaningar och driva tillväxt. För att förstå hur företag kan göra GenAI företagsklart med sina data, är det viktigt att granska hur vi kommit till denna punkt.

Resan från NLP till Large Language Model (LLM)

Tekniken har försökt att förstå naturliga språk i årtionden. Medan det mänskliga språket i sig är en utvecklad form av mänsklig uttrycksform, har faktum att människor utvecklats till så många dialekter världen över – från symboler och ljud till stavelser, fonetik och språk – lämnat tekniken att förlita sig på enklare digitala kommunikationsmetoder med bitar och byte, etc., tills relativt nyligen.

Jag började arbeta med NLP-program för nästan ett decennium sedan. Då handlade det allt om språktaxonomi och ontologi, entitetsutvinning och en primitiv form av grafdatatabas (i huvudsak i XML) för att försöka upprätthålla komplexa relationer och sammanhang mellan olika enheter, förstå sökfrågor, generera ett ordmoln och leverera resultat. Det fanns ingenting matematiskt om det. Det fanns mycket Human in the Loop för att bygga ut taxonomidatabaser, mycket XML-parsing och framför allt, mycket beräkning och minne i spel. Onödigt att säga, vissa program var framgångsrika, och de flesta var inte. Maskinlärande kom sedan med flera tillvägagångssätt för djupinlärning och neuronnät, etc., vilket accelererade naturlig språkförståelse (NLU) och naturlig språkinferens (NLI). Men det fanns tre begränsande faktorer – beräkningskraft för att bearbeta komplexa modeller, tillgång till stora mängder data som kan lära maskiner, och primärt, en modell som kan lära sig själv och korrigera sig själv genom att bilda tidsmässiga relationer mellan fraser.

Framåt två decennier senare, och GPUs levererar massiv beräkningskraft, självlärande och utvecklande neuronnät är normen, övervakade / oövervakade / halvövervakade lärandemodeller finns alla, och framför allt, finns det större tillgång till stora mängder data på flera språk, inklusive olika sociala medieplattformar, som dessa modeller kan träna på. Resultatet är AI-motorer som kan ansluta till dig på ditt naturliga språk, förstå känslan och meningen bakom dina frågor, låta som en människa och svara som en.

Vi har alla, genom vår sociala medienärvaro, varit omedvetet en “Human” i “Loop” för att träna dessa motorer. Vi har nu motorer som påstår sig vara tränade på trillions av parametrar, kan ta hundratals och tusentals inmatningsparametrar, som är multimodala och svara på oss på vårt språk. Oavsett om det är GPT4 / 5, PaLM2, Llama eller någon annan LLM som har publicerats hittills, de framträder som mer kontextuella vertikala problemsolver.

Systems of Engagement och Systems of Record

Medan resan från NLP till LLM har varit stor tack vare den silikonsbaserade utvecklingen, datamodeller och tillgängligheten av stora mängder träningsdata som vi alla har genererat, behöver företag – detaljhandlare, tillverkare, banker, etc. – var och en mycket olika tillämpningar av denna teknik. Först och främst kan företag inte ha råd med AI-hallucination – de behöver 0% hallucination och 100% noggrannhet för användare som interagerar med AI. Det finns ett antal frågor som kräver absolut noggrannhet för att vara av någon affärsanvändning – t.ex. Hur många rum finns tillgängliga på ditt hotell? Har du en första klass biljett tillgänglig?

För att motverka AI-hallucination, kommer ålderns koncept Systems of Engagement och Systems of Records in. Systems of Engagement, antingen med dina kunder, leverantörer eller anställda, kan utnyttja en GenAI-baserad konversationsplattform direkt, efter att ha tränats för företagsspecifika prompt – det är den “enklare” delen. Utmaningen är att införa Systems of Records i värdekedjan. Många företag är fortfarande i en statisk tabell- och entitetsbaserad värld och kommer att förbli så eftersom de flesta företag är statiska på en organisatorisk eller företagsnivå, medan händelser och arbetsflöden gör dem dynamiska på en transaktionsnivå.

Här pratar vi om nästa generations konversationsplattformar som inte bara hanterar samtal, gränssnitt och frågor, utan också tar kundresor hela vägen till uppfyllelse. Det finns olika arkitekturansatser till sådana konversationsplattformar. En omedelbar möjlighet är att använda hybridmellanprogram som fungerar som en konsoliderare mellan vektoriserad och märkt företagsdata och LLM-styrd konversationsprompt och levererar ett 0% hallucinationsresultat till konsumenter.

Det krävs en enorm mängd datapreparationsarbete av företag för att göra det begripligt för en LLM-motor. Vi kallar det för att “platta till” de traditionella tabell- och entitetsdrivna datamodellerna. Grafdatatabaser, som representerar och lagrar data på ett sätt som relationella databaser inte kan, hittar ett nytt syfte på denna resa. Målet är att omvandla företagsdatabaser till mer begripliga grafdatatabaser med relationer som definierar sammanhang och mening, vilket gör det lättare för LLM-motorer att lära sig och därför svara på prompt från slutkunder genom en kombination av konversations- och realtidsfrågor. Denna uppgift att möjliggöra företagsdata för att vara LLM-klar är nyckeln till att tillhandahålla en komplett Systems of Engagement till Systems of Record-upplevelse och ta användarupplevelser hela vägen till uppfyllelse.

Vad som kommer härnäst

På denna punkt, med dessa framsteg inom data och AI, kommer den mest omedelbara påverkan inom området programkodsgenerering – som visas av uppkomsten av Microsoft Copilot, Amazone CodeWhisperer och andra verktyg bland utvecklare. Dessa verktyg startar legacy-moderniseringsprogram, många av vilka ofta är strandsatta på grund av tids- och kostnadsproblem. Med kodgenereringsverktyg som drivs av GenAI, ser vi moderniseringsprojekt accelerera sina tidtabeller med 20-40%. I gröna fältkodsutvecklingsprojekt kommer dessa verktyg att tillåta utvecklare att flytta tid och produktivitetssparande mot design och mer innovativa projekt.

Utöver programkodutveckling leder GenAI-verktyg till skapandet av nya vertikala användningsfall och scenarier som syftar till att lösa företagens mest pressande utmaningar, och vi börjar bara skrapa på ytan av vad som måste göras för att dra full nytta av denna trend. Trots detta löser vi redan flera problem och frågor inom detaljhandels- och logistiksektorn genom att utnyttja GenAI:

Hur mycket lager har jag på lagret, och när ska jag utlösa påfyllning? Är det lönsamt att lagra i förväg? Är min landad pris rätt eller kommer det att eskalera? Vilka artiklar kan jag paketera eller vilken typ av personanpassning kan jag tillhandahålla för att höja min vinst?

Att besvara dessa typer av frågor kräver en kombination av konversationsgränssnitt, hög noggrannhetsdatastyrda frågor i bakänden och en domän tung maskinlärande modell som levererar förutsägelser och framtida vägledning. Således skulle mitt råd till företag vara, oavsett om du är en AI-utforskare eller en Generative AI-störare, att samarbeta med tjänsteleverantörer som har bevisad AI-expertis och robusta data- och analytiska förmågor som kan utrusta dig att kapitalisera på GenAI-modeller som passar dina affärsbehov och hjälpa dig att hålla dig före kurvan.