Det smarta företaget: Gör Generative AI redo för företag

Låt oss börja här: Ja, möjligheterna för Generative AI (GenAI) är enorma. Ja, det förändrar världen som vi känner den (och snabbare än de flesta av oss förutspådde). Och ja, tekniken blir smartare. Men implikationerna för GenAI, med dess förmåga att generera text, bilder och berättelser, för företag och verksamheter är mycket annorlunda än påverkan på allmänheten – eftersom de flesta företag inte skriver dikter eller berättelser (vilket är populärt bland ChatGPT-användare), de betjänar sina kunder.

Många företag har erfarenhet av naturlig språkbehandling (NLP) och lågnivåchattbotar, men GenAI accelererar hur data kan integreras, tolkas och omvandlas till affärsresultat. Därför måste de snabbt avgöra vilka GenAI-användningsfall som kommer att lösa deras mest pressande affärsutmaningar och driva tillväxt. För att förstå hur företag kan göra GenAI företagsklart med sina data, är det viktigt att se hur vi kommit till denna punkt.

Resan från NLP till Large Language Model (LLM)

Tekniken har försökt att förstå naturliga språk i decennier. Medan det mänskliga språket i sig är en utvecklad form av mänsklig uttrycksform, har det faktum att människor har utvecklats till så många dialekter världen över – från symboler och ljud till stavelser, fonetik och språk – lämnat tekniken att förlita sig på enklare digitala kommunikationsmetoder med bitar och byte, etc., tills relativt nyligen.

Jag började arbeta med NLP-program för nästan ett decennium sedan. Då handlade det allt om språktaxonomi och ontologi, entitetsutvinning och en primitiv form av grafdatatabas (i huvudsak i XML) för att försöka upprätthålla komplexa relationer och sammanhang mellan olika entiteter, ge mening åt sökfrågor, generera ett ordmoln och leverera resultat. Det fanns ingenting matematiskt med det. Det fanns mycket mänsklig interaktion för att bygga ut taxonomidatabaser, mycket XML-parsing och framför allt, mycket beräkning och minne i spel. Onödigt att säga, vissa program var framgångsrika, och de flesta var inte. Maskinlärning kom nästa med flera tillvägagångssätt för djupinlärning och neuronnät, etc., vilket accelererade den naturliga språkförståelsen (NLU) och den naturliga språkinferensen (NLI). Men det fanns tre begränsande faktorer – beräkningskraft för att bearbeta komplexa modeller, tillgång till volymer av data som kan lära maskiner, och främst, en modell som kan lära sig själv och korrigera sig själv genom att bilda temporala relationer mellan fraser.

Tidsrymd två decennier senare, och GPU:er levererar massiv beräkningskraft, självlärande och utvecklande neuronnät är normen, övervakad/underövervakad/semi-övervakad inlärningsmodeller finns alla, och framför allt, finns det större tillgång till massiva mängder data på flera språk, inklusive olika sociala medieplattformar, som dessa modeller kan träna på. Resultatet är AI-motorer som kan ansluta till dig på ditt naturliga språk, förstå känslan och meningen bakom dina frågor, låta som en människa och svara som en.

Vi har alla, genom vår sociala medienärvaro, varit omedvetet en “mänsklig” del i “loopen” för att träna dessa motorer. Vi har nu motorer som påstår sig vara tränade på triljoner parametrar, kan ta hundratals och tusentals ingångsparametrar, som är multimodala och svara på oss på vårt språk. Oavsett om det är GPT4/5, PaLM2, Llama eller någon annan LLM som har publicerats hittills, de börjar framträda som mer kontextuella vertikala problemlösare.

Engagemangssystem och register

Medan resan från NLP till LLM har varit stor tack vare den silikonsbaserade utvecklingen, datamodeller och tillgängligheten av massiva mängder träningsdata som vi alla har genererat, behöver företag – detaljhandlare, tillverkare, banker, etc. – mycket olika tillämpningar av denna teknik. Först och främst kan företag inte ha råd med AI-hallucination – de behöver 0% hallucination och 100% exakthet för användare som interagerar med AI. Det finns en mängd frågor som kräver absolut exakthet för att vara av någon affärsnytta – t.ex. Hur många rum finns tillgängliga på mitt hotell? Har jag en första klass biljett tillgänglig?

För att motverka AI-hallucination, kommer den gamla konceptet Engagemangssystem och register in. Engagemangssystem, antingen med kunder, leverantörer eller anställda, kan utnyttja en GenAI-baserad konversationsplattform direkt, efter att ha tränats för affärsspecifika uppmaningar – det är den “enklare” delen. Utmaningen är att införliva register i värdekedjan. Många företag är fortfarande i en statisk tabell- och entitetsbaserad värld och kommer att förbli så eftersom de flesta företag är statiska på en organisatorisk eller företagsnivå, medan händelser och arbetsflöden gör dem dynamiska på en transaktionsnivå.

Här talar vi om nästa generations konversationsplattformar som inte bara hanterar samtal, gränssnitt och frågor, utan också tar kundresor hela vägen till uppfyllelse. Det finns olika arkitektoniska tillvägagångssätt för sådana konversationsplattformar. En omedelbar möjlighet är att använda hybrid-mellanprogramvara som fungerar som en konsoliderare mellan vektoriserad och märkt företagsdata och LLM-drivna konversationsuppmaningar och levererar en 0% hallucinationsresultat till konsumenter.

Det krävs en enorm mängd dataförberedelsearbete av företag för att göra det begripligt för en LLM-motor. Vi kallar det för att “platta till” de traditionella tabell- och entitetsbaserade datamodellerna. Grafdatatabaser, som representerar och lagrar data på ett sätt som relationella datatabeller inte kan, hittar ett nytt syfte i denna resa. Målet är att omvandla företagsdatabaser till mer begripliga grafdatatabaser med relationer som definierar sammanhang och mening, vilket gör det lättare för LLM-motorer att lära sig och därmed svara på uppmaningar från slutkunder genom en kombination av konversations- och realtidsfrågor. Denna uppgift att göra företagsdata redo för LLM är nyckeln till att tillhandahålla en komplett upplevelse från Engagemangssystem till register och ta användarupplevelser hela vägen till uppfyllelse.

Vad kommer härnäst

På denna punkt, med dessa framsteg inom data och AI, kommer den mest omedelbara påverkan inom området programkodsgenerering – som visas av uppkomsten av Microsoft Copilot, Amazone CodeWhisperer och andra verktyg bland utvecklare. Dessa verktyg startar legacy-moderniseringsprogram, många av vilka ofta är stoppade på grund av tids- och kostnadsproblem. Med kodgenereringsverktyg som drivs av GenAI, ser vi moderniseringsprojekt accelerera sina tidtabeller med 20-40%. I gröna fältkodsutvecklingsprojekt kommer dessa verktyg att låta utvecklare flytta tid och produktivitetssparande mot design-tänkande och mer innovativa projekt.

Förutom programkodsutveckling leder GenAI-verktyg till skapandet av nya vertikala användningsfall och scenarier som syftar till att lösa företags mest pressande utmaningar, och vi börjar bara skrapa på ytan av vad som behöver göras för att ta full nytta av denna trend. Trots allt löser vi redan flera problem och frågor i detaljhandels- och logistiksektorn genom att utnyttja GenAI:

Hur mycket lager har jag i lagret, och när ska jag utlösa påfyllning? Är det lönsamt att lagra i förväg? Är min landad pris rätt eller kommer det att eskalera? Vilka artiklar kan jag paketera eller vilken typ av personanpassning kan jag tillhandahålla för att höja min vinst?

Att besvara dessa typer av frågor kräver en kombination av konversationsgränssnitt, hög noggrannhetsdata-drivna frågor i bakänden och en domän-tung maskinlärande modell som levererar förutsägelser och framtida vägledning. Därför är min råd till företag, oavsett om du är en AI-utforskare eller en Generative AI-förstörare, att samarbeta med tjänsteleverantörer som har bevisad AI-expertis och robusta data- och analytiska förmågor som kan utrusta dig att kapitalisera på GenAI-modeller som passar dina affärsbehov och hjälpa dig att hålla dig före kurvan.