Stop AI fra at spinne historier: En guide til at forhindre hallucinationer

AI revolutionerer måden, næsten hver industri opererer på. Det gør os mere effektive, mere produktive og – når det implementeres korrekt – bedre til vores job som helhed. Men mens vores afhængighed af denne nye teknologi øger hurtigt, må vi huske os på en enkel kendsgerning: AI er ikke ufejlbar. Dets outputs bør ikke tages for pålydende, fordi AI, ligesom mennesker, kan begå fejl.

Vi kalder disse fejl “AI-hallucinationer”. Sådanne fejl kan variere fra at besvare et matematisk problem forkert til at give inkorrekt information om regeringspolitikker. I højt regulerede industrier kan hallucinationer føre til dyre bøder og juridiske problemer, ikke at tale om utilfredse kunder.

Hyppigheden af AI-hallucinationer bør derfor være årsag til bekymring: det estimeres, at moderne store sprogmodeller (LLM’er) hallucinerer mellem 1% og 30% af tiden. Dette resulterer i hundredvis af falske svar, der genereres dagligt, hvilket betyder, at virksomheder, der søger at udnytte denne teknologi, må være meget selektive, når de vælger, hvilke værktøjer de implementerer.

Lad os udforske, hvorfor AI-hallucinationer sker, hvad der er på spil, og hvordan vi kan identificere og korrigere dem.

Skrald ind, skrald ud

Huskker du, da du spillede telefonlegaget som barn? Hvordan den oprindelige sætning blev forvansket, da den blev overført fra spiller til spiller, og resulterede i en helt anden udtalelse, når den nåede rundt om cirklen?

Den måde, AI lærer af sine inputs, er lignende. De svar, LLM’er genererer, er kun så gode som den information, de får, hvilket betyder, at forkert kontekst kan føre til generation og spredning af falsk information. Hvis et AI-system er bygget på data, der er inkorrekt, forældet eller fordomsfuldt, så vil dets outputs reflektere det.

Som sådan er en LLM kun så god som dens inputs, især når der er mangel på menneskelig indgriben eller tilsyn. Da mere autonome AI-løsninger bliver mere udbredte, er det kritisk, at vi giver værktøjerne den korrekte datakontekst for at undgå at forårsage hallucinationer. Vi har brug for omhyggelig træning af denne data og/eller evnen til at guide LLM’er, så de kun responderer fra den kontekst, de får, og ikke trækker information fra hele internettet.

Hvorfor betyder hallucinationer noget?

For kundeorienterede virksomheder er præcision alt. Hvis medarbejderne er afhængige af AI til opgaver som at syntetisere kundedata eller besvare kundespørgsmål, har de brug for at stole på, at de svar, sådanne værktøjer genererer, er korrekte.

Ellers risikerer virksomhederne skade på deres rygte og kundetilfredshed. Hvis kunderne får utilstrækkelige eller forkerte svar fra en chatbot, eller hvis de bliver siddende og venter, mens medarbejderne faktatjekker chatbotens outputs, kan de tage deres forretning andre steder hen. Mennesker bør ikke behøve at bekymre sig om, hvorvidt de virksomheder, de interagerer med, føder dem falsk information – de vil have hurtig og pålidelig support, hvilket betyder, at det er af største vigtighed at få disse interaktioner rigtigt.

Virksomhedsledere må gøre deres hjemmearbejde, når de vælger det rigtige AI-værktøj til deres medarbejdere. AI skal frigøre tid og energi for medarbejderne til at fokusere på højere-værdiopgaver; at investere i en chatbot, der kræver konstant menneskelig overvågning, modsiger formålet med at implementere det. Men er hallucinationernes eksistens virkelig så fremherskende, eller er begrebet simpelthen overbrugt til at identificere med enhver respons, vi antager er forkert?

Bekæmpelse af AI-hallucinationer

Tag i betragtning: Dynamic Meaning Theory (DMT), begrebet om, at en forståelse mellem to personer – i dette tilfælde brugeren og AI – udveksles. Men begrænsningerne i sprog og viden om emnerne kan føre til en misalignering i fortolkningen af svaret.

I tilfælde af AI-genererede svar kan det være muligt, at de underliggende algoritmer endnu ikke er fuldt ud udstyret til at tolke eller generere tekst på en måde, der er i overensstemmelse med de forventninger, vi har som mennesker. Denne diskrepans kan føre til svar, der kan synes korrekte på overfladen, men i sidste ende mangler dybde eller nuance for sand forståelse.

Desuden trækker de fleste generelle LLM’er kun information fra offentligt tilgængeligt indhold på internettet. Enterprise-applikationer af AI fungerer bedre, når de informeres af data og politikker, der er specifikke for enkelte industrier og virksomheder. Modeller kan også forbedres med direkte menneskelig feedback – især agensløsninger, der er designet til at reagere på tone og syntaks.

Sådanne værktøjer bør også testes strengt, før de bliver kundeorienterede. Dette er en kritisk del af at forhindre AI-hallucinationer. Hele flowet bør testes ved hjælp af turn-baserede samtaler med LLM’en som persona. Dette giver virksomhederne mulighed for bedre at antage den generelle succes af samtaler med en AI-model, før den frigøres til verden.

Det er essentiel for både udviklere og brugere af AI-teknologi at være bevidste om dynamisk meningsteori i de svar, de modtager, samt dynamikken i det sprog, der bruges i input. Husk, kontekst er nøgle. Og som mennesker har vi det potentielle til at hallucinere i respons til spørgsmål. Men i vores nuværende iteration af AI er vores menneske-menneske-forståelse ikke så let at kontekstualisere, så vi må være mere kritiske over for den kontekst, vi giver i skrift.

Det skal siges – ikke alle AI-modeller er skabt lige. Da teknologien udvikles til at udføre stadig mere komplekse opgaver, er det kritisk for virksomheder, der overvejer implementering, at identificere værktøjer, der kan forbedre kundeinteraktioner og -oplevelser, snarere end at fratage dem.

Byrden ligger ikke kun på løsningsudbydere for at sikre, at de har gjort alt i deres magt for at minimere chancen for, at hallucinationer opstår. Potentielle købere har også deres rol at spille. Ved at prioritere løsninger, der er omhyggeligt trænet og testet og kan lære af proprietær data (i stedet for alt og alle på internettet), kan virksomheder få det bedste ud af deres AI-investeringer og sætte medarbejdere og kunder op for succes.