Stopp AI fra å spinne historier: En guide til å forebygge hallucinasjoner

AI revolusjonerer måten næringslivet opererer på. Det gjør oss mer effektive, mer produktive og – når det implementeres riktig – bedre i jobben vår. Men mens vår avhengighet av denne nye teknologien øker raskt, må vi påminne oss om en enkel sak: AI er ikke feilfritt. Utdataene dens bør ikke tas som en selvfølge, fordi AI, likt mennesker, kan gjøre feil.

Vi kaller disse feilene “AI-hallusinasjoner”. Slike feil kan variere fra å svare feil på et matematisk problem til å gi uviktige opplysninger om regjeringens politikker. I høyt regulerte bransjer kan hallusinasjoner føre til dyre boter og juridiske problemer, ikke å mentionere misfornøyde kunder.

Frekvensen av AI-hallusinasjoner bør derfor være årsak til bekymring: det er estimert at moderne store språkmodeller (LLM) hallusinerer mellom 1% og 30% av tiden. Dette resulterer i hundrevis av feilaktige svar generert daglig, hvilket betyr at bedrifter som ønsker å utnytte denne teknologien må være svært selektive når de velger hvilke verktøy å implementere.

La oss utforske hvorfor AI-hallusinasjoner skjer, hva som står på spill, og hvordan vi kan identifisere og korrigere dem.

Skrald inn, skrald ut

Husker du å spille telefon-spillet som barn? Hvordan start-setningen ble forvrengt når den gikk fra spiller til spiller, resulterende i en helt annen uttalelse når den kom rundt sirkelen?

Måten AI lærer fra sine inn-data er lignende. Responsene LLM genererer er bare like gode som informasjonen de får, hvilket betyr at feilaktig kontekst kan føre til generering og spredning av feilaktige opplysninger. Hvis et AI-system er bygget på data som er uaktuell, feilaktig eller bias, vil utdataene reflektere dette.

Som sådan er en LLM bare like god som inn-dataene, spesielt når det er mangel på menneskelig inngripen eller tilsyn. Ettersom flere autonome AI-løsninger sprenger, er det kritisk at vi gir verktøyene riktig data-kontekst for å unngå å forårsake hallusinasjoner. Vi trenger rigorøs trening av denne dataen, og/eller evnen til å guide LLM-er slik at de responderer kun fra konteksten de får, i stedet for å hente informasjon fra hele internettet.

Hvorfor betyr hallusinasjoner noe?

For kunde-orienterte bedrifter er nøyaktighet alt. Hvis ansatte er avhengige av AI for oppgaver som å syntetisere kundedata eller svare på kunde-spørsmål, trenger de å stole på at svarene slike verktøy genererer er nøyaktige.

Ellers risikerer bedrifter å skade sin omdømme og kunde-loyalitet. Hvis kunder får ufullstendige eller feilaktige svar fra en chatbot, eller hvis de må vente mens ansatte faktasjekker chatbotens utdata, kan de ta sin forretning andre steder. Folk bør ikke bekymre seg for om bedriftene de samhandler med, følger dem med feilaktige opplysninger – de ønsker rask og pålitelig støtte, hvilket betyr at å få disse interaksjonene riktige er av største betydning.

Bedriftsledere må gjøre sin hjemmelekse når de velger riktig AI-verktøy for sine ansatte. AI skal frigjøre tid og energi for ansatte til å fokusere på høyere-verdi-oppgaver; å investere i en chatbot som krever konstant menneskelig tilsyn, ødelegger hele formålet med å innføre teknologien. Men er eksistensen av hallusinasjoner virkelig så fremtredende, eller er begrepet bare overbrukt for å identifisere enhver respons vi antar er feil?

Kamp mot AI-hallusinasjoner

Vurdér følgende: Dynamisk meningsteori (DMT), konseptet om at en forståelse mellom to personer – i dette tilfelle brukeren og AI-en – utveksles. Men begrensningene i språk og kunnskap om emnene kan føre til en misforståelse i tolkningen av responsen.

I tilfelle AI-genererte responser er det mulig at de underliggende algoritmene ennå ikke er fullt ut rustet til å tolke eller generere tekst på en måte som stemmer overens med våre forventninger som mennesker. Denne diskrepansen kan føre til responser som kan se nøyaktige ut på overflaten, men mangler dybde eller nuanser for å kunne forstå sannheten.

Fortsatt trekker de fleste generelle LLM-er informasjon bare fra innhold som er offentlig tilgjengelig på internettet. Bedrifts-applikasjoner av AI fungerer bedre når de informeres av data og politikker som er spesifikke for enkelte industrier og bedrifter. Modellene kan også forbedres med direkte menneskelig tilbakemelding – spesielt agente løsninger som er designet til å respondere på tone og syntaks.

Slike verktøy bør også testes strengt før de blir kunde-orienterte. Dette er en kritisk del av å forebygge AI-hallusinasjoner. Hele flyten bør testes ved hjelp av samtaler med LLM som spiller rollen som en persona. Dette tillater bedrifter å anta en bedre suksessrate for samtaler med en AI-modell før den slipper ut i verden.

Det er essensielt for både utviklere og brukere av AI-teknologi å være klar over dynamisk meningsteori i responsene de mottar, samt dynamikken i språket som brukes i inn-dataene. Husk, kontekst er nøkkel. Og som mennesker har vi stor del av vår kontekst forstått gjennom uutsagt måter, enten det er gjennom kroppsspråk, sosiale trender – selv vår tone. Som mennesker har vi potensialet til å hallusinere i respons til spørsmål. Men i vår nåværende iterasjon av AI, er vår menneske-til-menneske-forståelse ikke så enkelt å kontekstualisere, så vi må være mer kritiske til konteksten vi gir i skrift.

Det er nok å si – ikke alle AI-modeller er like. Ettersom teknologien utvikler seg for å fullføre stadig mer komplekse oppgaver, er det kritisk for bedrifter som vurderer implementering å identifisere verktøy som vil forbedre kunde-interaksjoner og -opplevelser, i stedet for å trekke dem ned.

Ansvarligheitene ligger ikke bare på løsnings-tilbyderne for å sikre at de har gjort alt i sin makt for å minimere sjansen for hallusinasjoner å skje. Potensielle kjøpere har også sin rolle å spille. Ved å prioritere løsninger som er grundig trent og testet og kan lære fra proprietær data (i stedet for alt og alle på internettet), kan bedrifter få mest mulig ut av sine AI-investeringer for å sette ansatte og kunder opp for suksess.