Stoppa AI från att skapa historier: En guide till att förhindra hallucinationer

AI revolutionerar sättet som nästan varje bransch opererar. Det gör oss mer effektiva, mer produktiva och – när det implementeras korrekt – bättre på våra jobb överlag. Men när vår tillit till denna nya teknologi ökar snabbt, måste vi påminna oss om en enkel sak: AI är inte ofelbar. Dess utdata bör inte tas för givet eftersom, precis som människor, AI kan göra misstag.

Vi kallar dessa misstag “AI-hallucinationer”. Sådana misstag sträcker sig från att svara på ett matematiskt problem felaktigt till att tillhandahålla felaktig information om regeringspolicys. I starkt reglerade branscher kan hallucinationer leda till dyra böter och juridiska problem, för att inte tala om missnöjda kunder.

Frekvensen av AI-hallucinationer bör därför vara en orsak till oro: det uppskattas att moderna stora språkmodeller (LLM) hallucinerar någonstans mellan 1% och 30% av tiden. Detta resulterar i hundratals falska svar som genereras dagligen, vilket innebär att företag som vill utnyttja denna teknik måste vara extremt selektiva när de väljer vilka verktyg de ska implementera.

Låt oss undersöka varför AI-hallucinationer händer, vad som står på spel och hur vi kan identifiera och korrigera dem.

Skräp in, skräp ut

Kommer du ihåg att spela spelet “telefon” som barn? Hur den ursprungliga frasen blev förvanskad när den gick från spelare till spelare, vilket resulterade i en helt annan uttalande när den nådde slutet av cirkeln?

Sättet som AI lär sig från sina indata är liknande. Svaren som LLM genererar är bara så bra som den information de får, vilket innebär att felaktig kontext kan leda till generering och spridning av falsk information. Om ett AI-system byggs på data som är felaktig, föråldrad eller partisk, kommer dess utdata att återspegla det.

Som sådan är en LLM bara så bra som dess indata, särskilt när det finns en brist på mänsklig ingripande eller tillsyn. När fler autonoma AI-lösningar sprids, är det avgörande att vi tillhandahåller verktyg med rätt datakontext för att undvika att orsaka hallucinationer. Vi behöver rigorös utbildning av denna data och/eller förmågan att vägleda LLM så att de svarar bara från den kontext de tillhandahålls, snarare än att dra information från någonstans på internet.

Varför är hallucinationer viktiga?

För kundorienterade företag är noggrannhet allt. Om anställda förlitar sig på AI för uppgifter som syntetiserar kunddata eller svarar på kundfrågor, behöver de lita på att de svar som dessa verktyg genererar är korrekta.

Annars företag riskerar skada på sin rykte och kundlojalitet. Om kunder matas med otillräcklig eller felaktig information av en chatbot, eller om de lämnas väntande medan anställda faktakontrollerar chatbotens utdata, kan de ta sin verksamhet någon annanstans. Människor borde inte behöva oroa sig för om företagen de interagerar med matar dem felaktig information – de vill snabb och tillförlitlig support, vilket innebär att få dessa interaktioner rätt är av största vikt.

Företagsledare måste göra sin hemläxa när de väljer rätt AI-verktyg för sina anställda. AI är tänkt att frigöra tid och energi för personalen att fokusera på högvärdiga uppgifter; att investera i en chatbot som kräver konstant mänsklig granskning besegrar hela syftet med antagandet. Men är existensen av hallucinationer verkligen så framträdande eller är termen bara överanvänd för att identifiera med varje svar vi antar är fel?

Bekämpa AI-hallucinationer

Ta i beaktande: Dynamisk meningsteori (DMT), konceptet att en förståelse mellan två personer – i detta fall användaren och AI – utbyts. Men begränsningarna i språk och kunskap om ämnena orsakar en feltolkning av svaret.

I fallet med AI-genererade svar är det möjligt att de underliggande algoritmerna ännu inte är fullständigt utrustade för att tolka eller generera text på ett sätt som överensstämmer med de förväntningar vi har som människor. Denna diskrepans kan leda till svar som kan verka korrekta på ytan men slutligen saknar den djup eller nyans som krävs för sann förståelse.

Dessutom drar de flesta allmänna LLM information bara från innehåll som är offentligt tillgängligt på internet. Företagsapplikationer av AI fungerar bättre när de informeras av data och policys som är specifika för enskilda branscher och företag. Modeller kan också förbättras med direkt mänsklig återkoppling – särskilt agenslösningar som är utformade för att svara på ton och syntax.

Sådana verktyg bör också testas strängt innan de blir kundorienterade. Detta är en kritisk del av att förhindra AI-hallucinationer. Hela flödet bör testas med hjälp av samtal med LLM som spelar rollen som en persona. Detta tillåter företag att bättre anta den allmänna framgången av samtal med en AI-modell innan de släpper ut den i världen.

Det är avgörande för både utvecklare och användare av AI-teknik att förbli medvetna om dynamisk meningsteori i de svar de får, samt dynamiken i språket som används i indata. Kom ihåg, kontext är nyckeln. Och, som människor, har vi större delen av vår kontext förstådd genom outtalade medel, antingen det är genom kroppsspråk, samhällstrender – till och med vår ton. Som människor har vi potentialen att hallucinera som svar på frågor. Men, i vår nuvarande iteration av AI, är vår mänskliga förståelse inte så lätt att kontextualisera, så vi måste vara mer kritiska till den kontext vi tillhandahåller i skrift.

Låt det räcka med att säga – inte alla AI-modeller är skapade lika. När tekniken utvecklas för att slutföra alltmer komplexa uppgifter, är det avgörande för företag som överväger implementering att identifiera verktyg som kommer att förbättra kundinteraktioner och upplevelser snarare än att dra av från dem.

Bojorna ligger inte bara på lösningstillhandahållare för att säkerställa att de har gjort allt i sin makt för att minimera chansen för hallucinationer att inträffa. Potentiella köpare har sin roll att spela också. Genom att prioritera lösningar som är rigoröst tränade och testade och kan lära sig från proprietär data (istället för allt och allt på internet), kan företag göra det mesta av sina AI-investeringar för att sätta anställda och kunder upp för framgång.