Om din AI hallucinerar, skyll inte på AI

AI-“hallucinationer” – de övertygande ljudande men falska svaren – får mycket uppmärksamhet i media, som i den nyliga New York Times-artikeln, AI Is Getting More Powerful, But Its Hallucinations Are Getting Worse. Hallucinationer är en verklig fara när du har att göra med en konsumentchattbot. I sammanhanget med affärsapplikationer av AI är det ett ännu allvarligare problem. Lyckligtvis, som en ledare inom affärsteknologi, har jag mer kontroll över det också. Jag kan se till att agenten har rätt data för att producera ett meningsfullt svar.

Det är det verkliga problemet. I affärer finns det ingen ursäkt för AI-hallucinationer. Sluta skylla AI. Skylla dig själv för att du inte använder AI på rätt sätt.

När generativ AI-verktyg hallucinerar, gör de vad de är utformade för att göra – ge det bästa svaret de kan baserat på den data de har tillgänglig. När de hittar på saker, producerar de ett svar som inte är baserat på verkligheten, det är för att de saknar relevant data, kan inte hitta den eller inte förstår frågan. Ja, nya modeller som OpenAI:s o3 och o4-mini hallucinerar mer, agerar ännu mer “kreativt” när de inte har ett bra svar på den fråga som ställts till dem. Ja, kraftfullare verktyg kan hallucinera mer – men de kan också producera kraftfullare och mer värdefulla resultat om vi sätter upp dem för framgång.

Om du inte vill att din AI ska hallucinera, stryp den inte på data. Ge AI den bästa, mest relevanta data för det problem du vill att den ska lösa, och den kommer inte att frestas att gå vilse.

Även då, när du arbetar med något AI-verktyg, rekommenderar jag att du behåller dina kritiska tänkande färdigheter. De resultat som AI-agenter levererar kan vara produktiva och underhållande, men poängen är inte att stänga av din hjärna och låta programvaran göra allt tänkandet åt dig. Ställ frågor. När en AI-agent ger dig ett svar, ifrågasätt det svaret för att säkerställa att det är meningsfullt och backas upp av data. Om så är fallet, bör det vara ett uppmuntrande tecken på att det är värt din tid att ställa följdfrågor.

Ju mer du ifrågasätter, desto bättre insikter kommer du att få.

Varför hallucinationer sker

Det är ingen hemlighet. AI försöker inte ljuga för dig. Varje stor språkmodell (LLM) AI förutsäger i princip nästa ord eller siffra baserat på sannolikhet.

På en hög nivå är det som händer här att LLM:er kopplar samman meningar och stycken ett ord i taget, förutsäger nästa ord som ska förekomma i meningen baserat på miljarder andra exempel i sin träningsdata. Föregångarna till LLM:er (bortsett från Clippy) var autocomplete-prompt för textmeddelanden och datorkod, automatiserade mänskliga språköversättningsverktyg och andra probabilistiska språkliga system. Med ökad brutto beräkningskraft, plus utbildning på internet-stora volymer av data, blev dessa system “smart” nog att de kunde föra en fullständig konversation via chatt, som världen lärde sig med introduktionen av ChatGPT.

AI-skeptiker gillar att peka på att detta inte är detsamma som riktig “intelligens”, bara programvara som kan destillera och återge den mänskliga intelligens som har matats in i den. Be den att sammanfatta data i en skriven rapport, och den imiterar sättet som andra författare har sammanfattat liknande data.

Det verkar för mig som en akademisk diskussion så länge data är korrekt och analysen är användbar.

Vad händer om AI inte har data? Den fyller i luckorna. Ibland är det roligt. Ibland är det en total röra.

När man bygger AI-agenter, är detta 10 gånger större risk. Agenter ska ge handlingsbara insikter, men de fattar fler beslut på vägen. De utför multi-stegsuppgifter, där resultatet av steg 1 informerar steg 2, 3, 4, 5, … 10 … 20. Om resultaten av steg 1 är felaktiga, kommer felet att förstärkas, vilket gör att utdata vid steg 20 blir ännu sämre. Särskilt som agenter kan fatta beslut och hoppa över steg.

När det görs rätt, uppnår agenter mer för företaget som distribuerar dem. Men som AI-produktchefer måste vi erkänna den större risken som följer med den större belöningen.

Vilket är vad vårt team gjorde. Vi såg risken och tacklade den. Vi byggde inte bara en fancy robot; vi såg till att den körde på rätt data. Här är vad jag tror att vi gjorde rätt:

• Bygg agenten för att ställa rätt frågor och verifiera att den har rätt data. Se till att den initiala datainmatningsprocessen för agenten är mer deterministisk, mindre “kreativ”. Du vill att agenten ska säga när den inte har rätt data och inte fortsätta till nästa steg, snarare än att hitta på data.
• Strukturera en playbook för din agent – se till att den inte uppfinner en ny plan varje gång, utan har en semi-strukturerad ansats. Struktur och sammanhang är extremt viktiga vid datainsamling och analys. Du kan låta agenten lösa upp och agera mer “kreativt” när den har faktan och är redo att skriva sammanfattningen, men först få rätt fakta.
• Bygg ett högkvalitativt verktyg för att extrahera data. Detta bör vara mer än bara ett API-anrop. Ta dig tid att skriva koden (människor gör fortfarande det) som gör rätt mängd och variation av data som kommer att samlas in, med kvalitetskontroller i processen.
• Gör agenten visa sitt arbete. Agenten bör citera sina källor och länka till var användaren kan verifiera data, från den ursprungliga källan, och utforska den vidare. Inga trick tillåtna!
• Skyddsräcken: Tänk igenom vad som kan gå fel och bygg in skydd mot de fel du absolut inte kan tillåta. I vårt fall betyder det att när agenten som är ansvarig för att analysera en marknad inte har data – vilket jag menar med vår Similarweb-data, inte någon slumpmässig datakälla som hämtats från webben – se till att den inte hittar på något är ett väsentligt skyddsräcke. Bättre för agenten att inte kunna svara än att leverera ett falskt eller vilseledande svar.

Vi har införlivat dessa principer i vår senaste version av våra tre nya agenter, med fler som ska följa. Till exempel kräver vår AI-mötesförberedelseagent för säljare inte bara namnet på målföretaget, utan också detaljer om mötets mål och vem det är med, för att ge ett bättre svar. Den behöver inte gissa, eftersom den använder en mängd företagsdata, digital data och chefsprofiler för att informera sina rekommendationer.

Är våra agenter perfekta? Nej. Ingen skapar perfekt AI ännu, inte ens de största företagen i världen. Men att möta problemet är en hel del bättre än att ignorera det.

Vill du ha färre hallucinationer? Ge din AI en stor mängd högkvalitativ data.

Om den hallucinerar, kanske det inte är AI som behöver fixas. Kanske är det din tillvägagångssätt för att utnyttja dessa kraftfulla nya funktioner utan att lägga ner tid och ansträngning för att få dem rätt.