När din AI hittar på fakta: Företagsrisken som ingen ledare kan ignorera

Det låter rätt. Det ser rätt ut. Det är fel. Det är din AI på hallucinationer. Problemet är inte bara att dagens generativa AI-modeller hallucineraDet är att vi känner att om vi bygger tillräckligt med skyddsräcken, finjusterar det, RAG-ar det och tämjer det på något sätt, så kommer vi att kunna anamma det i företagsskala.

Hallucinationsfrekvensen varierar från 0.8 % till 88 %.

Ja, det beror på modell, domän, användningsfall och kontext, men den spridningen borde skaka om alla beslutsfattare inom företaget. Det här är inte fel i marginalfallet. De är systemiska. Hur fattar du rätt beslut när det gäller AI-implementering i ditt företag? Var, hur, hur djupt, hur brett? 

Och exempel på verkliga konsekvenser av detta dyker upp i ditt nyhetsflöde varje dag.  G20:s råd för finansiell stabilitet har flaggat generativ AI som en vektor för desinformation. vilket kan orsaka marknadskriser, politisk instabilitet och värre – flashkrascher, falska nyheter och bedrägerier. I en annan nyligen rapporterad artikel utfärdade advokatbyrån Morgan & Morgan ett nödmeddelande till alla advokater: Skicka inte in AI-genererade ansökningar utan att kontrollera. Falsk rättspraxis är ett "prövningsbart" brott.

Det här kanske inte är den bästa tiden att satsa på att hallucinationsfrekvensen tenderar att motsvara noll inom den närmaste framtiden. Särskilt inom reglerade branscher, såsom juridik, biovetenskap, kapitalmarknader eller andra, där kostnaden för ett misstag kan vara hög, inklusive publicering av högre utbildning.

Hallucination är inte ett avrundningsfel

Det här handlar inte om ett enstaka fel svar. Det handlar om Risken: Ryktesmässig, juridisk, operativ.

Generativ AI är inte en resonemangsmotor. Det är en statistisk efterbehandlare, en stokastisk papegoja. Den slutför din prompt på det mest sannolika sättet baserat på träningsdata. Även verklighetstrogna delar är gissningar. Vi kallar de mest absurda styckena för "hallucinationer", men hela resultatet är en hallucination. En välformulerad sådan. Ändå fungerar det, magiskt bra – tills det inte längre gör det.

AI som infrastruktur

Och ändå är det viktigt att säga att AI kommer att vara redo för företagsomfattande implementering när vi börjar behandla det som infrastruktur, och inte som magi. Och där det krävs måste det vara transparent, förklarligt och spårbart. Och om det inte är det, är det helt enkelt inte redo för företagsomfattande implementering för dessa användningsfall. Om AI fattar beslut bör det finnas på er styrelses radar.

EU:s AI-lag leder an här. Högriskområden som rättsväsendet, hälso- och sjukvården och infrastrukturen kommer att regleras som verksamhetskritiska system. Dokumentation, testning och förklarbarhet kommer att vara obligatoriska.

Vad företagssäkra AI-modeller gör

Företag som specialiserar sig på att bygga företagssäkra AI-modeller fattar ett medvetet beslut att bygga AI annorlunda. I deras alternativa AI-arkitekturer tränas inte språkmodellerna på data, så de är inte "kontaminerade" med något oönskat i data, såsom partiskhet, IP-intrång eller benägenhet att gissa eller hallucinera.

Sådana modeller "fullbordar inte din tanke" – de resonerar utifrån användarens innehåll... Deras kunskapsbas. Deras dokument. Deras data. Om svaret inte finns där, säger dessa modeller det. Det är det som gör sådana AI-modeller förklarbara, spårbara, deterministiska och ett bra alternativ på platser där hallucinationer är oacceptabla.

En 5-stegsstrategi för AI-ansvarstagande

1. Kartlägg AI-landskapet – Var används AI i er verksamhet? Vilka beslut påverkar den? Vilken vikt lägger ni vid att kunna spåra dessa beslut tillbaka till transparent analys av tillförlitligt källmaterial?
2. Anpassa din organisation – Beroende på omfattningen av er AI-implementering, upprätta roller, kommittéer, processer och revisionspraxis som är lika rigorösa som de för finansiella risker eller cybersäkerhetsrisker.
3. Ta AI in i riskzonen på styrelsenivå – Om din AI kommunicerar med kunder eller tillsynsmyndigheter hör den hemma i dina riskrapporter. Styrning är inte en sidoshow.
4. Behandla leverantörer som medskyldiga – Om din leverantörs AI hittar på saker, bär du fortfarande konsekvenserna. Utvidga dina principer för AI-ansvar till dem. Kräv dokumentation, revisionsrättigheter och SLA:er för förklarbarhet och hallucinationsfrekvens.
5. Tågskepticism – Ert team bör behandla AI som en junioranalytiker – användbar, men inte ofelbar. Fira när någon identifierar en hallucination. Förtroende måste förtjänas.

Framtiden för AI i företag är inte större modeller. Det som behövs är mer precision, mer transparens, mer förtroende och mer ansvarsskyldighet.