Om din anställde agerade som AI, skulle du ha sparkat dem redan nu

Föreställ dig att du just har anställt någon ny, och de flesta dagar är de effektiva, kunniga, vältaliga och självsäkra. De är allt du hoppades att de skulle vara och visar många av egenskaperna hos en utmärkt medarbetare.

Föreställ dig nu att då och då, när de konfronteras med en fråga de inte kan svara på, bara hittar på något. Det är flytande och övertygande, så initialt tar du det för givet. Men när det får konsekvenser för verksamheten återvänder du till den anställde, utmanar dem – och de kan inte förklara sin tankegång eller visa hur de kom fram till svaret. Du kan till och med förklara för dem att de har fel, bara för att mötas av envis förnekelse och fler påhitt för att stödja det. Efter den andra eller tredje gången detta inträffar, skulle du troligen ha avskedat dem, eller åtminstone gett den anställde en varning? Svaret för de flesta arbetsgivare är nästan säkert ja.

Jag finner det förbluffande att företag nu överlämnar kritiska arbetsflöden och beslutsfattande till en ‘anställd’ som är känd för att uppvisa exakt detta beteende. Den enda anledningen till att det förblir oövervakat är att denna ‘anställd’ är mjukvara snarare än en människa.

Varför AI inte misslyckas på samma sätt som människor

Det finns en vanlig, felaktig antagelse bland företag som implementerar AI att om tekniken har en felmarginal, så är det i princip samma problem som mänskliga fel och kan hanteras på samma sätt. Men kontroller, granskningar och eskalering fungerar inte alltid med stora språkmodeller (LLM). De är skapade för att låta som människor, men om du tittar under huven ser du att de inte fungerar som vi alls.

Om en stjärnanställd gör ett misstag skulle vi anta att felet var ärligt – de gjorde sitt bästa och halkade. Sådant händer. Om de medvetet uppfinner ett svar för att slippa erkänna att de inte vet något, och de gör detta upprepade gånger, skulle vi betrakta det som missförhållande. Chefer vet var de ska fokusera sin tillsyn, eftersom svårighetsgrad och felmarginaler sammanfaller. De kan be den anställde förklara sitt resonemang och granska dem på det. Den anställde vet oftast när de är över sin kompetens och säger det. Och efter ett fel lär de sig, så att samma misstag inte upprepas i en ständig cykel.

AI-systemen vänder på varje en av dessa antaganden. Deras standardreaktion på misslyckande är flytande, självsäker uppfinning. De kommer att producera ett trovärdigt svar som helt enkelt är falskt, vilket är exakt det beteende som skulle avsluta en människas karriär. LLM:er är skapade för att producera den mest statistiskt sannolika fortsättningen på en text, och när de inte vet svaret genererar de ofta något som låter som om det skulle kunna vara rätt ändå. OpenAIs egna forskare har erkänt att någon nivå av faktiska fel är en statistisk oundviklighet i hur dessa modeller fungerar, och att träning belönar en självsäker gissning framför ett ärligt erkännande av osäkerhet.

Var neurosymboliska tillvägagångssätt kommer in

Detta är precis vad neurosymboliska tillvägagångssätt är avsedda att åtgärda. De kombinerar neurala nätverk, som är utmärkta på att förstå rörig, verklig språk och data, med deterministisk, regelbaserad resonemang. Detta innebär att ett systems slutsatser följer av explicit logik som kan inspekteras, snarare än att uppstå från en process som ingen kan se inuti.

Utan detta extra lager av logik som neurosymbolisk teknik tillhandahåller, korrelerar AI:s fel inte med arbetsuppgiftens svårighetsgrad på samma sätt som mänskliga fel gör – de är oförutsägbara. De kan dyka upp på triviala uppgifter medan svåra går igenom utan problem, vilket gör det svårt att avgöra var man bäst fokuserar mänsklig tillsyn. Deras förklaringar, när de ges, genereras i efterhand snarare än att ge en sann redogörelse för hur de nådde en slutsats. Samma misstag kan återkomma oändligt, eftersom ingen finns i systemet som kan lära sig av det eller hållas ansvarig för det.

Förtroende utan förståelse

Forskare har dokumenterat att när människor är nya för ett system har de en tendens att överge det efter ett enda synligt fel; men när det är ett bekant system svänger de till motsatta ytterligheten – acceptera dess resultat helt enkelt för att de har vant sig vid dem, inte för att dessa resultat har blivit mer pålitliga. Det som sällan ses är rätt nivå av förtroende, eftersom det beror på att människor förstår när ett AI‑system sannolikt är felaktigt och kan känna igen när det är så.

Det betyder inte att AI inte bör litas på med viktigt arbete. Det betyder att vi har varit villiga att ge det en sorts förtroende som vi inte skulle ge en människa, delvis för att det inte finns någon tydlig individ att hålla ansvarig när det misslyckas.

Om AI ska ta på sig bedömningsbaserat arbete på samma sätt som en värdefull kollega, måste den uppfylla samma grundläggande krav. Svaren måste vara verifierbara, med synligt resonemang, och acceptera att ibland är det bästa den kan göra att säga ”Jag vet inte”.