Hvis din ansatt oppførte seg som AI, ville du ha sparket dem nå

Forestill deg at du nettopp har ansatt noen ny, og de fleste dager er de effektive, kunnskapsrike, artikulerte og selvsikre. De er alt du håpet de skulle være, og demonstrerer mange av egenskapene til en god ansatt.

Forestill deg nå at innimellom, når de står overfor et spørsmål de ikke vet svaret på, lager de bare noe på stående fot. Det er flytende, overbevisende, så i begynnelsen tar du det for god fisk. Men når det får konsekvenser for virksomheten, går du tilbake til den ansatte, utfordrer dem – og de kan ikke forklare tankeprosessen eller vise hvordan de kom frem til svaret. Du kan til og med forklare at de tar feil, for så å bli møtt med påståelig motsatt holdning og flere påfunn for å støtte det. Etter andre eller tredje gang dette skjer, ville du sannsynligvis ha sparket dem, eller i det minste gitt den ansatte en advarsel? Svaret for de fleste arbeidsgivere er nesten helt sikkert ja.

Jeg synes det er forbløffende at bedrifter nå overlater kritiske arbeidsflyter og beslutningstaking til en “ansatt” som er kjent for å vise akkurat denne oppførselen. Den eneste grunnen til at dette går uoppdaget, er at denne “ansatte” er programvare og ikke en person.

Hvorfor AI ikke feiler på samme måte som mennesker

Det finnes en vanlig, feilaktig antakelse blant bedrifter som implementerer AI, at hvis teknologien har en feilrate, er det i hovedsak det samme problemet som menneskelig feil og kan håndteres på samme måte. Men kontroller, gjennomganger og eskaleringer fungerer ikke alltid med store språkmodeller (LLM‑er). De er laget for å høres ut som mennesker, men se på hva som ligger under panseret, så ser du at de ikke opererer som oss i det hele tatt.

Om en stjerne‑ansatt gjør en feil, ville vi anta at feilen var i god tro – de gjorde sitt beste og snublet. Det skjer. Om de bevisst konstruerer et svar for å slippe å innrømme at de ikke vet noe, og gjør dette gjentatte ganger, vil vi se det som uredelighet. Ledere vet hvor de skal rette oppsynet, fordi vanskelighetsgrad og feilmarginer sammenfaller. De kan be den ansatte om å forklare resonnementet og stille spørsmål om det. Den ansatte vet vanligvis når de er ute av sitt fagfelt, og sier det. Og etter én feil lærer de, slik at den samme feilen ikke gjentar seg i en konstant syklus.

AI‑systemer snur hver av disse antakelsene på hodet. Deres standardrespons på feil er flytende, selvsikker oppfinnelse. De vil levere et plausibelt svar som rett og slett er usant, noe som er den nøyaktige oppførselen som ville avslutte en menneskelig karriere. LLM‑er er laget for å generere den mest statistisk sannsynlige fortsettelsen av en tekst, og når de ikke vet svaret, produserer de ofte noe som høres ut som om det kunne være riktig. Forskere hos OpenAI har erkjent at et visst nivå av faktiske feil er en statistisk uunngåelighet i hvordan disse modellene fungerer, og at opplæring belønner en selvsikker gjetning fremfor en ærlig erkjennelse av usikkerhet.

Hvor nevrosymboliske tilnærminger kommer inn

Dette er akkurat det nevrosymboliske tilnærminger er designet for å løse. De kombinerer nevrale nettverk, som er flinke til å forstå rotete, virkelige språk og data, med deterministisk, regelbasert resonnement. Dette betyr at et systems konklusjoner følger av eksplisitt logikk som kan inspiseres, i stedet for å oppstå fra en prosess ingen kan se inn i.

Uten dette ekstra logikklaget som nevrosymbolisk teknologi gir, korrelerer AI‑feilene ikke med arbeidsoppgavens vanskelighetsgrad på samme måte som menneskelige feil gjør – de er uforutsigbare. De kan dukke opp i trivielle oppgaver mens vanskelige oppgaver glir lett forbi, noe som gjør det vanskelig å avgjøre hvor man best bør fokusere menneskelig tilsyn. Forklaringene deres, når de gis, blir generert i etterkant i stedet for å gi en sann redegjørelse for hvordan de nådde en konklusjon. Den samme feilen kan gjenta seg på ubestemt tid, fordi det ikke finnes noen i systemet som kan lære av den eller holdes ansvarlig for den.

Tillitt uten forståelse

Forskere har dokumentert at når folk er nye til et system, har de en tendens til å forlate det etter én synlig feil; men når det er et kjent system, svinger de til den andre ekstreme – godtar dens resultater ganske enkelt fordi de har blitt vant til dem, ikke fordi resultatene har blitt mer pålitelige. Det som sjelden ses, er riktig nivå av tillit, fordi dette avhenger av at folk forstår når et AI‑system sannsynligvis vil ta feil og kan gjenkjenne når det skjer.

Det betyr ikke at AI ikke skal ha tillit til viktig arbeid. Det betyr at vi har vært villige til å gi den en form for tillit vi ikke ville gitt til en person, delvis fordi det ikke finnes en tydelig individ som kan holdes ansvarlig når den feiler.

Hvis AI skal ta på seg dømmende arbeid på samme måte som en verdsatt kollega, må den oppfylle de samme grunnleggende standardene. Svar må være verifiserbare, med synlig resonnement, og akseptere at noen ganger er det beste den kan gjøre å si «jeg vet ikke».