Hvis din medarbejder opførte sig som AI, ville du have fyret dem allerede

Forestil dig, at du lige har ansat en ny person, og de fleste dage er de effektive, vidende, velformulerede og selvsikre. De er alt, hvad du håbede, de ville være, og viser mange af egenskaberne hos en fremragende medarbejder.

Forestil dig nu, at af og til, når de konfronteres med et spørgsmål, de ikke kender svaret på, de bare finder på noget. Det er flydende, overbevisende, så i starten tager du det for givet. Men når det får konsekvenser for virksomheden, vender du tilbage til den medarbejder, udfordrer dem – og de kan ikke forklare deres tankeproces eller dele deres fremgangsmåde. Du kan endda påpege for dem, at de tager fejl, kun for at møde en insisteren på det modsatte og flere påfund for at bakke det op. Efter den anden eller tredje gang dette sker, ville du sandsynligvis have fyret dem, eller i det mindste givet den medarbejder en advarsel? Svaret for de fleste arbejdsgivere er næsten helt sikkert ja.

Jeg finder det forbløffende, at virksomheder nu overlader kritiske arbejdsprocesser og beslutningstagning til en ‘medarbejder’, som er kendt for at udvise denne præcise adfærd. Den eneste grund til, at det forbliver uopdaget, er, at denne ‘medarbejder’ er software frem for en person.

Hvorfor AI fejler på en anden måde end mennesker

Der er en udbredt, forkert antagelse blandt virksomheder, der implementerer AI, om at hvis teknologien har en fejlrate, er det stort set det samme problem som menneskelig fejl og kan håndteres på samme måde. Men kontrol, gennemgang og eskalering fungerer ikke altid med store sprogmodeller (LLM’er). De er designet til at lyde som mennesker, men se på, hvad der gemmer sig under motorhjelmen, så vil du se, at de slet ikke fungerer som os.

Hvis en stjernemedarbejder begår en fejl, antager vi, at fejlen er ærlig – de gjorde deres bedste og kom til at snuble. Det sker. Hvis de bevidst opfinder et svar for at slippe for at vide noget, og de gør det gentagne gange, vil vi betragte det som uredelighed. Ledere ved, hvor de skal fokusere deres tilsyn, fordi sværhedsgrad og fejltolerance falder sammen. De kan bede medarbejderen om at forklare deres ræsonnement og stille spørgsmål til det. Medarbejderen ved som regel, hvornår de er ude af deres dybde, og siger det. Og efter én fejl lærer de, så den samme fejl ikke gentager sig i en konstant cyklus.

AI-systemer vender hver eneste af disse antagelser på hovedet. Deres standardreaktion på fejl er en flydende, selvsikker opfindelse. De vil producere et plausibelt svar, der simpelthen er usandt, hvilket er den præcise adfærd, der ville afslutte en menneskelig karriere. LLM’er er designet til at generere den mest statistisk sandsynlige fortsættelse af en tekst, og når de ikke kender svaret, producerer de ofte noget, der lyder som om det kunne være rigtigt alligevel. OpenAIs egne forskere har erkendt, at et vist niveau af faktuelle fejl er en statistisk uundgåelighed i, hvordan disse modeller fungerer, og at træning belønner et selvsikkert gæt frem for en ærlig indrømmelse af usikkerhed.

Hvor neurosymboliske tilgange kommer ind

Det er netop det, som neurosymboliske tilgange er designet til at løse. De kombinerer neurale netværk, som er fremragende til at forstå rodet, virkelig verden sprog og data, med deterministisk, regelbaseret ræsonnement. Det betyder, at et systems konklusioner følger af eksplicit logik, som kan inspiceres, i stedet for at opstå fra en proces, som ingen kan se ind i.

Uden dette ekstra lag af logik, som neurosymbolisk teknologi leverer, korrelerer AI’s fejl ikke med arbejdsopgavens sværhedsgrad på samme måde som menneskelige fejl – de er uforudsigelige. De kan opstå på trivielle opgaver, mens vanskelige opgaver glider let igennem, hvilket gør det svært at afgøre, hvor man bedst fokuserer menneskelig kontrol. Deres forklaringer, når de gives, genereres efterfølgende i stedet for at give en sand redegørelse for, hvordan de nåede en konklusion. Den samme fejl kan gentage sig uendeligt, fordi der ikke er nogen inde i systemet, der kan lære af den eller holdes ansvarlig for den.

Tillid uden forståelse

Forskere har dokumenteret, at når folk er nye i et system, har de en tendens til at opgive det efter én synlig fejl; men når det er et velkendt system, svinger de til den anden ekstreme – accepterer dens output simpelthen fordi de er blevet vant til dem, ikke fordi outputtene er blevet mere pålidelige. Det, der sjældent ses, er det rette tillidsniveau, fordi det afhænger af, at folk forstår, hvornår et AI-system sandsynligvis vil tage fejl, og kan genkende, når det gør.

Det betyder ikke, at AI ikke bør stole på med vigtigt arbejde. Det betyder, at vi har været villige til at give det en form for tillid, som vi ikke ville give en person, delvis fordi der ikke er en åbenlys enkeltperson, der kan holdes ansvarlig, når det fejler.

Hvis AI skal påtage sig dømmende arbejde på samme måde som en værdsat kollega, skal den opfylde de samme grundlæggende standarder. Svar skal kunne verificeres, med synlig ræsonnement, og acceptere faktum, at den bedste handling nogle gange er at sige “jeg ved det ikke”.