Hvad betyder Human-in-the-loop egentlig?

I begyndelsen af det 20. århundrede opfandt den britiske filosof Gilbert Ryle begrebet “ghost in the machine”. I sin bog The Concept of Mind brugte Ryle metaforen til at imødegå dualismen mellem sind og krop, der fastholder, at sind og krop eksisterer som separate substanser. For Ryle var denne opdeling en fejl, da kognition og fysisk handling var uadskillelige og en del af et enkelt system snarere end to interagerende dele.

Med opkomsten af AI er en lignende metafor nu dukket op, når man taler om brugere af AI-værktøjer til at øge produktiviteten: det ofte brugte “human-in-the-loop”. Hvis mennesker og intelligente systemer nu er mere sammenflettede end nogensinde, bygger vi så en sammenhængende fusion eller skaber vi en bekvem illusion om kontrol?

Startups læner tungt på dette begreb for at tale om deres værktøjer. Mens det lover både innovation og beroligelse, er virkeligheden ofte mere rod. Ansvar kan let blive diffust, og ansvarlighed kan være sværere at spore.

Da AI-systemer bevæger sig dybere ind i følsomme områder – fra uddannelse til krig – er indsatsen ikke længere abstrakt. Hvad betyder human-in-the-loop egentlig, og er dette bare en eufemisme for, når de forsvinder helt?

1. Human-in-the-loop som et skjold for ansvar

Hvis man bruger begrebet human-in-the-loop uden omhu, kan det være en let måde at flytte ansvar uden rigtig at engagere sig i det. Som mange har bemærket, garanterer en menneskelig underskrift ved slutningen af en proces ikke nødvendigvis etisk integritet, især hvis det underliggende system er dårligt designed eller utilstrækkeligt forstået.

Maysa Hawwash, grundlægger og administrerende direktør for Scale X, har skrevet om glidebanen væk fra ansvar og er åben om, hvordan begrebet ofte bruges. “Det er faktisk ikke så forskelligt fra andre måder at flytte byrden på,” sagde Hawwash til Startup Beat og brugte eksemplet på, hvordan HR-chefer ofte bruger en godkendelsespolitik til at flytte virksomheden væk fra ansvar. “Hvis du har denne politik, og folk læser den og godkender den, så er virksomheden teknisk set ikke ansvarlig, vel?” sagde hun.

Det, der kommer frem, er en mønster, der er velkendt på tværs af virksomhedssystemer, hvor ansvar flyttes snarere end elimineres. Hawwash ser dette som en dov udvej, der undgår kritisk tænkning eller forståelse af de områder, hvor det kan påvirke mennesker eller samfund. “Så du flytter byrden, og derefter er det ligegyldigt, om folk forstår politikken, ligegyldigt, om politikken giver mening.”

I denne ramme risikerer “human-in-the-loop” at blive mindre om meningsfuld indgriben og mere om procedurally dækning. Faren her er ikke kun semantisk. Når tilsyn reduceres til en godkendelse, bliver den menneskelige rol symbolisk snarere end substansiel.

Hawwash henviste til en recent militær forbrydelse – skolen i Minab, Iran – hvor mennesker godkendte et angreb, men tilstedeværelsen af en menneskelig beslutningstager ikke nødvendigvis svarede til etisk klarhed eller tilstrækkelig overvejelse. “Når du er i krig eller udfører en kompleks operation, har du ikke luksus til at bruge human-in-the-loop som et skjold.”

2. Design til ansvar, ikke kun tilsyn

Alternativet er ikke at opgive human-in-the-loop-systemer, men at tage dem alvorligt som design-forpligtelser. Dette betyder at flytte sig ud over symbolisk tilsyn mod bevidst ansvarlige strukturer.

“Der er denne store kapløb for at få mere AI på markedet. Der er ikke meget tænkning igennem fra et design-perspektiv, som hvad den nedadgående virkning er på samfund, på mennesker eller på slutbrugere,” sagde Hawwash.

Hastighed er blevet den dominerende konkurrencerende variabel. I dette kapløb er ansvar ofte udskudt snarere end integreret. Resultatet er en reaktiv model for etik, hvor løsning af problemer sker efter udrulning i stedet for at forudse dem under udvikling.

Tilgængelighed kan accelerere adoption, men det fører også til mere forstærkede konsekvenser. Systemer er ikke længere begrænset til tekniske brugere, da de kan forme beslutninger for mennesker med varierende niveauer af forståelse og kontekst. I en sådan omgang kan ansvar ikke uddelegeres til slutbrugeren.

3. Human-in-the-loop som nøjagtighed og ansvarlighed

Abhay Gupta, medstifter af Frizzle, tilbyder en mere operationel perspektiv – ét, der er grundlagt i at bygge et system, hvor menneskelig tilsyn er både praktisk og nødvendigt.

Hans virksomhed opstod fra et specifikt problem: overarbejdede lærere. “I byen hører du om bankfolk og konsulenter, der arbejder 70 timer om ugen, men du hører ikke om lærere, der arbejder så meget. Så ud af nysgerrighed interviewede vi hundredvis af lærere, og på tværs af brættet var karaktergivning deres største tidsfordriv.”

At automatisere karaktergivning kan synes ligetil, men kompleksiteten af håndskrevne matematik introducerer reelle begrænsninger for AI. “Der er spørgsmålet om nøjagtighed. AI er ikke perfekt, så vi byggede et human-in-the-loop-system. Hvis AI ikke er sikker – som med uordentlig håndskrift – markerer det det for læreren til gennemsyn og godkendelse eller afvisning.”

Her er den menneskelige rol ikke kun pynt. Systemet identificerer explicit sin egen usikkerhed og sender disse tilfælde til en menneskelig. “For os handler det om nøjagtighed. Der vil altid være edge-cases – måske 1-3% – hvor AI kæmper, så et menneske må træde ind.”

Dette tilgang reframer human-in-the-loop som en mekanisme for kvalitetskontrol. Men Gupta presser videre: “I sin kerne er AI ikke 100% nøjagtig – det kan hallucinere eller producere forkerte outputs. Human-in-the-loop fungerer som den endelige kvalitetskontrol, før resultaterne når slutbrugeren. Det handler også om ansvar. Nogen må være ansvarlig for output, og lige nu må det stadig være et menneske.”

Det er også om at bevare den menneskelige side af undervisningen. “Lærere har forskellige stilarter, så vi lader dem tilpasse, hvordan feedback leveres”

Omdefinering af Human-in-the-loop

Udtrykket “human-in-the-loop” bærer en beroligende enkelhed. Det antyder, at uanset hvor avancerede vores systemer bliver, er et menneske stadig i kontrol, og vi er ikke bare “ghosts in the machine”. Men da startups i stigende grad udruller AI i højrisikområder, kræver denne beroligelse en nærmere undersøgelse.

Det dybere problem er design. Hvis et systems risici er dårligt forstået eller bevidst minimiseret, gør indsættelse af et menneske ved slutningen little for at korrigere grundlæggende fejl. Det betyder også, at den menneskelige rol defineres ikke som en reserve, men som en integreret del af systemets drift. Et menneske i løkken bør ikke kun godkende resultatet. Startups bør stræbe efter at udvikle deres medarbejdere til at forme dem, udfordre dem og, når nødvendigt, omgøre dem med myndighed.