Tankeledere

Hvad betyder human-in-the-loop egentlig?

Arjun Harindranath
Føj Unite.AI til dine foretrukne kilder på Google
NøglepunkterMenneske-i-løkken flytter ofte ansvaret over på brugerne uden at sikre etisk…
Vis mere
  • Menneske-i-løkken flytter ofte ansvaret over på brugerne uden at sikre etisk systemdesign.
  • Frizzle bruger menneskeligt tilsyn til at sikre karaktergivningsnøjagtighed, når AI ikke kan håndtere rodet håndskrift.
  • Meningsfulde menneskelige roller kræver, at personalet får bemyndigelse til at udfordre og tilsidesætte AI, ikke kun godkende.

I begyndelsen af det 20. århundrede opfandt den britiske filosof Gilbert Ryle begrebet “ghost in the machine”. I sin bog The Concept of Mind brugte Ryle metaforen til at imødegå dualismen mellem sind og krop, der fastholder, at sind og krop eksisterer som separate substanser. For Ryle var denne opdeling en fejl, da kognition og fysisk handling var uadskillelige og en del af et enkelt system snarere end to interagerende dele.

Med opkomsten af AI er en lignende metafor nu dukket op, når man taler om brugere af AI-værktøjer til at øge produktiviteten: det ofte brugte “human-in-the-loop”. Hvis mennesker og intelligente systemer nu er mere sammenflettede end nogensinde, bygger vi så en sammenhængende fusion eller skaber vi en bekvem illusion om kontrol?

Startupvirksomheder støtter sig i høj grad til dette begreb for at tale om deres værktøjer. Mens det lover både innovation og beroligelse, er virkeligheden ofte mere rodet. Ansvar kan let blive diffust, og ansvarlighed kan være sværere at spore.

Da AI-systemer bevæger sig dybere ind i følsomme områder – fra uddannelse til krig – er indsatsen ikke længere abstrakt. Hvad betyder human-in-the-loop egentlig, og er dette bare en eufemisme for, når menneskene forsvinder helt?

1. Human-in-the-loop som et skjold for ansvar

Hvis man bruger begrebet human-in-the-loop uden omhu, kan det være en let måde at flytte ansvar uden rigtig at engagere sig i det. Som mange har bemærket, garanterer en menneskelig underskrift ved slutningen af en proces ikke nødvendigvis etisk integritet, især hvis det underliggende system er dårligt designet eller utilstrækkeligt forstået.

Maysa Hawwash, grundlægger og administrerende direktør for Scale X, har skrevet om glidebanen væk fra ansvar og er åben om, hvordan begrebet ofte bruges. “Det er faktisk ikke så forskelligt fra andre måder at flytte byrden på,” sagde Hawwash til Startup Beat og brugte eksemplet på, hvordan HR-chefer ofte bruger en ordning med godkendelse ved underskrift til at flytte virksomheden væk fra ansvar. “Hvis du har denne politik, og folk læser den og underskriver den, så er virksomheden teknisk set ikke ansvarlig, vel?” sagde hun.

Det, der kommer frem, er et mønster, der er velkendt på tværs af virksomhedssystemer, hvor ansvar flyttes snarere end elimineres. Hawwash ser dette som en dov udvej, der undgår kritisk tænkning eller forståelse af de områder, hvor det kan påvirke mennesker eller samfund. “Så du flytter byrden, og derefter er det ligegyldigt, om folk forstår politikken, ligegyldigt, om politikken giver mening.”

I denne ramme risikerer “human-in-the-loop” at blive mindre om meningsfuld indgriben og mere om proceduremæssig dækning. Faren her er ikke kun semantisk. Når tilsyn reduceres til en underskrift, bliver den menneskelige rolle symbolisk snarere end reel.

Hawwash henviste til en nylig militær grusomhed – skolen i Minab, Iran – hvor mennesker godkendte et angreb, men tilstedeværelsen af en menneskelig beslutningstager ikke nødvendigvis svarede til etisk klarhed eller tilstrækkelig overvejelse. “Når du er i krig eller udfører en kompleks operation, har du ikke tid til at tillade dig at bruge human-in-the-loop som et skjold.”

2. Design til ansvar, ikke kun tilsyn

Alternativet er ikke at opgive human-in-the-loop-systemer, men at tage dem alvorligt som design-forpligtelser. Dette betyder at flytte sig ud over symbolisk tilsyn mod bevidst ansvarlige strukturer.

“Der er dette store kapløb for at få mere AI på markedet. Der tænkes ikke meget igennem fra et designperspektiv, som hvad følgevirkningerne er på samfund, på mennesker eller på slutbrugere,” sagde Hawwash.

Hastighed er blevet den dominerende konkurrencevariabel. I dette kapløb er ansvar ofte udskudt snarere end integreret. Resultatet er en reaktiv model for etik, hvor problemer løses efter udrulning i stedet for at blive forudset under udviklingen.

Tilgængelighed kan accelerere adoption, men det fører også til større konsekvenser. Systemer er ikke længere begrænset til tekniske brugere, da de kan forme beslutninger for mennesker med varierende niveauer af forståelse og kontekst. I en sådan situation kan ansvar ikke uddelegeres til slutbrugeren.

3. Human-in-the-loop som nøjagtighed og ansvarlighed

Abhay Gupta, medstifter af Frizzle, tilbyder et mere operationelt perspektiv – ét, der er grundlagt i at bygge et system, hvor menneskeligt tilsyn er både praktisk og nødvendigt.

Hans virksomhed opstod fra et specifikt problem: overarbejdede lærere. “I byen hører du om bankfolk og konsulenter, der arbejder 70 timer om ugen, men du hører ikke om lærere, der arbejder så meget. Så ud af nysgerrighed interviewede vi hundredvis af lærere, og på tværs af alle svar var karaktergivning deres største tidsrøver.”

At automatisere karaktergivning kan synes ligetil, men kompleksiteten af håndskreven matematik introducerer reelle begrænsninger for AI. “Der er spørgsmålet om nøjagtighed. AI er ikke perfekt, så vi byggede et human-in-the-loop-system. Hvis AI ikke er sikker – som med uordentlig håndskrift – markerer det det for læreren til gennemsyn og godkendelse eller afvisning.”

Her er den menneskelige rolle ikke kun pynt. Systemet identificerer eksplicit sin egen usikkerhed og sender disse tilfælde til et menneske. “For os handler det om nøjagtighed. Der vil altid være grænsetilfælde – måske 1-3% – hvor AI kæmper, så et menneske må træde ind.”

Denne tilgang omdefinerer human-in-the-loop som en mekanisme for kvalitetskontrol. Men Gupta presser videre: “I sin kerne er AI ikke 100% nøjagtig – det kan hallucinere eller producere forkerte outputs. Human-in-the-loop fungerer som den endelige kvalitetskontrol, før resultaterne når slutbrugeren. Det handler også om ansvar. Nogen må være ansvarlig for output, og lige nu må det stadig være et menneske.”

Den menneskelige rolle bevarer også noget, som er sværere at måle: undervisningens relationelle aspekt. “Det handler også om at bevare den menneskelige side af undervisningen. Lærere har forskellige stilarter, så vi lader dem tilpasse, hvordan feedback leveres”

Omdefinering af Human-in-the-loop

Udtrykket “human-in-the-loop” bærer en beroligende enkelhed. Det antyder, at uanset hvor avancerede vores systemer bliver, er et menneske stadig i kontrol, og vi er ikke bare “ghosts in the machine”. Men da startups i stigende grad udruller AI i højrisikområder, kræver denne beroligelse en nærmere undersøgelse.

Det dybere problem er design. Hvis et systems risici er dårligt forstået eller bevidst minimiseret, gør indsættelse af et menneske ved slutningen kun lidt for at korrigere grundlæggende fejl. Det betyder også, at den menneskelige rolle defineres som en integreret del af systemets drift frem for en reserve. Et menneske i løkken bør ikke kun godkende resultatet. Startups bør stræbe efter at give deres medarbejdere beføjelse til at forme resultaterne, udfordre dem og, når nødvendigt, omgøre dem med reel beslutningskompetence.

Arjun Harindranath er en freelance-journalist baseret i Medellin, Colombia, der dækker historier om konflikt, migration og tech for et globalt publikum. Hans artikler har tidligere været bragt af Al Jazeera, TechCrunch, The Next Web og New York Times.