AI har stadig brug for en træner, og menneskelig tilsyn har brug for en spillebog

AI er overalt, hvor du ser, og professionel fodbold er ingen undtagelse.

NFL har introduceret Digital Athlete, som bruger data og AI til at hjælpe hold med at identificere situationer, hvor spillere kan have en øget risiko for skade. Den kombinerer video og data fra træning, øvelser og kampe med millioner af simulationer og giver alle 32 hold adgang til ligaomfattende trendinformation. Trænere og træningspersonale bruger derefter disse oplysninger til at udvikle individuelle forebyggelses-, trænings- og genopretningsprogrammer.

Selvom teknologien læser banen, er trænere stadig ansvarlige for at træffe beslutningerne. Efterhånden som organisationer udvider AI-brugen på tværs af forretningsprocesser, herunder compliance og arbejdspladsundersøgelser, virker automatiseringspotentialet ubegrænset. Men hvilke opgaver skal AI udføre, under hvilke betingelser, og med hvilket menneskeligt tilsyn?

Det er her, en organisatorisk spillebog kan sætte tonen: den giver trænere mulighed for at udnytte AI-værktøjer, samtidig med at de opretholder menneskeligt tilsyn, hvor det er vigtigt.

Giv AI en position i stedet for hele banen

Undersøgelser består af forskellige risikoniveauer. AI kan hjælpe med at organisere information fra de indledende rapporter og:

• Identificere manglende detaljer
• Opsummere information i en slutrapport
• Opbygge tidslinjer
• Fremhæve mønstre, som efterforskere eventuelt vil undersøge nærmere

Disse anvendelsestilfælde kan reducere manuel sortering og frigøre tid til at fokusere på arbejde, der kræver menneskelig dømmekraft.

Overvej, at AI kan opsummere en påstand, men den kan ikke afgøre, om den er troværdig. AI kan identificere en inkonsistens, men kan ikke fastslå, hvorfor den eksisterer. Det er her organisationer kan komme i problemer ved blot at bruge AI uden sikkerhedsforanstaltninger.

For at opretholde tilsyn har AI brug for en defineret rolle. Organisationer bør beslutte:

• De opgaver, systemet er beregnet til at udføre
• De oplysninger, det kan få adgang til
• Grænserne for, hvad det må gøre
• De situationer, hvor en person skal overtage kontrollen

The National Institute of Standards and Technology’s AI Risk Management Framework giver en nyttig målestok. NIST’s køreplan beskriver AI RMF-profiler som en måde at demonstrere, hvordan rammeværket kan anvendes på specifikke sektorer, teknologier, kontekster eller andre indstillinger. Med andre ord bliver ansvarlig AI-styring mere handlingsorienteret, når organisationer omsætter brede principper til realiteterne i et konkret anvendelsestilfælde.

En AI-spillebog kan gøre noget lignende på det operationelle niveau. Den definerer roller, situationer og handlinger med præcision.

Menneskeligt tilsyn er et systemdesignproblem

Udtrykket “human in the loop” er blevet almindeligt i diskussioner om ansvarlig AI. Men tilstedeværelsen af en person et eller andet sted i en arbejdsgang gør ikke automatisk et AI-system velstyret.

NIST har identificeret human-AI teaming som et vigtigt område for forskning og vejledning inden for AI-risikostyring. Blandt de problemstillinger, den fremhæver, er hvordan folk fortolker AI-genererede output, og hvordan mennesker fører tilsyn med AI-systemer, der opererer i den virkelige verden.

Menneskeligt tilsyn bør ikke betragtes som en midlertidig løsning, indtil AI bliver så sofistikeret, at den kan fungere alene. I mange højrisikomiljøer er det en del af den nødvendige arkitektur for at anvende AI ansvarligt på lang sigt.

En peer-reviewed examination of human oversight in AI governance bemærker, at menneskelige tilsynspersoner forventes at forbedre nøjagtighed og sikkerhed for at opretholde menneskelige værdier og opbygge tillid. Dog er mennesker ikke altid pålidelige tilsynspersoner. Effektivt tilsyn afhænger af kompetence, incitamenter og udformningen af tilsynsrollen.

For en efterforsker er det ikke nok blot at blive bedt om at godkende en AI-genereret anbefaling, hvis vedkommende mangler den nødvendige information eller myndighed til at udfordre den. Spillebogen skal definere ikke kun, at en menneskelig aktør er involveret, men også hvordan og hvornår denne person kan gribe ind.

Overdragelsen er lige så vigtig som modellen

Der er en anden udfordring: selv når et menneske har den endelige myndighed, kan den måde, AI præsenterer information på, påvirke den efterfølgende beslutning.

En 2025 preprint study from researchers at the University of California, Santa Barbara illustrerer, hvorfor grænsefladedesign er vigtigt. I et kontrolleret eksperiment med 108 deltagere i et sundhedsbeslutningsscenario testede forskerne seks former for AI-beslutningsstøtte. De fandt, at mekanismer, herunder AI‑tillidsinformation, tekstforklaringer og præstationsvisualiseringer, forbedrede menneske‑AI‑beslutningsnøjagtigheden i deres eksperiment.

Undersøgelsen fremhæver også risikoen for automatiseringsbias: folk kan overreliere på AI‑forslag, også de forkerte.

Dette eksperiment demonstrerer, hvorfor overdragelsen mellem maskine og menneske kræver bevidst design og test.

Når vi ekstrapolerer dette yderligere og introducerer begrebet en undersøgelse, opstår flere spørgsmål:

• Kan en efterforsker kun se en AI‑genereret konklusion, eller kan de undersøge informationen bag den?

• Kan systemet kommunikere usikkerhed?

• Er det tydeligt, når information mangler?

• Kan efterforskere afvise et output og dokumentere hvorfor?

Det er governance‑spørgsmål lige så meget som tekniske.

Fem spørgsmål, som enhver AI‑spillebog bør besvare

En brugbar AI‑spillebog bør omsætte abstrakte principper som “responsible AI” og “human oversight” til konkrete driftsregler.

1. Hvad må AI’en gøre? Organisationer bør autorisere specifikke opgaver i stedet for at give bred tilladelse til at bruge AI gennem hele en arbejdsgang.
2. Hvilke oplysninger kan den bruge? For undersøgelser og whistleblowing har organisationer brug for klare grænser for, hvilke oplysninger der er tilgængelige for et AI-system, og hvordan disse oplysninger håndteres.
3. Hvordan vil folk vurdere dets output? Menneskelige anmeldere har brug for tilstrækkelig kontekst til at forstå, hvad systemet har produceret, dets relevante begrænsninger, og de oplysninger, der er nødvendige for at stille spørgsmål ved resultatet.
4. Hvornår skal et menneske gribe ind? En spillebog bør fastlægge eskaleringsudløsere i stedet for at stole på, at enkelte medarbejdere beslutter, hvornår AI er gået for langt.
5. Hvor slutter AI’s myndighed? Nogle beslutninger bør kræve menneskelig dømmekraft, og de personer, der er ansvarlige for disse beslutninger, skal have reel myndighed til at tilsidesætte, overstyre eller stoppe teknologien.

Disse idéer afspejles i et af verdens mest betydningsfulde AI-reguleringsdokumenter. Article 14 of the EU AI Act fastsætter krav om menneskeligt tilsyn for AI‑systemer, der falder inden for lovens højrisikokategori. Den fastslår, at tilsynsforanstaltninger skal være proportionale med systemets risici, autonomi og anvendelseskontekst. Den kræver også, at tilsynspersoner skal kunne forstå relevante kapaciteter og begrænsninger, korrekt fortolke output, være opmærksomme på automatiseringsbias, tilsidesætte eller overstyre output samt gribe ind i eller stoppe et system.

Det betyder ikke, at hvert AI‑værktøj, der anvendes i en undersøgelse, automatisk er et højrisikosystem. Rammeværket illustrerer et vigtigt princip for AI‑styring. Menneskeligt tilsyn skal give mennesker meningsfulde muligheder, ikke blot en plads i arbejdsgangen.

AI erstatter ikke træneren. Den ændrer, hvad træneren kan se.

NFL’s Digital Athlete er overbevisende, ikke fordi den viser, at AI kan erstatte trænere, men fordi den viser, hvordan sofistikeret teknologi kan udvide den information, der er tilgængelig for erfarne fagfolk.

AI kan hjælpe folk med at bearbejde information, fremhæve det, der fortjener opmærksomhed, og skabe større konsistens på tværs af gentagelige opgaver. Alligevel kræver de mest afgørende øjeblikke i en undersøgelse ofte noget andet: kontekst, skepsis, fortolkning og ansvarlighed.

De organisationer, der er bedst positioneret til at drage fordel af AI, vil derfor stille flere krav end blot, hvad teknologien kan automatisere. De vil definere, hvad den skal gøre, hvad den ikke skal gøre, og hvordan mennesker og AI skal arbejde sammen.