AI trenger fortsatt en trener, og menneskelig tilsyn trenger en spillbok

AI er overalt du ser, og profesjonell fotball er intet unntak.

NFL har introdusert Digital Athlete, som bruker data og AI til å hjelpe lagene med å identifisere situasjoner der spillere kan ha økt risiko for skade. Den kombinerer video og data fra trening, øvelser og kamper med millioner av simuleringer, og gir alle 32 lag tilgang til ligaomfattende trendinformasjon. Trenere og treningspersonell bruker deretter denne informasjonen til å utvikle individuelle skadeforebyggings-, trenings- og gjenopprettingsprogrammer.

Selv om teknologien leser feltet, er trenerne fortsatt ansvarlige for å ta beslutningene. Når organisasjoner utvider AI-bruken på tvers av forretningsprosesser, inkludert etterlevelse og arbeidsplassundersøkelser, virker automatiseringspotensialet grenseløst. Men hvilke oppgaver skal AI utføre, under hvilke forhold, og med hvilket menneskelig tilsyn?

Det er her en organisatorisk spillbok kan sette tonen: den gir trenerne muligheten til å utnytte AI-verktøy samtidig som de opprettholder menneskelig tilsyn der det er viktig.

Give AI a Position Rather Than the Whole Field

Undersøkelser består av ulike risikonivåer. AI kan hjelpe med å organisere informasjon fra innledende rapporter og:

• Identifisere manglende detaljer
• Oppsummere informasjon til en sluttrapport
• Bygge tidslinjer
• Avdekke mønstre som etterforskere kan ønske å undersøke nærmere

Disse bruksområdene kan redusere manuell sortering og frigjøre tid til å fokusere på arbeid som krever menneskelig vurdering.

Vurder at AI kan oppsummere en påstand, men den kan ikke avgjøre om den er troverdig. AI kan identifisere en inkonsistens, men kan ikke fastslå hvorfor den finnes. Dette er hvor organisasjoner kan komme i trøbbel ved å bruke AI uten sikkerhetsmekanismer.

For å opprettholde tilsyn, trenger AI en definert rolle. Organisasjoner bør bestemme:

• Oppgavene systemet skal utføre
• Informasjonen den kan få tilgang til
• Grenser for hva den har lov til å gjøre
• Situasjonene der en person må ta kontroll

National Institute of Standards and Technology’s AI Risk Management Framework gir en nyttig referanse. NISTs veikart beskriver AI RMF-profiler som en måte å demonstrere hvordan rammeverket kan anvendes på bestemte sektorer, teknologier, kontekster eller andre innstillinger. Med andre ord blir ansvarlig AI-styring mer håndgripelig når organisasjoner oversetter brede prinsipper til realiteten i et spesifikt bruksområde.

En AI-spillbok kan gjøre noe lignende på operasjonelt nivå. Den definerer roller, situasjoner og handlinger med presisjon.

Human Oversight Is a System Design Problem

Uttrykket «human in the loop» har blitt vanlig i diskusjoner om ansvarlig AI. Men det faktum at en person er til stede et sted i en arbeidsflyt, gjør ikke automatisk et AI-system godt styrt.

NIST har identifisert human-AI teaming som et viktig område for forskning og veiledning innen AI-risikostyring. Blant problemene de fremhever er hvordan folk tolker AI-genererte resultater og hvordan mennesker fører tilsyn med AI-systemer som opererer i virkelige miljøer.

Menneskelig tilsyn bør ikke betraktes som en midlertidig løsning inntil AI blir sofistikert nok til å operere alene. I mange høy‑risiko‑miljøer er det en del av den nødvendige arkitekturen for å bruke AI ansvarlig på lang sikt.

En peer-reviewed examination of human oversight in AI governance påpeker at menneskelige tilsynspersoner forventes å forbedre nøyaktighet og sikkerhet for å opprettholde menneskelige verdier og bygge tillit. Imidlertid er mennesker ikke alltid pålitelige tilsynspersoner. Effektivt tilsyn avhenger av kompetanse, insentiver og utformingen av tilsynsrollen.

For en etterforsker er det ikke nok å bli bedt om å godkjenne en AI-generert anbefaling hvis de mangler informasjon eller myndighet til å utfordre den. Spillboken må definere ikke bare at et menneske er involvert, men hvordan og når den personen kan gripe inn.

The Handoff Matters as Much as the Model

Det er en annen utfordring: selv når et menneske har endelig myndighet, kan måten AI presenterer informasjon på påvirke beslutningen som følger.

En preprint study from researchers at the University of California, Santa Barbara illustrerer hvorfor grensesnittdesign er viktig. I et kontrollert eksperiment med 108 deltakere i et helserelatert beslutningsscenario, testet forskerne seks former for AI‑beslutningsstøtte. De fant at mekanismer, inkludert AI‑selvsikkerhetsinformasjon, tekstlige forklaringer og ytelsesvisualiseringer, forbedret menneske‑AI‑beslutningsnøyaktigheten i eksperimentet.

Studien fremhever også risikoen for automatiseringsbias: folk kan over‑rely på AI‑forslag, også feilaktige.

Dette eksperimentet viser hvorfor overleveringen mellom maskin og menneske krever bevisst design og testing.

Når vi ekstrapolerer dette videre og introduserer konseptet en etterforskning, oppstår flere spørsmål:

• Ser en etterforsker kun en AI‑generert konklusjon, eller kan de undersøke informasjonen bak den?

• Kan systemet kommunisere usikkerhet?

• Er det tydelig når informasjon mangler?

• Kan etterforskere avvise et resultat og dokumentere hvorfor?

Dette er styringsspørsmål like mye som tekniske.

Five Questions Every AI Playbook Should Answer

En nyttig AI‑spillbok bør omforme abstrakte prinsipper som «ansvarlig AI» og «menneskelig tilsyn» til konkrete driftsregler.

1. Hva får AI lov til å gjøre? Organisasjoner bør autorisere spesifikke oppgaver i stedet for å gi bred tillatelse til å bruke AI gjennom hele en arbeidsflyt.
2. Hvilken informasjon kan den bruke? For undersøkelser og varsling trenger organisasjoner klare grenser for hvilken informasjon som er tilgjengelig for et AI‑system og hvordan den håndteres.
3. Hvordan vil folk evaluere resultatet? Menneskelige gjennomganger trenger nok kontekst til å forstå hva systemet har produsert, dets relevante begrensninger, og informasjonen som er nødvendig for å stille spørsmål ved resultatet.
4. Når må et menneske gripe inn? En spillbok bør etablere eskaleringsutløsere i stedet for å stole på at enkeltansatte bestemmer når AI har gått for langt.
5. Hvor slutter AIs myndighet? Noen beslutninger bør kreve menneskelig skjønn, og de som er ansvarlige for disse beslutningene trenger reell myndighet til å avvise, overstyre eller stoppe teknologien.

Disse ideene reflekteres i et av verdens mest betydningsfulle AI‑reguleringer. Article 14 of the EU AI Act fastsetter krav til menneskelig tilsyn for AI‑systemer som faller inn under lovens høy‑risiko‑kategori. Den sier at tilsynstiltak skal stå i forhold til systemets risiko, autonomi og bruks­kontekst. Den krever også at tilsynspersoner skal kunne forstå relevante evner og begrensninger, korrekt tolke resultater, være oppmerksomme på automatiseringsbias, avvise eller overstyre resultater, og gripe inn i eller stoppe et system.

Det betyr ikke at hvert AI‑verktøy som brukes i en etterforskning automatisk er et høy‑risiko‑system. Rammeverket illustrerer et viktig prinsipp for AI‑styring. Menneskelig tilsyn må gi mennesker meningsfulle muligheter, ikke bare en plass i arbeidsflyten.

AI Doesn’t Replace the Coach. It Changes What the Coach Can See.

NFLs Digital Athlete er overbevisende, ikke fordi den viser at AI kan erstatte trenere, men fordi den viser hvordan sofistikert teknologi kan utvide informasjonen som er tilgjengelig for erfarne fagfolk.

AI kan hjelpe folk med å bearbeide informasjon, avdekke det som fortjener oppmerksomhet, og skape større konsistens i repeterbare oppgaver. Likevel krever de mest avgjørende øyeblikkene i en etterforskning ofte noe annet: kontekst, skepsis, tolkning og ansvarlighet.

Organisasjonene som er best posisjonert til å dra nytte av AI vil derfor stille flere spørsmål enn hva teknologien kan automatisere. De vil definere hva den skal gjøre, hva den ikke skal gjøre, og hvordan mennesker og AI skal samarbeide.