AI heeft nog steeds een coach nodig en menselijk toezicht heeft een draaiboek nodig

AI is overal waar je kijkt, en professioneel voetbal is geen uitzondering.

De NFL heeft de Digital Athlete geïntroduceerd, die data en AI gebruikt om teams te helpen scenario’s te identificeren waarin spelers een verhoogd risico op blessure kunnen lopen. Het combineert video en gegevens van trainingen, oefenwedstrijden en wedstrijden met miljoenen simulaties, waardoor alle 32 teams toegang krijgen tot league‑brede trendinformatie. Coaches en trainingsstaf gebruiken die informatie vervolgens om gepersonaliseerde blessurepreventie‑, trainings‑ en herstelprogramma’s te ontwikkelen.

Terwijl de technologie het veld leest, blijven coaches verantwoordelijk voor het nemen van beslissingen. Naarmate organisaties AI inzetten in diverse bedrijfsprocessen, waaronder compliance en onderzoeken op de werkvloer, lijkt het automatiseringspotentieel grenzeloos. Maar welke taken moet AI uitvoeren, onder welke voorwaarden en met welke menselijke controle?

Daar komt een organisatorisch draaiboek om de hoek kijken: het biedt coaches de mogelijkheid AI‑tools te benutten terwijl ze de menselijke controle behouden waar het er echt toe doet.

Geef AI een positie in plaats van het hele veld

Onderzoeken bestaan uit verschillende risiconiveaus. AI kan helpen informatie uit eerste meldingen te organiseren en:

• Ontbrekende details identificeren
• Informatie samenvatten in een eindrapport
• Tijdlijnen opstellen
• Patronen naar voren brengen die onderzoekers nader willen onderzoeken

Deze toepassingsgevallen kunnen handmatig sorteren verminderen en tijd vrijmaken om te focussen op werk dat menselijk oordeel vereist.

Denk eraan dat AI een aantijging kan samenvatten, maar niet kan bepalen of deze geloofwaardig is. AI kan een inconsistentie identificeren, maar niet kan vaststellen waarom die bestaat. Hier kunnen organisaties in de problemen komen door AI simpelweg zonder waarborgen te gebruiken.

Om controle te behouden, heeft AI een gedefinieerde rol nodig. Organisaties moeten beslissen:

• De taken die het systeem moet uitvoeren
• De informatie waartoe het toegang heeft
• De grenzen van wat het mag doen
• De situaties waarin een persoon de controle moet overnemen

Het AI Risk Management Framework van het National Institute of Standards and Technology biedt een nuttige maatstaf. De roadmap van NIST beschrijft AI‑RMF‑profielen als een manier om aan te tonen hoe het kader kan worden toegepast op specifieke sectoren, technologieën, contexten of andere omgevingen. Met andere woorden, verantwoord AI‑bestuur wordt praktischer wanneer organisaties brede principes vertalen naar de realiteit van een concrete use‑case.

Een AI‑draaiboek kan iets soortgelijks doen op operationeel niveau. Het definieert rollen, situaties en acties met precisie.

Menselijke controle is een systeemontwerpprobleem

De uitdrukking ‘human in the loop’ is gangbaar geworden in discussies over verantwoord AI. Maar de aanwezigheid van een persoon ergens in een workflow maakt een AI‑systeem niet automatisch goed beheerd.

NIST heeft human‑AI teaming geïdentificeerd als een belangrijk gebied voor onderzoek en richtlijnen op het gebied van AI‑risicobeheer. Onder de kwesties die het belicht, vallen hoe mensen AI‑gegenereerde uitkomsten interpreteren en hoe mensen AI‑systemen die in de echte wereld opereren, controleren.

Menselijke controle mag niet worden gezien als een tijdelijke omweg totdat AI voldoende geavanceerd is om zelfstandig te opereren. In veel high‑stakes omgevingen maakt het deel uit van de vereiste architectuur om AI op de lange termijn verantwoord te gebruiken.

Een peer‑reviewed onderzoek naar menselijke controle in AI‑bestuur stelt dat menselijke toezichthouders de nauwkeurigheid en veiligheid moeten verbeteren om menselijke waarden te waarborgen en vertrouwen op te bouwen. Echter, mensen zijn niet altijd betrouwbare toezichthouders. Effectieve controle hangt af van competentie, prikkels en het ontwerp van de toezichthoudende rol.

Voor een onderzoeker is het niet voldoende om een AI‑gegenereerde aanbeveling goed te keuren als hij of zij niet over de benodigde informatie of autoriteit beschikt om die te betwisten. Het draaiboek moet niet alleen definiëren dat een mens betrokken is, maar ook hoe en wanneer die persoon kan ingrijpen.

De overdracht is net zo belangrijk als het model

Er is een andere uitdaging: zelfs wanneer een mens de uiteindelijke autoriteit heeft, kan de manier waarop AI informatie presenteert de daaropvolgende beslissing beïnvloeden.

Een 2025 preprint‑studie van onderzoekers aan de University of California, Santa Barbara laat zien waarom interface‑ontwerp belangrijk is. In een gecontroleerd experiment met 108 deelnemers in een zorggerelateerde besluitvormingsscenario testten de onderzoekers zes vormen van AI‑beslissingsondersteuning. Ze ontdekten dat mechanismen, waaronder AI‑vertrouwensinformatie, tekstuele uitleg en prestatie‑visualisaties, de nauwkeurigheid van mens‑AI‑beslissingen in hun experiment verbeterden.

De studie benadrukt ook het risico van automatiseringsbias: mensen kunnen te veel op AI‑suggesties vertrouwen, zelfs wanneer die onjuist zijn.

Dit experiment toont aan waarom de overdracht tussen machine en mens een bewust ontwerp en testen vereist.

Wanneer we dit verder extrapoleren en het concept van een onderzoek introduceren, rijzen er verschillende vragen:

• Ziet een onderzoeker alleen een AI‑gegenereerde conclusie, of kan hij/zij de onderliggende informatie onderzoeken?

• Kan het systeem onzekerheid communiceren?

• Is het duidelijk wanneer informatie ontbreekt?

• Kunnen onderzoekers een output afwijzen en documenteren waarom?

Dat zijn zowel governance‑ als technische vragen.

Vijf vragen die elk AI‑draaiboek moet beantwoorden

Een nuttig AI‑draaiboek moet abstracte principes zoals ‘responsible AI’ en ‘human oversight’ omzetten in concrete operationele regels.

1. Wat mag de AI doen? Organisaties moeten specifieke taken autoriseren in plaats van brede toestemming te geven om AI door een hele workflow te gebruiken.
2. Welke informatie mag het gebruiken? Voor onderzoeken en klokkenluiders moeten organisaties duidelijke grenzen stellen rond de informatie die een AI‑systeem kan raadplegen en hoe die informatie wordt verwerkt.
3. Hoe zullen mensen de output evalueren? Menselijke beoordelaars hebben voldoende context nodig om te begrijpen wat het systeem heeft geproduceerd, de relevante beperkingen, en de informatie die nodig is om het resultaat te betwijfelen.
4. Wanneer moet een mens ingrijpen? Een draaiboek moet escalatietriggers definiëren in plaats van te vertrouwen op individuele medewerkers om te bepalen wanneer AI te ver gaat.
5. Waar eindigt de autoriteit van AI? Sommige beslissingen moeten menselijk oordeel vereisen, en de verantwoordelijke personen moeten echte bevoegdheid hebben om de technologie te negeren, te overrulen of te stoppen.

Deze ideeën worden weerspiegeld in een van ‘s werelds meest significante AI‑regelgevingen. Artikel 14 van de EU AI Act stelt eisen aan menselijk toezicht voor AI‑systemen die onder de high‑risk categorie van de wet vallen. Het bepaalt dat toezichtmaatregelen evenredig moeten zijn aan de risico’s, autonomie en gebruikscontext van het systeem. Het eist ook dat toezichthouders de relevante mogelijkheden en beperkingen moeten begrijpen, outputs correct moeten interpreteren, alert moeten blijven op automatiseringsbias, outputs moeten kunnen negeren of overrulen, en moeten kunnen ingrijpen in of een systeem moeten stoppen.

Dat betekent niet dat elk AI‑instrument dat in een onderzoek wordt gebruikt automatisch een high‑risk systeem is. Het kader illustreert een belangrijk principe voor AI‑bestuur. Menselijk toezicht moet mensen betekenisvolle mogelijkheden bieden, niet alleen een plaats in de workflow.

AI vervangt de coach niet. Het verandert wat de coach kan zien.

De Digital Athlete van de NFL is overtuigend, niet omdat het aantoont dat AI coaches kan vervangen, maar omdat het laat zien hoe geavanceerde technologie de informatie die ervaren professionals tot hun beschikking hebben, kan uitbreiden.

AI kan mensen helpen informatie te verwerken, zaken die aandacht verdienen naar voren te brengen en meer consistentie te creëren bij herhaalbare taken. Toch vereisen de meest cruciale momenten in een onderzoek vaak iets anders: context, scepsis, interpretatie en verantwoordelijkheid.

De organisaties die het best gepositioneerd zijn om van AI te profiteren, zullen daarom meer vragen dan wat de technologie kan automatiseren. Zij zullen definiëren wat het moet doen, wat het niet moet doen, en hoe mensen en AI moeten samenwerken.