Ziekenhuizen namen AI over voordat ze begrepen wat ze overnamen

Ziekenhuizen hebben kunstmatige intelligentie niet in één bewuste moment overgenomen. Het kwam in stukjes binnen: een beeldalgoritme, een documentatieassistent, een personeelsvoorspelling, een patiëntberichtgenerator, een weigeringvoorspellingsmodel, een planningsinstrument. Elk product kwam binnen via een andere afdeling, beantwoordde een andere behoefte en werd beoordeeld tegen een andere begroting.

Die gefragmenteerde route maakte adoptie gemakkelijker. Het verborg ook wat ziekenhuizen eigenlijk overnamen.

Een AI-product is niet zomaar een andere softwaretoepassing. Het is een systeem dat oordeel kan beïnvloeden, werk kan herverdelen, verantwoordelijkheid kan veranderen, kan leren van veranderende gegevens en outputs kan produceren die moeilijk zijn te reconstrueren na afloop. Ziekenhuizen kochten vaak de mogelijkheid voordat ze de institutionele taal, governance en operationele discipline hadden opgebouwd die nodig was om die gevolgen te begrijpen.

Uit mijn ervaring met het werken met zorgorganisaties, heb ik gezien dat het moeilijkste deel van AI-adoptie zelden begint met het model zelf. Het begint wanneer de technologie een workflow binnenkomt die nooit is ontworpen voor het gebruik ervan, en wanneer mensen moeten beslissen hoeveel vertrouwen, autoriteit en verantwoordelijkheid ze moeten geven aan de output.

Dit is geen argument tegen adoptie. De zorgsector heeft betere instrumenten nodig, en AI creëert al waarde. Het is een argument voor een volwassener definitie van adoptie – een die begint na aankoop in plaats van daar te eindigen.

AI kwam binnen door de deur gemarkeerd “Efficiëntie”

Het vroege argument voor ziekenhuis-AI was praktisch. Administratief werk nam toe, werkdruck nam toe en clinici besteedden te veel tijd aan taken die geen klinisch oordeel vereisten. Die vraag is alleen maar toegenomen. In 2026 rapporteerde de American Medical Association dat 81 procent van de ondervraagde artsen AI in de praktijk gebruikte, meer dan het dubbele van het aantal in 2023.

De aantrekkingskracht is begrijpelijk. Ziekenhuizen staan onder druk om toegang te verbeteren, burn-out te verminderen, kosten te beheren en informatie sneller te verwerken. Een instrument dat een notitie opstelt, een wachtrij prioriteert, een vertraging voorspelt of een kaart samenvat, kan eruitzien als een smalle operationele verbetering.

Maar AI blijft zelden smal once het een workflow binnenkomt. Een documentatiesysteem verandert wat er in het dossier wordt opgenomen. Een prioriteitsmodel verandert welke gevallen het eerst worden behandeld. Een voorspellingsinstrument verandert personeelsbeslissingen. Een patiëntcommunicatieassistent verandert hoe klinische intent wordt vertaald in taal. Zelfs wanneer het oorspronkelijke doel administratief is, kan het operationele effect de zorgverlening bereiken.

Ziekenhuizen hebben dus meer overgenomen dan efficiëntie. Ze hebben nieuwe vormen van invloed overgenomen op beslissingen, sequenties, aandacht en verantwoordelijkheid.

Het eerste misverstand: AI behandelen als conventionele software

Traditionele software wordt meestal beoordeeld op basis van of het een gedefinieerde functie betrouwbaar uitvoert. AI vereist een bredere set vragen. Welke gegevens hebben het model gevormd? Waar verzwakt de prestatie? Hoe verandert de output wanneer lokale workflows afwijken van de omgeving waarin het systeem is getest? Wie bekijkt het resultaat? Wat gebeurt er wanneer het model wordt bijgewerkt? Wat voor bewijs wordt behouden wanneer een beslissing maanden later wordt aangevochten?

Deze vragen worden onderdeel van het formele gezondheidstechnologiebeleid. De Office of the National Coordinator for Health Information Technology’s HTI-1-regel introduceerde transparantie-eisen voor voorspellende algoritmes in gecertificeerde gezondheids-IT, waaronder informatie die bedoeld is om gebruikers te helpen bij het beoordelen van eerlijkheid, geschiktheid, geldigheid, effectiviteit en veiligheid. Die taal is belangrijk omdat het de evaluatie verder brengt dan of een instrument werkt in een demonstratie.

Ziekenhuizen moeten weten of het werkt hier, voor deze populatie, in deze workflow, onder deze omstandigheden, met deze mensen die verantwoordelijk zijn voor het nemen van actie op basis van de output.

Dat is een heel andere aankoopvraag. Die kan niet worden beantwoord door een functielijst of een leverancierspresentatie alleen.

Het tweede misverstand: aannemen dat menselijke toezicht alles oplost

“Human in the loop” is een geruststellende frase geworden in de gezondheidszorg-AI. Het suggereert dat een persoon in controle blijft en de machine kan corrigeren. In de praktijk is menselijke toezicht alleen zinvol wanneer de mens de tijd, autoriteit, context en een duidelijke reden heeft om de output in twijfel te trekken.

Een clinicus die honderden AI-ondersteunde aanbevelingen ontvangt, bekijkt niet elk ervan vanuit de eerste beginselen. Een personeelslid dat een hoge-volumewachtrij behandelt, kan een voorgestelde prioriteit accepteren omdat de interface het als standaard presenteert. Een reviewer kan technisch gezien de autoriteit hebben om een model te overschrijven, maar ontbreekt het aan de informatie die nodig is om te begrijpen waarom het model zijn resultaat produceerde.

De Wereldgezondheidsorganisatie’s richtlijnen voor AI in de gezondheidszorg plaatsen autonomie, verantwoordelijkheid, transparantie, veiligheid en gelijkheid centraal bij de implementatie. Die principes worden niet vervuld door alleen maar omdat een mens op de laatste knop klikt.

Menselijke toezicht moet worden ontworpen als een operationele functie. Ziekenhuizen moeten definiëren welke outputs moeten worden beoordeeld, welk bewijs de reviewer ziet, wanneer escalatie verplicht is, hoe meningsverschillen worden geregistreerd en of de persoon die de output bekijkt realistisch in staat is om in te grijpen.

Bedenk een patiëntberichtassistent die een opvolgnota opstelt na ontslag. De clinicus kan nog steeds verantwoordelijk zijn voor goedkeuring, maar de praktische waarborgen hangen af van de workflow. Wordt de ontwerp duidelijk gemarkeerd als machinegegenereerd? Ziet de reviewer het klinische bronmateriaal erachter? Kan het personeel herkennen wanneer de taal een waarschuwing heeft weggelaten of de zekerheid heeft overschat? Als het bericht tijdens een haastige dienst wordt goedgekeurd en later verwarring veroorzaakt, kan de verantwoordelijkheid niet worden teruggebracht tot het feit dat een mens op “verzenden” heeft geklikt. Het ontwerp van het beoordelingsproces is even belangrijk als de aanwezigheid van de reviewer.

Het derde misverstand: aannemen dat validatie een eenmalige gebeurtenis is

Veel organisaties valideren AI voordat ze het in gebruik nemen en behandelen het systeem vervolgens als stabiel. Deze aanpak weerspiegelt conventioneel implementatiedenken: testen, goedkeuren, implementeren, onderhouden.

De prestaties van AI kunnen veranderen omdat de omgeving verandert. Patiëntpopulaties veranderen. Codeerpraktijken veranderen. Klinische documentatie verandert. Nieuwe apparatuur wordt geïntroduceerd. Het personeel past hun gedrag aan het instrument aan. Leveranciers updaten modellen. Gegevensinterfaces breken stilzwijgend. Een systeem dat acceptabel presteerde bij de lancering, kan minder betrouwbaar worden zonder een duidelijke foutmelding te produceren.

De NIST AI Risk Management Framework behandelt risicobeheer als een continue levenscyclusactiviteit die is georganiseerd rond het reguleren, in kaart brengen, meten en beheren van risico’s. Ziekenhuizen moeten hetzelfde principe operationeel toepassen.

Post-implementatiemonitoring moet niet beperkt zijn tot uptime. Het moet ook de prestaties per patiëntengroep, overschrijvingspatronen, ongebruikelijke outputverdelingen, workflowvertragingen, gebruikersklachten, downstreamcorrecties en tekenen dat het personeel afhankelijk is van het systeem op manieren die nooit zijn bedoeld, omvatten.

Een model kan technisch beschikbaar zijn en operationeel onveilig zijn op hetzelfde moment.

Het vierde misverstand: verwarren van regelgevingsgoedkeuring met institutionele gereedheid

De U.S. Food and Drug Administration onderhoudt een lijst van AI-geactiveerde medische apparaten die aan de van toepassing zijnde premarktvereisten voldoen. Dit is een belangrijke laag van zekerheid voor gereguleerde producten, maar regelgevingsautoriteit en ziekenhuisgereedheid beantwoorden verschillende vragen.

Een regulator kan bepalen dat een apparaat voldoende veilig en effectief is voor het beoogde gebruik. Een ziekenhuis moet nog steeds bepalen of zijn eigen gegevens, personeel, infrastructuur, opleiding, escalatiepaden en patiëntpopulatie de verantwoorde gebruik ondersteunen.

Hetzelfde onderscheid geldt voor niet-apparaat-AI. Beveiligingscontrole stelt geen klinische geschiktheid vast. Privacycontrole stelt geen workflowveiligheid vast. Juridische goedkeuring stelt geen gebruikerscompetentie vast. Een succesvolle proef stelt geen ondernemingsgereedheid vast.

Ziekenhuizen hebben een geïntegreerd besluitvormingsproces nodig dat deze vragen samenbrengt in plaats van elk departement te laten goedkeuren van een deel van het risico.

Wat ziekenhuizen daadwerkelijk overnemen wanneer ze AI overnemen

Een volwassen organisatie moet erkennen dat elke AI-implementatie minstens vijf dingen tegelijk introduceert:

• Een beslissingsinvloed: zelfs wanneer AI de finale beslissing niet neemt, vormt het wat mensen opmerken, prioriteren of geloven.
• Een gegevensafhankelijkheid: het systeem erft de sterktes, lacunes, vooroordelen en instabiliteit van de gegevens eromheen.
• Een workflowherontwerp: taken verplaatsen tussen mensen, systemen en afdelingen, vaak veranderend van verantwoordelijkheid op subtiele manieren.
• Een bewakingsverplichting: prestaties moeten worden waargenomen na implementatie, niet aangenomen vanuit pre-implementatiebewijs.
• Een vertrouwensrelatie: patiënten en personeel moeten begrijpen waar AI aanwezig is en wat de rol ervan is.

Deze bredere definitie verklaart waarom ziekenhuizen tientallen AI-instrumenten kunnen implementeren en toch onvoorbereid kunnen zijn. De organisatie heeft capaciteiten verworven zonder noodzakelijkerwijs de verbindende weefsel te bouwen die nodig is om ze als een portfolio te reguleren.

Van AI-inventaris naar AI-verantwoordelijkheid

De eerste praktische stap is niet nog een strategiedocument. Het is een betrouwbare inventaris.

Sommige ziekenhuizen ontbreken nog steeds aan een complete weergave van waar AI al operationeel is omdat het is ingebed in grotere platforms, geïntroduceerd via afdelingsaankopen of beschreven met zachtere termen zoals automatisering, intelligentie, voorspelling, optimalisatie of beslissingsondersteuning.

Een inventaris moet het doel van elk systeem registreren, de beslissingen die het beïnvloedt, de gegevens die het gebruikt, de populatie die het beïnvloedt, de leverancier en modelversie, de menselijke eigenaar, het beoordelingsproces, het escalatiepad en het bewijs dat wordt gebruikt om het goed te keuren.

Maar een inventaris alleen is geen governance. Verantwoordelijkheid begint wanneer elk systeem een benoemde uitvoerende eigenaar en een operationele eigenaar heeft. De uitvoerende eigenaar accepteert de verantwoordelijkheid voor of de use case nog steeds geschikt is. De operationele eigenaar begrijpt hoe het systeem zich gedraagt in dagelijkse werkzaamheden en kan identificeren wanneer de realiteit afwijkt van het beleid.

Het nieuwe standaard: begrijpen voordat schalen

Ziekenhuizen hoeven niet elke AI-initiatief te pauzeren totdat ze perfecte zekerheid bereiken. Perfecte zekerheid bestaat niet in de gezondheidszorg of technologie. Ze moeten enthousiasme-gedreven schalen vervangen door bewijs-gedreven schalen.

Dat betekent beginnen met een specifiek probleem, het aanvaardbare rol van AI definiëren, testen in de lokale omgeving, limieten documenteren, echte resultaten meten en alleen uitbreiden wanneer de organisatie zowel het voordeel als het risico kan verklaren.

De belangrijkste vraag is niet langer: “Gebruikt dit instrument AI?” Die vraag is te breed om nuttig te zijn. De betere vragen zijn: Welk oordeel beïnvloedt het? Wat gebeurt er wanneer het fout is? Wie merkt het op? Wie kan het stoppen? Wat voor bewijs zou de rol ervan rechtvaardigen?

Een recente WHO-beleidsrichtlijn over het begrijpen van AI in de gezondheidszorg maakt een soortgelijk geval voor geïnformeerde besluitvorming die verder kijkt dan hype en onderzoekt veiligheid, vooroordelen, governance, regulering en vertrouwen. Ziekenhuizen moeten hetzelfde niveau van geletterdheid verwachten van leiderschapsteams als ze verwachten van technische teams.

Het echte opportuniteit is institutioneel leren

De ziekenhuizen die het meest profiteren van AI zullen niet noodzakelijkerwijs degenen zijn die de meeste instrumenten adopteren. Ze zullen degenen zijn die het snelst leren van elke implementatie.

Ze zullen implementatie behandelen als een bron van institutionele kennis: waar gegevenskwaliteit breekt, waar workflows weerstand bieden tegen automatisering, waar personeel duidelijkere grenzen nodig heeft, waar patiënten meer transparantie nodig hebben en waar governance specifieker moet worden.

Dit leren kan niet binnen een innovatiekantoor blijven. Het moet klinisch leiderschap, operaties, compliance, technologie, financiën, kwaliteit en de raad van bestuur bereiken. AI is nu te verspreid om te worden geregeerd door een kleine groep specialisten en te belangrijk om alleen te worden begrepen als een technisch onderwerp.

Ziekenhuizen hebben AI overgenomen voordat ze volledig begrepen wat ze overnamen. Dat is niet ongebruikelijk in een periode van snelle technologische verandering. De belangrijkste vraag is wat ze doen zodra de kloof zichtbaar wordt.

De verantwoorde reactie is niet terugtrekken. Het is het opbouwen van de capaciteit om AI te begrijpen zoals het daadwerkelijk werkt: binnen beslissingen, workflows, relaties en instellingen. Pas dan wordt adoptie gereedheid.