Kunstmatige Intelligentie In De Gezondheidszorg Kan Risico’s Met zich Meebrengen Naast Kansen

AI heeft een enorm potentieel wanneer het gaat om het veld van de gezondheidszorg, in staat om diagnoses te verbeteren en nieuwe, effectievere medicijnen te vinden. Echter, zoals een artikel in Scientific American onlangs besprak, opent de snelheid waarmee AI het veld van de gezondheidszorg binnendringt ook veel nieuwe uitdagingen en risico’s.

In de loop van de afgelopen vijf jaar heeft de Amerikaanse Food and Drug Administration meer dan 40 verschillende AI-producten goedgekeurd. Echter, zoals gemeld door Scientific American, is de prestatie van geen van de producten die zijn goedgekeurd voor verkoop in de VS geëvalueerd in gerandomiseerde gecontroleerde klinische onderzoeken. Veel AI-medische hulpmiddelen hebben zelfs geen goedkeuring van de FDA nodig.

Evan Topol, de auteur van “Deep Medicine: Hoe Kunstmatige Intelligentie De Gezondheidszorg Menselijker Kan Maken”, verklaarde aan Scientific American dat veel van de AI-producten die beweren effectief te zijn bij taken zoals het diagnosticeren van ziekten, eigenlijk grondig getest zijn op deze manier, met de eerste grote gerandomiseerde proef van een AI-detectie- en diagnostisch hulpmiddel die afgelopen oktober is uitgevoerd. Bovendien publiceren maar weinig technologie-startups hun onderzoeksartikelen in peer-reviewtijdschriften, waar hun werk zal worden geanalyseerd door wetenschappers.

Wanneer ze goed getest en gecontroleerd worden, kunnen AI-systemen krachtige hulpmiddelen zijn die medische professionals kunnen helpen om symptomen te detecteren die anders onopgemerkt zouden blijven, waardoor de gezondheidsresultaten worden verbeterd.

Als voorbeeld werd een AI-hulpmiddel voor het detecteren van diabetische oogaandoeningen getest bij honderden patiënten en leek betrouwbaar te zijn. Het bedrijf dat verantwoordelijk was voor de test, werkte samen met de FDA gedurende acht jaar om het product te verfijnen. De test, IDx-DR, is op weg naar eerstelijnszorgklinieken waar het mogelijk vroegtijdige tekenen van diabetische retinopathie kan helpen detecteren en patiënten kan doorverwijzen naar oogspecialisten als verdachte symptomen worden gevonden.

Als ze niet zorgvuldig getest worden, hebben AI-systemen die medische professionals kunnen gebruiken om hun diagnose en behandeling te leiden, het potentieel om schade te veroorzaken in plaats van deze te voorkomen.

Het artikel in Scientific American beschrijft een potentieel probleem met het vertrouwen op AI voor het diagnosticeren van kwalen, waarbij verwezen wordt naar het voorbeeld van een AI die is ontworpen om borstfoto’s te analyseren en te detecteren welke patiënten mogelijk longontsteking kunnen ontwikkelen. Terwijl het systeem accuraat bleek te zijn toen het werd getest in het Mount Sinai-ziekenhuis in New York, faalde het toen het werd getest op afbeeldingen gemaakt in andere ziekenhuizen. De onderzoekers ontdekten dat de AI onderscheid maakte tussen afbeeldingen gemaakt met draagbare röntgenapparaten en die gemaakt in een radiologiefaculteit. Artsen gebruiken draagbare borstfoto’s bij patiënten die vaak te ziek zijn om hun bed te verlaten, en deze patiënten lopen een groter risico om longontsteking te ontwikkelen.

Valse alarmen zijn ook een zorg. DeepMind creëerde een AI-mobiele app die in staat is om acute nierfalen bij ziekenhuispatiënten tot 48 uur van tevoren te voorspellen. Echter, het systeem zou ook twee valse alarmen hebben gegeven voor elk nierfalen dat met succes werd voorspeld. Valse positieven kunnen schadelijk zijn omdat ze artsen ertoe kunnen aanzetten om onnodig tijd en middelen te besteden aan het bestellen van verdere tests of het wijzigen van voorgeschreven behandelingen.

In een ander incident concludeerde een AI-systeem ten onrechte dat patiënten met longontsteking meer kans hadden om te overleven als ze astma hadden, wat artsen ertoe kan brengen om de behandeling voor patiënten met astma te wijzigen.

AI-systemen die zijn ontwikkeld voor één ziekenhuis functioneren vaak minder goed wanneer ze in een ander ziekenhuis worden gebruikt. Er zijn meerdere oorzaken voor dit fenomeen. Ten eerste worden AI-systemen vaak getraind op elektronische gezondheidsdossiers, maar veel elektronische gezondheidsdossiers zijn vaak onvolledig of onjuist omdat hun primaire doel vaak facturering is en niet patiëntenzorg. Zo vond een onderzoek uitgevoerd door KHN dat er soms levensbedreigende fouten waren in de medische dossiers van patiënten, zoals medicijnlijsten met onjuiste medicijnen. Bovendien zijn ziekten vaak ingewikkelder en het gezondheidssysteem complexer dan vaak kan worden voorzien door AI-ingenieurs en -wetenschappers.

Naarmate AI steeds talrijker wordt, zal het belangrijk zijn voor AI-ontwikkelaars om samen te werken met gezondheidsautoriteiten om ervoor te zorgen dat hun AI-systemen grondig getest worden en voor regelgevende instanties om ervoor te zorgen dat standaarden worden vastgesteld en gevolgd voor de betrouwbaarheid van AI-diagnostische hulpmiddelen.