Kunstmatige Intelligentie in de Gezondheidszorg Kan Risico’s Met zich Meebrengen, Naast Kansen

Kunstmatige intelligentie (AI) heeft een enorm potentieel in het veld van de gezondheidszorg, waar het diagnoses kan verbeteren en nieuwe, effectievere medicijnen kan vinden. Echter, zoals een artikel in Scientific American onlangs besprak, de snelheid waarmee AI het veld van de gezondheidszorg binnendringt, opent ook veel nieuwe uitdagingen en risico’s.

In de afgelopen vijf jaar heeft de Amerikaanse voedsel- en medicijnenautoriteit (FDA) meer dan 40 verschillende AI-producten goedgekeurd. Echter, zoals Scientific American meldde, zijn geen van de producten die in de VS zijn goedgekeurd, getest in gerandomiseerde gecontroleerde klinische onderzoeken. Veel AI-medische hulpmiddelen hebben zelfs geen goedkeuring van de FDA nodig.

Evan Topol, de auteur van “Deep Medicine: Hoe Kunstmatige Intelligentie de Gezondheidszorg Menselijker Kan Maken”, zei tegen Scientific American dat veel van de AI-producten die beweren effectief te zijn in taken zoals het diagnosticeren van ziektes, eigenlijk grondig getest zijn, met de eerste grote gerandomiseerde proef van een AI-detectie- en diagnosehulpmiddel die afgelopen oktober is uitgevoerd. Bovendien publiceren veel technologie-startups hun onderzoeksartikelen niet in peer-reviewtijdschriften, waar hun werk zal worden geanalyseerd door wetenschappers.

Wanneer ze goed getest en gecontroleerd worden, kunnen AI-systemen krachtige hulpmiddelen zijn die medische professionals helpen om onopgemerkte symptomen te detecteren, waardoor de gezondheidsresultaten verbeteren.

Als voorbeeld werd een AI-hulpmiddel voor het detecteren van diabetische oogaandoeningen getest bij honderden patiënten en leek betrouwbaar te zijn. Het bedrijf dat verantwoordelijk was voor de test, werkte samen met de FDA gedurende acht jaar om het product te verfijnen. De test, IDx-DR, wordt nu naar eerstelijnszorgklinieken gebracht, waar het mogelijk vroegtijdige tekenen van diabetische retinopathie kan helpen detecteren en patiënten kan doorverwijzen naar oogspecialisten als verdachte symptomen worden gevonden.

Als ze niet zorgvuldig getest worden, kunnen AI-systemen die medische professionals gebruiken om hun diagnose en behandeling te leiden, schade veroorzaken in plaats van deze te voorkomen.

Het artikel in Scientific American beschrijft een potentieel probleem met het vertrouwen op AI om aandoeningen te diagnosticeren, waarbij het voorbeeld wordt gegeven van een AI die is ontworpen om borstfoto’s te analyseren en te bepalen welke patiënten mogelijk longontsteking zullen ontwikkelen. Terwijl het systeem accuraat bleek te zijn toen het werd getest in het Mount Sinai-ziekenhuis in New York, faalde het toen het werd getest op afbeeldingen gemaakt in andere ziekenhuizen. De onderzoekers vonden dat de AI het onderscheid maakte tussen afbeeldingen gemaakt met draagbare röntgenapparaten en die gemaakt in een radiologiefaciliteit. Artsen gebruiken draagbare borstfoto’s bij patiënten die vaak te ziek zijn om hun bed te verlaten, en deze patiënten lopen een groter risico om longontsteking te ontwikkelen.

Valse alarmen zijn ook een zorg. DeepMind creëerde een AI-mobiele app die in staat is om acute nierfalen bij ziekenhuispatiënten tot 48 uur van tevoren te voorspellen. Echter, het systeem zou ook twee valse alarmen hebben gegenereerd voor elke succesvol voorspelde nierfalen. Valse positieven kunnen schadelijk zijn, omdat ze artsen ertoe kunnen aanzetten om onnodige tijd en middelen te besteden aan het bestellen van verdere tests of het wijzigen van voorgeschreven behandelingen.

In een ander incident concludeerde een AI-systeem ten onrechte dat patiënten met longontsteking meer kans hadden om te overleven als ze astma hadden, wat artsen ertoe kon aanzetten om de behandeling voor patiënten met astma te wijzigen.

AI-systemen die zijn ontwikkeld voor één ziekenhuis presteren vaak slecht wanneer ze in een ander ziekenhuis worden gebruikt. Er zijn meerdere oorzaken voor dit fenomeen. Ten eerste worden AI-systemen vaak getraind op elektronische gezondheidsdossiers, maar veel elektronische gezondheidsdossiers zijn onvolledig of onjuist, omdat hun primaire doel vaak facturering is en niet patiëntenzorg. Zo vond een onderzoek uitgevoerd door KHN dat er soms levensbedreigende fouten in patiëntendossiers waren, zoals medicatielijsten met onjuiste medicijnen. Bovendien zijn ziektes vaak complexer en het gezondheidssysteem ingewikkelder dan kan worden voorzien door AI-ingenieurs en -wetenschappers.

Naarmate AI steeds meer wordt gebruikt, zal het belangrijk zijn voor AI-ontwikkelaars om samen te werken met gezondheidsautoriteiten om ervoor te zorgen dat hun AI-systemen grondig getest worden en voor regelgevende instanties om ervoor te zorgen dat standaarden worden vastgesteld en nageleefd voor de betrouwbaarheid van AI-diagnostische hulpmiddelen.