Onderzoek naar het verminderen van het risico van het gebruik van AI in de geneeskunde

Kunstmatige intelligentieprogramma’s zijn in staat om de gezondheidszorg op verschillende manieren te verbeteren. Zo kunnen AI-toepassingen computer vision gebruiken om artsen te helpen bij het diagnosticeren van aandoeningen op röntgenfoto’s en FMRIs. Machine learning-algoritmen kunnen ook worden gebruikt om vals-positieve tarieven te verminderen door subtiele patronen te extraheren uit gegevens die mensen mogelijk niet kunnen vinden in medische gegevens. Echter, met de mogelijkheden komen nieuwe uitdagingen, en onlangs is er een nieuw artikel gepubliceerd in Science dat mogelijke risico’s en regelgevingsstrategieën voor medische machine learning-technieken onderzocht om eventuele negatieve neveneffecten van het gebruik van AI in een medische context te minimaliseren.

Uitbreidende toepassingen voor AI in de gezondheidszorg

AI ziet zijn toepassingen in het medische veld snel uitbreiden. Recent ontwikkelde ontwikkelingen in het veld van de gezondheidszorg, gedreven door AI, omvatten de oprichting van een nieuwe farmaceutische onderneming die AI gebruikt om nieuwe medicijnen te creëren, de creatie van AI-gestuurde remote health-sensoren en computer vision-apps die CT-scans en röntgenfoto’s analyseren.

Om precies te zijn, is Genesis Therapeutics een startup die AI gebruikt om het proces van geneesmiddelontdekking te versnellen, in de hoop medicijnen te creëren die de ernst van invalidiserende ziekten kunnen verminderen. Genesis Therapeutics is slechts een van de bijna 170 verschillende bedrijven die AI gebruiken om nieuwe medicijnformuleringen te onderzoeken. Ondertussen, wat betreft gezondheidsmonitord apparaten, gebruiken iRhythm en de Franse AI-startup Cardiologs AI-algoritmen om EEG-gegevens te analyseren en de gezondheid van mensen met hartziekten te monitoren die risico lopen op complicaties. De software die door de bedrijven is ontwikkeld, kan hartgeruis detecteren, een aandoening die wordt veroorzaakt door turbulent bloedstroom.

Ten slotte vond een recente studie die onderzocht hoe computer vision kan worden toegepast op medische beelden, dat computer vision-systemen minstens zo goed of beter presteren dan expert-radiologen bij het onderzoeken van CT-scans om kleine bloedingen te vinden. De algoritmen die in de studie werden gebruikt, konden voorspellingen doen na het onderzoeken van CT-scans voor slechts één seconde. De computer vision-systemen konden ook de bloeding lokaliseren in de hersenen.

Dus, terwijl de potentiële voordelen van het gebruik van AI in de gezondheidszorg duidelijk zijn, is het minder duidelijk wat voor nieuwe uitdagingen en risico’s zullen ontstaan als gevolg van het gebruik van AI binnen het veld van de gezondheidszorg.

Regulering van een uitbreidende sector

Zoals TechXplore rapporteerde, hebben een groep onderzoekers onlangs een artikel gepubliceerd in Science, met als doel antwoorden te vinden op mogelijke problemen met AI en potentiële oplossingen voor deze problemen te onderzoeken. Problemen die kunnen ontstaan door het gebruik van AI in de gezondheidszorg omvatten de ongepaste aanbeveling van behandelingen die leiden tot letsel, privacyproblemen en algoritme-bias/ongelijkheid.

De FDA heeft alleen medische AI goedgekeurd die “locked algorithms” gebruikt, algoritmen die elke keer dat ze worden uitgevoerd hetzelfde resultaat produceren. Echter, een groot deel van de potentie van AI ligt in zijn vermogen om te leren en te reageren op nieuwe soorten invoer. Om “adaptive algorithms” meer te laten gebruiken en goedkeuring te krijgen van de FDA, hebben de auteurs van het artikel een diepgaande blik geworpen op hoe de risico’s die verband houden met het bijwerken van algoritmen kunnen worden geminimaliseerd.

De auteurs bepleiten dat machine learning-ingenieurs en onderzoekers zich moeten concentreren op continue monitoring van modellen tijdens de levensduur van hun implementatie. Onder de voorgestelde tools om AI-systemen te monitoren, was AI zelf, dat kan helpen bij het geven van geautomatiseerde rapporten over hoe een AI zich gedraagt. Het is ook mogelijk dat meerdere AI-apparaten elkaar kunnen monitoren.

“Om de risico’s te beheersen, moeten regulators zich vooral concentreren op continue monitoring en risicobeoordeling, en minder op het plannen van toekomstige algoritme-wijzigingen,” zeiden de auteurs van het artikel.

De auteurs van het artikel raden ook aan dat regulators zich moeten concentreren op het ontwikkelen van nieuwe methoden voor het identificeren, monitoren, beoordelen en beheersen van risico’s. Het artikel past veel van de technieken toe die de FDA heeft gebruikt om andere vormen van medische technologie te reguleren.

Zoals de auteurs van het artikel uitlegden:

“Ons doel is om de risico’s te benadrukken die kunnen ontstaan door onverwachte veranderingen in hoe medische AI/ML-systemen reageren of zich aanpassen aan hun omgeving. Subtiele, vaak onherkende parametrische updates of nieuwe soorten gegevens kunnen grote en kostbare fouten veroorzaken.”