Artikel onderzoekt hoe het risico van het gebruik van AI in de geneeskunde kan worden verkleind

Kunstmatige intelligentieprogramma’s zijn in staat om de gezondheidszorg op verschillende manieren te verbeteren. Zo kunnen AI-toepassingen bijvoorbeeld computerzicht gebruiken om artsen te helpen aandoeningen te diagnosticeren op basis van röntgenfoto’s en FMRIs. Machine learning-algoritmen kunnen ook worden gebruikt om vals-positieve tarieven te helpen verlagen door subtiele patronen uit gegevens te extraheren die mensen mogelijk niet in medische gegevens kunnen vinden. Echter, met de mogelijkheden komen nieuwe uitdagingen, en onlangs is er een nieuw artikel gepubliceerd in Science dat mogelijke risico’s en regelgevingsstrategieën voor medische machine learning-technieken onderzocht in een poging om eventuele negatieve bijwerkingen van het gebruik van AI in een medische context te minimaliseren.

Uitbreiding van toepassingen voor AI in de gezondheidszorg

AI ziet zijn toepassingen in het medische veld snel uitbreiden. Recent ontwikkelde ontwikkelingen in het veld van de gezondheidszorg, gedreven door AI, omvatten de oprichting van een nieuwe farmaceutische onderneming die AI wil gebruiken om nieuwe medicijnen te creëren, de creatie van AI-gestuurde remote gezondheidssensoren en computerzicht-apps die CT-scans en röntgenfoto’s analyseren.

Om precies te zijn, is Genesis Therapeutics een startup die AI wil gebruiken om het proces van geneesmiddelontdekking te versnellen, in de hoop medicijnen te creëren die de ernst van invalidiserende ziekten kunnen verminderen. Genesis Therapeutics is slechts een van de bijna 170 verschillende bedrijven die AI gebruiken om nieuwe medicijnformuleringen te onderzoeken. Ondertussen, op het gebied van gezondheidsmonitoringapparaten, maken iRhythm (IRTC ) en de Franse AI-startup Cardiologs gebruik van AI-algoritmen om EEG-gegevens te analyseren en de gezondheid van mensen met hartziekten te monitoren die risico lopen op complicaties. De software die door de bedrijven is ontwikkeld, kan hartgeruis detecteren, een aandoening die wordt veroorzaakt door turbulent bloedstroom.

Tenslotte vond een recente studie die onderzocht hoe computerzicht kan worden toegepast op medische beelden, dat computerzichtsystemen minstens even goed of beter presteren dan expert-radiologen bij het onderzoeken van CT-scans om kleine bloedingen te vinden. De algoritmen die in de studie werden gebruikt, konden voorspellingen doen na het onderzoeken van CT-scans voor slechts één seconde. De computerzichtsystemen konden de bloeding ook lokaliseren in de hersenen.

Dus, terwijl de potentiële voordelen van het gebruik van AI in de gezondheidszorg duidelijk zijn, is het minder duidelijk wat voor nieuwe uitdagingen en risico’s zullen ontstaan als gevolg van het gebruik van AI binnen het veld van de gezondheidszorg.

Regulering van een uitbreidend veld

Zoals TechXplore rapporteerde, om de potentiële nadelen van het gebruik van AI in de gezondheidszorg te beoordelen, publiceerde een groep onderzoekers onlangs een artikel in Science, met als doel antwoorden te vinden op mogelijke problemen met AI en potentiële oplossingen voor deze problemen te onderzoeken. Problemen die kunnen ontstaan door het gebruik van AI in de gezondheidszorg omvatten ongepaste aanbevelingen van behandelingen die tot letsel leiden, privacyproblemen en algoritme-bias/ongelijkheid.

De FDA heeft alleen medische AI goedgekeurd die “gesloten algoritmen” gebruikt, algoritmen die betrouwbaar hetzelfde resultaat produceren elke keer dat ze worden uitgevoerd. Echter, veel van de potentie van AI ligt in zijn vermogen om te leren en te reageren op nieuwe soorten invoer. Om “adaptieve algoritmen” meer te laten gebruiken en goedkeuring van de FDA te krijgen, hebben de auteurs van het artikel een diepgaande blik geworpen op hoe de risico’s die verband houden met het bijwerken van algoritmen, kunnen worden geminimaliseerd.

De auteurs bepleiten dat machine learning-ingenieurs en onderzoekers zich moeten concentreren op continue monitoring van modellen over de levensduur van hun implementatie. Onder de voorgestelde tools om AI-systemen te monitoren, was AI zelf, dat kan helpen bij het genereren van geautomatiseerde rapporten over hoe een AI zich gedraagt. Het is ook mogelijk dat meerdere AI-apparaten elkaar kunnen monitoren.

“Om de risico’s te beheersen, moeten regulators zich met name concentreren op continue monitoring en risicobeoordeling, en minder op het plannen van toekomstige algoritme-wijzigingen,” zeiden de auteurs van het artikel.

De auteurs van het artikel raden ook aan dat regulators zich moeten concentreren op het ontwikkelen van nieuwe methoden voor het identificeren, monitoren, beoordelen en beheersen van risico’s. Het artikel past veel van de technieken toe die de FDA heeft gebruikt om andere vormen van medische technologie te reguleren.

Zoals de auteurs van het artikel uitlegden:

“Ons doel is om de risico’s te benadrukken die kunnen ontstaan door onverwachte veranderingen in hoe medische AI/ML-systemen reageren of zich aanpassen aan hun omgeving. Subtiele, vaak onherkende parameter-updates of nieuwe soorten gegevens kunnen grote en kostbare fouten veroorzaken.”