Wanneer AI in de gezondheidszorg moet worden vermeden

Elke keer dat een nieuwe technologische vooruitgang zijn intrede doet in een industrie, kan er een verleiding zijn om dat glanzende nieuwe speeltje als een oplossing voor alle problemen van de industrie te zien. AI in de gezondheidszorg is een goed voorbeeld. Naarmate de technologie verder geavanceerd raakt, is deze voor gebruik in de ontwikkeling van medicijnen, zorgcoördinatie en vergoeding toegepast, om er maar een paar te noemen. Er zijn veel legitieme use cases voor AI in de gezondheidszorg, waar de technologie verreweg beter is dan enig momenteel beschikbaar alternatief.

Echter, AI – zoals het vandaag de dag is – is alleen uitstekend in bepaalde taken, zoals het begrijpen van grote hoeveelheden gegevens en het nemen van beslissingen op basis van duidelijk gedefinieerde regels. Andere situaties, met name waar extra context essentieel is voor het nemen van de juiste beslissing, zijn niet goed geschikt voor AI. Laten we enkele voorbeelden onderzoeken.

Afwijzing van claims en zorg

Of het nu gaat om een claim of zorg, afwijzingen zijn complexe beslissingen en te belangrijk om door AI alleen te worden afgehandeld. Wanneer een claim of zorg wordt afgewezen, is er een morele verplichting om dit met de grootste voorzichtigheid te doen, en op basis van de huidige capaciteiten van AI, is dit noodzakelijkerwijs menselijke input.

Verder dan het morele element, lopen zorgverzekeraars het risico om te veel te vertrouwen op AI om afwijzingsbeslissingen te nemen. Zorgverzekeraars kunnen, en worden, aangeklaagd voor het onjuist gebruik van AI om claims af te wijzen, met rechtszaken die de zorgverzekeraars beschuldigen van het niet voldoen aan de minimumeisen voor artsbeoordeling omdat AI in plaats daarvan werd gebruikt.

Vertrouwen op eerdere beslissingen

Het vertrouwen op AI om beslissingen te nemen op basis van hoe het een eerdere beslissing heeft genomen, heeft een duidelijke fout: één verkeerde beslissing uit het verleden zal voortleven en andere beslissingen beïnvloeden. Bovendien kunnen AI-systemen, omdat de regels die AI informeren vaak zijn verdeeld over systemen of onvolmaakt zijn gecodeerd door mensen, een onnauwkeurige kennis van deze regels overnemen en voortzetten. Om dit te voorkomen, moeten organisaties een enkele bron van beleidstruth creëren, zodat AI naar een betrouwbaar gegevensbestand kan verwijzen en daarvan kan leren.

Voortbouwen op legacy-systemen

Als een relatief nieuwe technologie brengt AI een gevoel van mogelijkheden met zich mee, en veel zorgverzekeraars zijn enthousiast om snel gebruik te maken van die mogelijkheden door AI-hulpmiddelen te gebruiken die al zijn ingebouwd in bestaande ondernemingsplatforms. Het probleem is dat de claimsprocessen in de gezondheidszorg extreem complex zijn, en ondernemingsplatforms vaak de nuances niet begrijpen. Het gebruiken van AI als een universele oplossing (die niet rekening houdt met alle factoren die de claimsafhandeling beïnvloeden) bovenop deze legacy-platforms leidt tot verwarring en onnauwkeurigheid, in plaats van efficiëntere processen te creëren.

Leunen op oude gegevens

Een van de grootste voordelen van AI is dat het steeds beter wordt in het coördineren van taken naarmate het leert, maar dat leren kan alleen plaatsvinden als er een consistente feedbacklus is die AI helpt te begrijpen wat het verkeerd heeft gedaan, zodat het kan worden aangepast. Die feedback moet niet alleen constant zijn, maar moet ook gebaseerd zijn op schone, nauwkeurige gegevens. AI is immers alleen zo goed als de gegevens waaruit het leert.

Wanneer AI in de gezondheidszorg nuttig is

Het gebruik van AI in een sector waar de uitkomsten zo consequent zijn als de gezondheidszorg, vereist zeker voorzichtigheid, maar dat betekent niet dat er geen use cases zijn waarin AI zinvol is.

Ten eerste is er geen gebrek aan gegevens in de gezondheidszorg (denk aan het feit dat één persoon een medisch dossier van duizenden pagina’s kan hebben), en de patronen in die gegevens kunnen ons veel vertellen over het diagnosticeren van ziekten, het correct afhandelen van claims en meer. Hierin blinkt AI uit, door patronen te zoeken en acties voor te stellen op basis van die patronen die menselijke beoordelaars kunnen gebruiken.

Een ander gebied waarin AI uitblinkt, is bij het catalogiseren en opnemen van beleid en regels die bepalen hoe claims worden betaald. Generatieve AI (GenAI) kan worden gebruikt om deze beleidsinhoud van verschillende formaten om te zetten in machineleesbare code die consistent kan worden toegepast op alle patiëntclaims. GenAI kan ook worden gebruikt om informatie samen te vatten en weer te geven in een gemakkelijk te lezen formaat voor een menselijke beoordelaar.

De sleutel tot al deze use cases is dat AI wordt gebruikt als co-piloot voor mensen die het toezicht houden, en niet als de enige beslissingsautoriteit. Zolang organisaties dit idee in gedachten houden bij de implementatie van AI, zullen ze in staat zijn om te slagen in deze tijd waarin de gezondheidszorg wordt getransformeerd door AI.