Wanneer AI in de gezondheidszorg moet worden vermeden

Elke keer als een nieuwe technologische vooruitgang zijn intrede doet in een industrie, kan er een verleiding zijn om dat glanzende nieuwe speeltje te zien als een oplossing voor alle problemen van die industrie. AI in de gezondheidszorg is een goed voorbeeld. Naarmate de technologie verder ontwikkeld is, is het geadopteerd voor gebruik in de ontwikkeling van medicijnen, zorgcoördinatie en vergoeding, om er maar een paar te noemen. Er zijn veel legitieme gebruikscases voor AI in de gezondheidszorg, waar de technologie verreweg beter is dan enig andere momenteel beschikbare alternatief.

Echter, AI – zoals het er nu voor staat – is alleen uitstekend in bepaalde taken, zoals het begrijpen van grote hoeveelheden gegevens en het nemen van beslissingen op basis van duidelijk gedefinieerde regels. Andere situaties, met name waar extra context essentieel is voor het nemen van de juiste beslissing, zijn niet goed geschikt voor AI. Laten we enkele voorbeelden onderzoeken.

Afwijzing van claims en zorg

Of het nu gaat om een claim of zorg, afwijzingen zijn complexe beslissingen en te belangrijk om door AI alleen te worden afgehandeld. Wanneer een claim of zorg wordt afgewezen, is er een morele verplichting om dit met de grootste voorzichtigheid te doen en op basis van de huidige capaciteiten van AI, is dit noodzakelijkerwijs een menselijke inbreng.

Verder dan het morele element, lopen zorgverzekeraars het risico om te worden aangeklaagd als ze te veel vertrouwen op AI om afwijzingsbeslissingen te nemen. Verzekeraars kunnen en worden aangeklaagd voor het onjuist gebruik van AI om claims af te wijzen, met rechtszaken die verzekeraars beschuldigen van het niet voldoen aan de minimumeisen voor artsbeoordeling omdat AI in plaats daarvan werd gebruikt.

Vertrouwen op eerdere beslissingen

Het vertrouwen op AI om beslissingen te nemen op basis van eerdere beslissingen heeft een duidelijke fout: één verkeerde beslissing in het verleden zal voortleven en andere beslissingen beïnvloeden. Bovendien kunnen AI-systemen, omdat de regels die AI informeren vaak zijn verdeeld over systemen of onvolmaakt zijn gecodeerd door mensen, een onnauwkeurig begrip van deze regels ontwikkelen en in stand houden. Om dit te voorkomen, moeten organisaties een enkele bron van beleidstruth creëren, zodat AI kan verwijzen naar en leren van een betrouwbaar dataset.

Bouwen op legacy-systemen

Als een relatief nieuwe technologie, brengt AI een gevoel van mogelijkheden met zich mee en veel zorgverzekeraars zijn enthousiast om deze mogelijkheden snel te benutten door AI-hulpmiddelen te gebruiken die al zijn geïntegreerd in bestaande ondernemingsplatforms. Het probleem is dat de claimsprocessen in de gezondheidszorg extreem complex zijn en ondernemingsplatforms vaak de nuances niet begrijpen. Het gebruik van AI als een oplossing voor alles op deze legacy-platforms, zonder rekening te houden met alle factoren die de claimsafhandeling beïnvloeden, leidt tot verwarring en onnauwkeurigheid in plaats van efficiëntere processen.

Leunen op oude gegevens

Een van de grootste voordelen van AI is dat het steeds beter wordt in het coördineren van taken naarmate het leert, maar dat leren kan alleen plaatsvinden als er een consistente feedbacklus is die AI helpt te begrijpen wat het verkeerd heeft gedaan, zodat het kan worden aangepast. Die feedback moet niet alleen constant zijn, maar ook gebaseerd op schone, nauwkeurige gegevens. Immers, AI is alleen zo goed als de gegevens waaruit het leert.

Wanneer AI in de gezondheidszorg wel nuttig is

Het gebruik van AI in een sector waar de uitkomsten zo consequent zijn als de gezondheidszorg, vereist zeker voorzichtigheid, maar dat betekent niet dat er geen gebruikscases zijn waar AI zinvol is.

Om te beginnen, is er geen gebrek aan gegevens in de gezondheidszorg (denk aan het feit dat één persoon zijn medisch dossier kan hebben met duizenden pagina’s), en de patronen in die gegevens kunnen ons veel vertellen over het diagnosticeren van ziektes, het correct afhandelen van claims en meer. Dit is waar AI uitblinkt, door naar patronen te zoeken en acties voor te stellen op basis van die patronen die menselijke beoordelaars kunnen gebruiken.

Een ander gebied waar AI uitblinkt, is in het catalogiseren en opnemen van beleidsregels die bepalen hoe claims worden betaald. Generatieve AI (GenAI) kan worden gebruikt om deze beleidsinhoud van verschillende formaten om te zetten in machineleesbare code die consistent kan worden toegepast op alle patiëntclaims. GenAI kan ook worden gebruikt om informatie samen te vatten en weer te geven in een gemakkelijk te lezen formaat voor een menselijke beoordelaar.

De rode draad door al deze gebruikscases is dat AI wordt gebruikt als een co-piloot voor mensen die het toezicht houden, en niet als een zelfstandig systeem. Zolang organisaties dit idee in gedachten houden bij de implementatie van AI, zullen ze in staat zijn om te slagen in deze tijd waarin de gezondheidszorg wordt getransformeerd door AI.