Kiedy unikać sztucznej inteligencji w ochronie zdrowia

Kiedy nowy postęp technologiczny pojawia się w branży, może pojawić się pokusa, aby uznać tę nową zabawkę za lekarstwo na wszystkie bolączki branży. Sztuczna inteligencja w ochronie zdrowia jest doskonałym przykładem. W miarę postępu technologicznego, została przyjęta do zastosowań w takich obszarach, jak rozwój leków, koordynacja opieki i refundacja, by wymienić tylko kilka. Istnieje wiele uzasadnionych przypadków użycia sztucznej inteligencji w ochronie zdrowia, gdzie technologia jest znacznie lepsza niż jakakolwiek obecnie dostępna alternatywa.

Jednak sztuczna inteligencja – taka, jaka jest obecnie – doskonale radzi sobie tylko w pewnych zadaniach, takich jak zrozumienie dużych ilości danych i podejmowanie decyzji na podstawie ściśle określonych reguł. W innych sytuacjach, szczególnie tam, gdzie dodatkowy kontekst jest niezbędny do podjęcia słusznej decyzji, nie są one dobrze przystosowane do sztucznej inteligencji. Przeanalizujmy kilka przykładów.

Odmawianie roszczeń i opieki

Niezależnie od tego, czy chodzi o roszczenie, czy o opiekę, odmowy są skomplikowanymi decyzjami i zbyt ważnymi, aby były podejmowane przez sztuczną inteligencję samodzielnie. Podczas odmowy roszczenia lub opieki, istnieje oczywista moralna konieczność, aby to zrobić z największą ostrożnością, a biorąc pod uwagę możliwości sztucznej inteligencji dzisiaj, wymaga to udziału człowieka.

Poza elementem moralnym, plany zdrowotne narażają się na ryzyko, gdy zbyt mocno polegają na sztucznej inteligencji przy podejmowaniu decyzji o odmowie. Planom mogą, i są, grozić procesy sądowe, za niewłaściwe użycie sztucznej inteligencji do odmowy roszczeń, z pozwami oskarżającymi plany o niespełnianie minimalnych wymagań dotyczących przeglądu lekarskiego, ponieważ zamiast tego użyto sztucznej inteligencji.

Ufanie poprzednim decyzjom

Ufanie sztucznej inteligencji, aby podejmowała decyzje wyłącznie na podstawie tego, jak podjęła poprzednią decyzję, ma oczywistą wadę: jeden błędny wybór z przeszłości będzie wpływał na inne. Ponadto, ponieważ reguły polityki, które informują sztuczną inteligencję, są często rozproszone w systemach lub niedoskonale zakodowane przez ludzi, systemy sztucznej inteligencji mogą przyjąć i następnie utrwalić niedokładne zrozumienie tych reguł. Aby uniknąć tego, organizacje muszą stworzyć jedną źródłową prawdę polityki, aby sztuczna inteligencja mogła odwołać się do niej i nauczyć się z niej.

Budowanie na systemach legacy

Jako stosunkowo nowa technologia, sztuczna inteligencja przywołuje poczucie możliwości, a wiele zespołów data science planów zdrowotnych jest niecierpliwych, aby szybko skorzystać z tej możliwości, wykorzystując narzędzia sztucznej inteligencji już wbudowane w istniejące platformy przedsiębiorstw. Problem polega na tym, że procesy roszczeń zdrowotnych są niezwykle skomplikowane, a platformy przedsiębiorstw często nie rozumieją ich niuansów. Nałożenie sztucznej inteligencji na te systemy legacy jako rozwiązanie “jednego rozmiaru dla wszystkich” (które nie uwzględnia wszystkich różnych czynników wpływających na rozstrzygnięcie roszczeń) powoduje chaos i nieprecyzyjność, zamiast tworzenia bardziej wydajnych procesów.

Opieranie się na starych danych

Jednym z największych zalet sztucznej inteligencji jest to, że staje się coraz lepsza w koordynowaniu zadań, gdy się uczy, ale to uczenie może nastąpić tylko wtedy, gdy istnieje stała pętla informacji zwrotnej, która pomaga sztucznej inteligencji zrozumieć, co zrobiła źle, aby mogła się dostosować. Ta informacja zwrotna musi nie tylko być stała, ale także oparta na czystych, dokładnych danych. W końcu sztuczna inteligencja jest tylko tak dobra, jak dane, z których się uczy.

Kiedy sztuczna inteligencja w ochronie zdrowia jest korzystna

Użycie sztucznej inteligencji w sektorze, w którym dane wyjściowe są tak doniosłe, jak ochrona zdrowia, wymaga pewnej ostrożności, ale to nie oznacza, że nie ma przypadków, w których sztuczna inteligencja ma sens.

Przede wszystkim, nie ma braku danych w ochronie zdrowia (zważywszy, że jeden rekord medyczny może mieć tysiące stron), a wzorce w tych danych mogą wiele powiedzieć o diagnozowaniu chorób, prawidłowym rozstrzyganiu roszczeń i więcej. To jest miejsce, w którym sztuczna inteligencja doskonale radzi sobie, szukając wzorców i sugerując działania na podstawie tych wzorców, które mogą być wykorzystane przez recenzentów ludzkich.

Innym obszarem, w którym sztuczna inteligencja doskonale się sprawdza, jest katalogowanie i przechwytywanie zasad i reguł, które rządzą tym, jak roszczenia są wypłacane. Generatywna sztuczna inteligencja (GenAI) może być wykorzystana do przekształcenia tej zawartości polityki z różnych formatów w kod maszynowy, który może być stosowany spójnie we wszystkich roszczeniach pacjentów. GenAI może być również wykorzystana do podsumowania informacji i wyświetlenia ich w łatwo czytelny sposób dla recenzentów ludzkich.

Kluczowym wątkiem we wszystkich tych przypadków użycia jest to, że sztuczna inteligencja jest wykorzystywana jako współpilot dla ludzi, którzy ją nadzorują, a nie prowadzi show samodzielnie. Dopóki organizacje mogą utrzymać tę ideę w mente podczas wdrażania sztucznej inteligencji, będą w stanie odnieść sukces w tej erze, w której ochrona zdrowia jest transformowana przez sztuczną inteligencję.