Sztuczna inteligencja w ochronie zdrowia może przynieść zarówno korzyści, jak i zagrożenia

Sztuczna inteligencja ma ogromny potencjał w dziedzinie ochrony zdrowia, ponieważ może poprawiać diagnozy i pomagać w odkrywaniu nowych, skuteczniejszych leków. Jednak, jak niedawno omawiano w artykule opublikowanym w Scientific American, szybkość, z jaką sztuczna inteligencja wkracza w dziedzinę ochrony zdrowia, otwiera również wiele nowych wyzwań i zagrożeń.

W ciągu ostatnich pięciu lat amerykańska Agencja Żywności i Leków zatwierdziła ponad 40 różnych produktów związanych z sztuczną inteligencją. Jednak, jak donosi Scientific American, żaden z tych produktów nie został poddany ocenie swojej skuteczności w randomizowanych kontrolowanych badaniach klinicznych. Wiele narzędzi medycznych wykorzystujących sztuczną inteligencję nie wymaga nawet zatwierdzenia przez Agencję Żywności i Leków.

Evan Topol, autor książki „Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”, stwierdził w rozmowie z Scientific American, że wiele produktów związanych z sztuczną inteligencją, które twierdzą, że są skuteczne w zadaniach takich jak diagnozowanie chorób, nie zostało jeszcze gruntownie przetestowanych. Pierwsze dużeskalowe losowe badanie narzędzia do wykrywania i diagnozowania chorób przy użyciu sztucznej inteligencji zostało przeprowadzone w zeszłym październiku. Ponadto, wiele startupów technologicznych nie publikuje swoich badań w czasopismach recenzowanych, gdzie ich praca byłaby analizowana przez naukowców.

Jeśli są odpowiednio przetestowane i kontrolowane, systemy sztucznej inteligencji mogą być potężnymi narzędziami, które mogą pomóc profesjonalistom medycznym w wykrywaniu objawów, które mogłyby zostać niezauważone, co przyczynia się do poprawy wyników zdrowotnych.

Przykładem może być narzędzie sztucznej inteligencji do wykrywania cukrzycowej choroby oczu, które zostało przetestowane na setkach pacjentów i okazało się niezawodne. Firma odpowiedzialna za test pracowała z Agencją Żywności i Leków przez ponad osiem lat, aby udoskonalić produkt. Test, IDx-DR, trafi do przychodni podstawowej opieki zdrowotnej, gdzie może pomóc w wykrywaniu wczesnych objawów retinopatii cukrzycowej i kierować pacjentów do specjalistów, jeśli podejrzewa się niepokojące objawy.

Jeśli nie są odpowiednio przetestowane, systemy sztucznej inteligencji, które mogą być wykorzystywane przez profesjonalistów medycznych do prowadzenia diagnoz i leczenia, mogą stwarzać zagrożenia zamiast ich unikać.

Artykuł w Scientific American opisuje jeden z potencjalnych problemów związanych z poleganiem na sztucznej inteligencji w diagnozowaniu chorób, wskazując na przykład sztucznej inteligencji przeznaczonej do analizy zdjęć rentgenowskich i wykrywania pacjentów, którzy mogą rozwinąć zapalenie płuc. Chociaż system okazał się dokładny podczas testów w szpitalu Mount Sinai w Nowym Jorku, nie powiódł się podczas testów na zdjęciach wykonanych w innych szpitalach. Naukowcy odkryli, że sztuczna inteligencja rozróżniała zdjęcia wykonane przy użyciu przenośnych systemów rentgenowskich i te wykonane w radiologii. Lekarze używają przenośnych systemów rentgenowskich u pacjentów, którzy często są zbyt chorzy, aby opuścić swoje łóżka, a ci pacjenci są bardziej narażeni na rozwinięcie zapalenia płuc.

Fałszywe alarmy są również powodem do niepokoju. DeepMind stworzyło aplikację mobilną sztucznej inteligencji, która może przewidywać niewydolność nerek u hospitalizowanych pacjentów nawet 48 godzin wcześniej. Jednak, jak donoszą źródła, system wygenerował również dwa fałszywe alarmy na każde udane przewidywanie niewydolności nerek. Fałszywe pozytywy mogą być szkodliwe, ponieważ mogą skłonić lekarzy do zbędnych badań lub modyfikacji leczenia.

W innym przypadku system sztucznej inteligencji błędnie stwierdził, że pacjenci z zapaleniem płuc mają większe szanse na przeżycie, jeśli mają astmę, co mogłoby skłonić lekarzy do modyfikacji leczenia pacjentów z astmą.

Systemy sztucznej inteligencji opracowane dla jednego szpitala często nie radzą sobie dobrze, gdy są wykorzystywane w innym szpitalu. Istnieje wiele powodów tego zjawiska. Po pierwsze, systemy sztucznej inteligencji są często szkolone na elektronicznych kartach zdrowia, ale wiele z tych kart jest niekompletne lub błędne, ponieważ ich podstawowym celem jest często rozliczanie, a nie opieka zdrowotna. Na przykład, jeden z przeprowadzonych dochodzeń wykazał, że czasami występowały groźne dla życia błędy w kartach zdrowia pacjentów, takie jak nieprawidłowe leki w liście leków. Ponadto, choroby są często bardziej skomplikowane, a system ochrony zdrowia bardziej złożony, niż mogliby się spodziewać inżynierowie i naukowcy sztucznej inteligencji.

W miarę jak sztuczna inteligencja staje się coraz bardziej powszechna, będzie ważne, aby deweloperzy sztucznej inteligencji pracowali wraz z władzami zdrowia, aby upewnić się, że ich systemy sztucznej inteligencji są gruntownie przetestowane, a organy regulacyjne zapewniają, że ustalono i przestrzega się standardów dla niezawodności narzędzi diagnostycznych sztucznej inteligencji.