Sztuczna Inteligencja W Ochronie Zdrowia Może Przynieść Zarówno Korzyści, Jak I Zagrożenia

Sztuczna inteligencja ma ogromny potencjał w dziedzinie ochrony zdrowia, ponieważ może poprawiać diagnozy i znajdować nowe, bardziej skuteczne leki. Jednakże, jak podano w artykule w Scientific American niedawno omawiano, szybkość, z jaką sztuczna inteligencja przenika do ochrony zdrowia, otwiera również wiele nowych wyzwań i zagrożeń.

W ciągu ostatnich pięciu lat, amerykańska Agencja Żywności i Leków zatwierdziła ponad 40 różnych produktów sztucznej inteligencji. Jednakże, jak podaje Scientific American, żaden z produktów dopuszczonych do sprzedaży w Stanach Zjednoczonych nie miał swojej skuteczności ocenionej w randomizowanych kontrolowanych badaniach klinicznych. Wiele narzędzi medycznych sztucznej inteligencji nie wymaga nawet zatwierdzenia przez Agencję Żywności i Leków.

Evan Topol, autor książki „Deep Medicine: How Artificial Intelligence Can Make Healthcare Human Again”, powiedział do Scientific American, że wiele produktów sztucznej inteligencji, które twierdzą, że są skuteczne w zadaniach takich jak diagnozowanie chorób, nie zostały jeszcze gruntownie przetestowane, a pierwsze duże randomizowane badanie narzędzia do wykrywania i diagnozowania sztucznej inteligencji zostało przeprowadzone w zeszłym październiku. Ponadto, bardzo niewiele startupów technologicznych publikuje swoje prace badawcze w czasopismach recenzowanych, gdzie ich praca będzie analizowana przez naukowców.

Gdy są odpowiednio przetestowane i kontrolowane, systemy sztucznej inteligencji mogą być potężnymi narzędziami, które mogą pomóc profesjonalistom medycznym wykryć objawy, które w przeciwnym razie mogłyby pozostać niezauważone, poprawiając wyniki zdrowotne.

Jako przykład, narzędzie do wykrywania cukrzycowej choroby oczu zostało przetestowane u setek pacjentów i okazało się niezawodne. Firma odpowiedzialna za test pracowała z Agencją Żywności i Leków przez ponad osiem lat, aby udoskonalić produkt. Test, IDx-DR, trafia do przychodni podstawowej opieki zdrowotnej, gdzie może potencjalnie pomóc w wykryciu wczesnych objawów cukrzycowej retinopatii, kierując pacjentów do specjalistów od oczu, jeśli podejrzane objawy zostaną znalezione.

Jeśli nie są odpowiednio przetestowane, systemy sztucznej inteligencji, które profesjonaliści medyczni mogą używać do prowadzenia diagnozy i leczenia, mają potencjał stworzyć szkodę zamiast jej uniknąć.

Artykuł w Scientific American przedstawia jeden z potencjalnych problemów związanych z poleganiem na sztucznej inteligencji w diagnozowaniu chorób, wskazując na przykład sztucznej inteligencji przeznaczonej do analizy zdjęć rentgenowskich klatki piersiowej i wykrywania, którzy pacjenci mogą rozwinąć zapalenie płuc. Chociaż system okazał się dokładny, gdy został przetestowany w szpitalu Mount Sinai w Nowym Jorku, nie powiódł się, gdy został przetestowany na zdjęciach wykonanych w innych szpitalach. Naukowcy odkryli, że sztuczna inteligencja odróżniała zdjęcia wykonane przy użyciu przenośnych systemów rentgenowskich od tych wykonanych w dziale radiologii. Lekarze używają przenośnych systemów rentgenowskich u pacjentów, którzy często są zbyt chorzy, aby opuścić swoje łóżka, a ci pacjenci są bardziej narażeni na rozwinięcie zapalenia płuc.

Fałszywe alarmy są również problemem. DeepMind stworzył aplikację mobilną sztucznej inteligencji, która może przewidywać ostre awarie nerek u hospitalizowanych pacjentów do 48 godzin wcześniej. Jednak system rzekomo również wywołał dwa fałszywe alarmy na każde udane przewidzenie awarii nerek. Fałszywe pozytywy mogą być szkodliwe, ponieważ mogą skłonić lekarzy do niepotrzebnego wykonywania dodatkowych badań lub modyfikowania przepisanych leczeń.

W innym przypadku system sztucznej inteligencji błędnie stwierdził, że pacjenci, którzy mieli zapalenie płuc, mieli większe szanse na przeżycie, jeśli mieli astmę, co mogłoby skłonić lekarzy do modyfikowania leczenia pacjentów z astmą.

Systemy sztucznej inteligencji opracowane dla jednego szpitala często nie spełniają oczekiwań, gdy są używane w innym szpitalu. Istnieje wiele przyczyn tego zjawiska. Po pierwsze, systemy sztucznej inteligencji są często szkolone na elektronicznych kartach zdrowia, ale wiele elektronicznych kart zdrowia jest niekompletne lub błędne, ponieważ ich podstawowym celem jest często rozliczanie, a nie opieka zdrowotna. Na przykład, jedno śledztwo przeprowadzone przez KHN wykazało, że czasami występowały groźne dla życia błędy w kartach zdrowia pacjentów, takie jak listy leków zawierające niewłaściwe leki. Poza tym, choroby są często bardziej skomplikowane, a system ochrony zdrowia bardziej złożony, niż można się spodziewać po inżynierach i naukowcach sztucznej inteligencji.

W miarę jak sztuczna inteligencja staje się coraz bardziej powszechna, będzie ważne, aby deweloperzy sztucznej inteligencji współpracowali z władzami zdrowia publicznego, aby upewnić się, że ich systemy sztucznej inteligencji są gruntownie przetestowane, a organy regulacyjne ustalają i egzekwują standardy dla niezawodności narzędzi diagnostycznych sztucznej inteligencji.