Artykuł bada, jak zredukować ryzyko korzystania z sztucznej inteligencji w medycynie

Programy sztucznej inteligencji są w stanie poprawiać opiekę zdrowotną na wiele różnych sposobów. Na przykład, aplikacje sztucznej inteligencji mogą wykorzystywać widzenie komputerowe, aby pomóc lekarzom diagnozować choroby na podstawie zdjęć rentgenowskich i rezonansu magnetycznego. Algorytmy uczenia maszynowego mogą również być wykorzystywane do pomocy w redukowaniu fałszywie pozytywnych wyników, poprzez wyodrębnianie subtelnych wzorców z danych, których ludzie mogliby nie być w stanie znaleźć w danych medycznych. Jednakże, wraz z możliwościami pojawiają się nowe wyzwania, a niedawno opublikowano nowy artykuł w Science, który badał możliwe ryzyka i strategie regulacyjne dla technik medycznych opartych na uczeniu maszynowym w celu minimalizowania możliwych negatywnych skutków związanych z wykorzystaniem sztucznej inteligencji w kontekście medycznym.

Rozszerzanie zastosowań sztucznej inteligencji w ochronie zdrowia

Sztuczna inteligencja widzi swoje zastosowania w dziedzinie medycyny rozwijające się bardzo szybko. Ostatnie rozwoje w dziedzinie opieki zdrowotnej, napędzane przez sztuczną inteligencję, obejmują utworzenie nowej firmy farmaceutycznej, która ma na celu wykorzystanie sztucznej inteligencji do tworzenia nowych leków, stworzenie czujników zdrowia na odległość napędzanych przez sztuczną inteligencję oraz aplikacje widzenia komputerowego, które analizują zdjęcia rentgenowskie i tomografii komputerowej.

Być bardziej precyzyjnym, Genesis Therapeutics to startup, który ma na celu wykorzystanie sztucznej inteligencji do przyspieszenia procesu odkrywania leków, z nadzieją na stworzenie leków, które mogą zmniejszyć nasilenie chorób nieuleczalnych. Genesis Therapeutics to tylko jedna z prawie 170 różnych firm, które wykorzystują sztuczną inteligencję do badania nowych formuł leków. Tymczasem, jeśli chodzi o urządzenia monitorujące zdrowie, iRhythm (IRTC ) i francuski startup Cardiologs wykorzystują algorytmy sztucznej inteligencji do analizy danych EEG i monitorowania zdrowia osób, które mają choroby serca i są narażone na powikłania. Oprogramowanie opracowane przez te firmy może wykryć szmery serca, stan spowodowany turbulentnym przepływem krwi.

Wreszcie, niedawno przeprowadzono badanie, które badało, jak widzenie komputerowe może być zastosowane w obrazach medycznych i stwierdzono, że systemy widzenia komputerowego działają co najmniej tak dobrze, jak lub lepiej niż specjaliści radiolodzy, gdy badają zdjęcia tomografii komputerowej w celu znalezienia małych krwotoków. Algorytmy wykorzystane w badaniu były w stanie wygenerować prognozy po zbadaniu zdjęć tomografii komputerowej przez zaledwie jedną sekundę. Systemy widzenia komputerowego były również w stanie zlokalizować krwotok w mózgu.

Więc, podczas gdy potencjalne korzyści z wykorzystania sztucznej inteligencji w ochronie zdrowia są jasne, to, co mniej jasne, to jakie nowe wyzwania i ryzyka pojawią się jako skutek uboczny wykorzystania sztucznej inteligencji w dziedzinie opieki zdrowotnej.

Regulowanie rozwijającej się dziedziny

Jak donosi TechXplore, aby ocenić potencjalne wady korzystania z sztucznej inteligencji w ochronie zdrowia, grupa badaczy opublikowała niedawno artykuł w Science, mający na celu znalezienie odpowiedzi na przewidywane problemy z sztuczną inteligencją i zbadanie potencjalnych rozwiązań tych problemów. Problemy, które mogą pojawić się w związku z wykorzystaniem sztucznej inteligencji w ochronie zdrowia, obejmują niewłaściwe zalecenia leczenia, które mogą skutkować urazem, obawy dotyczące prywatności oraz algorytmiczną stronniczość/nierówność.

FDA zatwierdziła tylko medyczną sztuczną inteligencję, która wykorzystuje “zablokowane algorytmy”, algorytmy, które niezawodnie dają ten sam wynik za każdym razem, gdy są uruchamiane. Jednakże, wiele potencjału sztucznej inteligencji leży w jej zdolności do uczenia się i reagowania na nowe typy danych wejściowych. Aby umożliwić “adaptacyjne algorytmy” i uzyskać zatwierdzenie FDA, autorzy artykułu dokonali szczegółowej analizy, w jaki sposób ryzyka związane z aktualizacją algorytmów mogą być złagodzone.

Autorzy artykułu opowiadają się za tym, aby inżynierowie i badacze sztucznej inteligencji koncentrowali się na ciągłym monitorowaniu modeli w trakcie ich wdrożenia. Wśród sugerowanych narzędzi do monitorowania systemów sztucznej inteligencji była sama sztuczna inteligencja, która mogłaby pomóc w generowaniu automatycznych raportów o tym, jak sztuczna inteligencja się zachowuje. Możliwe jest również, że wiele urządzeń sztucznej inteligencji mogłoby monitorować siebie nawzajem.

“Aby zarządzać ryzykiem, regulatorzy powinni koncentrować się szczególnie na ciągłym monitorowaniu i ocenie ryzyka, a mniej na planowaniu przyszłych zmian algorytmów”, powiedzieli autorzy artykułu.

Autorzy artykułu zalecają również, aby regulatorzy koncentrowali się na opracowaniu nowych metod identyfikacji, monitorowania, oceny i zarządzania ryzykiem. Artykuł stosuje wiele technik, które FDA wykorzystała do regulacji innych form techniki medycznej.

Jak wyjaśnili autorzy artykułu:

“Naszym celem jest podkreślenie ryzyk, które mogą wyniknąć z nieprzewidzianych zmian w sposobie, w jaki systemy sztucznej inteligencji/uczenia maszynowego reagują lub adaptują się do swoich środowisk. Subtelne, często nierozpoznane aktualizacje parametryczne lub nowe typy danych mogą powodować duże i kosztowne błędy.”