Modele AI Wytrenowane Na Zaszczepionych Danych Płciowych Gorzej Diagnozują Choroby

Ostatnio opublikowano badanie w czasopiśmie PNAS, przeprowadzone przez badaczy z Argentyny, które sugeruje, że obecność zaszczepionych danych szkoleniowych prowadzi do gorszych wyników modelu przy diagnozowaniu chorób i innych problemów medycznych. Jak donosi Statnews, zespół badaczy eksperymentował z trenowaniem modeli, w których pacjentki płci żeńskiej były zauważalnie niedoreprezentowane lub całkowicie wykluczone, i stwierdzono, że algorytm działał znacznie gorzej przy diagnozowaniu ich. To samo dotyczyło sytuacji, w której pacjenci płci męskiej byli wykluczeni lub niedoreprezentowani.

W ciągu ostatnich pięciu lat, gdy modele AI i uczenie maszynowe stały się bardziej powszechne, więcej uwagi poświęcono problemom związanym z zaszczepionymi zbiorami danych i wynikającymi z nich zaszczepionymi modelami maszynowymi. Zaszczepienie danych w uczeniu maszynowym może prowadzić do niezręcznych, społecznie szkodliwych i wykluczających aplikacji AI, ale w przypadku aplikacji medycznych życie może być na szali. Niemniej jednak, pomimo świadomości problemu, niewiele badań próbowało zmierzyć, jak szkodliwe mogą być zaszczepione zbiory danych. Badanie przeprowadzone przez zespół badaczy wykazało, że zaszczepienie danych może mieć bardziej ekstremalne skutki, niż wielu ekspertów wcześniej szacowało.

Jednym z najpopularniejszych zastosowań AI w kontekście medycznym w ostatnich latach było wykorzystanie modeli AI do diagnozowania pacjentów na podstawie obrazów medycznych. Zespół badawczy analizował modele stosowane do wykrywania obecności różnych stanów medycznych, takich jak zapalenie płuc, przerost serca lub przepukliny na zdjęciach rentgenowskich. Zespoły badawcze studiowały trzy otwarte architektury modeli: Inception-v3, ResNet i DenseNet-121. Modele zostały wytrenowane na zdjęciach rentgenowskich z dwóch otwartych zbiorów danych pochodzących z Uniwersytetu Stanforda i Narodowych Instytutów Zdrowia. Chociaż same zbiory danych są dość zbalansowane pod względem reprezentacji płci, badacze sztucznie zaszczepili dane, dzieląc je na podzbiory, w których występował dysbalans płciowy.

Zespół badawczy utworzył pięć różnych zbiorów danych szkoleniowych, każdy składający się z różnych proporcji skanów pacjentów płci męskiej i żeńskiej. Pięć zbiorów szkoleniowych zostało podzielonych w następujący sposób:

• Wszystkie obrazy były pacjentów płci męskiej
• Wszystkie obrazy były pacjentów płci żeńskiej
• 25% pacjentów płci męskiej i 75% pacjentów płci żeńskiej
• 75% pacjentów płci żeńskiej i 25% pacjentów płci męskiej
• Połowa pacjentów płci męskiej i połowa pacjentów płci żeńskiej

Po wytrenowaniu modelu na jednym z podzbiorów, został on przetestowany na kolekcji skanów od pacjentów płci męskiej i żeńskiej. Był zauważalny trend, który był obecny w różnych stanach medycznych, dokładność modeli była znacznie gorsza, gdy dane szkoleniowe były znacznie zaszczepione pod względem płci. Interesującą rzeczą do zauważenia jest to, że jeśli jedna płeć była nadreprezentowana w danych szkoleniowych, nie wydawała się korzystać z tej nadreprezentacji. Niezależnie od tego, czy model został wytrenowany na danych zaszczepionych pod względem jednej płci czy drugiej, nie działał lepiej na tej płci w porównaniu z sytuacją, w której został wytrenowany na zbiorze danych inkluzyjnym.

Autor senior badania, Enzo Ferrante, był cytowany przez Statnews jako wyjaśniający, że badanie podkreśla, jak ważne jest, aby dane szkoleniowe były różnorodne i reprezentatywne dla wszystkich populacji, które mają być testowane.

Nie jest całkowicie jasne, dlaczego modele wytrenowane na jednej płci mają tendencję do gorszego działania, gdy są wdrażane na innej płci. Niektóre z rozbieżności mogą być spowodowane różnicami fizjologicznymi, ale różne czynniki społeczne i kulturowe mogą również odpowiadać za część różnic. Na przykład kobiety mogą mieć tendencję do otrzymywania zdjęć rentgenowskich na innym etapie postępu choroby w porównaniu z mężczyznami. Jeśli tak jest, może to wpłynąć na cechy (i tym samym na wzorce nauczone przez model) znalezione w obrazach szkoleniowych. Jeśli tak jest, staje się to znacznie trudniejsze dla badaczy, aby usunąć zaszczepienie ze zbiorów danych, ponieważ zaszczepienie byłoby wbudowane w zbiór danych poprzez mechanizmy zbierania danych.

Nawet badacze, którzy zwracają uwagę na różnorodność danych, czasami nie mają wyboru, ale pracować z danymi, które są zaszczepione lub zaszczepione. Sytuacje, w których występuje dysproporcja w diagnozowaniu chorób, często prowadzą do nierównowagi danych. Na przykład dane na temat raka piersi są prawie wyłącznie zbierane od kobiet. Podobnie, autyzm manifestuje się inaczej u kobiet i mężczyzn, i w wyniku tego stan jest diagnozowany znacznie częściej u chłopców niż u dziewcząt.

Mimo to jest niezwykle ważne, aby badacze kontrolowali zaszczepione dane i zaszczepienie danych w jakikolwiek sposób, jaki mogą. W tym celu przyszłe badania pomogą badaczom zmierzyć wpływ zaszczepionych danych.