Badacze sztucznej inteligencji opracowali szybką metodę obliczania przedziałów ufności, informując, kiedy model nie powinien być ufań

Badacze z MIT opracowali niedawno technikę, która umożliwia sieciom neuronowym głębokiego uczenia szybkie obliczanie poziomów ufności, co mogłoby pomóc naukowcom i innym użytkownikom sztucznej inteligencji wiedzieć, kiedy można ufać przewidywaniom modelu.

Systemy sztucznej inteligencji oparte na sieciach neuronowych są odpowiedzialne za coraz więcej decyzji, w tym wiele decyzji dotyczących zdrowia i bezpieczeństwa ludzi. Z tego powodu sieci neuronowe powinny mieć metodę szacowania ufności w swoich danych wyjściowych, umożliwiając naukowcom określenie, jak godne zaufania są ich przewidywania. Niedawno zespół badaczy z Harvardu i MIT opracował szybki sposób generowania wskaźnika ufności modelu wraz z jego przewidywaniami.

Modele głębokiego uczenia stały się coraz bardziej zaawansowane w ciągu ostatnich dziesięciu lat i mogą teraz łatwo przewyższać ludzi w zadaniach klasyfikacji danych. Modele głębokiego uczenia są stosowane w dziedzinach, w których zdrowie i bezpieczeństwo ludzi mogą być zagrożone, jeśli modele te zawiodą, takich jak prowadzenie pojazdów autonomicznych i diagnozowanie chorób na podstawie obrazów medycznych. W takich przypadkach nie wystarczy, że model jest 99% dokładny, ponieważ 1% przypadków, w których model zawiedzie, może mieć katastrofalne skutki. W związku z tym konieczne jest znalezienie sposobu, aby naukowcy mogli określić, jak godne zaufania są przewidywania modelu.

Istnieje kilka sposobów generowania przedziału ufności wraz z przewidywaniami sieci neuronowych, ale tradycyjne metody szacowania niepewności dla sieci neuronowej są dość wolne i wymagają dużych obliczeń. Sieci neuronowe mogą być niezwykle duże i złożone, zawierające miliardy parametrów. Samo generowanie przewidywań może być obliczeniowo kosztowne i wymagać znacznej ilości czasu, a generowanie poziomu ufności dla przewidywań zajmuje jeszcze więcej czasu. Większość poprzednich metod szacowania niepewności opierała się na próbkowaniu lub wielokrotnym uruchamianiu sieci, aby uzyskać szacunek ufności. Nie zawsze jest to możliwe w przypadku aplikacji wymagających wysokiej wydajności.

Jak donosi MIT News, Alexander Amini kieruje zespołem badaczy z MIT i Harvardu, a według Amini metoda opracowana przez ich zespół przyspiesza proces generowania szacunków niepewności za pomocą techniki zwanej “głęboką regresją dowodową”. Amini wyjaśnił za pośrednictwem MIT, że naukowcy potrzebują zarówno szybkich modeli, jak i niezawodnych szacunków niepewności, aby móc rozpoznać niewiarygodne modele. Aby zachować zarówno szybkość modelu, jak i wygenerować szacunek niepewności, badacze opracowali sposób szacowania niepewności na podstawie jednego uruchomienia modelu.

Badacze zaprojektowali model sieci neuronowej w taki sposób, aby generować rozkład prawdopodobieństwa wraz z każdą decyzją. Sieć przechowuje dowody swoich decyzji podczas procesu szkolenia, generując rozkład prawdopodobieństwa na podstawie tych dowodów. Rozkład dowodowy reprezentuje ufność modelu i reprezentuje niepewność zarówno dla ostatecznej decyzji modelu, jak i danych wejściowych. Uchwycenie niepewności zarówno dla danych wejściowych, jak i decyzji jest ważne, ponieważ redukcja niepewności zależy od znajomości źródła niepewności.

Badacze przetestowali swoją technikę szacowania niepewności, stosując ją do zadania rozpoznawania obrazów. Po przeszkoleniu modelu na serii obrazów wygenerował on zarówno przewidywania, jak i szacunki niepewności. Sieć prawidłowo przewidziała wysoką niepewność w przypadkach, w których zostało podjęte błędne przewidywanie. “Było to bardzo dobrze skorelowane z błędami, które sieć popełnia, co uważamy za jeden z najważniejszych aspektów oceny nowego estymatora niepewności”, powiedział Amini odnosząc się do wyników testów modelu.

Zespół badawczy przeprowadził dalsze testy swojej architektury sieci. Aby przetestować technikę, przetestowali ją również na danych “poza dystrybucją”, czyli zestawach danych zawierających obiekty, których sieć nigdy wcześniej nie widziała. Jak się spodziewano, sieć zgłosiła wyższą niepewność w przypadku tych nieznanych obiektów. Po przeszkoleniu na środowiskach wewnętrznych sieć wykazała wysoką niepewność podczas testowania na obrazach ze środowisk zewnętrznych. Testy wykazały, że sieć może wskazywać, kiedy jej decyzje są poddane wysokiej niepewności i nie powinny być ufań w pewnych sytuacjach o wysokim ryzyku.

Zespół badawczy doniósł nawet, że sieć może rozpoznać, kiedy obrazy zostały sfałszowane. Kiedy zespół badawczy zmodyfikował zdjęcia za pomocą szumu przeciwnika, sieć oznaczyła nowo zmodyfikowane obrazy wysokimi szacunkami niepewności, pomimo że efekt był zbyt subtelny, aby mógł być dostrzeżony przez przeciętnego obserwatora ludzkiego.

Jeśli technika okaże się niezawodna, głęboka regresja dowodowa może poprawić bezpieczeństwo modeli sztucznej inteligencji w ogóle. Według Amini głęboka regresja dowodowa może pomóc ludziom w podejmowaniu ostrożnych decyzji podczas korzystania z modeli sztucznej inteligencji w sytuacjach o wysokim ryzyku. Jak wyjaśnił Amini za pośrednictwem MIT News:

“Zaczynamy widzieć coraz więcej tych [sieci neuronowych] modeli, które wypływają z laboratoriów badawczych i wchodzą w świat rzeczywisty, w sytuacje, które dotykają ludzi z potencjalnie groźnymi dla życia konsekwencjami. Każdy użytkownik metody, czy to lekarz, czy osoba w fotelu pasażera pojazdu, musi być świadomy wszelkich ryzyk lub niepewności związanych z tą decyzją.”