Powszechne Założenia na Temat Awarii Sztucznej Inteligencji Mogą Być Błędne

Głębokie sieci neuronowe są jednym z najbardziej fundamentalnych aspektów sztucznej inteligencji (AI), ponieważ są używane do przetwarzania obrazów i danych za pomocą modelowania matematycznego. Są odpowiedzialne za niektóre z największych postępów w tej dziedzinie, ale także ulegają awariom na różne sposoby. Te awarie mogą mieć albo niewielki lub nieistotny wpływ, taki jak prosta nieprawidłowa identyfikacja, albo bardziej dramatyczny i śmiercionośny, taki jak awaria samochodu autonomicznego.

Nowe badania przeprowadzone na Uniwersytecie w Houston sugerują, że nasze powszechne założenia dotyczące tych awarii mogą być błędne, co może pomóc w ocenie niezawodności sieci w przyszłości.

Artykuł został opublikowany w Nature Machine Intelligence w listopadzie.

„Przykłady Adwersarjne”

Sztuczna inteligencja i inne rodzaje AI są kluczowe w wielu sektorach i zadaniach, takich jak systemy bankowe i cyberbezpieczeństwa. Według Camerona Bucknera, associate profesora filozofii na UH, należy zrozumieć awarie spowodowane przez „przykłady adwersarjne”. Przykłady adwersarjne występują, gdy system głębokiej sieci neuronowej źle ocenia obrazy i inne dane, gdy spotyka informacje spoza danych treningowych, które zostały użyte do opracowania sieci.

Przykłady adwersarjne są rzadkie, ponieważ często są tworzone lub odkrywane przez inne sieci neuronowe.

„Niektóre z tych zdarzeń adwersarjnych mogą być artefaktami, a my musimy lepiej zrozumieć, co one są, aby wiedzieć, jak niezawodne są te sieci”, napisał Buckner.

Buckner mówi, że awaria może być spowodowana interakcją między rzeczywistymi wzorcami a tym, co sieć próbuje przetworzyć, co oznacza, że nie jest to całkowita pomyłka.

Wzorce jako Artefakty

„Zrozumienie implikacji przykładów adwersarjnych wymaga zbadania trzeciej możliwości: że przynajmniej niektóre z tych wzorców są artefaktami”, powiedział Buckner. „Zatem obecnie istnieją zarówno koszty związane z odrzuceniem tych wzorców, jak i niebezpieczeństwa związane z ich naiwnym użyciem”.

Chociaż nie zawsze jest to prawda, zamierzone złe zamiary są najwyższym ryzykiem dotyczącym tych zdarzeń adwersarjnych, które powodują awarie sztucznej inteligencji.

„Oznacza to, że złe podmioty mogą oszukać systemy, które polegają na inaczej niezawodnej sieci”, powiedział Buckner. „To ma zastosowanie w dziedzinie bezpieczeństwa”.

Może to być na przykład hakowanie systemu bezpieczeństwa opartego na technologii rozpoznawania twarzy lub błędnie oznaczone znaki drogowe, które mogą wprowadzić w błąd samochody autonomiczne.

Inne wcześniejsze badania wykazały, że niektóre przykłady adwersarjne występują naturalnie, gdy system sztucznej inteligencji błędnie interpretuje dane za pomocą nieoczekiwanej interakcji, co jest inne niż błędy w danych. Te naturalnie występujące przykłady są rzadkie, a jedynym sposobem ich odkrycia jest sztuczna inteligencja.

Jednak Buckner twierdzi, że naukowcy muszą przemyśleć sposób, w jaki radzą sobie z anomaliami.

Te anomalie, czyli artefakty, są wyjaśnione przez Bucknera za pomocą analogii do poświaty obiektywu w fotografii, która nie jest spowodowana wadą obiektywu, ale interakcją światła z aparatem.

Jeśli ktoś wie, jak interpretować poświatę, można uzyskać ważne informacje, takie jak lokalizacja słońca. Dlatego Buckner uważa, że możliwe jest uzyskanie równie cennych informacji z zdarzeń niekorzystnych w sztucznej inteligencji, które są spowodowane przez artefakt.

Buckner również mówi, że wszystko to nie oznacza automatycznie, że głębokie uczenie się nie jest ważne.

„Niektóre z tych zdarzeń adwersarjnych mogą być artefaktami”, powiedział. „Musimy wiedzieć, co to są, aby wiedzieć, jak niezawodne są te sieci”.