Zespół badawczy z MIT opracowuje sieć AI, aby oprzeć się przykładom przeciwnym

Zespół badawczy z MIT opracował algorytm głębokiego uczenia, który ma pomóc sztucznej inteligencji radzić sobie z „przeciwnymi” przykładami, które mogą powodować, że sztuczna inteligencja podejmuje błędne decyzje i wykonuje niewłaściwe czynności. Algorytm opracowany przez zespół z MIT może pomóc systemom sztucznej inteligencji utrzymać ich dokładność i uniknąć popełniania błędów, gdy mają do czynienia z mylącymi danymi.

Systemy sztucznej inteligencji analizują cechy wejściowe zdarzenia, aby zdecydować, jak zareagować na to zdarzenie. Sztuczna inteligencja odpowiedzialna za manewrowanie autonomicznym pojazdem musi przeanalizować dane z kamer pojazdu i zdecydować, co robić na podstawie danych zawartych w tych obrazach. Jednakże, istnieje ryzyko, że dane obrazu analizowane przez sztuczną inteligencję nie są dokładną reprezentacją świata rzeczywistego. Awaria systemu kamery może zmienić niektóre piksele, co prowadzi do tego, że sztuczna inteligencja wyciąga błędne wnioski na temat odpowiedniego kursu działania.

„Przeciwnymi wejściami” są jak optyczne iluzje dla systemu sztucznej inteligencji. Są to wejścia, które mylą sztuczną inteligencję w jakiejś formie. Przeciwnymi wejściami można manipulować, aby spowodować, że sztuczna inteligencja popełnia błędy, przedstawiając dane w taki sposób, aby sztuczna inteligencja uwierzyła, że zawartość przykładu jest czymś innym, niż jest w rzeczywistości. Na przykład, można stworzyć przykład przeciwny dla systemu komputerowego widzenia, wprowadzając niewielkie zmiany w obrazach kotów, co powoduje, że sztuczna inteligencja błędnie klasyfikuje obrazy jako monitory komputerowe. Zespół badawczy z MIT opracował algorytm, który pomaga bronić się przed przykładami przeciwnymi, pozwalając modelowi utrzymać pewien stopień „sceptycyzmu” wobec otrzymywanych wejść.

Badacze z MIT nazwali swój podejście „Certyfikowana wytrzymałość przeciwna dla głębokiego uczenia ze wzmocnieniem”, lub CARRL. CARRL składa się z sieci uczenia ze wzmocnieniem i tradycyjnej głębokiej sieci neuronowej połączonej razem. Uczenie ze wzmocnieniem wykorzystuje pojęcie „nagród”, aby trenować model, dając modelowi proporcjonalnie więcej nagrody, im bliżej jest do osiągnięcia celu. Model uczenia ze wzmocnieniem jest wykorzystywany do trenowania sieci Q-Net, lub DQN. DQN funkcjonują jak tradycyjne sieci neuronowe, ale także kojarzą wartości wejściowe z poziomem nagrody, podobnie jak systemy uczenia ze wzmocnieniem.

CARRL działa, modelując zakres różnych możliwych wartości dla danych wejściowych.

Zakładając, że sztuczna inteligencja próbuje śledzić pozycję kropki w większym obrazie, sztuczna inteligencja uważa, że pozycja kropki może być wynikiem wpływu przeciwnego i uważa obszary, w których kropka mogłaby się znajdować. Sieć podejmuje decyzje na podstawie najgorszego przypadku dla pozycji kropki, ustalając działanie, które wyprodukuje najwyższą nagrodę w tym najgorszym przypadku.

Typowy sposób bronienia się przed przykładami przeciwnymi polega na uruchamianiu nieznacznie zmodyfikowanych wersji obrazu wejściowego przez sieć sztucznej inteligencji, aby sprawdzić, czy ta sama decyzja jest zawsze podejmowana. Jeśli zmiany w obrazie nie wpływają znacząco na wynik, istnieje duże prawdopodobieństwo, że sieć jest odporna na przykłady przeciwnie. Jednakże, nie jest to wykonalna strategia w sytuacjach, w których wymagane są szybkie decyzje, ponieważ są to czasochłonne i obciążające obliczeniowo metody testowania. Dlatego zespół z MIT postanowił stworzyć sieć neuronową, która mogłaby podejmować decyzje na podstawie założeń najgorszego przypadku, zdolną do działania w sytuacjach, w których bezpieczeństwo jest kluczowe.

Badacze z MIT przetestowali swój algorytm, pozwalając sztucznej inteligencji zagrać w grę Pong. Wprowadzili przykłady przeciwnie, podając sztucznej inteligencji przypadki, w których piłka była wyświetlana nieco niżej na ekranie, niż w rzeczywistości. W miarę wzrostu wpływu przykładów przeciwnych standardowe techniki korygujące zaczęły zawodzić, podczas gdy CARRL był w stanie wygrać więcej gier w porównaniu. CARRL został również przetestowany w zadaniu unikania kolizji. Zadanie to odbywało się w środowisku wirtualnym, w którym dwie różne jednostki próbowały zmienić swoje pozycje bez zderzenia się. Zespół badawczy zmodyfikował postrzeganie pierwszej jednostki drugiej jednostki, a CARRL był w stanie pomyślnie skierować pierwszą jednostkę wokół drugiej, nawet w warunkach dużej niepewności, chociaż doszło do punktu, w którym CARRL stał się zbyt ostrożny i uniknął swojego celu.

Niezależnie od tego, Michael Everett, starszy asystent w Wydziale Lotnictwa i Astronautyki MIT, który kierował badaniem, wyjaśnił, że badanie to może mieć implikacje dla zdolności robotów do radzenia sobie z nieprzewidywalnymi sytuacjami. Jak wyjaśnił via MIT News:

„Ludzie mogą być przeciwni, jak stanie na przodzie robota, aby zablokować jego sensory, lub wchodząc w interakcję z nimi, niekoniecznie z najlepszymi intencjami”, mówi Everett. „Jak może robot pomyśleć o wszystkich rzeczach, które ludzie mogą spróbować zrobić, i spróbować ich uniknąć? Jaki rodzaj modeli przeciwnych chcemy bronić? To jest coś, nad czym myślimy, jak to zrobić.”