Екипът разработва подход за сравняване на невронни мрежи

Екип от изследователи в Националната лаборатория в Лос Аламос разработи нов подход за сравняване на невронни мрежи. Според екипа този нов подход гледа в рамките на „черната кутия“ на изкуствения интелект (AI) и им помага да разберат поведението на невронната мрежа. Невронните мрежи, които разпознават модели в набори от данни, се използват за широк спектър от приложения като системи за разпознаване на лица и автономни превозни средства. 

Екипът представи своя доклад, „Ако сте обучили един, вие сте ги обучили всички: Сходството между архитектурите се увеличава със здравината”, на Конференцията за несигурността в изкуствения интелект. 

Хайдн Джоунс е изследовател в групата за напреднали изследвания в киберсистемите в Лос Аламос и водещ автор на изследователската статия. 

По-добро разбиране на невронните мрежи 

„Изследователската общност в областта на изкуствения интелект не е задължително да има пълно разбиране за това какво правят невронните мрежи; те ни дават добри резултати, но не знаем как и защо“, каза Джоунс. „Нашият нов метод върши по-добра работа при сравняване на невронни мрежи, което е решаваща стъпка към по-доброто разбиране на математиката зад AI. 

Новото изследване също ще играе роля в подпомагането на експертите да разберат поведението на стабилните невронни мрежи. 

Докато невронните мрежи са с висока производителност, те също са крехки. Малки промени в условията, като например частично покрит знак за спиране, който се обработва от автономно превозно средство, могат да накарат невронната мрежа да идентифицира погрешно знака. Това означава, че може никога да не спре, което може да се окаже опасно. 

Невронни мрежи за състезателно обучение

Изследователите са се заели да подобрят тези видове невронни мрежи, като търсят начини за подобряване на устойчивостта на мрежата. Един от подходите включва „атакуване“ на мрежи по време на техния процес на обучение, където изследователите умишлено въвеждат аберации, докато обучават AI да ги игнорира. Процесът, който се нарича състезателно обучение, прави по-трудно мрежите да бъдат измамени. 

Екипът приложи новия показател за мрежово сходство към противоположно обучени невронни мрежи. Те бяха изненадани да открият, че състезателното обучение кара невронните мрежи в областта на компютърното зрение да се сближават с подобни представяния на данни, независимо от мрежовата архитектура, с нарастването на мащаба на атаката. 

„Открихме, че когато обучим невронните мрежи да бъдат устойчиви срещу противникови атаки, те започват да правят същите неща“, каза Джоунс. 

Това не е първият път, когато експерти се стремят да намерят перфектната архитектура за невронни мрежи. Въпреки това, новите констатации показват, че въвеждането на състезателно обучение затваря значително празнината, което означава, че изследователската общност на AI може да не е необходимо да изследва толкова много нови архитектури, тъй като вече е известно, че състезателното обучение кара различни архитектури да се сближават с подобни решения. 

„Като откриваме, че стабилните невронни мрежи са сходни една с друга, ние улесняваме разбирането как наистина може да работи стабилният ИИ“, каза Джоунс. „Възможно е дори да разкриваме намеци за това как възниква възприятието при хората и другите животни.“