Тимот развива пристап за споредување на невронски мрежи

Тим истражувачи од Националната лабораторија Лос Аламос разви нов пристап за споредување на невронски мрежи. Според тимот, овој нов пристап изгледа во „црната кутија“ на вештачката интелигенција (ВИ) и им помага да го разберат однесувањето на невронската мрежа. Невронските мрежи, кои препознаваат шеми во збирките на податоци, се користат за широк опсег на апликации како системи за препознавање лица и автономни возила. 

Тимот го претстави својот труд, „Ако сте обучиле еден, сте ги обучиле сите: меѓуархитектонската сличност се зголемува со робусноста,“ на Конференцијата за несигурност во вештачката интелигенција. 

Хајдн Џонс е истражувач во групата „Напредно истражување во сајбер системи“ во Лос Аламос и главен автор на истражувачкиот труд. 

Подобро разбирање на невронските мрежи 

„Заедницата за истражување на вештачката интелигенција не мора да има целосно разбирање за тоа што прават невронските мрежи; ни даваат добри резултати, но не знаеме како и зошто“, изјави Џонс. „Нашиот нов метод прави подобра работа во споредбата на невронските мрежи, што е клучен чекор кон подобро разбирање на математиката зад вештачката интелигенција. 

Новото истражување исто така ќе игра улога во помагањето на експертите да го разберат однесувањето на робусните невронски мрежи. 

Иако невронските мрежи имаат високи перформанси, тие се исто така кревки. Мали промени во условите, како што е делумно покриен знак за стоп што се обработува од автономно возило, може да предизвикаат невронската мрежа погрешно да го идентификува знакот. Ова значи дека можеби никогаш нема да запре, што може да се покаже опасно. 

Неврални мрежи за обука за противнички

Истражувачите се зафатија да ги подобрат овие типови на невронски мрежи со разгледување начини за подобрување на робусноста на мрежата. Еден од пристапите вклучува „напаѓање“ на мрежи за време на нивниот процес на обука, каде што истражувачите намерно воведуваат аберации додека ја обучуваат вештачката интелигенција да ги игнорира. Процесот, кој се нарекува противнички тренинг, го отежнува измамувањето на мрежите. 

Тимот ја примени новата метрика на мрежна сличност на противнички обучени невронски мрежи. Тие беа изненадени кога открија дека противничката обука предизвикува невронските мрежи во доменот на компјутерска визија да се спојуваат кон слични претстави на податоци, без разлика на мрежната архитектура, како што се зголемува големината на нападот. 

„Откривме дека кога ги обучуваме невронските мрежи да бидат робусни против противнички напади, тие почнуваат да ги прават истите работи“, рече Џонс. 

Ова не е прв пат експертите да се обидат да најдат совршена архитектура за невронски мрежи. Сепак, новите наоди покажуваат дека воведувањето на противничка обука значително го затвора јазот, што значи дека истражувачката заедница за вештачка интелигенција можеби нема да има потреба да истражува толку многу нови архитектури, бидејќи сега е познато дека противничката обука предизвикува различни архитектури да се спојуваат кон слични решенија. 

„Со откривањето дека робусните невронски мрежи се слични една на друга, ние го олеснуваме разбирањето како навистина може да функционира робусната вештачка интелигенција“, рече Џонс. „Можеби дури и откриваме навестувања за тоа како перцепцијата се јавува кај луѓето и другите животни“.