Uppmärksamhetsbaserade djupinlärningsnätverk kan förbättra ekolodssystem

Forskare i Kina och USA undersökte nyligen hur ett uppmärksamhetsbaserat djupt neuralt nätverk (ABNN) kan hjälpa till att förbättra ekolodssystem. 

Forskningen publicerades i Journal of the Acoustical Society of America av Acoustical Society of America genom AIP Publishing. 

Qunyan Ren är medförfattare till forskningen. 

"Vi fann att ABNN var mycket exakt i måligenkänning och överträffade ett konventionellt djupt neuralt nätverk, särskilt när man använde begränsad data för enstaka mål för att upptäcka flera mål," sa Ren.

DNN och ABNN

Deep learning, som är en maskininlärningsmetod som använder artificiella neurala nätverk som arbetar för att känna igen mönster, förlitar sig på lager av artificiella neuroner (noder) som lär sig en distinkt uppsättning funktioner baserat på informationen i det föregående lagret. 

Uppmärksamhetsbaserade djupa neurala nätverk använder en uppmärksamhetsmodul för att efterlikna vissa element i den kognitiva processen hos människor. Dessa element hjälper oss specifikt att fokusera på de viktigaste delarna av språket, en bild eller något annat mönster medan vi stämmer bort resten.

ABBN uppnår detta genom att lägga mer vikt till vissa noder, vilket förbättrar specifika mönsterelement i maskininlärningsprocessen.

Inkorporerar ABNN i ekolodet

Genom att integrera ett ABNN-system i ekolodsutrustning för riktad fartygsdetektering kunde forskargruppen testa två fartyg i ett 135 kvadratkilometer, grunt område i Sydkinesiska havet. Resultaten jämfördes med ett vanligt djupt neuralt nätverk (DNN), och annan utrustning som radar hjälpte till att fastställa över 17 störande fartyg i området som testades. 

Forskarna fann att ABNN ökar sina förutsägelser när det rör sig mot funktioner som nära korrelerar med träningsmålen. När nätverket kontinuerligt cyklar genom träningsdatauppsättningen blir upptäckten mer uttalad. Detta accentuerar de viktade noderna och bortser från irrelevanta data.

ABNN-noggrannheten för att detektera fartyg A och B var för sig var något högre än DNN, där det förra uppnådde 98 % och det senare 97.4 %. När det gällde ABNN-noggrannheten för att detektera båda fartygen i samma närhet var den ännu högre med 74 %, jämfört med DNN:s 58.4 %.

En traditionell ABNN-modell tränas vanligtvis med flerfartygsdata om den används för identifiering av flera mål. Denna process kan dock snabbt bli kostsam och komplex. På grund av detta tränade forskarna ABNN-modellen för att upptäcka varje mål separat. När nätverkets utdataskikt utökas, sammanfogas datauppsättningarna för individuella mål.

"Behovet av att upptäcka flera fartyg samtidigt är ett vanligt scenario, och vår modell överstiger betydligt DNN när det gäller att upptäcka två fartyg i samma närhet," sa Ren. "Dessutom fokuserade vårt ABNN på de inneboende egenskaperna hos de två fartygen samtidigt."