Systém hlubokého učení se učí lépe, když je rozptýlen

Počítačoví vědci z Nizozemska a Španělska zjistili, jak systém hlubokého učení se učí lépe, když je rozptýlen. Tento umělý inteligent (AI) je zaměřen na rozpoznávání obrazů a může se naučit rozpoznávat své okolí. Tým byl schopen zjednodušit proces učení po donutí systému soustředit se na sekundární charakteristiky.

Convolutional Neural Networks

Systém hlubokého učení se spoléhá na convolutional neural networks (CNNs), které jsou formou hlubokého učení pro systémy AI.

Estefanía Talavera Martinez je lektorka a výzkumnice na Bernoulliho institutu pro matematiku, počítačovou vědu a umělou inteligenci Univerzity v Groningenu v Nizozemsku.

“Tyto CNNs jsou úspěšné, ale úplně nechápeme, jak fungují”, říká Talavera Martinez.

Talavera Martinez použila CNNs k analýze obrazů pocházejících z nositelných kamer při studiu lidského chování. Některé její práce se týkaly studia lidských interakcí s jídlem, a proto se pokusila vytvořit systém, který rozpozná různé prostředí, ve kterých lidé jídlo konzumují.

“Zjistila jsem, že systém dělal chyby v klasifikaci některých obrázků a potřebovala jsem vědět, proč k tomu došlo”, řekla.

Použila tepelné mapy a analyzovala, které části obrázků byly použity CNNs k identifikaci prostředí.

“To vedlo k hypotéze, že systém se nedíval na dostatek detailů”, řekla.

Jedním z příkladů byl systém AI, který se naučil používat hrnky k identifikaci kuchyně. V tomto příkladu by AI mohl chybně klasifikovat oblasti, jako jsou obývací pokoje a kanceláře, které také často mají hrnky.

Talavera Martinez a její tým se poté pokusili vyvinout řešení. Její kolegové zahrnovali Davida Moralese a Beatriz Remeseiro, oba ze Španělska. Navrhované řešení spočívalo v rozptýlení systému od jejich primárních cílů.

Vývoj řešení

Tým trénoval CNNs se standardní sadou obrázků letadel nebo aut a identifikoval, které části obrázků byly použity pro klasifikaci pomocí tepelných map. Tyto části obrázků byly poté rozostřeny v sadě obrázků a sada obrázků byla použita pro druhé kolo tréninku.

“To donutí systém hledat jinde identifikátory. A pomocí této další informace se stává více jemně zrnitým v jeho klasifikaci”, řekla Talavera Martinez.

Nový systém fungoval dobře ve standardních sadách obrázků a byl úspěšný v obrazech shromážděných z nositelných kamer.

“Náš tréninkový režim nám dává výsledky podobné jiným přístupům, ale je mnohem jednodušší a vyžaduje méně výpočetního času”, říká.

Předchozí pokusy o zvýšení jemně zrnité klasifikace se zaměřily na kombinaci různých sad CNNs, ale nově vyvinutý přístup je mnohem lehčí.

“Tato studie nám dala lepší představu o tom, jak tyto CNNs učí, a to nám pomohlo zlepšit tréninkový program”, řekla Talavera Martinez.