Výzkumníci z Googlu objevili problém podspecifikace, který brání mnoha modelům AI

Nedávno tým výzkumníků z Googlu identifikoval běžnou příčinu selhání modelů AI, a to problém podspecifikace, jako jednu z hlavních příčin, proč modely strojového učení často fungují ve skutečném světě jinak než během testování a vývoje.

Modely strojového učení často selhávají, když řeší úkoly ve skutečném světě, i když modely fungují optimálně v laboratoři. Existuje mnoho důvodů, proč dochází k rozdílu mezi trénováním/vývojem a výkonem ve skutečném světě. Jednou z nejčastějších příčin, proč modely AI selhávají při řešení úkolů ve skutečném světě, je koncept nazývaný posun dat. Posun dat odkazuje na základní rozdíl mezi typem dat použitých pro vývoj modelu strojového učení a daty zadanými do modelu během aplikace. Jako příklad lze uvést, že modely počítačového vidění trénované na vysoce kvalitních obrazových datech budou mít problémy s fungováním, když budou zásobeny daty pořízenými nízkokvalitními kamerami, které se nachází v denním prostředí modelu.

Podle MIT Technology Review tým 40 různých výzkumníků z Googlu identifikoval další důvod, proč výkon modelu strojového učení může být tak dramaticky odlišný. Problém je „podspecifikace“, statistický koncept, který popisuje problémy, kdy pozorované jevy mají mnoho možných příčin, z nichž ne všechny jsou zohledněny modelem. Podle vedoucího studie Alexe D’Amoura se problém vyskytuje u mnoha modelech strojového učení a říká, že „se to děje všude“.

Typická metoda trénování modelu strojového učení zahrnuje krmení modelu velkým množstvím dat, které může analyzovat a extrahovat relevantní vzory. Poté je model krmen příklady, které neviděl, a požádán o předpověď povahy těchto příkladů na základě funkcí, které se naučil. Jakmile model dosáhne určité úrovně přesnosti, trénink je obvykle považován za dokončený.

Podle týmu výzkumníků z Googlu je třeba udělat více, aby se zajistilo, že modely mohou skutečně generalizovat na netrénovací data. Klasická metoda trénování modelů strojového učení vyprodukuje různé modely, které všechny procházejí testy, ale tyto modely se liší v malých detailech, které se zdají být zanedbatelné, ale nejsou. Rozdílné uzly v modelech budou mít rozdílné náhodné hodnoty přiřazeny, nebo trénovací data mohou být vybrána nebo reprezentována rozdílnými způsoby. Tyto variace jsou malé a často nahodilé, a pokud nemají velký dopad na výkon modelu během trénování, jsou snadno přehlédnutelné. Avšak když se kumuluje dopad všech těchto malých změn, mohou vést k velkým variacím ve skutečném světě.

Tato podspecifikace je problematická, protože znamená, že i když trénovací proces je schopen produkovat dobré modely, může také produkovat špatný model a rozdíl by nebyl objeven, dokud model nevystoupil z produkce a nevstoupil do použití.

Za účelem posouzení dopadu podspecifikace tým výzkumníků prozkoumal řadu různých modelů. Každý model byl trénován pomocí stejného trénovacího procesu, a poté byly modely podrobeny sérii testů, aby se ukázaly rozdíly ve výkonu. V jednom případě byly 50 různých verzí systému rozpoznávání obrazů trénovány na datasetu ImageNet. Modely byly všechny stejné, kromě neuronových síťových hodnot, které jim byly náhodně přiřazeny na začátku trénování. Testy, které byly použity k určení rozdílů v modelech, byly provedeny pomocí ImageNet-C, variace původního datasetu, který se skládá z obrazů upravených kontrastem nebo jasnáním. Modely byly také testovány na ObjectNet, sérii obrazů s každodenními objekty v neobvyklých orientacích a kontextech. Ačkoli všechny 50 modelů mělo přibližně stejný výkon na trénovacím datasetu, výkon se značně lišil, když byly modely spuštěny v testech.

Tým výzkumníků nalezl podobné výsledky, když trénoval a testoval dva různé systémy NLP, stejně jako když testoval různé další modely počítačového vidění. V každém případě se modely výrazně lišily, přestože trénovací proces pro všechny modely byl stejný.

Podle D’Amoura musí výzkumníci a inženýři v oblasti strojového učení dělat mnohem více stresových testů, než budou modely uvolňovány do světa. To může být obtížné, protože stresové testy musí být přizpůsobeny konkrétním úkolu pomocí dat ze skutečného světa, data, která mohou být obtížně dostupná pro některé úkoly a kontexty. Jednou z možných řešení problému podspecifikace je produkovat mnoho modelů najednou a poté je testovat na sérii skutečných úkolů, výběr modelu, který konzistentně ukazuje nejlepší výsledky. Vývoj modelů tímto způsobem vyžaduje mnoho času a zdrojů, ale kompromis by mohl být stojí za to, zejména pro modely AI používané v medicínských kontextech nebo jiných oblastech, kde je bezpečnost hlavní prioritou. Jak D’Amour vysvětlil prostřednictvím MIT Technology Review:

„Musíme se stát lepšími v určení přesně toho, co jsou naše požadavky pro naše modely. Protože často se stává, že tyto požadavky objevíme až poté, co model selže ve světě.“