Vytvoření syntetických datových sad ran s pomocí generativních adversativních sítí

Poprvé je generativní adversativní síť použita k vytvoření syntetických datových sad obrazů ran, aby se vyřešil kritický nedostatek rozmanitých a přístupných obsahu tohoto typu v aplikacích strojového učení ve zdravotnictví.

Systém, nazvaný WG²AN, je spoluprací mezi Batten College of Engineering & Technology a společnost eKare, která se specializuje na aplikaci metod strojového učení pro měření a identifikaci ran.

Generativní adversativní síť je trénována na 100-4000 označených stereoskopických chronických obrazů ran poskytnutých společností eKare, včetně anonymizovaných fotografií typů zranění způsobených tlakem, chirurgií, lymfatickými incidenty, diabetem a popáleninami. Zdrojový materiál se lišil velikostí mezi 1224×1224 a 2160×2160, všechny pořízené za dostupného světla lékaři.

Aby se přizpůsobila dostupnému latentnímu prostoru v architektuře modelu, byly obrázky přepočteny na 512×512 a extrahovány z jejich pozadí. Pro studium efektu velikosti datové sady byly provedeny testovací běhy na dávkách 100, 250, 500, 1000, 2000 a 4000 obrazů.

Zdroj: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

Obrázek výše ukazuje rostoucí detail a granularitu podle velikosti trénovací sady a počtu epoch provedených v každém běhu.

Architektura WG2GAN. Zdroj: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

WG²GAN běží na PyTorch na relativně štíhlém spotřebitelském nastavení, s 8GB VRAM na GPU GTX 1080. Trénování trvalo mezi 4-58 hodinami v závislosti na velikosti datové sady od 100-4000 obrazů a počtu epoch, s velikostí dávkou 64 jako kompromis mezi přesností a výkonem. Používá se Adam Optimizer pro první polovinu trénování s rychlostí učení 0,0002 a poté se dokončuje lineárním poklesem rychlosti učení, dokud není dosaženo ztráty nula.

Nahoře vlevo, segmentace aplikovaná na oblast rány. Nahoře uprostřed, obrázek skutečné rány; nahoře vpravo, syntetická rána typu, který lze zobecnit v datové sadě, na základě původního zdroje. Dole, původní rána a vpravo, syntéza rány vygenerovaná WG2GAN.

V medicínských datech, stejně jako v mnoha jiných oblastech strojového učení, je označení nevyhnutelnou překážkou. V tomto případě výzkumníci použili poloautomatický systém označení, který využívá dříve provedený výzkum ze společnosti eKare, který využíval reálné modely ran, vytvořené z plastelíny a přibližně zbarvené pro semantický kontext.

Modely ran eKare

Výzkumníci si všimli problému, který se často vyskytuje v počátečních fázích trénování, kdy je datová sada khá rozmanitá a váhy jsou náhodně inicializovány – model potřebuje dlouho (75 epoch) k “usazení”:

Kde jsou data různorodá, obě GAN a encoder/decoder modely mají problémy s obecností v raných fázích, jak je vidět na výše uvedeném grafu trénování WG²GAN, který sleduje trénovací časovou osu od začátku do nulové ztráty.

Je třeba dbát na to, aby trénovací proces nezačal fixovat rysy nebo charakteristiky jediné iterace nebo epochy, ale pokračoval v obecnosti na použitelnou střední ztrátu bez produkce výsledků, které příliš abstrahují zdroj. V případě WG²GAN by to riskovalo vytvoření neomezených, zcela “fiktivních” ran, seskupených mezi příliš širokým rozsahem nesouvisejících typů ran, místo produkce přesného rozsahu variací v rámci konkrétního typu rány.

Řízení rozsahu v datové sadě strojového učení

Modely s lehčími trénovacími sadami se generalizují rychleji a autoři článku tvrdí, že nejrealističtější obrazy by mohly být získány při méně než maximálních nastaveních: 1000 obrazové datové sady trénované po 200 epoch.

Ačkoli menší datové sady mohou dosáhnout vysoce realistických obrazů v kratším čase, rozsah obrazů a typů ran vygenerovaných bude nutně omezenější. Existuje jemná rovnováha v GAN a encoder/decoder trénovacích režimech mezi objemem a rozmanitostí vstupních dat, věrností vygenerovaných obrazů a realističností vygenerovaných obrazů — otázky rozsahu a vážení, které nejsou omezeny pouze na medicínskou obrazovou syntézu.

Třídní nerovnováhy v medicínských datech

Obecně je strojové učení ve zdravotnictví postiženo nejen nedostatkem datových sad, ale také třídními nerovnováhami, kde esenciální data o konkrétní nemoci tvoří tak malý procentní podíl své hostitelské datové sady, že riskují být odmítnuty jako odlehlá data nebo být asimilovány během procesu generalizace během trénování.

Několik metod bylo navrženo pro řešení této otázky, jako je podvzorkování nebo pře-vzorkování. Nicméně, problém je často obejitý vytvořením datových sad specifických pro onemocnění, které jsou zcela vázané na jednu medicínskou otázku. Ačkoli je tento přístup účinný v každém případě, přispívá k kultuře Balkanizace ve sféře medicínského strojového učení a zřejmě zpomaluje obecný pokrok v tomto sektoru.