Het creëren van synthetische wonddatasets met generatieve adversarial netwerken

Voor het eerst wordt een Generatief Adversatief Netwerk gebruikt om synthetische datasets van wondbeelden te creëren, om een kritisch tekort aan diverse en toegankelijke inhoud van dit type in healthcare-machine learning-toepassingen aan te pakken.

Het systeem, genaamd WG²AN, is een samenwerking tussen de Batten College of Engineering & Technology en AI-gezondheidsbedrijf eKare, dat zich specialiseert in het toepassen van machine learning-methodologieën voor het meten en identificeren van wonden.

Het GAN wordt getraind op 100-4000 gelabelde stereoskopische chronische wondbeelden die door eKare worden verstrekt, waaronder geanonimiseerde foto’s van letseltypen door oorzaken zoals druk, chirurgie, lymfovasculaire incidenten, diabetes en brandwonden. Het bronmateriaal varieerde in grootte tussen 1224×1224 en 2160×2160, allemaal genomen onder beschikbaar licht door artsen.

Om de beschikbare latentie in de modeltrainingsarchitectuur te accommoderen, werden de beelden herschaald naar 512×512 en uit hun achtergronden geëxtraheerd. Om het effect van de datasetgrootte te bestuderen, werden testruns uitgevoerd op batches van 100, 250, 500, 1000, 2000 en 4000 beelden.

Bron: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

De bovenstaande afbeelding toont een toenemende detail en granulariteit volgens de grootte van de bijdragende trainingsset en het aantal epochs dat op elke pas wordt uitgevoerd.

De architectuur van WG2GAN. Bron: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

WG²GAN draait op PyTorch op een relatief magere consumentenstijl setup, met 8GB VRAM op een GTX 1080 GPU. De training duurde tussen 4-58 uur over het bereik van datasetgroottes van 100-4000 beelden, en over een bereik van epochs, op een batchgrootte van 64 als een compromis tussen nauwkeurigheid en prestaties. De Adam Optimizer wordt gebruikt voor de eerste helft van de training bij een leerratio van 0,0002, en wordt afgesloten met een lineair afnemende leerratio totdat een verlies van nul wordt bereikt.

Boven links, segmentatie toegepast op het wondgebied. Boven centrum, afbeelding van de werkelijke wond; boven rechts, een synthetische wond van een type dat kan worden gegeneraliseerd in een dataset, op basis van de oorspronkelijke bron. Onder, de oorspronkelijke wond, en, rechts, een synthese van de wond gegenereerd door WG2GAN.

In medische datasets, net als in veel andere sectoren van machine learning, is labeling een onvermijdelijke bottleneck. In dit geval gebruikten de onderzoekers een semi-geautomatiseerd labelingsysteem dat eerder onderzoek van eKare gebruikt, dat werkelijke modellen van wonden gebruikte, gemaakt van Play-Doh en ongeveer gekleurd voor semantische context.

eKare Wound modellen

De onderzoekers merkten een probleem op dat vaak voorkomt in de initiële fasen van training, wanneer een dataset zeer divers is en gewichten willekeurig zijn – het model neemt lang de tijd (75 epochs) om ‘te settelen’:

Waar de gegevens gevarieerd zijn, hebben zowel GAN- als encoder/decoder-modellen moeite om generalisatie te verkrijgen in de vroege stadia, zoals we kunnen zien aangetoond in de bovenstaande grafiek van de training van WG²GAN, die de trainingslijn volgt vanaf het begin tot nul verlies.

Er moet zorg worden genomen om ervoor te zorgen dat het trainingsproces niet vast komt te zitten op de kenmerken of eigenschappen van een enkele iteratie of epoch, maar blijft generaliseren naar een bruikbare gemiddelde verlies zonder resultaten te produceren die de broninhoud te veel abstract maken. In het geval van WG²GAN zou dat het risico met zich meebrengen om ongebonden, geheel ‘fictieve’ wonden te creëren, samengesteld uit te veel niet-gerelateerde wondtypen, in plaats van een nauwkeurig bereik van variaties binnen een bepaald wondtype.

Het controleren van de scope in een machine learning-dataset

Modellen met lichtere trainingssets generaliseren sneller, en de onderzoekers van het artikel beweren dat de meest realistische beelden kunnen worden verkregen bij minder dan de maximale instellingen: een dataset van 1000 beelden getraind over 200 epochs.

Hoewel kleinere datasets mogelijk realistische beelden kunnen produceren in minder tijd, zal het bereik van beelden en typen wonden die worden gegenereerd noodzakelijkerwijs beperkter zijn. Er is een delicate balans in GAN- en encoder/decoder-trainingsregimes tussen het volume en de variëteit van invoergegevens, de geloofwaardigheid van de gegenereerde beelden en de realiteit van de gegenereerde beelden — kwesties van scope en gewicht die zeker niet beperkt zijn tot medische beeldsynthese.

Klasse-ongelijkheden in medische datasets

In het algemeen wordt de gezondheidszorg-machine learning niet alleen geconfronteerd met een gebrek aan datasets, maar ook met klasse-ongelijkheden, waarbij essentiële gegevens over een specifieke ziekte een zo klein percentage van de host-dataset vormen dat het risico bestaat dat het wordt afgewezen als outliergegevens of wordt geassimileerd in het proces van generalisatie tijdens de training.

Een aantal methoden zijn voorgesteld om het laatste probleem aan te pakken, zoals ondersteeksel of oversteeksel. Echter, het probleem wordt vaak omzeild door het ontwikkelen van ziektespecifieke datasets die volledig zijn gebonden aan een enkel medisch probleem. Hoewel deze aanpak effectief is per geval, draagt het bij aan de cultuur van Balkanisatie in de sfeer van medische machine learning-onderzoek, en vertraagt naar alle waarschijnlijkheid de algemene vooruitgang in de sector.