Creazione di dataset di ferite sintetiche con reti avversarie generative

Per la prima volta, una Rete Avversaria Generativa viene utilizzata per creare dataset sintetici di immagini di ferite, al fine di risolvere una carenza critica di contenuti diversi e accessibili di questo tipo nelle applicazioni di apprendimento automatico sanitario.

Il sistema, chiamato WG²AN, è una collaborazione tra il Batten College of Engineering & Technology e la società di salute AI eKare, che si specializza nell’applicazione di metodologie di apprendimento automatico alla misurazione e all’identificazione delle ferite.

La Rete Avversaria Generativa è addestrata su 100-4000 immagini stereoscopiche di ferite croniche etichettate fornite da eKare, comprese immagini anonime di tipi di lesioni causate da pressione, chirurgia, incidenti linfovascolari, diabete e ustioni. Il materiale di origine variava in dimensione tra 1224×1224 e 2160×2160, tutte scattate con luce disponibile da parte dei medici.

Per adattarsi allo spazio latente disponibile nell’architettura di addestramento del modello, le immagini sono state ridimensionate a 512×512 e estratte dai loro sfondi. Per studiare l’effetto della dimensione del dataset, sono stati eseguiti test su lotti di 100, 250, 500, 1000, 2000 e 4000 immagini.

Fonte: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

L’immagine sopra mostra un aumento di dettaglio e granularità in base alle dimensioni del set di addestramento e al numero di epoche eseguite in ogni passaggio.

L’architettura di WG2GAN. Fonte: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

WG²GAN funziona su PyTorch su un setup consumer-style relativamente leggero, con 8GB di VRAM su una GPU GTX 1080. L’addestramento ha richiesto tra 4-58 ore nel range di dimensioni del dataset da 100-4000 immagini, e su un range di epoche, con un batch size di 64 come compromesso tra accuratezza e prestazioni. L’ottimizzatore Adam viene utilizzato per la prima metà dell’addestramento a una velocità di apprendimento di 0,0002, e concluso con una velocità di apprendimento lineare decrescente fino a quando non si raggiunge una perdita di zero.

In alto a sinistra, segmentazione applicata all’area della ferita. In alto al centro, immagine della ferita reale; in alto a destra, una ferita sintetica di un tipo che può essere generalizzato in un dataset, basato sulla fonte originale. In basso, la ferita originale, e, a destra, una sintesi della ferita generata da WG2GAN.

Nei dataset medici, come in molti altri settori dell’apprendimento automatico, l’etichettatura è un collo di bottiglia inevitabile. In questo caso, i ricercatori hanno utilizzato un sistema di etichettatura semi-automatizzato che sfrutta ricerche precedenti di eKare, che hanno utilizzato modelli di ferite reali creati con Play-Doh e colorati approssimativamente per contesto semantico.

Modelli di ferite eKare

I ricercatori hanno notato un problema che si verifica frequentemente nelle fasi iniziali dell’addestramento, quando un dataset è molto vario e i pesi sono casuali – il modello impiega molto tempo (75 epoche) per “stabilizzarsi”:

Quando i dati sono variegati, sia i modelli GAN che quelli encoder/decoder lottano per ottenere generalizzazione nelle fasi iniziali, come possiamo vedere evidenziato nel grafico dell’addestramento di WG²GAN, che traccia la timeline di addestramento dall’inizio alla perdita zero.

È necessario prestare attenzione per assicurarsi che il processo di addestramento non si fissi sulle caratteristiche o sui tratti di una sola iterazione o epoca, ma continui a generalizzare a una perdita media utilizzabile senza produrre risultati che astraggono eccessivamente il materiale di origine. Nel caso di WG²GAN, ciò rischierebbe di creare ferite completamente “fittizie”, concatenate tra un’ampia gamma di tipi di ferite non correlate, piuttosto che produrre una gamma precisa di variazioni all’interno di un particolare tipo di ferita.

Controllo dell’ambito in un dataset di apprendimento automatico

I modelli con set di addestramento più leggeri generalizzano più velocemente, e i ricercatori dell’articolo sostengono che le immagini più realistiche potrebbero essere ottenute con impostazioni inferiori al massimo: un dataset di 1000 immagini addestrate su 200 epoche.

Sebbene i dataset più piccoli possano produrre immagini molto realistiche in meno tempo, la gamma di immagini e i tipi di ferite generate saranno necessariamente più limitati. Esiste un equilibrio delicato nei regimi di addestramento GAN e encoder/decoder tra il volume e la varietà dei dati di input, la fedeltà delle immagini prodotte e la realismo delle immagini prodotte — questioni di ambito e ponderazione che non sono certamente confinate ai sintetizzatori di immagini mediche.

Squilibri di classe nei dataset medici

In generale, l’apprendimento automatico sanitario è afflitto non solo da una carenza di dataset, ma anche da squilibri di classe, dove i dati essenziali su una specifica malattia costituiscono una percentuale così piccola del suo dataset di appartenenza che rischiano di essere scartati come dati outlier o di essere assimilati nel processo di generalizzazione durante l’addestramento.

È stato proposto un certo numero di metodi per affrontare questo problema, come sottocampionamento o sovracampionamento. Tuttavia, il problema è spesso aggirato sviluppando dataset specifici per la malattia che sono interamente vincolati a un singolo problema medico. Sebbene questo approccio sia efficace su base caso per caso, contribuisce alla cultura di balkanizzazione nella sfera della ricerca sull’apprendimento automatico medico, e argomenta che rallenta il progresso generale nel settore.