Δημιουργία Συνθετικών Δεδομένων Τραυμάτων Με Δίκτυα Αντιπαλών Γενετικών Αλγορίθμων

Για πρώτη φορά, ένα Δίκτυο Αντιπαλών Γενετικών Αλγορίθμων χρησιμοποιείται για τη δημιουργία συνθετικών δεδομένων εικόνων τραυμάτων, με σκοπό να διορθωθεί η κρίσιμη έλλειψη ποικίλων και προσβάσιμων περιεχομένων αυτού του είδους στις εφαρμογές μηχανικής μάθησης στην υγεία.

Το σύστημα, που ονομάζεται WG²AN, είναι μια συνεργασία μεταξύ του Κολλεγίου Μηχανικής και Τεχνολογίας Batten και της εταιρείας υγείας AI eKare, η οποία ειδικεύεται στην εφαρμογή μεθοδολογιών μηχανικής μάθησης στην μέτρηση και την αναγνώριση τραυμάτων.

Το GAN εκπαιδεύεται σε 100-4000 ετικετών στερεοσκοπικές χρονικές εικόνες τραυμάτων που παρέχονται από την eKare, συμπεριλαμβανομένων ανωνυμοποιημένων φωτογραφιών τύπων τραυμάτων από αιτίες όπως πίεση, χειρουργική επέμβαση, λεμφοαγγειακά περιστατικά, διαβήτης και εγκαύματα. Το υλικό πηγή ποικίλλει σε μέγεθος μεταξύ 1224×1224 και 2160×2160, όλα τραβηγμένα υπό διαθέσιμο φως από γιατρούς.

Για να διευκολυνθεί ο διαθέσιμος.latent χώρος στη δομή εκπαίδευσης του μοντέλου, οι εικόνες αναδιαμορφώθηκαν σε 512×512 και εξαγώγιναν από τα παρασκηνιακά τους. Για να μελετηθεί η επίδραση του μεγέθους του συνόλου δεδομένων, δοκιμαστικές εκτελέσεις εφαρμόστηκαν σε δείγματα 100, 250, 500, 1000, 2000 και 4000 εικόνων.

Πηγή: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

Η εικόνα παραπάνω δείχνει αυξανόμενη λεπτομέρεια και γρανулярτητα σύμφωνα με το μέγεθος του συνόλου εκπαίδευσης και τον αριθμό epoch που εκτελούνται σε κάθε πέρασμα.

Η αρχιτεκτονική του WG2GAN. Πηγή: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

Το WG²GAN εκτελείται στο PyTorch σε ένα σχετικά λιτό καταναλωτικό σύστημα, με 8GB VRAM σε μια κάρτα γραφικών GTX 1080. Η εκπαίδευση διήρκεσε μεταξύ 4-58 ωρών σε μια σειρά μεγεθών συνόλων δεδομένων από 100-4000 εικόνων και σε μια σειρά epoch, με μέγεθος δείγματος 64 ως συμβιβασμό μεταξύ ακρίβειας και απόδοσης. Ο βελτιωτής Adam χρησιμοποιείται για το πρώτο μισό της εκπαίδευσης με ρυθμό μάθησης 0,0002 και ολοκληρώνεται με einen γραμμικό ρυθμό μάθησης μέχρι να επιτευχθεί απώλεια μηδέν.

Πάνω αριστερά, εφαρμογή τμηματοποίησης στην περιοχή του τραύματος. Πάνω κέντρο, εικόνα του πραγματικού τραύματος; πάνω δεξιά, συνθετικό τραύμα τύπου που μπορεί να γενικευθεί σε ένα σύνολο δεδομένων, με βάση την αρχική πηγή. Κάτω, το αρχικό τραύμα και, δεξιά, μια σύνθεση του τραύματος που παράγεται από το WG2GAN.

Στα ιατρικά σύνολα δεδομένων, όπως και σε πολλούς άλλους τομείς της μηχανικής μάθησης, η ετικέτα είναι ένα αναπόφευκτο μποτλνεκ. Σε αυτή την περίπτωση, οι ερευνητές χρησιμοποίησαν ένα ημι-αυτόματο σύστημα ετικέτας που αξιοποιεί πρότερη έρευνα από την eKare, η οποία χρησιμοποίησε πραγματικά μοντέλα τραυμάτων, δημιουργημένα με Play-Doh και χρωματισμένα για σημασιολογικό контέκστ.

Μοντέλα τραυμάτων eKare

Οι ερευνητές σημείωσαν ένα πρόβλημα που συχνά εμφανίζεται στις αρχικές φάσεις της εκπαίδευσης, όταν ένα σύνολο δεδομένων είναι khá ποικίλο και τα βάρη είναι τυχαία – το μοντέλο χρειάζεται πολύ χρόνο (75 epoch) για να «σταθεροποιηθεί»:

Όπου τα δεδομένα είναι ποικίλα, και τα μοντέλα GAN και encoder/decoder δυσκολεύονται να αποκτήσουν γενίκευση στις πρώτες φάσεις, όπως φαίνεται στην παραπάνω γραφική παράσταση της εκπαίδευσης του WG²GAN, η οποία παρακολουθεί τη χρονοσειρά της εκπαίδευσης από την αρχή μέχρι την απώλεια μηδέν.

Πρέπει να ληφθούν μέτρα για να διασφαλιστεί ότι η διαδικασία εκπαίδευσης δεν εστιάζει στα χαρακτηριστικά ή τις ιδιότητες κάποιας μιας επανάληψης ή epoch, αλλά συνεχίζει να γενικεύει σε ένα χρησιμοποίητο μέσο απώλεια χωρίς να παράγει αποτελέσματα που αφαιρούν υπερβολικά το αρχικό υλικό. Σε περίπτωση του WG²GAN, αυτό θα κινδύνευε να δημιουργήσει απεριόριστα, εντελώς «μυθικά» τραύματα, συναρμολογημένα μεταξύ ενός πολύ ευρέος φάσματος μη σχετικών τύπων τραυμάτων, αντί να παράγει μια ακριβή σειρά παραλλαγών μέσα σε einen συγκεκριμένο τύπο τραύματος.

Έλεγχος Εύρους Σε Ένα Σύνολο Δεδομένων Μηχανικής Μάθησης

Μοντέλα με ελαφρύτερα σύνολα εκπαίδευσης γενικεύουν γρηγορότερα, και οι ερευνητές της εργασίας υποστηρίζουν ότι οι πιο ρεαλιστικές εικόνες θα μπορούσαν να ληφθούν με λιγότερο από τις μέγιστες ρυθμίσεις: ένα σύνολο δεδομένων 1000 εικόνων εκπαιδευμένο σε 200 epoch.

Αν και μικρότερα σύνολα δεδομένων μπορεί να επιτύχουν πολύ ρεαλιστικές εικόνες σε λιγότερο χρόνο, το εύρος των εικόνων και των τύπων τραυμάτων που παράγονται θα είναι αναπόφευκτα πιο περιορισμένο. Υπάρχει ένας λεπτός ισορροπία στη διαδικασία εκπαίδευσης των GAN και encoder/decoder μεταξύ του όγκου και της ποικιλίας των εισαγώμενων δεδομένων, της πιστότητας των παραγόμενων εικόνων και της ρεαλιστικότητας των παραγόμενων εικόνων — ζητήματα εύρους και βαρύτητας που δεν είναι σίγουρα περιορισμένα στα ιατρικά σύνολα δεδομένων.

Διαταραχές Τάξης Σε Ιατρικά Σύνολα Δεδομένων

Γενικά, η μηχανική μάθηση στην υγεία είναι καταπονημένη όχι μόνο από την έλλειψη συνόλων δεδομένων, αλλά και από διαταραχές τάξης, όπου τα απαραίτητα δεδομένα για μια συγκεκριμένη ασθένεια συνθέτουν ένα τόσο μικρό ποσοστό του συνόλου δεδομένων που κινδυνεύει να απορριφθεί ως ngoại lệ ή να ενσωματωθεί στη διαδικασία γενίκευσης κατά την εκπαίδευση.

Έχουν προταθεί διάφορα μέθοδοι για να αντιμετωπιστούν το τελευταίο ζήτημα, όπως υπο-δείγματος ή υπερ-δείγματος. Ωστόσο, το πρόβλημα συχνά παρακαμπτώνεται με την ανάπτυξη συνόλων δεδομένων που είναι εξ ολοκλήρου δεσμευμένα σε ένα μόνο ιατρικό ζήτημα. Αν και αυτή η προσέγγιση είναι αποτελεσματική σε κάθε περίπτωση, συνεισφέρει στην κουλτούρα της Βαλκανικής στην σφαίρα της έρευνας μηχανικής μάθησης στην υγεία και επιχειρεί να επιβραδύνει την γενική πρόοδο στον τομέα.