Tạo Tập Dữ Liệu Tổng Hợp Vết Thương Bằng Mạng Đối Nghịch Generative

V lần đầu tiên, một Mạng Đối Nghịch Generative được sử dụng để tạo tập dữ liệu tổng hợp về hình ảnh vết thương, nhằm giải quyết sự thiếu hụt nghiêm trọng về nội dung đa dạng và dễ tiếp cận trong các ứng dụng học máy y tế.

Hệ thống, được gọi là WG²AN, là sự hợp tác giữa Trường Kỹ thuật và Công nghệ Batten và công ty y tế AI eKare, chuyên về việc áp dụng các phương pháp học máy để đo lường và xác định vết thương.

Mạng Đối Nghịch Generative được đào tạo trên 100-4000 hình ảnh vết thương mãn tính lập thể được gắn nhãn bởi eKare, bao gồm cả hình ảnh vô danh về các loại vết thương do áp lực, phẫu thuật, tai nạn mạch bạch huyết, bệnh tiểu đường và bỏng. Kích thước của tài liệu nguồn thay đổi từ 1224×1224 đến 2160×2160, tất cả đều được chụp dưới ánh sáng có sẵn bởi các bác sĩ.

Để phù hợp với không gian tiềm ẩn có sẵn trong kiến trúc đào tạo mô hình, các hình ảnh đã được thay đổi kích thước thành 512×512 và được trích xuất từ nền. Để nghiên cứu ảnh hưởng của kích thước tập dữ liệu, các thử nghiệm đã được thực hiện trên các lô 100, 250, 500, 1000, 2000 và 4000 hình ảnh.

Nguồn: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

Hình ảnh trên cho thấy sự gia tăng chi tiết và độ mịn theo kích thước của tập dữ liệu đào tạo và số lượng chu kỳ đào tạo trên mỗi lần chạy.

Cấu trúc của WG2GAN. Nguồn: https://ietresearch.onlinelibrary.wiley.com/doi/pdfdirect/10.1049/tje2.12033

WG²AN chạy trên PyTorch trên một thiết lập tiêu dùng tương đối mỏng, với 8GB VRAM trên card đồ họa GTX 1080. Thời gian đào tạo nằm trong khoảng từ 4-58 giờ trên các kích thước tập dữ liệu từ 100-4000 hình ảnh và trên một loạt các chu kỳ đào tạo, với kích thước lô 64 như một sự cân bằng giữa độ chính xác và hiệu suất. Bộ tối ưu hóa Adam được sử dụng cho nửa đầu của quá trình đào tạo với tốc độ học 0,0002 và kết thúc với tốc độ học giảm tuyến tính cho đến khi đạt được tổn thất bằng không.

Trên cùng bên trái, phân đoạn áp dụng cho khu vực vết thương. Trên cùng giữa, hình ảnh của vết thương thực tế; trên cùng bên phải, một vết thương tổng hợp của một loại có thể được tổng quát hóa trong một tập dữ liệu, dựa trên nguồn gốc. Dưới, vết thương gốc và, bên phải, tổng hợp của vết thương được tạo ra bởi WG2GAN.

Trong các tập dữ liệu y tế, cũng như trong nhiều lĩnh vực khác của học máy, việc gắn nhãn là một nút thắt không thể tránh khỏi. Trong trường hợp này, các nhà nghiên cứu đã sử dụng một hệ thống gắn nhãn bán tự động tận dụng nghiên cứu trước đó từ eKare, đã sử dụng các mô hình thế giới thực của vết thương, được tạo ra bằng Play-Doh và tô màu thô cho ngữ cảnh ngữ nghĩa.

Mô hình vết thương eKare

Các nhà nghiên cứu đã lưu ý một vấn đề thường xảy ra trong các giai đoạn đào tạo ban đầu, khi một tập dữ liệu khá đa dạng và trọng số được ngẫu hóa – mô hình mất nhiều thời gian (75 chu kỳ đào tạo) để ‘hòa nhập’:

Ở nơi dữ liệu đa dạng, cả mô hình GAN và mô hình mã hóa/giải mã đều gặp khó khăn trong việc đạt được sự tổng quát hóa trong các giai đoạn đầu, như chúng ta có thể thấy được chứng minh trong biểu đồ đào tạo của WG²GAN, theo dõi thời gian đào tạo từ khi bắt đầu đến khi đạt được tổn thất bằng không.

Cần phải thận trọng để đảm bảo rằng quá trình đào tạo không tập trung vào các tính năng hoặc đặc điểm của bất kỳ lần lặp lại hoặc chu kỳ đào tạo nào, mà thay vào đó tiếp tục tổng quát hóa đến một mức độ tổn thất trung bình có thể sử dụng mà không tạo ra kết quả quá trừu tượng so với tài liệu nguồn. Trong trường hợp của WG²GAN, điều đó sẽ rủi ro tạo ra các vết thương không có giới hạn, hoàn toàn ‘tưởng tượng’, được kết hợp giữa quá nhiều loại vết thương không liên quan, thay vì tạo ra một loạt các biến thể chính xác trong một loại vết thương cụ thể.

Kiểm Soát Phạm Vi Trong Một Tập Dữ Liệu Học Máy

Các mô hình có tập dữ liệu đào tạo nhẹ hơn sẽ tổng quát hóa nhanh hơn, và các nhà nghiên cứu của bài viết cho rằng những hình ảnh thực tế nhất có thể được thu được với ít hơn các thiết lập tối đa: một tập dữ liệu 1000 hình ảnh được đào tạo trong 200 chu kỳ đào tạo.

Mặc dù các tập dữ liệu nhỏ hơn có thể đạt được hình ảnh thực tế trong thời gian ngắn hơn, nhưng phạm vi của hình ảnh và các loại vết thương được tạo ra sẽ bị giới hạn hơn. Có một sự cân bằng tinh tế trong các chế độ đào tạo GAN và mã hóa/giải mã giữa khối lượng và sự đa dạng của dữ liệu đầu vào, độ trung thực của hình ảnh được tạo ra và sự thực tế của hình ảnh được tạo ra — những vấn đề về phạm vi và trọng số không chỉ giới hạn trong tổng hợp hình ảnh y tế.

Sự mất cân bằng Lớp Trong Các Tập Dữ Liệu Y Tế

Nói chung, học máy y tế không chỉ bị ảnh hưởng bởi sự thiếu hụt các tập dữ liệu, mà còn bởi sự mất cân bằng lớp, nơi dữ liệu thiết yếu về một bệnh cụ thể chiếm một tỷ lệ nhỏ trong tập dữ liệu của nó đến mức nó có nguy cơ bị loại bỏ như dữ liệu ngoại lệ hoặc bị đồng hóa trong quá trình tổng quát hóa trong quá trình đào tạo.

Một số phương pháp đã được đề xuất để giải quyết vấn đề sau, chẳng hạn như lấy mẫu dưới hoặc lấy mẫu quá mức. Tuy nhiên, vấn đề thường được giải quyết bằng cách phát triển các tập dữ liệu cụ thể cho bệnh mà hoàn toàn bị ràng buộc bởi một vấn đề y tế duy nhất. Mặc dù cách tiếp cận này hiệu quả trên cơ sở từng trường hợp, nhưng nó góp phần vào văn hóa Balkan hóa trong lĩnh vực nghiên cứu học máy y tế, và có thể làm chậm tiến bộ chung trong lĩnh vực này.