Các mô hình AI được đào tạo trên dữ liệu bị thiên vị về giới tính hoạt động kém hơn khi chẩn đoán bệnh

Gần đây, một nghiên cứu được công bố trên tạp chí PNAS và được thực hiện bởi các nhà nghiên cứu từ Argentina, cho thấy rằng sự hiện diện của dữ liệu đào tạo bị thiên vị về giới tính dẫn đến hiệu suất mô hình kém hơn khi chẩn đoán bệnh và các vấn đề y tế khác. Theo báo cáo của Statsnews, nhóm nghiên cứu đã thử nghiệm với các mô hình được đào tạo trên dữ liệu mà trong đó bệnh nhân nữ bị đại diện thấp hoặc bị loại bỏ hoàn toàn, và họ phát hiện ra rằng thuật toán hoạt động kém hơn đáng kể khi chẩn đoán bệnh cho bệnh nhân nữ. Điều tương tự cũng đúng khi bệnh nhân nam bị loại bỏ hoặc đại diện thấp.

Trong nửa thập kỷ qua, khi các mô hình AI và học máy trở nên phổ biến hơn, nhiều sự chú ý đã được dành cho các vấn đề liên quan đến dữ liệu bị thiên vị và các mô hình học máy bị thiên vị kết quả từ đó. Dữ liệu bị thiên vị trong học máy có thể dẫn đến các ứng dụng AI khó xử, gây thiệt hại về mặt xã hội và độc quyền, nhưng khi nói đến các ứng dụng y tế, tính mạng có thể bị đe dọa. Tuy nhiên, mặc dù đã biết về vấn đề này, rất ít nghiên cứu đã cố gắng lượng hóa mức độ thiệt hại của dữ liệu bị thiên vị. Nghiên cứu của nhóm nghiên cứu cho thấy rằng dữ liệu bị thiên vị có thể có tác động cực đoan hơn nhiều so với ước tính trước đây của các chuyên gia.

Một trong những ứng dụng phổ biến nhất của AI trong những năm gần đây trong lĩnh vực y tế là sử dụng các mô hình AI để chẩn đoán bệnh dựa trên hình ảnh y tế. Nhóm nghiên cứu đã phân tích các mô hình được sử dụng để phát hiện sự hiện diện của các tình trạng y tế khác nhau như viêm phổi, bệnh tim hoặc bệnh thoát vị từ các hình ảnh X-quang. Các nhà nghiên cứu đã nghiên cứu ba kiến trúc mô hình mã nguồn mở: Inception-v3, ResNet và DenseNet-121. Các mô hình được đào tạo trên các hình ảnh X-quang từ hai bộ dữ liệu mã nguồn mở từ Đại học Stanford và Viện Y tế Quốc gia. Mặc dù các bộ dữ liệu này khá cân bằng về đại diện giới tính, nhưng các nhà nghiên cứu đã tạo ra sự mất cân bằng về giới tính trong dữ liệu bằng cách chia chúng thành các tập con có sự mất cân bằng về giới tính.

Nhóm nghiên cứu đã tạo ra năm tập dữ liệu đào tạo khác nhau, mỗi tập bao gồm các tỷ lệ khác nhau của các hình ảnh quét của bệnh nhân nam và nữ. Năm tập dữ liệu đào tạo được chia như sau:

• Tất cả hình ảnh đều của bệnh nhân nam
• Tất cả hình ảnh đều của bệnh nhân nữ
• 25% bệnh nhân nam và 75% bệnh nhân nữ
• 75% bệnh nhân nữ và 25% bệnh nhân nam
• Nửa bệnh nhân nam và nửa bệnh nhân nữ

Sau khi mô hình được đào tạo trên một trong các tập con, nó được thử nghiệm trên một tập hợp các hình ảnh quét từ cả bệnh nhân nam và nữ. Có một xu hướng đáng chú ý hiện diện trên các tình trạng y tế khác nhau, độ chính xác của các mô hình kém hơn nhiều khi dữ liệu đào tạo bị thiên vị về giới tính. Một điều thú vị cần lưu ý là nếu một giới tính được đại diện quá mức trong dữ liệu đào tạo, giới tính đó không có vẻ như được lợi từ sự đại diện quá mức. Bất kể mô hình được đào tạo trên dữ liệu bị thiên vị về giới tính hay không, nó không hoạt động tốt hơn trên giới tính đó so với khi được đào tạo trên một tập dữ liệu bao gồm.

Tác giả cao cấp của nghiên cứu, Enzo Ferrante, được trích dẫn bởi Statnews khi giải thích rằng nghiên cứu nhấn mạnh tầm quan trọng của việc dữ liệu đào tạo phải đa dạng và đại diện cho tất cả các dân số mà bạn dự định thử nghiệm mô hình.

Nó không hoàn toàn rõ ràng tại sao các mô hình được đào tạo trên một giới tính lại hoạt động kém hơn khi được thực hiện trên một giới tính khác. Một số sự khác biệt có thể là do sự khác biệt về sinh lý, nhưng các yếu tố xã hội và văn hóa cũng có thể giải thích một số sự khác biệt. Ví dụ, phụ nữ có thể nhận được X-quang tại một giai đoạn tiến triển khác của bệnh so với nam giới. Nếu điều này là đúng, nó có thể ảnh hưởng đến các đặc điểm (và do đó các mẫu được học bởi mô hình) được tìm thấy trong các hình ảnh đào tạo. Nếu điều này là đúng, nó sẽ làm cho các nhà nghiên cứu khó loại bỏ thiên vị khỏi dữ liệu của họ, vì thiên vị sẽ được tích hợp vào dữ liệu thông qua các cơ chế thu thập dữ liệu.

Thậm chí các nhà nghiên cứu chú ý đến sự đa dạng của dữ liệu đôi khi cũng không có lựa chọn nào khác ngoài việc làm việc với dữ liệu bị thiên vị. Các tình huống trong đó sự chênh lệch tồn tại về cách chẩn đoán các tình trạng y tế sẽ thường dẫn đến mất cân bằng dữ liệu. Ví dụ, dữ liệu về bệnh ung thư vú hầu như chỉ được thu thập từ phụ nữ. Tương tự, tự kỷ biểu hiện khác nhau giữa phụ nữ và nam giới, và kết quả là tình trạng này được chẩn đoán với tỷ lệ cao hơn nhiều ở trẻ em trai so với trẻ em gái.

Mặc dù vậy, điều cực kỳ quan trọng là các nhà nghiên cứu phải kiểm soát dữ liệu bị thiên vị và thiên vị dữ liệu theo bất kỳ cách nào họ có thể. Để thực hiện điều đó, các nghiên cứu trong tương lai sẽ giúp các nhà nghiên cứu lượng hóa tác động của dữ liệu bị thiên vị.