Thuật toán có thể giải quyết sự thiên vị chủng tộc trong chăm sóc sức khỏe nếu được đào tạo đúng cách

Một nhóm các nhà nghiên cứu từ Đại học Stanford, Đại học Harvard và Đại học Chicago đã đào tạo các thuật toán để chẩn đoán viêm khớp ở X-quang của đầu gối. Điều này cho thấy rằng khi sử dụng báo cáo của bệnh nhân làm dữ liệu đào tạo cho thuật toán, thuật toán chính xác hơn các bác sĩ chuyên khoa khi phân tích hồ sơ của bệnh nhân da đen.

Vấn đề của sự thiên vị thuật toán

Sử dụng các thuật toán học máy trong lĩnh vực y tế có thể cải thiện kết quả cho bệnh nhân mắc các bệnh khác nhau, nhưng cũng có những vấn đề đã được ghi nhận khi sử dụng các thuật toán AI để chẩn đoán bệnh nhân. Các nghiên cứu về tác động của các mô hình AI đã triển khai đã tìm thấy một số vụ việc đáng chú ý liên quan đến sự thiên vị thuật toán. Những thuật toán này đưa ra ít hơn các khuyến nghị cho các đơn vị tim mạch đối với bệnh nhân thuộc chủng tộc thiểu số so với bệnh nhân da trắng, mặc dù tất cả các triệu chứng được báo cáo đều giống nhau.

Một trong những tác giả của nghiên cứu, giáo sư Ziad Obermeyer tại Trường Y tế Công cộng của Đại học California Berkeley, đã quyết định sử dụng AI để điều tra sự chênh lệch giữa chẩn đoán X-quang của các bác sĩ chuyên khoa và mức độ đau mà bệnh nhân báo cáo. Mặc dù bệnh nhân da đen và bệnh nhân thu nhập thấp báo cáo mức độ đau cao hơn, nhưng việc giải thích X-quang của họ được đánh giá giống như dân số chung. Dữ liệu về mức độ đau được báo cáo đến từ NIH, và các nhà nghiên cứu muốn điều tra xem liệu các bác sĩ có bỏ lỡ điều gì trong phân tích dữ liệu của họ hay không.

Theo Wired, để xác định các nguyên nhân tiềm năng của những khác biệt này, Obermeyer và các nhà nghiên cứu khác đã phát triển một mô hình tầm nhìn máy tính được đào tạo trên dữ liệu từ NIH. Các thuật toán được thiết kế để phân tích X-quang và dự đoán mức độ đau của bệnh nhân dựa trên hình ảnh. Phần mềm đã tìm thấy các mẫu trong hình ảnh rất tương quan với mức độ đau của bệnh nhân.

Khi thuật toán được trình bày với một hình ảnh chưa được xem, mô hình trả về dự đoán về mức độ đau được báo cáo của bệnh nhân. Các dự đoán được trả về bởi mô hình phù hợp hơn với mức độ đau thực tế được báo cáo của bệnh nhân so với điểm số được chỉ định bởi các bác sĩ chuyên khoa. Điều này đặc biệt đúng đối với bệnh nhân da đen. Obermeyer giải thích qua Wired rằng thuật toán tầm nhìn máy tính có thể phát hiện các hiện tượng thường liên quan đến đau ở bệnh nhân da đen.

Đào tạo hệ thống một cách chính xác

Theo báo cáo, các tiêu chí được sử dụng để đánh giá X-quang ban đầu được phát triển dựa trên kết quả của một nghiên cứu nhỏ được thực hiện ở phía bắc Anh vào năm 1957. Dân số ban đầu được sử dụng để phát triển các tiêu chí đánh giá viêm khớp rất khác so với dân số đa dạng của Hoa Kỳ hiện đại, vì vậy không có gì ngạc nhiên khi có những sai lầm khi chẩn đoán những người đa dạng này.

Nghiên cứu mới cho thấy rằng khi các thuật toán AI được đào tạo đúng cách, chúng có thể giảm thiểu sự thiên vị. Việc đào tạo dựa trên phản hồi của chính bệnh nhân thay vì ý kiến của chuyên gia. Obermeyer và các đồng nghiệp trước đây đã chứng minh rằng một thuật toán AI phổ biến đã ưu tiên bệnh nhân da trắng hơn bệnh nhân da đen, nhưng Obermeyer cũng chỉ ra rằng đào tạo một hệ thống học máy trên dữ liệu đúng có thể giúp ngăn chặn sự thiên vị.

Một lưu ý quan trọng đối với nghiên cứu là một điều quen thuộc với nhiều nhà nghiên cứu học máy. Mô hình AI được phát triển bởi nhóm nghiên cứu là một hộp đen, và nhóm nghiên cứu không chắc chắn về loại tính năng mà thuật toán đang phát hiện trong X-quang, có nghĩa là họ không thể cho các bác sĩ biết họ đang bỏ lỡ điều gì.

Các bác sĩ chuyên khoa và nhà nghiên cứu khác đang cố gắng đào sâu vào hộp đen và phát hiện các mẫu trong đó, hy vọng giúp các bác sĩ hiểu rõ hơn về những gì họ đang bỏ lỡ. Bác sĩ chuyên khoa và giáo sư tại Đại học Emory, Judy Gichoya, đang thu thập một tập hợp X-quang đa dạng và phong phú hơn để đào tạo mô hình AI. Gichoya sẽ yêu cầu các bác sĩ chuyên khoa tạo ra các ghi chú chi tiết về những X-quang này. Những ghi chú này sẽ được so sánh với đầu ra của mô hình để xem liệu các mẫu được phát hiện bởi thuật toán có thể được phát hiện hay không.