Thuật toán có thể giải quyết sự thiên vị chủng tộc trong chăm sóc sức khỏe nếu được đào tạo đúng cách

Một nhóm các nhà nghiên cứu từ Đại học Stanford, Đại học Harvard và Đại học Chicago đã đào tạo các thuật toán để chẩn đoán viêm khớp ở hình ảnh X-quang của đầu gối. Điều này cho thấy rằng khi sử dụng báo cáo của bệnh nhân làm dữ liệu đào tạo cho thuật toán, thuật toán chính xác hơn các bác sĩ chuyên khoa X-quang khi phân tích hồ sơ của bệnh nhân da đen.

Vấn đề thiên vị thuật toán

Việc sử dụng các thuật toán học máy trong lĩnh vực y tế có thể cải thiện kết quả cho bệnh nhân mắc các bệnh khác nhau, nhưng cũng có những vấn đề được ghi nhận về việc sử dụng thuật toán AI để chẩn đoán bệnh nhân. Các nghiên cứu về tác động của các mô hình AI đã triển khai đã phát hiện ra một số vụ việc đáng chú ý liên quan đến thiên vị thuật toán. Những vụ việc này bao gồm các thuật toán đưa ra ít hơn các giới thiệu đến các đơn vị tim mạch cho bệnh nhân thiểu số so với bệnh nhân da trắng, mặc dù tất cả các triệu chứng được báo cáo đều giống nhau.

Một trong những tác giả của nghiên cứu, giáo sư Ziad Obermeyer tại Trường Y tế Công cộng Đại học California Berkeley, đã quyết định sử dụng AI để điều tra sự chênh lệch giữa chẩn đoán X-quang của các bác sĩ chuyên khoa X-quang và mức độ đau mà bệnh nhân báo cáo. Mặc dù bệnh nhân da đen và bệnh nhân thu nhập thấp báo cáo mức độ đau cao hơn, nhưng việc giải thích X-quang của họ được đánh giá giống như dân số chung. Dữ liệu về mức độ đau được báo cáo đến từ NIH, và các nhà nghiên cứu muốn điều tra xem liệu các bác sĩ có bỏ lỡ điều gì trong phân tích dữ liệu hay không.

Theo Wired, để xác định các nguyên nhân tiềm năng của những khác biệt này, Obermeyer và các nhà nghiên cứu khác đã thiết kế một mô hình tầm nhìn máy tính được đào tạo trên dữ liệu từ NIH. Các thuật toán được thiết kế để phân tích X-quang và dự đoán mức độ đau của bệnh nhân dựa trên hình ảnh. Phần mềm đã tìm thấy các mẫu trong hình ảnh có liên quan chặt chẽ với mức độ đau của bệnh nhân.

Khi thuật toán được trình bày với một hình ảnh chưa từng thấy, mô hình trả về dự đoán về mức độ đau được báo cáo của bệnh nhân. Các dự đoán được trả về bởi mô hình phù hợp hơn với mức độ đau thực tế được báo cáo của bệnh nhân so với điểm số được chỉ định bởi các bác sĩ chuyên khoa X-quang. Điều này đặc biệt đúng đối với bệnh nhân da đen. Obermeyer giải thích qua Wired rằng thuật toán tầm nhìn máy tính có thể phát hiện các hiện tượng thường liên quan đến đau ở bệnh nhân da đen.

Đào tạo hệ thống đúng cách

Theo báo cáo, các tiêu chí được sử dụng để đánh giá X-quang ban đầu được phát triển dựa trên kết quả của một nghiên cứu nhỏ được thực hiện ở miền bắc Anh vào năm 1957. Dân số ban đầu được sử dụng để phát triển tiêu chí đánh giá viêm khớp rất khác so với dân số đa dạng của Hoa Kỳ hiện đại, vì vậy không có gì ngạc nhiên khi có những sai sót khi chẩn đoán những người đa dạng này.

Nghiên cứu mới cho thấy rằng khi các thuật toán AI được đào tạo đúng cách, chúng có thể giảm thiên vị. Việc đào tạo dựa trên phản hồi của bệnh nhân thay vì ý kiến của chuyên gia. Obermeyer và các đồng nghiệp đã chứng minh trước đó rằng một thuật toán AI phổ biến thường ưu tiên bệnh nhân da trắng hơn bệnh nhân da đen, nhưng Obermeyer cũng cho thấy rằng đào tạo một hệ thống học máy trên dữ liệu đúng có thể giúp ngăn chặn thiên vị.

Một điểm lưu ý đáng chú ý của nghiên cứu là một điều quen thuộc với nhiều nhà nghiên cứu học máy. Mô hình AI được phát triển bởi nhóm nghiên cứu là một hộp đen, và nhóm các nhà nghiên cứu không chắc chắn về loại tính năng mà thuật toán đang phát hiện trong X-quang, có nghĩa là họ không thể cho các bác sĩ biết họ đang bỏ lỡ điều gì.

Các bác sĩ chuyên khoa X-quang và nhà nghiên cứu khác đang cố gắng đào sâu vào hộp đen và khám phá các mẫu trong đó, hy vọng giúp các bác sĩ hiểu rõ hơn về những gì họ đang bỏ lỡ. Bác sĩ chuyên khoa X-quang và giáo sư tại Đại học Emory, Judy Gichoya, đang thu thập một tập hợp lớn hơn và đa dạng hơn của X-quang để đào tạo mô hình AI. Gichoya sẽ yêu cầu các bác sĩ chuyên khoa X-quang tạo ra các ghi chú chi tiết về những X-quang này. Những ghi chú này sẽ được so sánh với đầu ra của mô hình để xem liệu các mẫu được phát hiện bởi thuật toán có thể được khám phá hay không.