Trí tuệ nhân tạo có thể là bạn hoặc thù trong việc cải thiện công bằng y tế. Đây là cách đảm bảo nó giúp đỡ, không gây hại

Sự bất công và chênh lệch trong chăm sóc sức khỏe là phổ biến trên các ranh giới kinh tế, chủng tộc và giới tính. Là một xã hội, chúng ta có trách nhiệm đạo đức, đạo đức và kinh tế để đóng các khoảng trống này và đảm bảo quyền truy cập nhất quán, công bằng và giá cả phải chăng vào chăm sóc sức khỏe cho mọi người.

Trí tuệ nhân tạo (AI) giúp giải quyết những chênh lệch này, nhưng nó cũng là một con dao hai lưỡi. Chắc chắn, AI đã giúp cải thiện việc cung cấp chăm sóc, cho phép y học cá nhân hóa trên quy mô lớn và hỗ trợ các khám phá đột phá. Tuy nhiên, sự thiên vị vốn có trong dữ liệu, thuật toán và người dùng có thể làm cho vấn đề trở nên tồi tệ hơn nếu chúng ta không cẩn thận.

Điều đó có nghĩa là những người chúng ta phát triển và triển khai các giải pháp chăm sóc sức khỏe dựa trên AI phải cẩn thận để ngăn chặn AI vô tình làm rộng các khoảng trống hiện có, và các cơ quan quản lý và hiệp hội chuyên nghiệp phải đóng vai trò tích cực trong việc thiết lập các rào cản để tránh hoặc giảm thiểu sự thiên vị.

Đây là cách tận dụng AI để bắc cầu các khoảng trống bất công thay vì làm cho chúng trở nên tồi tệ hơn.

Đạt được công bằng trong các thử nghiệm lâm sàng

Nhiều thử nghiệm thuốc và điều trị mới đã bị thiên vị trong thiết kế, dù cố ý hay không. Ví dụ, cho đến năm 1993, phụ nữ mới được yêu cầu bởi luật phải được bao gồm trong nghiên cứu lâm sàng do NIH tài trợ. Gần đây hơn, vaccine COVID chưa bao giờ được thử nghiệm có chủ đích trên phụ nữ mang thai—chỉ vì một số người tham gia thử nghiệm không biết mình đang mang thai tại thời điểm tiêm chủng mà chúng ta mới biết nó an toàn.

Một thách thức với nghiên cứu là chúng ta không biết những gì chúng ta không biết. Tuy nhiên, AI giúp phát hiện các tập dữ liệu bị thiên vị bằng cách phân tích dữ liệu dân số và đánh dấu sự đại diện không tương xứng hoặc khoảng trống trong phạm vi dân số. Bằng cách đảm bảo đại diện đa dạng và đào tạo các mô hình AI trên dữ liệu đại diện chính xác cho các quần thể mục tiêu, AI giúp đảm bảo sự bao gồm, giảm hại và tối ưu hóa kết quả.

Đảm bảo điều trị công bằng

Đã được thiết lập rõ ràng rằng các bà mẹ da đen đang mang thai thường bị bỏ qua khi họ gặp đau và biến chứng trong khi sinh, dẫn đến tỷ lệ tử vong mẹ cao hơn 3 lần so với phụ nữ da trắng không thuộc Tây Ban Nha bất kể thu nhập hoặc trình độ học vấn. Vấn đề này chủ yếu được duy trì bởi sự thiên vị vốn có: có một quan niệm sai lầm phổ biến trong số các chuyên gia y tế rằng người da đen có khả năng chịu đau cao hơn so với người da trắng.

Sự thiên vị trong các thuật toán AI có thể làm cho vấn đề trở nên tồi tệ hơn: các nhà nghiên cứu tại Harvard đã phát hiện ra rằng một thuật toán phổ biến dự đoán rằng phụ nữ da đen và Latina ít có khả năng có sinh thường sau khi đã từng sinh mổ, điều này có thể dẫn đến việc các bác sĩ thực hiện nhiều ca sinh mổ hơn trên phụ nữ da màu. Tuy nhiên, các nhà nghiên cứu đã tìm thấy rằng “sự liên kết này không được hỗ trợ bởi tính hợp lý sinh học”, gợi ý rằng chủng tộc là “một đại diện cho các biến khác phản ánh tác động của phân biệt chủng tộc đối với sức khỏe.” Thuật toán sau đó đã được cập nhật để loại bỏ chủng tộc hoặc dân tộc khi tính toán rủi ro.

Đây là một ứng dụng hoàn hảo cho AI để loại bỏ sự thiên vị ngầm và đề xuất (với bằng chứng) các con đường chăm sóc mà trước đây có thể đã bị bỏ qua. Thay vì tiếp tục thực hành “chăm sóc tiêu chuẩn”, chúng ta có thể sử dụng AI để xác định xem những phương pháp tốt nhất có dựa trên kinh nghiệm của tất cả phụ nữ hay chỉ phụ nữ da trắng. AI giúp đảm bảo rằng các nền tảng dữ liệu của chúng ta bao gồm những bệnh nhân có nhiều lợi ích nhất từ sự tiến bộ trong chăm sóc sức khỏe và công nghệ.

Mặc dù có thể có những tình huống mà chủng tộc và dân tộc có thể là những yếu tố quan trọng, nhưng chúng ta phải cẩn thận để biết khi nào và làm thế nào chúng nên được xem xét và khi nào chúng ta chỉ đang dựa vào sự thiên vị lịch sử để thông báo cho nhận thức và thuật toán AI của chúng ta.

Cung cấp chiến lược phòng ngừa công bằng

Các giải pháp AI có thể dễ dàng bỏ qua một số tình trạng trong các cộng đồng bị thiệt thòi nếu không có sự xem xét cẩn thận về sự thiên vị tiềm ẩn. Ví dụ, Cục Cựu chiến binh đang làm việc trên nhiều thuật toán để dự đoán và phát hiện các dấu hiệu của bệnh tim và đau tim. Điều này có tiềm năng cứu sống đáng kể, nhưng đa số các nghiên cứu đã không bao gồm nhiều phụ nữ, những người mà bệnh tim mạch là nguyên nhân gây tử vong hàng đầu. Do đó, không rõ liệu các mô hình này có hiệu quả như nhau đối với phụ nữ, những người thường có các triệu chứng khác với nam giới.

Bao gồm một số lượng phụ nữ tương xứng trong tập dữ liệu này có thể giúp ngăn chặn một số 3,2 triệu ca đau tim và 500.000 ca tử vong liên quan đến tim mỗi năm ở phụ nữ thông qua việc phát hiện và can thiệp sớm. Tương tự, các công cụ AI mới đang loại bỏ các thuật toán dựa trên chủng tộc trong sàng lọc bệnh thận, những thuật toán này đã lịch sử loại trừ người da đen, người gốc Tây Ban Nha và người Mỹ bản địa, dẫn đến việc chậm trễ trong chăm sóc và kết quả lâm sàng kém.

Thay vì loại trừ các cá nhân bị thiệt thòi, AI thực sự có thể giúp dự đoán rủi ro sức khỏe cho các quần thể dễ bị tổn thương và cho phép đánh giá rủi ro cá nhân hóa để nhắm mục tiêu tốt hơn các can thiệp. Dữ liệu có thể đã có; chỉ là vấn đề “tuning” các mô hình để xác định cách chủng tộc, giới tính và các yếu tố dân số khác ảnh hưởng đến kết quả – nếu chúng có.

Tối ưu hóa các nhiệm vụ hành chính

Ngoài việc ảnh hưởng trực tiếp đến kết quả của bệnh nhân, AI có tiềm năng đáng kể để tăng tốc các quy trình làm việc phía sau để giảm thiểu sự chênh lệch. Ví dụ, các công ty và nhà cung cấp đang sử dụng AI để lấp đầy các khoảng trống trong mã hóa yêu cầu và quyết toán, xác thực mã chẩn đoán chống lại các ghi chú của bác sĩ và tự động hóa các quy trình trước khi thực hiện các thủ tục chẩn đoán phổ biến.

Bằng cách tối ưu hóa các chức năng này, chúng ta có thể giảm đáng kể chi phí hoạt động, giúp các văn phòng cung cấp dịch vụ chăm sóc sức khỏe hoạt động hiệu quả hơn và cho phép nhân viên dành nhiều thời gian hơn cho bệnh nhân, từ đó làm cho chăm sóc trở nên giá cả phải chăng và dễ tiếp cận hơn.

Mỗi người chúng ta đều có vai trò quan trọng

Sự thật là chúng ta có những công cụ tuyệt vời này trong tầm tay làm cho nó trở nên quan trọng hơn bao giờ hết rằng chúng ta phải sử dụng chúng để loại bỏ và vượt qua các thiên vị trong chăm sóc sức khỏe. Thật không may, không có cơ quan chứng nhận nào ở Mỹ quy định các nỗ lực sử dụng AI để “loại bỏ thiên vị” trong việc cung cấp chăm sóc sức khỏe, và ngay cả đối với những tổ chức đã đưa ra các hướng dẫn, cũng không có động lực pháp lý để tuân thủ chúng.

Do đó, gánh nặng nằm trên chúng ta là những người thực hành AI, nhà khoa học dữ liệu, nhà tạo ra thuật toán và người dùng để phát triển một chiến lược có ý thức để đảm bảo sự bao gồm, đa dạng của dữ liệu và sử dụng công bằng các công cụ và thông tin này.

Để làm điều đó, tích hợp chính xác và khả năng tương tác là điều cần thiết. Với nhiều nguồn dữ liệu – từ thiết bị đeo, nhà cung cấp phòng thí nghiệm và hình ảnh thứ ba đến chăm sóc sức khỏe ban đầu, trao đổi thông tin sức khỏe và hồ sơ bệnh nhân – chúng ta phải tích hợp tất cả dữ liệu này để các mảnh quan trọng được bao gồm, bất kể định dạng nguồn. Ngành cần tiêu chuẩn hóa dữ liệu, chuẩn hóa và khớp nối danh tính để đảm bảo rằng dữ liệu bệnh nhân quan trọng được bao gồm, ngay cả khi có cách viết tên khác nhau hoặc quy ước đặt tên dựa trên các nền văn hóa và ngôn ngữ khác nhau.

Chúng ta cũng phải xây dựng các đánh giá đa dạng vào quá trình phát triển AI của chúng ta và theo dõi “drift” trong các chỉ số của chúng ta theo thời gian. Những người thực hành AI có trách nhiệm kiểm tra hiệu suất của mô hình trên các phân khúc dân số, thực hiện các kiểm tra thiên vị và hiểu cách mô hình đưa ra quyết định. Chúng ta có thể phải đi vượt ra ngoài các giả định dựa trên chủng tộc để đảm bảo rằng phân tích của chúng ta đại diện cho dân số mà chúng ta đang xây dựng nó. Ví dụ, các thành viên của đông Pima sống trong Khu bảo tồn sông Gila ở Arizona có tỷ lệ béo phì và tiểu đường loại 2 cực cao, trong khi các thành viên của cùng một bộ lạc sống ngay bên kia biên giới ở dãy núi Sierra Madre của Mexico có tỷ lệ béo phì và tiểu đường thấp hơn đáng kể, chứng tỏ rằng di truyền không phải là yếu tố duy nhất.

Cuối cùng, chúng ta cần các tổ chức như Hiệp hội Y khoa Hoa Kỳ, Văn phòng Điều phối viên Quốc gia về Công nghệ Thông tin Y tế, và các tổ chức chuyên môn như Đại học Sản khoa và Phụ sản Hoa Kỳ, Học viện Nhi khoa Hoa Kỳ, Đại học Tim mạch Hoa Kỳ và nhiều tổ chức khác phải làm việc cùng nhau để thiết lập các tiêu chuẩn và khuôn khổ cho trao đổi dữ liệu và độ nhạy để bảo vệ chống lại sự thiên vị.

Bằng cách tiêu chuẩn hóa việc chia sẻ dữ liệu sức khỏe và mở rộng HTI-1 và HTI-2 để yêu cầu các nhà phát triển làm việc với các cơ quan chứng nhận, chúng ta giúp đảm bảo tuân thủ và sửa chữa các sai lầm về bất công trong quá khứ. Hơn nữa, bằng cách dân chủ hóa quyền truy cập vào dữ liệu bệnh nhân hoàn chỉnh và chính xác, chúng ta có thể loại bỏ những hạn chế đã duy trì sự thiên vị và sử dụng AI để giải quyết các chênh lệch chăm sóc thông qua những thông tin toàn diện và khách quan hơn.