Trí tuệ nhân tạo trong chăm sóc sức khỏe có thể mang lại rủi ro cùng với cơ hội

Trí tuệ nhân tạo có tiềm năng vô cùng lớn trong lĩnh vực chăm sóc sức khỏe, có khả năng cải thiện chẩn đoán và tìm ra các loại thuốc mới, hiệu quả hơn. Tuy nhiên, một bài viết trên Scientific American gần đây đã thảo luận, tốc độ trí tuệ nhân tạo thâm nhập vào lĩnh vực chăm sóc sức khỏe cũng mở ra nhiều thách thức và rủi ro mới.

Trong suốt 5 năm qua, Cơ quan Quản lý Thực phẩm và Dược phẩm Hoa Kỳ đã phê duyệt hơn 40 sản phẩm trí tuệ nhân tạo khác nhau. Tuy nhiên, như được báo cáo bởi Scientific American, không có sản phẩm nào trong số đó đã được đánh giá về hiệu suất trong các thử nghiệm lâm sàng ngẫu nhiên có đối chứng. Nhiều công cụ y tế trí tuệ nhân tạo thậm chí không cần được phê duyệt bởi FDA.

Evan Topol, tác giả của “Deep Medicine: Làm thế nào Trí tuệ nhân tạo có thể làm cho chăm sóc sức khỏe trở nên nhân văn hơn”, đã nói với Scientific American rằng nhiều sản phẩm trí tuệ nhân tạo tuyên bố hiệu quả trong các nhiệm vụ như chẩn đoán bệnh thực sự đã được thử nghiệm nghiêm ngặt, với thử nghiệm ngẫu nhiên đầu tiên của một công cụ phát hiện và chẩn đoán trí tuệ nhân tạo được thực hiện vào tháng 10 vừa qua. Hơn nữa, rất few công ty khởi nghiệp công nghệ xuất bản nghiên cứu của họ trên các tạp chí đánh giá ngang hàng, nơi công việc của họ sẽ được phân tích bởi các nhà khoa học.

Khi được thử nghiệm và kiểm soát đúng cách, các hệ thống trí tuệ nhân tạo có thể trở thành những công cụ mạnh mẽ giúp các chuyên gia y tế phát hiện các triệu chứng không được chú ý, cải thiện kết quả sức khỏe.

Ví dụ, một công cụ trí tuệ nhân tạo để phát hiện bệnh mắt tiểu đường đã được thử nghiệm trên hàng trăm bệnh nhân và dường như chứng minh được độ tin cậy. Công ty chịu trách nhiệm cho thử nghiệm đã làm việc cùng với FDA trong hơn 8 năm để tinh chỉnh sản phẩm. Thử nghiệm, IDx-DR, đang trên đường đến các phòng khám chăm sóc sức khỏe chính, nơi nó có thể giúp phát hiện sớm các dấu hiệu của bệnh võng mạc tiểu đường, chuyển bệnh nhân đến các chuyên gia mắt nếu có triệu chứng nghi ngờ.

Nếu không được thử nghiệm cẩn thận, các hệ thống trí tuệ nhân tạo mà các chuyên gia y tế sử dụng để hướng dẫn chẩn đoán và điều trị có thể gây hại thay vì tránh nó.

Bài viết trên Scientific American chỉ ra một vấn đề tiềm ẩn khi dựa vào trí tuệ nhân tạo để chẩn đoán bệnh, chỉ ra ví dụ về một trí tuệ nhân tạo được thiết kế để phân tích X-quang ngực và phát hiện những bệnh nhân có thể phát triển viêm phổi. Mặc dù hệ thống đã chứng minh được độ chính xác khi được thử nghiệm tại Bệnh viện Mount Sinai ở New York, nhưng nó đã thất bại khi được thử nghiệm trên hình ảnh từ các bệnh viện khác. Các nhà nghiên cứu đã phát hiện ra rằng trí tuệ nhân tạo đang phân biệt giữa các hình ảnh được tạo bởi các hệ thống X-quang di động và những hình ảnh được tạo trong một phòng xét nghiệm.

Các báo động giả cũng là một vấn đề. DeepMind đã tạo ra một ứng dụng di động trí tuệ nhân tạo có khả năng dự đoán suy thận cấp tính ở bệnh nhân nhập viện lên đến 48 giờ trước. Tuy nhiên, hệ thống được báo cáo cũng đã tạo ra hai báo động giả cho mỗi trường hợp suy thận được dự đoán thành công. Các báo động giả có thể gây hại vì chúng có thể khuyến khích các bác sĩ dành thời gian và tài nguyên không cần thiết để đặt thêm các xét nghiệm hoặc thay đổi các phương pháp điều trị được chỉ định.

Trong một sự việc khác, một hệ thống trí tuệ nhân tạo đã kết luận sai rằng những bệnh nhân bị viêm phổi có nhiều khả năng sống sót nếu họ bị hen suyễn, điều này có thể khiến các bác sĩ thay đổi phương pháp điều trị cho những bệnh nhân bị hen suyễn.

Các hệ thống trí tuệ nhân tạo được phát triển cho một bệnh viện thường hoạt động kém khi được sử dụng ở một bệnh viện khác. Có nhiều nguyên nhân cho điều này. Một trong số đó là các hệ thống trí tuệ nhân tạo thường được đào tạo trên các hồ sơ sức khỏe điện tử, nhưng nhiều hồ sơ sức khỏe điện tử thường không đầy đủ hoặc không chính xác vì mục đích chính của chúng thường là hóa đơn và không phải là chăm sóc bệnh nhân. Ví dụ, một cuộc điều tra được thực hiện bởi KHN đã tìm thấy rằng đôi khi có những lỗi nguy hiểm đến tính mạng trong hồ sơ y tế của bệnh nhân, như danh sách thuốc chứa các thuốc không chính xác. Ngoài ra, các bệnh thường phức tạp hơn và hệ thống chăm sóc sức khỏe phức tạp hơn so với những gì các kỹ sư và nhà khoa học trí tuệ nhân tạo có thể dự đoán.

Khi trí tuệ nhân tạo trở nên phổ biến hơn, sẽ rất quan trọng để các nhà phát triển trí tuệ nhân tạo làm việc cùng với các cơ quan y tế để đảm bảo rằng các hệ thống trí tuệ nhân tạo của họ được thử nghiệm kỹ lưỡng và các cơ quan quản lý đảm bảo rằng các tiêu chuẩn được thiết lập và tuân thủ để đảm bảo độ tin cậy của các công cụ chẩn đoán trí tuệ nhân tạo.