Bài viết xem xét cách giảm thiểu rủi ro khi sử dụng Trí tuệ nhân tạo trong Y học

Các chương trình trí tuệ nhân tạo có khả năng cải thiện chăm sóc sức khỏe theo nhiều cách khác nhau. Ví dụ, các ứng dụng trí tuệ nhân tạo có thể sử dụng tầm nhìn máy tính để giúp bác sĩ chẩn đoán tình trạng từ X-quang và FMRIs. Các thuật toán học máy cũng có thể được sử dụng để giúp giảm tỷ lệ dương tính giả bằng cách trích xuất các mẫu tinh vi từ dữ liệu mà con người có thể không thể tìm thấy trong dữ liệu y tế. Tuy nhiên, với những khả năng này cũng xuất hiện những thách thức mới, và gần đây một bài báo mới đã được xuất bản trên Science rằng đánh giá các rủi ro và chiến lược quy định cho các kỹ thuật học máy y tế nhằm giảm thiểu bất kỳ tác dụng phụ tiêu cực nào có thể xảy ra khi sử dụng trí tuệ nhân tạo trong bối cảnh y tế.

Mở rộng Ứng dụng cho Trí tuệ nhân tạo trong Chăm sóc sức khỏe

Trí tuệ nhân tạo đang chứng kiến sự mở rộng nhanh chóng trong lĩnh vực y tế. Các phát triển gần đây trong lĩnh vực chăm sóc sức khỏe, được thúc đẩy bởi trí tuệ nhân tạo, bao gồm việc tạo ra một công ty dược phẩm mới nhằm sử dụng trí tuệ nhân tạo để tạo ra các loại thuốc mới, tạo ra các cảm biến sức khỏe từ xa được thúc đẩy bởi trí tuệ nhân tạo, và các ứng dụng tầm nhìn máy tính phân tích X-quang và X-quang.

Cụ thể hơn, Genesis Therapeutics là một công ty khởi nghiệp nhằm sử dụng trí tuệ nhân tạo để tăng tốc quá trình phát hiện thuốc, hy vọng tạo ra các loại thuốc có thể giảm thiểu mức độ nghiêm trọng của các bệnh tật khó chịu. Genesis Therapeutics chỉ là một trong số gần 170 công ty khác sử dụng trí tuệ nhân tạo để nghiên cứu các công thức thuốc mới. Trong khi đó, về các thiết bị theo dõi sức khỏe, iRhythm và công ty khởi nghiệp trí tuệ nhân tạo Cardiologs của Pháp đang sử dụng các thuật toán trí tuệ nhân tạo để phân tích dữ liệu EEG và theo dõi sức khỏe của những người có bệnh tim và có nguy cơ biến chứng. Phần mềm được thiết kế bởi các công ty có thể phát hiện ra các tiếng thổi tim, một tình trạng do dòng máu xoáy.

Cuối cùng, một nghiên cứu gần đây về việc ứng dụng tầm nhìn máy tính vào hình ảnh y tế đã phát hiện ra rằng các hệ thống tầm nhìn máy tính hoạt động ít nhất cũng tốt hoặc tốt hơn so với các bác sĩ X-quang chuyên nghiệp khi kiểm tra X-quang để tìm các xuất huyết não nhỏ. Các thuật toán được sử dụng trong nghiên cứu có thể đưa ra dự đoán sau khi kiểm tra X-quang trong chỉ một giây. Các hệ thống tầm nhìn máy tính cũng có thể xác định vị trí xuất huyết trong não.

Vì vậy, trong khi những lợi ích tiềm năng của việc sử dụng trí tuệ nhân tạo trong chăm sóc sức khỏe là rõ ràng, thì những gì ít rõ ràng hơn là những thách thức và rủi ro mới sẽ xuất hiện như một tác dụng phụ của việc sử dụng trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe.

Quy định cho một Lĩnh vực Mở rộng

Như TechXplore đã báo cáo, để đánh giá các điểm yếu tiềm ẩn của việc sử dụng trí tuệ nhân tạo trong chăm sóc sức khỏe, một nhóm nghiên cứu gần đây đã xuất bản một bài báo trên Science, nhằm tìm ra câu trả lời để dự đoán các vấn đề tiềm ẩn với trí tuệ nhân tạo và khám phá các giải pháp tiềm năng cho những vấn đề này. Những vấn đề có thể phát sinh từ việc sử dụng trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe bao gồm việc đề xuất điều trị không phù hợp dẫn đến thương tích, lo ngại về quyền riêng tư và thiên vị/ bất bình đẳng thuật toán.

Cơ quan Quản lý Thực phẩm và Dược phẩm (FDA) chỉ phê duyệt trí tuệ nhân tạo y tế sử dụng “thuật toán bị khóa”, các thuật toán luôn đưa ra cùng một kết quả mỗi khi chúng được chạy. Tuy nhiên, nhiều tiềm năng của trí tuệ nhân tạo nằm ở khả năng học hỏi và phản ứng với các loại đầu vào mới. Để cho phép “các thuật toán thích ứng” được sử dụng nhiều hơn và được FDA phê duyệt, các tác giả của bài báo đã xem xét kỹ lưỡng cách giảm thiểu rủi ro liên quan đến việc cập nhật thuật toán.

Các tác giả cho rằng các kỹ sư và nhà nghiên cứu học máy nên tập trung vào việc theo dõi liên tục các mô hình trong suốt thời gian triển khai của chúng. Trong số các công cụ được đề xuất để theo dõi các hệ thống trí tuệ nhân tạo là chính trí tuệ nhân tạo, có thể giúp cung cấp các báo cáo tự động về cách một hệ thống trí tuệ nhân tạo đang hoạt động. Cũng có thể có nhiều thiết bị trí tuệ nhân tạo có thể theo dõi lẫn nhau.

“Để quản lý rủi ro, các cơ quan quản lý nên tập trung đặc biệt vào việc theo dõi liên tục và đánh giá rủi ro, và ít hơn vào việc lập kế hoạch cho các thay đổi thuật toán trong tương lai,” các tác giả của bài báo cho biết.

Các tác giả của bài báo cũng khuyên rằng các cơ quan quản lý nên tập trung vào việc phát triển các phương pháp mới để xác định, theo dõi, đánh giá và quản lý rủi ro. Bài báo áp dụng nhiều kỹ thuật mà FDA đã sử dụng để quản lý các hình thức công nghệ y tế khác.

Như các tác giả của bài báo đã giải thích:

“Mục tiêu của chúng tôi là nhấn mạnh các rủi ro có thể phát sinh từ những thay đổi không lường trước được trong cách các hệ thống trí tuệ nhân tạo / học máy y tế phản ứng hoặc thích nghi với môi trường của chúng. Những cập nhật tham số tinh vi, thường không được công nhận hoặc các loại dữ liệu mới có thể gây ra những sai lầm lớn và tốn kém.”