Bài viết kiểm tra cách giảm thiểu rủi ro khi sử dụng trí tuệ nhân tạo trong y học

Chương trình trí tuệ nhân tạo có khả năng cải thiện chăm sóc sức khỏe theo nhiều cách khác nhau. Ví dụ, các ứng dụng trí tuệ nhân tạo có thể sử dụng tầm nhìn máy tính để giúp các bác sĩ chẩn đoán tình trạng từ X-quang và hình ảnh cộng hưởng từ (FMRIs). Các thuật toán học máy cũng có thể được sử dụng để giúp giảm tỷ lệ dương tính giả bằng cách trích xuất các mẫu tinh vi từ dữ liệu mà con người có thể không tìm thấy trong dữ liệu y tế. Tuy nhiên, cùng với những khả năng này cũng xuất hiện những thách thức mới, và gần đây một bài báo mới đã được xuất bản trên Tạp chí Khoa học về cách kiểm tra các rủi ro và chiến lược quản lý đối với các kỹ thuật học máy y tế nhằm giảm thiểu bất kỳ tác động tiêu cực nào của việc sử dụng trí tuệ nhân tạo trong bối cảnh y tế.

Mở rộng ứng dụng của trí tuệ nhân tạo trong chăm sóc sức khỏe

Trí tuệ nhân tạo đang chứng kiến sự mở rộng nhanh chóng trong lĩnh vực y tế. Các phát triển gần đây trong lĩnh vực chăm sóc sức khỏe, được thúc đẩy bởi trí tuệ nhân tạo, bao gồm việc tạo ra một công ty dược phẩm mới nhằm sử dụng trí tuệ nhân tạo để tạo ra các loại thuốc mới, tạo ra các cảm biến sức khỏe từ xa được điều khiển bởi trí tuệ nhân tạo, và các ứng dụng tầm nhìn máy tính phân tích các quét CT và X-quang.

Cụ thể hơn, Genesis Therapeutics là một công ty khởi nghiệp nhằm sử dụng trí tuệ nhân tạo để tăng tốc quá trình phát hiện thuốc, hy vọng tạo ra các loại thuốc có thể giảm thiểu mức độ nghiêm trọng của các bệnh tật. Genesis Therapeutics chỉ là một trong gần 170 công ty khác sử dụng trí tuệ nhân tạo để nghiên cứu các công thức thuốc mới. Trong khi đó, về các thiết bị theo dõi sức khỏe, iRhythm (IRTC ) và công ty khởi nghiệp trí tuệ nhân tạo của Pháp Cardiologs đang sử dụng các thuật toán trí tuệ nhân tạo để phân tích dữ liệu EEG và theo dõi sức khỏe của những người có bệnh tim và có nguy cơ bị biến chứng. Phần mềm được thiết kế bởi các công ty này có thể phát hiện ra các tiếng thổi tim, một tình trạng do dòng máu chảy xoáy.

Cuối cùng, một nghiên cứu gần đây về cách áp dụng tầm nhìn máy tính vào hình ảnh y tế đã phát hiện ra rằng các hệ thống tầm nhìn máy tính hoạt động ít nhất cũng tốt hoặc tốt hơn so với các bác sĩ X-quang chuyên nghiệp khi kiểm tra các quét CT để tìm các xuất huyết nhỏ. Các thuật toán được sử dụng trong nghiên cứu có thể đưa ra dự đoán sau khi kiểm tra các quét CT chỉ trong một giây. Các hệ thống tầm nhìn máy tính cũng có thể xác định vị trí của xuất huyết trong não.

Vì vậy, trong khi những lợi ích tiềm năng của việc sử dụng trí tuệ nhân tạo trong chăm sóc sức khỏe là rõ ràng, thì những thách thức và rủi ro mới nào sẽ xuất hiện như một tác động phụ của việc sử dụng trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe lại chưa rõ ràng.

Quản lý một lĩnh vực mở rộng

Como TechXplore đã báo cáo, để đánh giá các hạn chế tiềm năng của việc sử dụng trí tuệ nhân tạo trong chăm sóc sức khỏe, một nhóm nghiên cứu gần đây đã xuất bản một bài báo trên Tạp chí Khoa học, nhằm tìm ra câu trả lời để dự đoán các vấn đề tiềm ẩn với trí tuệ nhân tạo và khám phá các giải pháp tiềm năng cho những vấn đề này. Các vấn đề có thể phát sinh từ việc sử dụng trí tuệ nhân tạo trong lĩnh vực chăm sóc sức khỏe bao gồm việc đề xuất điều trị không phù hợp dẫn đến thương tích, lo ngại về quyền riêng tư, và thiên vị/ bất bình đẳng thuật toán.

Cục Quản lý Thực phẩm và Dược phẩm (FDA) chỉ phê duyệt trí tuệ nhân tạo y tế sử dụng các “thuật toán bị khóa”, các thuật toán luôn đưa ra cùng một kết quả mỗi khi chúng được chạy. Tuy nhiên, nhiều tiềm năng của trí tuệ nhân tạo nằm trong khả năng học hỏi và phản ứng với các loại đầu vào mới. Để cho phép “các thuật toán thích ứng” được sử dụng nhiều hơn và được FDA phê duyệt, các tác giả của bài báo đã xem xét kỹ lưỡng cách giảm thiểu các rủi ro liên quan đến việc cập nhật thuật toán.

Các tác giả cho rằng các kỹ sư và nhà nghiên cứu học máy nên tập trung vào việc giám sát liên tục các mô hình trong suốt thời gian triển khai. Trong số các công cụ được đề xuất để giám sát các hệ thống trí tuệ nhân tạo có chính trí tuệ nhân tạo, có thể giúp cung cấp các báo cáo tự động về cách một hệ thống trí tuệ nhân tạo hoạt động. Ngoài ra, có thể có nhiều thiết bị trí tuệ nhân tạo giám sát nhau.

“Để quản lý rủi ro, các cơ quan quản lý nên tập trung đặc biệt vào việc giám sát liên tục và đánh giá rủi ro, và ít hơn vào việc lập kế hoạch cho các thay đổi thuật toán trong tương lai,” các tác giả của bài báo cho biết.

Các tác giả của bài báo cũng khuyên rằng các cơ quan quản lý nên tập trung vào việc phát triển các phương pháp mới để xác định, giám sát, đánh giá và quản lý rủi ro. Bài báo áp dụng nhiều kỹ thuật mà FDA đã sử dụng để quản lý các hình thức công nghệ y tế khác.

Como các tác giả của bài báo giải thích:

“Mục tiêu của chúng tôi là nhấn mạnh các rủi ro có thể phát sinh từ những thay đổi không lường trước được trong cách các hệ thống trí tuệ nhân tạo/y học phản ứng hoặc thích nghi với môi trường của chúng. Các cập nhật tham số tinh vi, thường không được công nhận hoặc các loại dữ liệu mới có thể gây ra những sai lầm lớn và tốn kém.”