LLM Chưa Kiểm Soát và Vấn Đề Tuân Thủ Pháp Luật Trong Chăm Sóc Sức Khỏe

Trong toàn bộ ngành công nghiệp, trí tuệ nhân tạo tạo ra (GenAI) đã đạt được những đột phá nhanh chóng trong một khoảng thời gian tương đối ngắn. Những tiến bộ này được thúc đẩy bởi các mô hình nền tảng, mà Báo Cáo California Về Chính Sách AI Tiên Phong định nghĩa là, “một lớp công nghệ đa năng chung mà đòi hỏi nhiều tài nguyên để sản xuất, cần một lượng lớn dữ liệu và tính toán để tạo ra các khả năng có thể cung cấp cho nhiều ứng dụng AI hạ nguồn.”

Các mô hình ngôn ngữ lớn đa năng (LLM) này, chẳng hạn như Gemini và ChatGPT, đang thể hiện sức mạnh ngày càng tăng để sao chép và vượt qua khả năng nhận thức của con người trong các lĩnh vực như phân tích dữ liệu, viết lách và lý luận. Trong chăm sóc sức khỏe cụ thể, việc áp dụng GenAI đang tăng lên khi các nhà lâm sàng và các chuyên gia chăm sóc sức khỏe khác tìm đến công nghệ này để giảm bớt gánh nặng hành chính, tăng tốc hoạt động và thậm chí hỗ trợ việc ra quyết định lâm sàng.

Tuy nhiên, trong khi công nghệ này mang lại nhiều hứa hẹn, việc áp dụng GenAI trong chăm sóc sức khỏe cũng đặt ra những rủi ro tuân thủ quan trọng nếu không được thực hiện hoặc sử dụng một cách có trách nhiệm. Đặc biệt, việc sử dụng LLM đa năng chung đi kèm với những lo ngại tuân thủ cụ thể mà các tổ chức chăm sóc sức khỏe phải hiểu rõ để ngăn chặn việc vi phạm quyền riêng tư hoặc bảo mật. Những mô hình này có thể dựa vào các nguồn dữ liệu không được xác minh, sử dụng thông tin sức khỏe của bệnh nhân theo cách không được ủy quyền hoặc lan truyền thiên vị và/hoặc thông tin không chính xác.

Để duy trì quyền riêng tư của dữ liệu bệnh nhân, tuân thủ các quy định đang phát triển và giảm thiểu các rủi ro tốn kém, các nhà lãnh đạo chăm sóc sức khỏe phải采 một cách tiếp cận quyết đoán để vô hiệu hóa “bom thời gian” tuân thủ của việc sử dụng LLM “chưa kiểm soát”.

Tình Hình Hiện Tại Của Việc Sử Dụng LLM Đa Năng Chung Trong Chăm Sóc Sức Khỏe

Trong toàn bộ chăm sóc sức khỏe, nhân viên đang ngày càng tận dụng LLM để hỗ trợ các nhiệm vụ hàng ngày, từ công việc hành chính đến giao tiếp với bệnh nhân. LLM đa năng cũng mở rộng thêm các ứng dụng này với khả năng dễ dàng xử lý văn bản, hình ảnh và âm thanh. Ngoài hỗ trợ hành chính, chúng tôi cũng đang chứng kiến sự tăng lên trong số các nhà cung cấp dịch vụ chăm sóc sức khỏe chuyển sang công nghệ này để hỗ trợ không chỉ công việc hành chính mà còn cả các nhiệm vụ lâm sàng.

Các mô hình này đã chứng minh những kết quả ấn tượng, với một số nghiên cứu cho thấy hiệu suất của LLM đạt hoặc thậm chí vượt qua khả năng của con người trong các lĩnh vực cụ thể. Ví dụ, mô hình GPT-4 đã vượt qua Kỳ Thi Giấy Phép Y Tế Hoa Kỳ với điểm tổng thể là 86,7%.

Trí Tuệ Nhân Tạo Kết Hợp là một cách tiếp cận mới nổi trong việc sử dụng GenAI trong chăm sóc sức khỏe, kết hợp học máy (ML) và LLM để xử lý phân tích phức tạp và dịch kết quả thành ngôn ngữ đơn giản. Bằng cách tích hợp cả hai mô hình, cách tiếp cận này nhằm vượt qua những hạn chế của LLM, bao gồm ảo giác, không chính xác và thiên vị, đồng thời tận dụng điểm mạnh của nó. Trí Tuệ Nhân Tạo Đại Diện cũng đang tăng lên trong việc áp dụng do khả năng tự động hóa các nhiệm vụ quan trọng mà không cần sự can thiệp của con người, chẳng hạn như trả lời tin nhắn của bệnh nhân hoặc sắp xếp cuộc hẹn.

Tuy nhiên, tiềm năng của AI cũng làm nổi bật nhu cầu cấp thiết về quản trị chủ động hơn. Khi những công cụ này trở nên gắn kết hơn trong hoạt động chăm sóc sức khỏe, mức độ rủi ro đối với việc đảm bảo độ chính xác, an toàn và tuân thủ sẽ tăng lên.

Rủi Ro Tuân Thủ Của LLM Đa Năng Chung Trong Chăm Sóc Sức Khỏe

Mặc dù việc áp dụng kỹ thuật số trong chăm sóc sức khỏe đã mở ra nhiều khả năng mới, nhưng nó cũng暴 lộ những điểm yếu quan trọng. Giữa ngày 1 tháng 11 năm 2023 và ngày 31 tháng 10 năm 2024, chẳng hạn, lĩnh vực chăm sóc sức khỏe đã trải qua 1.710 sự cố bảo mật, trong đó 1.542 sự cố liên quan đến việc tiết lộ dữ liệu được xác nhận.

Thời đại AI làm sâu sắc thêm những khe hở này, thêm một lớp phức tạp mới vào quyền riêng tư và bảo mật dữ liệu. Cụ thể hơn, việc sử dụng LLM đa năng chung trong chăm sóc sức khỏe evokes một số rủi ro tuân thủ quan trọng:

Rủi Ro #1: Phát Triển Opaque-Box Ngăn Chặn Giám Sát Hoặc Xác Minh Liên Tục

Các mô hình đóng thiếu minh bạch về quá trình phát triển của chúng, chẳng hạn như dữ liệu cụ thể mà mô hình được đào tạo trên hoặc cách cập nhật được thực hiện. Sự không minh bạch này ngăn cản các nhà phát triển và nhà nghiên cứu đào sâu vào mô hình để xác định nguồn gốc của các rủi ro an toàn hoặc phân tích quy trình ra quyết định. Kết quả là, các LLM đóng có thể cho phép sử dụng các nguồn dữ liệu y tế không được xác minh và cho phép các điểm yếu an toàn không được kiểm tra.

Rủi Ro #2: Rò Rỉ Dữ Liệu Bệnh Nhân

LLM không luôn dựa vào dữ liệu bệnh nhân đã được ẩn danh. Các lời nhắc chuyên dụng hoặc tương tác có thể tiết lộ thông tin sức khỏe có thể xác định, tạo ra các vi phạm HIPAA tiềm năng.

Rủi Ro #3: Lan Truyền Thiên Vị Và Thông Tin Không Chính Xác

Trong một thí nghiệm, các nhà nghiên cứu đã tiêm một tỷ lệ nhỏ các sự kiện không chính xác vào một thể loại của cơ sở kiến thức của một mô hình sinh học, trong khi vẫn giữ nguyên hành vi của nó trong tất cả các lĩnh vực khác. Các nhà nghiên cứu đã tìm thấy rằng thông tin không chính xác được lan truyền trên toàn bộ đầu ra của mô hình, làm nổi bật sự dễ bị tổn thương của LLM trước các cuộc tấn công thông tin sai lệch.

Bất kỳ khiếm khuyết nào được tìm thấy trong các mô hình nền tảng sẽ được di truyền cho tất cả các mô hình được áp dụng và các ứng dụng kết quả từ mô hình cha. Sự khác biệt trong đầu ra có thể làm trầm trọng thêm sự bất bình đẳng về sức khỏe, chẳng hạn như lời khuyên không chính xác cho các nhóm bị đại diện thấp.

Rủi Ro #4: Không Đồng Bộ Với Quy Định

Việc sử dụng LLM đa năng chung có thể không tuân thủ HIPAA, GDPR hoặc các quy định AI cụ thể đang phát triển, đặc biệt nếu các nhà cung cấp không thể xác thực dữ liệu đào tạo. Những rủi ro này được tăng cường bởi việc nhân viên của các tổ chức chăm sóc sức khỏe sử dụng các công cụ AI không được phê duyệt hoặc không được giám sát, hoặc bóng AI. Theo IBM, 20% số tổ chức được khảo sát trên tất cả các lĩnh vực đã trải qua một sự cố do các sự kiện bảo mật liên quan đến bóng AI.

Cuối cùng, rủi ro của LLM đa năng chung trong chăm sóc sức khỏe có những tác động thực tế, bao gồm hành động pháp lý, thiệt hại về danh tiếng, mất niềm tin của bệnh nhân và chi phí tố tụng.

Thực Hành Tốt Nhất: Hướng Dẫn Và Xem Xét LLM

Để áp dụng GenAI một cách có trách nhiệm, các nhà lãnh đạo chăm sóc sức khỏe phải thiết lập các rào cản rõ ràng để bảo vệ cả bệnh nhân và tổ chức. Các thực hành tốt nhất sau đây có thể giúp các tổ chức chăm sóc sức khỏe thiết lập một nền tảng cho việc sử dụng AI tuân thủ và có trách nhiệm:

Thực Hành Tốt Nhất #1: Chọn Công Nghệ AI Khôn Ngoan

Yêu cầu sự rõ ràng từ các nhà cung cấp về cách công nghệ AI được phát triển và những nguồn dữ liệu được sử dụng trong quá trình phát triển. Ưu tiên các công cụ tận dụng chỉ nội dung y tế được xác thực bởi chuyên gia, có quy trình ra quyết định minh bạch và tránh đào tạo mô hình trên thông tin sức khỏe của bệnh nhân.

Thực Hành Tốt Nhất #2: Xây Dựng Bảo Vệ Con Người Trong Vòng Lặp

Đảm bảo các nhà lâm sàng xem xét mọi đầu ra được tạo ra bởi AI có thể ảnh hưởng đến quyết định chăm sóc. AI có thể là một công cụ mạnh mẽ, nhưng trong một ngành có tác động trực tiếp đến cuộc sống của bệnh nhân, sự giám sát lâm sàng là chìa khóa để đảm bảo sử dụng có trách nhiệm và độ chính xác của bất kỳ thông tin hỗ trợ AI nào.

Thực Hành Tốt Nhất #3: Đào Tạo Và Sẵn Sàng Lực Lượng

Giáo dục các nhà lâm sàng và nhân viên về cả lợi ích và rủi ro của việc sử dụng AI để giảm việc áp dụng bóng AI. Nhân viên chăm sóc sức khỏe đang điều hướng một lực lượng lao động phức tạp, bị căng thẳng bởi sự thiếu hụt nhân sự và tỷ lệ kiệt sức cao. Việc đơn giản hóa quá trình giáo dục AI giúp đảm bảo tuân thủ mà không thêm gánh nặng cho công việc của họ.

Thực Hành Tốt Nhất #4: Thiết Lập Một Văn Hóa Quản Lý

Tích hợp đánh giá của bên thứ ba về các giải pháp AI để xác minh an toàn, độ tin cậy và tuân thủ. Đồng thời, thực hiện một khuôn khổ rõ ràng, toàn tổ chức cho giám sát AI, định nghĩa phê duyệt, sử dụng và giám sát để tăng cường niềm tin vào công nghệ và ngăn chặn nhân viên sử dụng các công cụ không được ủy quyền.

Thực Hành Tốt Nhất #5: Đồng Bộ Hóa Với Lãnh Đạo Về Quản Lý AI

Hợp tác với lãnh đạo để ở phía trước của các quy định đang phát triển, cũng như hướng dẫn từ FDA và ONC. Các nỗ lực quy định đang xuất hiện ở cấp độ bang. Ví dụ, California đã thiết lập Đạo Luật Minh Bạch AI Tiên Phong, nhấn mạnh việc tiết lộ rủi ro, minh bạch và giảm thiểu, đặc biệt là trong các môi trường chăm sóc sức khỏe, và cũng có Đạo Luật AI Colorado (CAIA), được thiết kế để ngăn chặn sự phân biệt đối xử thuật toán.

Thực Hành Tốt Nhất #6: Giám Sát Liên Tục Và Vòng Lặp Phản Hồi

Việc sử dụng AI trong một môi trường chăm sóc sức khỏe không bao giờ nên được tiếp cận với tâm lý “cài đặt và quên”. Thiết lập một khuôn khổ cho việc giám sát liên tục có thể giúp đảm bảo độ chính xác của các công cụ AI, tăng cường trách nhiệm và duy trì tuân thủ theo thời gian.

Thực Hành Tốt Nhất #7: Pursue Đối Tác Để Tối Ưu Hóa Giám Sát Và Nghiên Cứu

Các tổ chức chăm sóc sức khỏe nên tận dụng các đối tác với các cơ quan quản lý và khu vực công để tối đa hóa giám sát, đóng góp quan điểm ngành của họ vào các tiêu chuẩn an toàn và kết hợp tài nguyên chuyên gia.

Xây Dựng Niềm Tin Thông Qua Lãnh Đạo Tuân Thủ

Sự khác biệt của các giải pháp AI trong chăm sóc sức khỏe sẽ ngày càng phụ thuộc vào chất lượng của nội dung chuyên gia, tính toàn vẹn của các quy trình đánh giá và tích hợp có trách nhiệm vào các quy trình lâm sàng. Giai đoạn tiếp theo của việc áp dụng AI sẽ phụ thuộc ít hơn vào mã và nhiều hơn vào lãnh đạo tuân thủ.

Niềm tin là quan trọng không kém so với tuân thủ. Để công nghệ thực sự có hiệu quả, bệnh nhân và nhà cung cấp phải tin rằng AI an toàn và phù hợp với chăm sóc chất lượng cao, đạo đức. Lãnh đạo tuân thủ là một lợi thế chiến lược, không chỉ là một biện pháp phòng thủ. Các tổ chức có tầm nhìn xa, thiết lập các rào cản sớm, trước khi xảy ra các sự kiện có hại, sẽ khác biệt hóa mình trong một tương lai chăm sóc sức khỏe được hỗ trợ bởi AI.