Trí tuệ nhân tạo sinh (Generative AI) trong Ngành Y tế Cần một Liều Giải thích

Tốc độ đáng kinh ngạc mà các công cụ trí tuệ nhân tạo sinh (generative AI) dựa trên văn bản có thể hoàn thành các nhiệm vụ viết và giao tiếp cấp cao đã thu hút sự chú ý của các công ty và người tiêu dùng. Nhưng các quá trình diễn ra sau hậu trường để cho phép các khả năng ấn tượng này có thể khiến cho các ngành công nghiệp nhạy cảm, được chính phủ quản lý, như bảo hiểm, tài chính hoặc y tế, sử dụng trí tuệ nhân tạo sinh mà không cần thận trọng đáng kể.

Một số ví dụ minh họa nhất về điều này có thể được tìm thấy trong ngành y tế.

Những vấn đề này thường liên quan đến các tập dữ liệu rộng lớn và đa dạng được sử dụng để đào tạo Mô hình Ngôn ngữ Lớn (LLM) – các mô hình mà các công cụ trí tuệ nhân tạo sinh dựa trên văn bản sử dụng để thực hiện các nhiệm vụ cấp cao. Không có sự can thiệp rõ ràng từ bên ngoài từ các lập trình viên, các LLM này có xu hướng thu thập dữ liệu một cách không phân biệt từ các nguồn khác nhau trên internet để mở rộng cơ sở kiến thức của chúng.

Cách tiếp cận này phù hợp nhất cho các trường hợp sử dụng hướng tiêu dùng có rủi ro thấp, trong đó mục tiêu cuối cùng là chỉ đạo khách hàng đến các dịch vụ mong muốn với độ chính xác. Tuy nhiên, ngày càng nhiều tập dữ liệu lớn và các đường dẫn không rõ ràng mà các mô hình AI tạo ra đầu ra của chúng đang che khuất khả năng giải thích mà các bệnh viện và nhà cung cấp y tế cần để theo dõi và ngăn chặn các sai sót tiềm năng.

Trong bối cảnh này, khả năng giải thích đề cập đến khả năng hiểu các đường dẫn logic của bất kỳ LLM nào. Các chuyên gia y tế muốn áp dụng các công cụ trí tuệ nhân tạo sinh hỗ trợ phải có phương tiện để hiểu như thế nào các mô hình của họ tạo ra kết quả để bệnh nhân và nhân viên được trang bị đầy đủ minh bạch trong suốt các quá trình ra quyết định khác nhau. Nói cách khác, trong một ngành như y tế, nơi sinh mạng con người đang bị đe dọa, rủi ro đơn giản là quá cao để các chuyên gia hiểu lầm dữ liệu được sử dụng để đào tạo các công cụ AI của họ.

May mắn thay, có một cách để vượt qua nghịch cảnh giải thích của trí tuệ nhân tạo sinh – nó chỉ cần một chút kiểm soát và tập trung hơn.

Bí ẩn và Hoài nghi

Trong trí tuệ nhân tạo sinh, khái niệm về việc hiểu làm thế nào một LLM di chuyển từ Điểm A – đầu vào – đến Điểm B – đầu ra – phức tạp hơn nhiều so với các thuật toán không sinh không theo các mẫu đã thiết lập.

Các công cụ trí tuệ nhân tạo sinh tạo ra vô số kết nối trong khi di chuyển từ đầu vào đến đầu ra, nhưng đối với người quan sát bên ngoài, làm thế nào và tại sao chúng tạo ra bất kỳ loạt kết nối nào vẫn còn là bí ẩn. Không có cách nào để xem ‘quá trình思考’ mà một thuật toán AI thực hiện, các nhà điều hành con người thiếu phương tiện đầy đủ để điều tra lý do và theo dõi các sai sót tiềm năng.

Ngoài ra, các tập dữ liệu liên tục mở rộng được sử dụng bởi các thuật toán học máy làm cho khả năng giải thích phức tạp hơn. Tập dữ liệu càng lớn, hệ thống càng có khả năng học từ cả thông tin liên quan và không liên quan và tạo ra “ảo giác AI” – những lời nói dối mà đi chệch khỏi các sự kiện và logic ngữ cảnh bên ngoài, mặc dù rất thuyết phục.

Trong ngành y tế, những kết quả lỗi này có thể gây ra một loạt vấn đề, chẳng hạn như chẩn đoán sai và kê đơn không chính xác. Ngoài các hậu quả về mặt đạo đức, pháp lý và tài chính, những sai lầm như vậy có thể dễ dàng làm tổn hại đến danh tiếng của các nhà cung cấp y tế và các tổ chức y tế mà họ đại diện.

Vì vậy, mặc dù nó có tiềm năng để cải thiện các can thiệp y tế, cải thiện giao tiếp với bệnh nhân và tăng cường hiệu quả hoạt động, trí tuệ nhân tạo sinh trong y tế vẫn còn được bao phủ trong sự hoài nghi, và đúng như vậy – 55% các nhà lâm sàng không tin rằng nó đã sẵn sàng để sử dụng y tế và 58% không tin tưởng vào nó. Tuy nhiên, các tổ chức y tế đang tiến hành, với 98% tích hợp hoặc lên kế hoạch triển khai chiến lược trí tuệ nhân tạo sinh để bù đắp tác động của tình trạng thiếu hụt lao động đang diễn ra trong lĩnh vực này.

Kiểm soát Nguồn

Ngành y tế thường bị bắt trên chân sau trong khí hậu tiêu dùng hiện tại, nơi giá trị hiệu quả và tốc độ hơn là đảm bảo các biện pháp an toàn chắc chắn. Các tin tức gần đây về những hạn chế của việc thu thập dữ liệu không giới hạn để đào tạo LLM, dẫn đến vụ kiện về vi phạm bản quyền, đã đưa những vấn đề này lên hàng đầu. Một số công ty cũng phải đối mặt với các cáo buộc rằng dữ liệu cá nhân của công dân đã được khai thác để đào tạo các mô hình ngôn ngữ này, có thể vi phạm luật bảo mật.

Do đó, các nhà phát triển AI cho các ngành công nghiệp có quy định cao nên thực hiện kiểm soát nguồn dữ liệu để hạn chế sai sót tiềm năng. Đó là, ưu tiên trích xuất dữ liệu từ các nguồn đáng tin cậy, được kiểm duyệt trong ngành, thay vì thu thập các trang web bên ngoài một cách bừa bãi và không có sự cho phép rõ ràng. Đối với ngành y tế, điều này có nghĩa là hạn chế đầu vào dữ liệu đến các trang FAQ, tệp CSV và cơ sở dữ liệu y tế – trong số các nguồn nội bộ khác.

Nếu điều này có vẻ hạn chế một chút, hãy thử tìm kiếm một dịch vụ trên trang web của một hệ thống y tế lớn. Các tổ chức y tế của Mỹ xuất bản hàng trăm, nếu không muốn nói là hàng nghìn trang thông tin trên nền tảng của họ; hầu hết đều bị chôn sâu đến mức bệnh nhân không thể truy cập được. Các giải pháp trí tuệ nhân tạo sinh dựa trên dữ liệu nội bộ có thể cung cấp thông tin này cho bệnh nhân một cách tiện lợi và liền mạch. Đây là một chiến thắng cho tất cả các bên, vì hệ thống y tế cuối cùng cũng thấy ROI từ nội dung này, và bệnh nhân có thể tìm thấy các dịch vụ họ cần ngay lập tức và dễ dàng.

Tương lai của Trí tuệ nhân tạo Sinh trong các Ngành có Quy định?

Ngành y tế có thể được hưởng lợi từ trí tuệ nhân tạo sinh theo nhiều cách.

Hãy xem, ví dụ, sự kiệt sức lan rộng đang ảnh hưởng đến lĩnh vực y tế của Mỹ gần đây – gần 50% lực lượng lao động dự kiến sẽ rời bỏ vị trí của họ vào năm 2025. Các rô-bốt trò chuyện được hỗ trợ bởi trí tuệ nhân tạo sinh có thể giúp giảm bớt một phần lớn công việc và bảo tồn các đội tiếp cận bệnh nhân quá tải.

Về phía bệnh nhân, trí tuệ nhân tạo sinh có tiềm năng cải thiện dịch vụ trung tâm cuộc gọi của các nhà cung cấp y tế. Tự động hóa AI có sức mạnh để giải quyết một loạt các truy vấn thông qua các kênh liên lạc khác nhau, bao gồm FAQ, vấn đề IT, tái cấp thuốc và giới thiệu bác sĩ. Ngoài sự thất vọng khi chờ đợi trên đường dây, chỉ khoảng một nửa bệnh nhân Mỹ giải quyết thành công vấn đề của họ trong cuộc gọi đầu tiên, dẫn đến tỷ lệ bỏ cuộc cao và tiếp cận chăm sóc bị suy giảm. Sự không hài lòng của khách hàng thấp này tạo ra áp lực thêm cho ngành để hành động.

Để ngành thực sự được hưởng lợi từ việc triển khai trí tuệ nhân tạo sinh, các nhà cung cấp y tế cần tạo điều kiện cho việc tái cấu trúc có chủ đích dữ liệu mà các LLM của họ truy cập.