Trí tuệ nhân tạo sinh trong Ngành Y tế Cần một Liều Giải thích

Tốc độ đáng kinh ngạc mà các công cụ trí tuệ nhân tạo sinh dựa trên văn bản có thể hoàn thành các nhiệm vụ viết và giao tiếp cấp cao đã tạo ra sự cộng hưởng với các công ty và người tiêu dùng. Nhưng các quá trình diễn ra sau hậu trường để cho phép các khả năng ấn tượng này có thể khiến các ngành công nghiệp nhạy cảm, được chính phủ quản lý, như bảo hiểm, tài chính hoặc y tế, sử dụng trí tuệ nhân tạo sinh một cách thận trọng.

Một số ví dụ minh họa nhất về điều này có thể được tìm thấy trong ngành y tế.

Các vấn đề này thường liên quan đến các tập dữ liệu rộng lớn và đa dạng được sử dụng để đào tạo Mô hình Ngôn ngữ Lớn (LLM) – các mô hình mà các công cụ trí tuệ nhân tạo sinh dựa trên văn bản dựa vào để thực hiện các nhiệm vụ cấp cao. Không có sự can thiệp từ bên ngoài của các lập trình viên, các LLM này có xu hướng thu thập dữ liệu một cách không phân biệt từ các nguồn khác nhau trên internet để mở rộng cơ sở kiến thức của chúng.

Cách tiếp cận này phù hợp nhất cho các trường hợp sử dụng định hướng người tiêu dùng thấp rủi ro, trong đó mục tiêu cuối cùng là chỉ đạo khách hàng đến các đề xuất mong muốn với độ chính xác. Tuy nhiên, ngày càng nhiều, các tập dữ liệu lớn và các đường dẫn mờ mà các mô hình AI tạo ra đầu ra của chúng đang làm che khuất khả năng giải thích mà các bệnh viện và nhà cung cấp dịch vụ y tế cần để theo dõi và ngăn chặn các sai sót tiềm năng.

Trong bối cảnh này, khả năng giải thích đề cập đến khả năng hiểu các đường dẫn logic của một LLM nhất định. Các chuyên gia y tế muốn áp dụng các công cụ trí tuệ nhân tạo sinh hỗ trợ phải có phương tiện để hiểu làm thế nào các mô hình của họ tạo ra kết quả để bệnh nhân và nhân viên được trang bị sự minh bạch đầy đủ trong các quy trình ra quyết định khác nhau. Nói cách khác, trong một ngành như y tế, nơi mạng sống con người đang bị đe dọa, các ставки đơn giản là quá cao để cho phép các chuyên gia hiểu lầm dữ liệu được sử dụng để đào tạo các công cụ AI của họ.

May mắn thay, có một cách để vượt qua vấn đề khả năng giải thích của trí tuệ nhân tạo sinh – nó chỉ đòi hỏi một chút kiểm soát và tập trung hơn.

Bí ẩn và Hoài nghi

Trong trí tuệ nhân tạo sinh, khái niệm về việc hiểu làm thế nào một LLM đi từ Điểm A – đầu vào – đến Điểm B – đầu ra – phức tạp hơn nhiều so với các thuật toán không sinh mà chạy theo các mẫu đã thiết lập.

Các công cụ trí tuệ nhân tạo sinh tạo ra vô số kết nối trong khi di chuyển từ đầu vào đến đầu ra, nhưng đối với người quan sát bên ngoài, làm thế nào và tại sao chúng tạo ra bất kỳ loạt kết nối nhất định nào vẫn còn là một bí ẩn. Không có cách nào để nhìn thấy ‘quá trình suy nghĩ’ mà một thuật toán AI thực hiện, các toán tử con người thiếu phương tiện đầy đủ để điều tra lý lẽ của nó và theo dõi các sai sót tiềm năng.

Ngoài ra, các tập dữ liệu liên tục mở rộng được sử dụng bởi các thuật toán học máy còn làm cho khả năng giải thích trở nên phức tạp hơn. Tập dữ liệu càng lớn, hệ thống càng có khả năng học từ cả thông tin liên quan và không liên quan và tạo ra ‘ảo giác AI’ – những lời nói dối mà đi chệch khỏi các sự kiện và logic ngữ cảnh bên ngoài, dù có thuyết phục đến đâu.

Trong ngành y tế, những kết quả lỗi này có thể gây ra một loạt vấn đề, chẳng hạn như chẩn đoán sai và kê đơn không chính xác. Ngoài các hậu quả về mặt đạo đức, pháp lý và tài chính, những sai lầm như vậy có thể dễ dàng làm tổn hại đến danh tiếng của các nhà cung cấp dịch vụ y tế và các tổ chức y tế mà họ đại diện.

Mặc dù nó có tiềm năng cải thiện can thiệp y tế, cải thiện giao tiếp với bệnh nhân và tăng cường hiệu quả hoạt động, nhưng trí tuệ nhân tạo sinh trong y tế vẫn còn bị che khuất bởi sự hoài nghi, và đúng như vậy – 55% các nhà lâm sàng không tin rằng nó đã sẵn sàng để sử dụng trong y tế và 58% không tin tưởng nó hoàn toàn. Tuy nhiên, các tổ chức y tế đang tiếp tục, với 98% tích hợp hoặc lên kế hoạch cho chiến lược triển khai trí tuệ nhân tạo sinh để bù đắp cho tác động của tình trạng thiếu hụt lao động trong lĩnh vực này.

Kiểm soát Nguồn

Ngành y tế thường bị bắt trên chân sau trong môi trường tiêu dùng hiện tại, nơi mà hiệu quả và tốc độ được đánh giá cao hơn so với việc đảm bảo các biện pháp an toàn chắc chắn. Các tin tức gần đây về những hạn chế của việc thu thập dữ liệu không giới hạn để đào tạo LLM, dẫn đến vụ kiện về vi phạm bản quyền, đã đưa những vấn đề này vào tiền cảnh. Một số công ty cũng phải đối mặt với các khiếu nại rằng dữ liệu cá nhân của công dân đã được khai thác để đào tạo những mô hình ngôn ngữ này, có khả năng vi phạm luật bảo vệ quyền riêng tư.

Do đó, các nhà phát triển AI cho các ngành công nghiệp có quy định cao nên thực hiện kiểm soát đối với nguồn dữ liệu để hạn chế các sai sót tiềm năng. Đó là, ưu tiên trích xuất dữ liệu từ các nguồn được kiểm chứng, đáng tin cậy, thay vì thu thập dữ liệu từ các trang web bên ngoài một cách tùy tiện và không có sự cho phép rõ ràng. Đối với ngành y tế, điều này có nghĩa là hạn chế đầu vào dữ liệu đến các trang FAQ, tệp CSV và cơ sở dữ liệu y tế – cùng với các nguồn nội bộ khác.

Nếu điều này có vẻ hạn chế, hãy thử tìm kiếm một dịch vụ trên trang web của một hệ thống y tế lớn. Các tổ chức y tế của Mỹ xuất bản hàng trăm, nếu không muốn nói là hàng nghìn trang thông tin trên nền tảng của họ; hầu hết đều bị chôn sâu đến mức bệnh nhân không thể truy cập được. Các giải pháp trí tuệ nhân tạo sinh dựa trên dữ liệu nội bộ có thể cung cấp thông tin này cho bệnh nhân một cách tiện lợi và liền mạch. Đây là một chiến thắng cho tất cả các bên, vì hệ thống y tế cuối cùng cũng thấy ROI từ nội dung này, và bệnh nhân có thể tìm thấy các dịch vụ họ cần một cách tức thì và dễ dàng.

Tương lai của Trí tuệ Nhân tạo Sinh trong Các Ngành Công nghiệp Có Quy định?

Ngành y tế có thể được hưởng lợi từ trí tuệ nhân tạo sinh theo nhiều cách.

Chẳng hạn, hãy xem xét sự kiệt sức lan rộng đang ảnh hưởng đến lĩnh vực y tế của Mỹ – gần 50% lực lượng lao động dự kiến sẽ rời bỏ vị trí của họ vào năm 2025. Các rô-bốt trò chuyện được hỗ trợ bởi trí tuệ nhân tạo sinh có thể giúp giảm bớt một phần lớn công việc và bảo tồn các đội tiếp cận bệnh nhân quá tải.

Về phía bệnh nhân, trí tuệ nhân tạo sinh có tiềm năng cải thiện dịch vụ trung tâm cuộc gọi của các nhà cung cấp dịch vụ y tế. Tự động hóa AI có khả năng giải quyết một loạt các yêu cầu thông qua các kênh liên lạc khác nhau, bao gồm FAQ, vấn đề IT, tái cấp phát thuốc và giới thiệu bác sĩ. Ngoài sự thất vọng khi phải chờ đợi, chỉ khoảng một nửa bệnh nhân Mỹ giải quyết thành công vấn đề của họ trong cuộc gọi đầu tiên, kết quả là tỷ lệ bỏ cuộc cao và quyền truy cập vào chăm sóc bị suy giảm. Sự không hài lòng của khách hàng thấp sau đó tạo ra áp lực thêm cho ngành công nghiệp để hành động.

Để ngành công nghiệp thực sự được hưởng lợi từ việc triển khai trí tuệ nhân tạo sinh, các nhà cung cấp dịch vụ y tế cần tạo điều kiện cho việc tái cấu trúc dữ liệu có chủ ý mà các LLM của họ truy cập.