Bất Kỳ Trợ Lý Ảo Nào Cũng Có Thể Nói. Nhưng Chỉ Có Một Số Có Thể Được Tin Cậy

Nhu cầu về các trợ lý ảo trong lĩnh vực chăm sóc sức khỏe là cấp thiết. Trong toàn ngành, các đội ngũ làm việc quá giờ đang bị ngập trong các nhiệm vụ tốn thời gian mà làm chậm quá trình chăm sóc bệnh nhân. Các nhà lâm sàng đang bị kéo giãn, các trung tâm gọi của người trả tiền bị quá tải, và bệnh nhân bị bỏ lại đằng sau chờ đợi câu trả lời cho các vấn đề cấp thiết.

Trợ lý ảo có thể giúp bằng cách lấp đầy những khoảng trống sâu sắc, mở rộng tầm với và sự sẵn có của nhân viên lâm sàng và hành chính, và giảm thiểu tình trạng kiệt sức của nhân viên y tế và bệnh nhân. Nhưng trước khi chúng ta có thể làm điều đó, chúng ta cần một nền tảng vững chắc để xây dựng niềm tin vào các trợ lý ảo. Niềm tin đó không đến từ giọng nói ấm áp hoặc sự thông thạo trong cuộc trò chuyện. Nó đến từ việc thiết kế.

Ngay cả khi sự quan tâm đến các trợ lý ảo tăng vọt và các tiêu đề báo chí loan tin về tiềm năng của trợ lý ảo, các nhà lãnh đạo chăm sóc sức khỏe – những người chịu trách nhiệm với bệnh nhân và cộng đồng của họ – vẫn còn do dự trong việc triển khai công nghệ này trên quy mô lớn. Các công ty khởi nghiệp đang quảng cáo khả năng của trợ lý ảo, từ tự động hóa các nhiệm vụ đơn giản như lập lịch hẹn đến giao tiếp và chăm sóc bệnh nhân. Tuy nhiên, hầu hết trong số họ vẫn chưa chứng minh được rằng những tương tác này là an toàn.

Nhiều trong số họ sẽ không bao giờ làm được điều đó.

Thực tế là, bất kỳ ai cũng có thể tạo ra một trợ lý giọng nói được hỗ trợ bởi một mô hình ngôn ngữ lớn (LLM), cung cấp cho nó một giọng nói đồng cảm và viết kịch bản cho một cuộc trò chuyện nghe có vẻ thuyết phục. Có rất nhiều nền tảng như thế này đang quảng cáo các trợ lý của họ trong mọi ngành công nghiệp. Các trợ lý của họ có thể trông và nghe khác nhau, nhưng tất cả chúng đều hành động giống nhau – dễ bị ảo giác, không thể xác minh các事 thực quan trọng và thiếu cơ chế đảm bảo trách nhiệm.

Cách tiếp cận này – xây dựng một lớp vỏ mỏng xung quanh một mô hình LLM cơ bản – có thể hoạt động trong các ngành công nghiệp như bán lẻ hoặc khách sạn, nhưng sẽ thất bại trong chăm sóc sức khỏe. Các mô hình cơ bản là những công cụ phi thường, nhưng chúng chủ yếu là công cụ chung; chúng không được đào tạo cụ thể về các giao thức lâm sàng, chính sách của người trả tiền hoặc tiêu chuẩn quy định. Ngay cả những trợ lý thông minh nhất được xây dựng trên các mô hình này cũng có thể trôi vào lãnh vực ảo giác, trả lời các câu hỏi mà chúng không nên, tạo ra các事 thực hoặc không nhận ra khi nào cần đưa một người vào vòng tròn.

Hậu quả của những hành vi này không phải là lý thuyết. Chúng có thể gây nhầm lẫn cho bệnh nhân, can thiệp vào quá trình chăm sóc và dẫn đến việc phải làm lại công việc của con người một cách tốn kém. Đây không phải là một vấn đề về trí tuệ. Đây là một vấn đề về cơ sở hạ tầng.

Để hoạt động an toàn, hiệu quả và đáng tin cậy trong chăm sóc sức khỏe, các trợ lý ảo cần phải là hơn cả những giọng nói tự động trên đầu dây điện thoại. Chúng phải được vận hành bởi các hệ thống được thiết kế đặc biệt cho kiểm soát, ngữ cảnh và trách nhiệm. Từ kinh nghiệm xây dựng những hệ thống này, dưới đây là những gì nó trông như thế nào trong thực tế.

Kiểm soát phản hồi có thể làm cho ảo giác không tồn tại

Các trợ lý ảo trong chăm sóc sức khỏe không thể chỉ tạo ra các câu trả lời có thể xảy ra. Chúng cần phải cung cấp các câu trả lời chính xác, mọi lúc. Điều này đòi hỏi một không gian hành động có thể kiểm soát – một cơ chế cho phép AI hiểu và tạo điều kiện cho cuộc trò chuyện tự nhiên, nhưng đảm bảo mọi phản hồi có thể xảy ra đều bị giới hạn bởi logic được phê duyệt trước.

Với các tham số kiểm soát phản hồi được tích hợp, các trợ lý chỉ có thể tham khảo các giao thức đã được xác minh, các thủ tục hoạt động đã được định nghĩa trước và các tiêu chuẩn quy định. Sự sáng tạo của mô hình được sử dụng để hướng dẫn các tương tác chứ không phải để tạo ra các事 thực. Đây là cách các nhà lãnh đạo chăm sóc sức khỏe có thể đảm bảo rằng rủi ro của ảo giác được loại bỏ hoàn toàn – không phải bằng cách thử nghiệm trong một cuộc thử nghiệm hoặc một nhóm tập trung đơn lẻ, mà bằng cách thiết kế rủi ro từ sàn nhà.

Các đồ thị kiến thức chuyên biệt có thể đảm bảo các trao đổi đáng tin cậy

Ngữ cảnh của mọi cuộc trò chuyện chăm sóc sức khỏe là rất cá nhân. Hai người bị bệnh tiểu đường loại 2 có thể sống trong cùng một khu phố và phù hợp với cùng một hồ sơ rủi ro. Sự đủ điều kiện của họ để được sử dụng một loại thuốc cụ thể sẽ khác nhau dựa trên lịch sử y tế, hướng dẫn điều trị của bác sĩ, kế hoạch bảo hiểm và các quy tắc của danh mục thuốc.

Các trợ lý ảo không chỉ cần truy cập vào ngữ cảnh này, mà còn cần phải có khả năng suy luận với nó trong thời gian thực. Một đồ thị kiến thức chuyên biệt cung cấp khả năng đó. Đó là một cách cấu trúc để đại diện cho thông tin từ nhiều nguồn đáng tin cậy, cho phép các trợ lý xác minh những gì họ nghe và đảm bảo rằng thông tin họ cung cấp là chính xác và được cá nhân hóa. Các trợ lý không có lớp này có thể nghe có vẻ thông minh, nhưng chúng thực sự chỉ đang theo dõi các quy trình làm việc cứng nhắc và điền vào các khoảng trống.

Các hệ thống xem xét mạnh mẽ có thể đánh giá độ chính xác

Một bệnh nhân có thể tắt máy với một trợ lý ảo và cảm thấy hài lòng, nhưng công việc cho trợ lý vẫn còn lâu mới kết thúc. Các tổ chức chăm sóc sức khỏe cần đảm bảo rằng trợ lý không chỉ tạo ra thông tin chính xác, mà còn hiểu và ghi lại sự tương tác. Đó là nơi các hệ thống xử lý tự động sau khi tương tác xuất hiện.

Một hệ thống xem xét mạnh mẽ nên đánh giá mỗi và mọi cuộc trò chuyện với cùng mức độ kiểm tra chi tiết mà một người giám sát con người với tất cả thời gian trên thế giới sẽ mang lại. Nó nên có khả năng xác định xem phản hồi có chính xác hay không, đảm bảo rằng thông tin chính xác được thu thập và xác định xem liệu có cần phải theo dõi hay không. Nếu có điều gì đó không ổn, trợ lý nên có thể chuyển lên một người, nhưng nếu mọi thứ đều ổn, nhiệm vụ có thể được kiểm tra trên danh sách việc cần làm với sự tự tin.

Ngoài ba yếu tố cơ bản này cần thiết để thiết kế niềm tin, mọi cơ sở hạ tầng trợ lý ảo cần có một khuôn khổ an ninh và tuân thủ mạnh mẽ để bảo vệ dữ liệu bệnh nhân và đảm bảo rằng các trợ lý hoạt động trong phạm vi được quy định. Khuôn khổ đó nên bao gồm việc tuân thủ nghiêm ngặt các tiêu chuẩn ngành công nghiệp chung như SOC 2 và HIPAA, nhưng cũng nên có các quy trình được tích hợp để kiểm tra thiên vị, xóa thông tin sức khỏe được bảo vệ và lưu giữ dữ liệu.

Những biện pháp an ninh này không chỉ kiểm tra các hộp tuân thủ. Chúng tạo thành xương sống của một hệ thống đáng tin cậy có thể đảm bảo rằng mọi tương tác được quản lý ở mức mà bệnh nhân và nhà cung cấp mong đợi.

Ngành công nghiệp chăm sóc sức khỏe không cần thêm nhiều lời quảng cáo về AI. Nó cần cơ sở hạ tầng AI đáng tin cậy. Trong trường hợp của trợ lý ảo, niềm tin sẽ không được kiếm mà sẽ được thiết kế.