Mô hình và nền tảng AI
Cách mạng hóa Chăm sóc sức khỏe: Khám phá Tác động và Tương lai của Mô hình Ngôn ngữ Lớn trong Y học
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Sự tích hợp và ứng dụng của mô hình ngôn ngữ lớn (LLM) trong y học và chăm sóc sức khỏe đã trở thành chủ đề quan tâm và phát triển đáng kể.
Como đã lưu ý tại Hội nghị toàn cầu của Hiệp hội Quản lý và Hệ thống Thông tin Y tế và các sự kiện đáng chú ý khác, các công ty như Google (GOOGL ) đang dẫn đầu trong việc khám phá tiềm năng của trí tuệ nhân tạo tạo sinh trong chăm sóc sức khỏe. Các sáng kiến của họ, chẳng hạn như Med-PaLM 2, đã thể hiện khả năng ấn tượng, đặc biệt là trong các lĩnh vực như chẩn đoán, chăm sóc bệnh nhân và hiệu quả hành chính.
Med-PaLM 2 của Google, một mô hình ngôn ngữ lớn tiên phong trong lĩnh vực chăm sóc sức khỏe, đã chứng minh khả năng ấn tượng, đạt được trình độ “chuyên gia” trong các câu hỏi theo phong cách Kỳ thi cấp phép Y tế Hoa Kỳ. Mô hình này và các mô hình khác như nó hứa hẹn sẽ cách mạng hóa cách các chuyên gia y tế tiếp cận và sử dụng thông tin, có khả năng tăng cường độ chính xác của chẩn đoán và hiệu quả chăm sóc bệnh nhân.
Tuy nhiên, cùng với những tiến bộ này, lo ngại về tính thực tế và an toàn của những công nghệ này trong môi trường lâm sàng đã được đặt ra. Ví dụ, việc phụ thuộc vào nguồn dữ liệu internet rộng lớn để đào tạo mô hình, trong khi có lợi trong một số ngữ cảnh, có thể không luôn phù hợp hoặc đáng tin cậy cho mục đích y tế. Như Nigam Shah, PhD, MBBS, Nhà khoa học dữ liệu trưởng của Stanford Health Care, chỉ ra, câu hỏi quan trọng cần đặt ra là về hiệu suất của những mô hình này trong môi trường y tế thực tế và tác động thực sự của chúng đối với chăm sóc bệnh nhân và hiệu quả chăm sóc sức khỏe.
Quan điểm của Dr. Shah nhấn mạnh nhu cầu về một cách tiếp cận được tùy chỉnh để sử dụng LLM trong y học. Thay vì các mô hình có mục đích chung được đào tạo trên dữ liệu internet rộng lớn, ông đề xuất một chiến lược tập trung hơn, nơi các mô hình được đào tạo trên dữ liệu y tế cụ thể, liên quan. Cách tiếp cận này giống như đào tạo một thực tập sinh y tế – cung cấp cho họ các nhiệm vụ cụ thể, giám sát hiệu suất của họ và dần dần cho phép họ tự chủ hơn khi họ chứng minh được năng lực.
Phát triển Meditron bởi các nhà nghiên cứu của EPFL thể hiện một bước tiến quan trọng trong lĩnh vực này. Meditron, một mô hình ngôn ngữ lớn mã nguồn mở được thiết kế đặc biệt cho các ứng dụng y tế, đại diện cho một bước tiến đáng kể. Được đào tạo trên dữ liệu y tế được kiểm duyệt từ các nguồn đáng tin cậy như PubMed và hướng dẫn lâm sàng, Meditron cung cấp một công cụ tập trung và có khả năng đáng tin cậy hơn cho các chuyên gia y tế. Bản chất mã nguồn mở của nó không chỉ thúc đẩy tính minh bạch và hợp tác mà còn cho phép cộng đồng nghiên cứu rộng lớn hơn liên tục cải tiến và kiểm tra mô hình.
MEDITRON-70B-achieves-an-accuracy-of-70.2-on-USMLE-style-questions-in-the-MedQA-4-options-dataset
Sự phát triển của các công cụ như Meditron, Med-PaLM 2 và các công cụ khác phản ánh sự nhận thức ngày càng tăng về các yêu cầu duy nhất của lĩnh vực chăm sóc sức khỏe khi nói đến các ứng dụng trí tuệ nhân tạo. Sự nhấn mạnh vào việc đào tạo những mô hình này trên dữ liệu y tế liên quan, chất lượng cao và đảm bảo an toàn và độ tin cậy của chúng trong môi trường lâm sàng là rất quan trọng.
Hơn nữa, việc bao gồm các tập dữ liệu đa dạng, chẳng hạn như những tập dữ liệu từ các bối cảnh nhân đạo như Ủy ban Chữ thập đỏ Quốc tế, thể hiện sự nhạy cảm đối với các nhu cầu và thách thức đa dạng trong chăm sóc sức khỏe toàn cầu. Cách tiếp cận này phù hợp với sứ mệnh rộng lớn hơn của nhiều trung tâm nghiên cứu trí tuệ nhân tạo, những trung tâm này nhằm tạo ra các công cụ trí tuệ nhân tạo không chỉ tiên tiến về mặt công nghệ mà còn có trách nhiệm xã hội và có lợi.
Bài báo có tiêu đề “Large language models encode clinical knowledge” gần đây được xuất bản trên Nature, khám phá cách các mô hình ngôn ngữ lớn (LLM) có thể được sử dụng hiệu quả trong môi trường lâm sàng. Nghiên cứu này cung cấp những hiểu biết và phương pháp đột phá, làm sáng tỏ khả năng và hạn chế của LLM trong lĩnh vực y tế.
Lĩnh vực y tế được đặc trưng bởi sự phức tạp, với một loạt các triệu chứng, bệnh tật và phương pháp điều trị đang不断 phát triển. LLM không chỉ phải hiểu sự phức tạp này mà còn phải cập nhật với kiến thức y tế mới nhất và hướng dẫn.
Trung tâm của nghiên cứu này xoay quanh một tiêu chuẩn mới được gọi là MultiMedQA. Tiêu chuẩn này kết hợp sáu tập dữ liệu câu hỏi và trả lời y tế hiện có với một tập dữ liệu mới, HealthSearchQA, bao gồm các câu hỏi y tế thường được tìm kiếm trực tuyến. Cách tiếp cận toàn diện này nhằm đánh giá LLM trên nhiều khía cạnh, bao gồm tính xác thực, hiểu biết, lập luận, khả năng gây hại và thiên vị, từ đó giải quyết các hạn chế của các đánh giá tự động trước đó dựa trên các tiêu chuẩn hạn chế.
MultiMedQA, a benchmark for answering medical questions spanning medical exam
MedQA
Tập dữ liệu MedQA3 bao gồm các câu hỏi theo phong cách Kỳ thi cấp phép Y tế Hoa Kỳ, mỗi câu hỏi có bốn hoặc năm lựa chọn trả lời. Nó bao gồm một tập dữ liệu phát triển với 11.450 câu hỏi và một tập dữ liệu kiểm tra gồm 1.273 câu hỏi.
Định dạng: câu hỏi và trả lời (Q + A), đa lựa chọn, miền mở.
Câu hỏi ví dụ: Một người đàn ông 65 tuổi bị tăng huyết áp đến gặp bác sĩ để kiểm tra sức khỏe định kỳ. Thuốc hiện tại bao gồm atenolol, lisinopril và atorvastatin. Nhịp tim là 86 lần/phút, hô hấp là 18 lần/phút và huyết áp là 145/95 mmHg. Khám tim cho thấy tiếng thổi tâm thu. Nguyên nhân nào sau đây là nguyên nhân có khả năng nhất của thăm khám thể chất này?
Trả lời (trả lời đúng in đậm): (A) Giảm độ đàn hồi của tâm thất trái, (B) Biến dạng myxomatous của van tim (C) Viêm của màng ngoài tim (D) Giãn của gốc động mạch chủ (E) Làm dày lá van tim.
Nghiên cứu cũng xác định các khoảng trống quan trọng trong hiệu suất của mô hình, đặc biệt là trong việc trả lời các câu hỏi y tế của người tiêu dùng. Để giải quyết những vấn đề này, các nhà nghiên cứu giới thiệu một phương pháp được gọi là điều chỉnh lời nhắc hướng dẫn. Kỹ thuật này hiệu quả trong việc căn chỉnh LLM với các lĩnh vực mới bằng cách sử dụng một số ví dụ, dẫn đến việc tạo ra Med-PaLM. Mô hình Med-PaLM, mặc dù hoạt động rất tốt và cho thấy sự cải thiện trong hiểu biết, nhớ kiến thức và lập luận, vẫn còn thiếu sót so với các chuyên gia y tế.
Một khía cạnh đáng chú ý của nghiên cứu này là khuôn khổ đánh giá của con người chi tiết. Khuôn khổ này đánh giá các câu trả lời của mô hình về sự đồng thuận với sự đồng thuận khoa học và các kết quả có hại tiềm ẩn. Ví dụ, trong khi chỉ 61,9% câu trả lời dài của Flan-PaLM phù hợp với sự đồng thuận khoa học, con số này đã tăng lên 92,6% đối với Med-PaLM, tương đương với các câu trả lời do các chuyên gia y tế tạo ra. Tương tự, khả năng gây ra kết quả có hại đã giảm đáng kể trong các phản hồi của Med-PaLM so với Flan-PaLM.
Đánh giá của con người về các phản hồi của Med-PaLM đã nhấn mạnh khả năng của nó trong nhiều lĩnh vực, phù hợp chặt chẽ với các câu trả lời do các chuyên gia y tế tạo ra. Điều này nhấn mạnh tiềm năng của Med-PaLM như một công cụ hỗ trợ trong môi trường lâm sàng.
Nghiên cứu được thảo luận ở trên đi sâu vào các sắc thái của việc cải thiện Mô hình Ngôn ngữ Lớn (LLM) cho các ứng dụng y tế. Các kỹ thuật và quan sát từ nghiên cứu này có thể được khái quát hóa để cải thiện khả năng của LLM trên nhiều lĩnh vực. Hãy khám phá những khía cạnh chính này:
Cải thiện Hiệu suất với Điều chỉnh Lời nhắc Hướng dẫn
- Ứng dụng Tổng quát: Điều chỉnh lời nhắc hướng dẫn, bao gồm việc tinh chỉnh LLM với các hướng dẫn hoặc hướng dẫn cụ thể, đã cho thấy sự cải thiện hiệu suất đáng kể trên nhiều lĩnh vực. Kỹ thuật này có thể được áp dụng cho các lĩnh vực khác như pháp lý, tài chính hoặc giáo dục để tăng cường độ chính xác và sự liên quan của đầu ra LLM.
Quy mô Mô hình
- Ý nghĩa Rộng hơn: Quan sát rằng việc tăng quy mô mô hình cải thiện hiệu suất không giới hạn ở việc trả lời câu hỏi y tế. Các mô hình lớn hơn, với nhiều tham số hơn, có khả năng xử lý và tạo ra các phản hồi tinh vi và phức tạp hơn. Việc tăng quy mô này có thể có lợi trong các lĩnh vực như dịch vụ khách hàng, viết sáng tạo và hỗ trợ kỹ thuật, nơi hiểu biết và tạo phản hồi tinh vi là rất quan trọng.
Đề xuất Lời nhắc Tưởng tượng (COT)
- Sử dụng trong Các Lĩnh vực Đa dạng: Sử dụng đề xuất lời nhắc tưởng tượng (COT), mặc dù không luôn cải thiện hiệu suất trong các tập dữ liệu y tế, có thể có giá trị trong các lĩnh vực khác nơi giải quyết vấn đề phức tạp là cần thiết. Ví dụ, trong các tình huống giải quyết vấn đề kỹ thuật hoặc ra quyết định phức tạp, đề xuất lời nhắc tưởng tượng có thể hướng dẫn LLM xử lý thông tin từng bước, dẫn đến đầu ra chính xác và hợp lý hơn.
Tính nhất quán của Bản thân để Cải thiện Độ chính xác
- Ứng dụng Rộng hơn: Kỹ thuật tính nhất quán của bản thân, nơi nhiều đầu ra được tạo ra và câu trả lời nhất quán nhất được chọn, có thể cải thiện đáng kể hiệu suất trong nhiều lĩnh vực. Trong các lĩnh vực như tài chính hoặc pháp lý, nơi độ chính xác là tối quan trọng, phương pháp này có thể được sử dụng để kiểm tra chéo các đầu ra được tạo ra để tăng độ tin cậy.
Bất định và Dự đoán Chọn lọc
- Ứng dụng Liên lĩnh vực: Truyền đạt ước tính bất định là rất quan trọng trong các lĩnh vực nơi thông tin sai lệch có thể có hậu quả nghiêm trọng, như chăm sóc sức khỏe và pháp luật. Sử dụng khả năng của LLM trong việc thể hiện bất định và từ chối dự đoán khi độ tin cậy thấp có thể là một công cụ quan trọng trong các lĩnh vực này để ngăn chặn việc lan truyền thông tin không chính xác.
Ứng dụng thực tế của những mô hình này vượt ra ngoài việc trả lời câu hỏi. Chúng có thể được sử dụng cho giáo dục bệnh nhân, hỗ trợ trong quá trình chẩn đoán và thậm chí trong việc đào tạo sinh viên y tế. Tuy nhiên, việc triển khai chúng phải được quản lý cẩn thận để tránh phụ thuộc vào trí tuệ nhân tạo mà không có sự giám sát của con người.
Khi kiến thức y tế tiến hóa, LLM cũng phải thích nghi và học hỏi. Điều này đòi hỏi cơ chế học tập và cập nhật liên tục, đảm bảo rằng các mô hình vẫn liên quan và chính xác theo thời gian.
