Rozwiązywanie sceptycyzmu wobec sztucznej inteligencji w ochronie zdrowia: pokonywanie przeszkód w celu zapewnienia bezpiecznej komunikacji

Liderzy ochrony zdrowia są zainteresowani przyjęciem sztucznej inteligencji, częściowo po to, by nadążyć za konkurentami i innymi branżami, ale co ważniejsze, aby zwiększyć wydajność i poprawić doświadczenia pacjentów. Jednak tylko 77% liderów ochrony zdrowia faktycznie ufa sztucznej inteligencji, że przyniesie korzyści ich firmie.

Pomimo tego, że sztuczne inteligencje są doskonałe w wykonywaniu rutynowych zadań, przetwarzaniu danych i podsumowywaniu informacji, wysoko uregulowana branża ochrony zdrowia najbardziej martwi się niezawodnością i dokładnością danych, które są wprowadzane do tych narzędzi i interpretowane przez nie. Bez właściwego użytkowania i szkolenia pracowników, naruszenia danych stają się dodatkowymi zagrożeniami.

Nawet tak, 95% liderów ochrony zdrowia planuje zwiększyć budżety na sztuczną inteligencję o 30% w 2025 roku, przy czym duże modele językowe (LLM) wyłaniają się jako jeden z najbardziej godnych zaufania narzędzi. W miarę dojrzewania LLM, 53% liderów ochrony zdrowia już wdrożyło formalne polityki, aby pomóc ich zespołom dostosować się do nich, a kolejne 39% planuje wdrożyć polityki wkrótce.

Dla dostawców usług medycznych, którzy chcą usprawnić usługi komunikacyjne za pomocą sztucznej inteligencji, ale nadal są niepewni, czy to zrobić, oto kilka zaleceń, aby pokonać najczęstsze przeszkody.

1.   Szkolą sztuczną inteligencję zgodnie z zaufanymi źródłami medycznymi

Liderzy ochrony zdrowia mogą nie być bezpośrednio zaangażowani w szkolenie sztucznej inteligencji, ale muszą odgrywać kluczową rolę w nadzorowaniu jej wdrożenia. Powinni upewnić się, że dostawcy chatbotów szkolą i regularnie aktualizują swoją sztuczną inteligencję za pomocą wiarygodnych źródeł.

Bogate, ustrukturyzowane dane przechwycone przez obowiązkowe elektroniczne rekordy zdrowia (EHR) oferują ogromne repozytoria cyfrowych danych zdrowia, które mogą teraz służyć jako podstawa do szkolenia algorytmów sztucznej inteligencji. Zaawansowane LLM mogą zrozumieć badania medyczne, analizy techniczne, przeglądy literatury i oceny krytyczne. Jednak zamiast szkolić te narzędzia z wszystkimi danymi na raz, nowe dowody wskazują, że koncentrowanie się na mniejszej liczbie punktów przecięcia maksymalizuje wydajność sztucznej inteligencji, jednocześnie utrzymując koszty szkolenia na niskim poziomie.

2.   Zapewnij zgodność z przepisami HIPAA dotyczącymi danych

Ustawa o przenośności i odpowiedzialności ubezpieczeń zdrowotnych (HIPAA) określa standardy ochrony wrażliwych informacji o zdrowiu pacjentów (PHI). Aby dostosować się do tych przepisów, liderzy ochrony zdrowia powinni upewnić się, że dostawcy zewnętrzni:

• Zbierają tylko minimalną ilość PHI niezbędną do realizacji celu chatbota.
• Udzielają dostępu do PHI tylko upoważnionym personelem z silnymi hasłami i politykami uwierzytelniania.
• Stosują skuteczne techniki szyfrowania w celu ochrony PHI w spoczynku i w trakcie transmisji.
• Przechowują niezbędne dane na serwerach zgodnych z HIPAA z silnymi kontrolami dostępu.
• Upewniają się, że podpisują umowy o powierzeniu (BAAs) w celu zgodności z HIPAA.
• Zapytają o ich plan odpowiedzi na incydenty bezpieczeństwa.

Liderzy ochrony zdrowia, którzy używają tych narzędzi, powinni regularnie sprawdzać raporty dostępu — krok, który można również zautomatyzować za pomocą sztucznej inteligencji — i wysyłać alerty do kierownictwa, jeśli wystąpi nietypowa aktywność.

Ponadto muszą uzyskać wyraźną i świadomą zgodę pacjentów przed zebraniem i użyciem ich PHI. Podczas żądania zgody, komunikować, w jaki sposób dane pacjenta będą używane i chronione.

3.   Dobrze zaprojektowane interfejsy, które poprawiają przepływ pracy

Jedną z największych przeszkód podczas przejścia na obowiązkowe EHR była używalność technologii. Lekarze byli niezadowoleni z ilości czasu spędzonego na zadaniach biurowych, gdy dostosowywali się do skomplikowanych przepływów pracy, zwiększając ryzyko zawodowego wypalenia i szansę na popełnienie błędów, które mogą wpłynąć na leczenie pacjentów.

Podczas pracy z dostawcami zewnętrznymi, poproś o demonstrację i drugą opinię przed wyborem platformy lub oprogramowania sztucznej inteligencji. Nie zapomnij zapytać, czy ich produkt pozwala na dostosowanie do bieżących programów, abyś mógł zintegrować gotowe do użycia funkcje, które najlepiej odpowiadają Twoim przepływom pracy.

Projektowanie ukierunkowane na użytkownika i ustandaryzowane formaty danych i protokoły pomogą ułatwić bezproblemową wymianę informacji między technologiami ochrony zdrowia i platformami sztucznej inteligencji. Z tymi standardami na miejscu, algorytmy sztucznej inteligencji mogą być znacząco zintegrowane z opieką kliniczną w różnych środowiskach ochrony zdrowia. Ustanowione protokoły również pomagają tym narzędziom działać lepiej, ułatwiając interoperacyjność i umożliwiając dostęp do większych, bardziej zróżnicowanych zbiorów danych.

4.   Prawidłowe użytkowanie i szkolenie pracowników

Badanie z 2024 roku wykazało, że porady medyczne udzielane przez „ludzkich lekarzy i sztuczną inteligencję” były faktycznie bardziej kompleksowe, ale mniej empatyczne niż te udzielane przez „ludzkich lekarzy” samych. Aby zniwelować tę różnicę, liderzy ochrony zdrowia muszą zrozumieć możliwości i ograniczenia sztucznej inteligencji oraz zapewnić właściwy nadzór i interwencję ludzką.

Liderzy ochrony zdrowia mogą osadzić chatboty na swoich stronach internetowych i aplikacjach pacjenckich, aby zapewnić użytkownikom natychmiastowy dostęp do informacji medycznych, pomagając w samodiagnozie i edukacji zdrowotnej. Te narzędzia mogą wysyłać terminowe przypomnienia pacjentom, aby odnowili recepty, pomagając pacjentom przestrzegać planów leczenia. Mogą również pomóc w klasyfikacji pacjentów na podstawie ciężkości ich stanu, pomagając dostawcom usług medycznych w priorytecie przypadków i efektywnym alokowaniu zasobów.

Niemniej jednak, te narzędzia mogą nadal „hallucynować”, a konieczne jest, aby osoba walidująca była zaangażowana w złożone zadania. Pracuj z ekspertami zewnętrznymi, aby zdefiniować swoją wizję narzędzi komunikacji sztucznej inteligencji i stworzyć pożądane przepływy pracy. Gdy już się zgodzisz na przypadki użycia, procesy zmiany operacyjnej i kulturowej — takie jak 8-krokowy proces zmiany Kottera — oferują mapę drogową dla wdrożenia pracowników, ostatecznie poprawiając wyniki pacjentów.

5.   Poproś chatbota, aby złapał błędy

Żaden lider biznesu nie chce popełniać błędów, ale branża ochrony zdrowia jest środowiskiem o wysokich stawkach, gdzie nawet drobne zaniedbania mogą prowadzić do poważnych konsekwencji. Jednak nawet najlepsi klinicyści nie są odporni na błędy medyczne. Sztuczna inteligencja może być potężnym narzędziem do poprawy opieki pacjentów, łapiąc błędy i wypełniając luki.

W 2023 roku śledztwo używające GPT-4 do transkrypcji i podsumowania rozmowy między pacjentem a klinicystą, a następnie zastosowało chatbota do sprawdzenia rozmowy pod kątem błędów. Podczas walidacji, złapał błąd w indeksie masy ciała (BMI) pacjenta. Chatbot również zauważył, że notatki pacjenta nie wspominały o badaniach krwi, które zostały zamówione, ani o uzasadnieniu ich zamówienia.

Przykład ten wskazuje, że sztuczną inteligencję można wykorzystać jako uzupełnienie, aby pomóc lekarzom w radzeniu sobie z halucynacjami, pominięciami i błędami sztucznej inteligencji, które mogą być używane do szkolenia i poprawy aplikacji sztucznej inteligencji.

Sztuczna inteligencja w ochronie zdrowia istnieje, aby wspierać lekarzy i pielęgniarki, upraszczać przepływy pracy, poprawiać dostęp pacjentów do opieki i minimalizować zaniedbania. Chociaż nie mogą one całkowicie zastąpić empatii, intuicji i doświadczenia świata rzeczywistego, które dostawcy usług medycznych przywożą do stołu, te narzędzia oferują doskonałe korzyści analityczne i oszczędności czasu. Kiedy liderzy ochrony zdrowia zajmują się starannym przestrzeganiem przepisów HIPAA, przejrzystą komunikacją z pacjentami i właściwym szkoleniem pracowników, mogą wdrożyć te narzędzia w sposób bezpieczny i pewny.