Sztuczna inteligencja generatywna w sektorze opieki zdrowotnej wymaga dawki wyjaśnialności

Oszałamiająca szybkość, z jaką tekstowe narzędzia sztucznej inteligencji generatywnej mogą wykonywać zadania związane z pisaniem i komunikacją, odniosła ogromny sukces wśród firm i konsumentów. Jednak procesy, które zachodzą za kulisami, aby umożliwić te imponujące możliwości, mogą sprawić, że branże wrażliwe i regulowane przez rząd, takie jak ubezpieczenia, finanse lub opieka zdrowotna, będą musiały zachować ostrożność przy wykorzystywaniu sztucznej inteligencji generatywnej.

Niektóre z najbardziej ilustratywnych przykładów można znaleźć w sektorze opieki zdrowotnej.

Takie problemy są zwykle związane z ogromnymi i zróżnicowanymi zbiorami danych wykorzystywanymi do szkolenia modeli językowych (LLM) – modeli, których tekstowe narzędzia sztucznej inteligencji generatywnej wykorzystują do wykonywania zadań na wysokim poziomie. Bez jawnej interwencji programistów te LLM tendencję do pobierania danych w sposób nie rozróżniający z różnych źródeł w Internecie, aby rozszerzyć swoją bazę wiedzy.

Ten podejście jest najbardziej odpowiednie dla niskiego ryzyka przypadków użycia skierowanych do konsumentów, w których ostatecznym celem jest kierowanie klientów do pożądanych ofert z precyzją. Coraz częściej jednak duże zbiory danych i zamglone ścieżki, którymi modele AI generują swoje dane wyjściowe, zaciemniają wyjaśnialność, której szpitale i dostawcy usług medycznych wymagają, aby śledzić i zapobiegać potencjalnym nieścisłościom.

W tym kontekście wyjaśnialność odnosi się do możliwości zrozumienia logiki ścieżek dowodowych danego LLM. Profesjonaliści medyczni, którzy chcą przyjąć pomocne narzędzia sztucznej inteligencji generatywnej, muszą mieć możliwość zrozumienia jak ich modele dają wyniki, aby pacjenci i personel mieli pełną przejrzystość w różnych procesach decyzyjnych. Innymi słowy, w branży takiej jak opieka zdrowotna, gdzie życie jest na szali, stawki są po prostu zbyt wysokie, aby profesjonaliści mogli źle zinterpretować dane wykorzystane do szkolenia ich narzędzi AI.

Niezmiernie cieszy, że istnieje sposób, aby ominąć dylemat wyjaśnialności sztucznej inteligencji generatywnej – wymaga to tylko nieco więcej kontroli i skupienia.

Zagadka i sceptycyzm

W sztucznej inteligencji generatywnej pojęcie zrozumienia, jak LLM przechodzi od punktu A – wejścia do punktu B – wyjścia, jest o wiele bardziej złożone niż w przypadku algorytmów niegeneratywnych, które działają według bardziej ustalonych wzorców.

Narzędzia sztucznej inteligencji generatywnej nawiązują niezliczoną ilość połączeń, przechodząc od wejścia do wyjścia, ale dla obserwatora zewnętrznego, w jaki sposób i dlaczego nawiązują daną serię połączeń, pozostaje tajemnicą. Bez możliwości zobaczenia “procesu myślowego”, który algorytm AI podejmuje, ludzcy operatorzy nie mają gruntownego sposobu badania jego powodzenia i śledzenia potencjalnych nieścisłości.

Ponadto nieustannie rosnące zbiory danych wykorzystywane przez algorytmy ML dodatkowo komplikują wyjaśnialność. Im większy zbiór danych, tym bardziej prawdopodobne, że system nauczy się zarówno istotnych, jak i nieistotnych informacji i wyprodukuje “halucynacje AI” – fałsze, które odbiegają od zewnętrznych faktów i logicznych kontekstów, choć przekonywująco.

W sektorze opieki zdrowotnej tego rodzaju błędne wyniki mogą spowodować lawinę problemów, takich jak błędne rozpoznania i niewłaściwe przepisy. Poza konsekwencjami etycznymi, prawnymi i finansowymi takie błędy mogłyby łatwo uszkodzić reputację dostawców usług medycznych i instytucji medycznych, które reprezentują.

Mimo swojego potencjału do poprawy interwencji medycznych, usprawnienia komunikacji z pacjentami i wzmocnienia efektywności operacyjnej, sztuczna inteligencja generatywna w opiece zdrowotnej pozostaje otoczona sceptycyzmem, i słusznie – 55% klinicystów nie wierzy, że jest gotowa do użycia medycznego, a 58% nie ufa jej w ogóle. Jednak organizacje opieki zdrowotnej idą naprzód, z 98% integrując lub planując strategię wdrożenia sztucznej inteligencji generatywnej w celu zrównoważenia wpływu trwających braków siły roboczej w sektorze.

Kontroluj źródło

Sektor opieki zdrowotnej jest często złapany z tyłu w obecnej konsumenckiej atmosferze, która ceni wydajność i szybkość ponad zapewnieniem bezwzględnych środków bezpieczeństwa. Ostatnie wieści dotyczące pułapek nieograniczonego pobierania danych do szkolenia LLM, prowadzącego do pozwów o naruszenie praw autorskich, przyniosły te problemy do pierwszego planu. Niektóre firmy również stają w obliczu twierdzeń, że dane osobowe obywateli zostały wykorzystane do szkolenia tych modeli językowych, potencjalnie naruszając prawa dotyczące prywatności.

Twórcy AI dla branż wysoko regulowanych powinni więc wykonywać kontrolę nad źródłami danych, aby ograniczyć potencjalne błędy. To znaczy, priorytetem powinno być pobieranie danych z zaufanych, branżowo zweryfikowanych źródeł, zamiast losowego pobierania zewnętrznych stron internetowych bez wyraźnej zgody. Dla sektora opieki zdrowotnej oznacza to ograniczenie danych wejściowych do stron FAQ, plików CSV i baz danych medycznych – wśród innych wewnętrznych źródeł.

Jeśli to brzmi trochę ograniczająco, spróbuj wyszukać usługę na stronie dużego systemu opieki zdrowotnej. Amerykańskie organizacje opieki zdrowotnej publikują setki, jeśli nie tysiące, stron informacyjnych na swoich platformach; większość z nich jest tak głęboko zakopana, że pacjenci nigdy nie mogą ich rzeczywiście znaleźć. Rozwiązania sztucznej inteligencji generatywnej oparte na danych wewnętrznych mogą dostarczyć te informacje pacjentom w wygodny i płynny sposób. To jest wygrana dla wszystkich stron, ponieważ system opieki zdrowotnej w końcu widzi zwrot z tej zawartości, a pacjenci mogą znaleźć niezbędne usługi natychmiast i bez wysiłku.

Co dalej dla sztucznej inteligencji generatywnej w branżach regulowanych?

Sektor opieki zdrowotnej może skorzystać na sztucznej inteligencji generatywnej na wiele sposobów.

Na przykład, rozważ powszechny wypalenie się w sektorze opieki zdrowotnej w USA – blisko 50% siły roboczej ma zamiar odejść do 2025 roku. Sztuczna inteligencja generatywna oparta na czatach może pomóc złagodzić znaczną część obciążenia i zachować nadmiernie rozciągnięte zespoły dostępu do pacjentów.

Po stronie pacjenta sztuczna inteligencja generatywna ma potencjał, aby poprawić usługi call center dostawców usług medycznych. Automatyzacja AI ma moc, aby rozwiązać szeroki zakres zapytań przez różne kanały kontaktowe, w tym FAQ, problemy z IT, uzupełnienia leków i skierowania lekarskie. Poza frustracją, która pochodzi z oczekiwania na linii, tylko około połowa pacjentów w USA skutecznie rozwiązuje swoje problemy podczas pierwszego połączenia, wynikającym w wysokim wskaźniku porzucania i upośledzonego dostępu do opieki. Wynikające z tego niskie zadowolenie klienta tworzy dalszą presję na branżę, aby działać.

Dla branży, aby naprawdę skorzystać na wdrożeniu sztucznej inteligencji generatywnej, dostawcy usług medycznych muszą umożliwić intencjonalną restrukturyzację danych, do których ich LLM mają dostęp.