Zapewnienie elastyczności bezpieczeństwa dla autonomicznego AI w ochronie zdrowia

Wojna z naruszeniami danych stanowi coraz większe wyzwanie dla organizacji ochrony zdrowia na całym świecie. Według obecnych statystyk, średni koszt naruszenia danych wynosi obecnie 4,45 miliona dolarów na całym świecie, a ta kwota ponad dwukrotnie wzrasta do 9,48 miliona dolarów dla dostawców usług medycznych obsługujących pacjentów w Stanach Zjednoczonych. Do tego już i tak zaporowego problemu dochodzi nowoczesne zjawisko inter- i intraorganizacyjnego rozprzestrzeniania się danych. Niepokojące 40% ujawnionych naruszeń dotyczy informacji rozproszonych w wielu środowiskach, co znacznie zwiększa powierzchnię ataku i oferuje wiele dróg wejścia dla atakujących.

Rosnąca autonomia generatywnego AI rozpoczyna erę radykalnych zmian. Wraz z nią pojawia się falanga dodatkowych ryzyk bezpieczeństwa, ponieważ te zaawansowane inteligentne agenci wychodzą z teorii do wdrożeń w kilku dziedzinach, takich jak sektor zdrowia. Zrozumienie i złagodzenie tych nowych zagrożeń jest niezbędne, aby odpowiedzialnie skalować AI i zwiększyć odporność organizacji na ataki cybernetyczne o dowolnym charakterze, czy to z powodu złośliwego oprogramowania, naruszenia danych czy nawet starannie zaplanowanych ataków łańcucha dostaw.

Elastyczność na etapie projektowania i wdrożenia

Organizacje muszą przyjąć kompleksową i ewolucyjną proaktywną strategię obrony, aby rozwiązać rosnące ryzyka bezpieczeństwa spowodowane przez AI, zwłaszcza w ochronie zdrowia, gdzie stawka obejmuje zarówno dobrostan pacjentów, jak i zgodność z przepisami.

Wymaga to systematycznego i szczegółowego podejścia, rozpoczynającego się od rozwoju i projektowania systemów AI, a kończącego się na dużych wdrożeniach tych systemów.

• Pierwszym i najważniejszym krokiem, który organizacje muszą podjąć, jest sporządzenie mapy i modelowanie zagrożeń całego łańcucha AI, od pobierania danych do szkolenia modelu, walidacji, wdrożenia i inferencji. Ten krok umożliwia dokładne zidentyfikowanie wszystkich potencjalnych punktów ekspozycji i podatności na ryzyko z wykorzystaniem wpływu i prawdopodobieństwa.
• Drugim ważnym krokiem jest stworzenie bezpiecznych architektur do wdrożenia systemów i aplikacji wykorzystujących duże modele językowe (LLM), w tym te z Agentic AI. Obejmuje to staranne rozważenie różnych środków, takich jak bezpieczeństwo kontenerów, bezpieczny projekt API i bezpieczne obchodzenie się z wrażliwymi zbiorami danych szkoleniowych.
• Trzecim krokiem jest zrozumienie i wdrożenie zaleceń różnych standardów/ram. Na przykład, przestrzeganie wytycznych określonych przez NIST’s AI Risk Management Framework dla kompleksowego identyfikowania i łagodzenia ryzyka. Mogą one również rozważyć OWASP’s advice na temat unikalnych podatności wprowadzonych przez aplikacje LLM, takie jak wstrzykiwanie poleceń i niebezpieczne obchodzenie się z wyjściem.
• Ponadto, klasyczne techniki modelowania zagrożeń również muszą ewoluować, aby skutecznie zarządzać unikalnymi i złożonymi atakami generowanymi przez Gen AI, w tym podstępnymi atakami na trucie danych, które zagrażają integralności modelu i potencjalnie generują wrażliwe, tendencyjne lub niewłaściwie wytworzone treści w wyjściach AI.
• Na koniec, nawet po wdrożeniu, organizacje muszą pozostać czujne, praktykując regularne i surowe manewry czerwonej drużyny oraz specjalistyczne audyty bezpieczeństwa AI, które koncentrują się na źródłach, takich jak uprzedzenia, wytrzymałość i klarowność, aby nieustannie odkrywać i łagodzić podatności w systemach AI.

Godne uwagi jest to, że podstawą tworzenia silnych systemów AI w ochronie zdrowia jest fundamentalna ochrona całego cyklu życia AI, od tworzenia do wdrożenia, z głębokim zrozumieniem nowych zagrożeń i przestrzeganiem ustanowionych zasad bezpieczeństwa.

Środki podczas cyklu operacyjnego

Oprócz początkowego bezpiecznego projektowania i wdrożenia, solidna postawa bezpieczeństwa AI wymaga czujnej uwagi do szczegółów i aktywnej obrony w całym cyklu życia AI. Wymaga to ciągłego monitorowania treści, wykorzystując do tego AI, aby wykryć wrażliwe lub szkodliwe wyjścia natychmiast, przy jednoczesnym przestrzeganiu polityk wydania informacji i uprawnień użytkowników. Podczas rozwoju modelu i w środowisku produkcyjnym organizacje muszą aktywnie skanować oprogramowanie szkodliwe, podatności i działania przeciwnika w tym samym czasie. Są to wszystko, oczywiście, uzupełnienia tradycyjnych środków bezpieczeństwa.

Aby zachęcić do zaufania użytkowników i poprawić interpretowalność podejmowania decyzji przez AI, niezwykle ważne jest staranne wykorzystanie Explainable AI (XAI) narzędzi, aby zrozumieć podstawowe powody wyjścia AI i przewidywań.

Poprawiona kontrola i bezpieczeństwo są również ułatwione dzięki zautomatyzowanemu odkrywaniu danych i inteligentnej klasyfikacji danych z dynamicznie zmieniającymi się klasyfikatorami, które zapewniają krytyczny i aktualny widok stale zmieniającego się środowiska danych. Te inicjatywy wynikają z konieczności egzekwowania silnych kontroli bezpieczeństwa, takich jak metody kontroli dostępu oparte na rolach (RBAC), ramy szyfrowania end-to-end w celu zabezpieczenia informacji w transporcie i spoczynku, oraz skuteczne techniki maskowania danych w celu ukrycia wrażliwych danych.

Dogłębne szkolenia z zakresu świadomości bezpieczeństwa przez wszystkich użytkowników biznesowych zajmujących się systemami AI są również niezbędne, ponieważ ustanawiają krytyczną ludzką zaporę ogniową, aby wykryć i zneutralizować możliwe ataki inżynierii społecznej i inne zagrożenia związane z AI.

Zabezpieczanie przyszłości Agentic AI

Podstawa utrzymania elastyczności w obliczu ewoluujących zagrożeń bezpieczeństwa AI leży w proponowanej wielowymiarowej i ciągłej metodzie ściśle monitorowania, aktywnego skanowania, klarownego wyjaśniania, inteligentnego klasyfikowania i surowego zabezpieczania systemów AI. Oczywiście, jest to dodatek do ustanowienia szerokiej kultury bezpieczeństwa zorientowanej na ludzi, wraz z dojrzałymi tradycyjnymi kontrolami bezpieczeństwa. Wraz z włączaniem autonomicznych agentów AI do procesów organizacyjnych, rośnie konieczność solidnych kontroli bezpieczeństwa. Dzisiejsza rzeczywistość jest taka, że naruszenia danych w chmurach publicznych zdarzają się i kosztują średnio 5,17 miliona dolarów, co wyraźnie podkreśla zagrożenie dla finansów organizacji, a także jej reputacji.

Ponadto, rewolucyjne innowacje, przyszłość AI zależy od rozwoju elastyczności z podstawą wbudowanego bezpieczeństwa, otwartych ram operacyjnych i ścisłych procedur zarządzania. Ustanowienie zaufania do takich inteligentnych agentów ostatecznie zadecyduje, w jakim stopniu i jak długo będą one przyjmowane, kształtując sam przebieg transformacyjnego potencjału AI.