Zajištění odolné bezpečnosti pro autonomní AI ve zdravotnictví

Probíhající válka proti únikům dat představuje rostoucí výzvu pro zdravotnické organizace po celém světě. Podle aktuálních statistik se průměrné náklady na únik dat pohybují na úrovni 4,45 milionu dolarů celosvětově, což je číslo, které se více než zdvojnásobí na 9,48 milionu dolarů pro zdravotnické poskytovatele, kteří slouží pacientům ve Spojených státech. K tomuto již tak hrozivému problému se přidává moderní jev inter- a intraorganizační proliferace dat. Téměř 40 % zveřejněných úniků zahrnuje informace rozložené napříč několika prostředími, což výrazně rozšiřuje útočný povrch a nabízí mnoha cestám vstupu pro útočníky.

Rostoucí autonomie generativní AI přináší éru radikální změny. S tím přichází i naléhavá vlna dalších bezpečnostních rizik, protože tyto pokročilé inteligentní agenti přecházejí z teorie do nasazení v několika oblastech, jako je zdravotnický sektor. Porozumění a zmírnění těchto nových hrozeb je zásadní pro zodpovědné škálování AI a zvýšení odolnosti organizace proti kybernetickým útokům jakéhokoli druhu, ať už se jedná o hrozby malwaru, úniky dat nebo dokonce pečlivě naplánované útoky na dodavatelský řetězec.

Odolnost ve fázi návrhu a implementace

Organizace musí přijmout komplexní a evoluční proaktivní obrannou strategii, aby řešily rostoucí bezpečnostní rizika způsobená AI, zejména ve zdravotnictví, kde jsou na hře nejenom blaho pacientů, ale také dodržování regulačních opatření.

To vyžaduje systematický a podrobný přístup, počínaje vývojem a návrhem AI systémů a pokračujícím až po rozsáhlé nasazení těchto systémů.

• Prvním a nejkritičtějším krokem, který organizace musí podniknout, je vytvoření mapy a modelování hrozeb pro celou AI pipeline, od ingestování dat po školení modelu, validaci, nasazení a inferenci. Tento krok usnadňuje přesnou identifikaci všech potenciálních bodů expozice a zranitelnosti s jemnou granularitou založenou na dopadu a pravděpodobnosti.
• Druhým důležitým krokem je vytvoření bezpečných architektur pro nasazení systémů a aplikací, které využívají velké jazykové modely (LLM), včetně těch s Agentic AI schopnostmi. To zahrnuje pečlivé zvážení různých opatření, jako je zabezpečení kontejnerů, bezpečný návrh API a bezpečné zpracování citlivých trénovacích dat.
• Třetím krokem je, aby organizace porozuměly a implementovaly doporučení různých standardů/rámců. Například dodržování pokynů stanovených NIST’s AI Risk Management Framework pro komplexní identifikaci a zmírnění rizik. Mohly by také zvážit OWASP’s rady o jedinečných zranitelnostech zavedených aplikacemi LLM, jako je injekce promptů a nezabezpečené zpracování výstupu.
• Dále je třeba, aby klasické techniky modelování hrozeb také evolvovaly, aby účinně spravovaly jedinečné a složité útoky generované Gen AI, včetně záludných útoků na otravu dat, které ohrožují integritu modelu a potenciál generování citlivého, zkresleného nebo nevhodně vyprodukovaného obsahu v AI výstupech.
• Nakonec, i po nasazení, organizace budou muset zůstat bdělé, praktikovat pravidelné a přísné manévry červeného týmu a specializované AI bezpečnostní audity, které cíleně zaměřují na zdroje, jako je zkreslení, robustnost a jasnost, aby neustále objevovaly a zmírnily zranitelnosti v AI systémech.

Je třeba poznamenat, že základem vytváření silných AI systémů ve zdravotnictví je fundamentálně chránit celý AI životní cyklus, od vytvoření po nasazení, s jasným porozuměním nových hrozeb a dodržováním zavedených bezpečnostních principů.

Opětovaná opatření během provozního životního cyklu

Kromě počátečního zabezpečeného návrhu a nasazení vyžaduje robustní AI bezpečnostní postoj bdělou pozornost k detailům a aktivní obranu po celý AI životní cyklus. To vyžaduje nepřetržité monitorování obsahu, využívající AI poháněnou surveillanci k okamžitému zjištění citlivých nebo škodlivých výstupů, a to při dodržování zásad uvolňování informací a oprávnění uživatelů. Během vývoje modelu a v produkčním prostředí budou organizace muset aktivně skenovat malware, zranitelnosti a adversářskou aktivitu ve stejnou dobu. To vše je, samozřejmě, doplňkem tradičních kybernetických bezpečnostních opatření.

Pro povzbuzení důvěry uživatelů a zlepšení interpretability AI rozhodování je zásadní pečlivě používat Explainable AI (XAI) nástroje k pochopení základních důvodů AI výstupu a předpovědí.

Vylepšená kontrola a bezpečnost jsou také usnadněny automatizovaným objevováním dat a inteligentní klasifikací dat s dynamicky se měnícími klasifikátory, které poskytují kritický a aktuální přehled neustále se měnícího datového prostředí. Tyto iniciativy pramení z imperativu pro uplatňování silných bezpečnostních kontrol, jako jsou metody jemnozrnného role-based přístupu (RBAC), rámců pro šifrování koncových bodů pro zajištění informací během přenosu a v klidu, a efektivní techniky maskování dat pro skrytí citlivých dat.

Důkladné bezpečnostní školení pro všechny obchodní uživatele, kteří pracují se systémy AI, je také nezbytné, protože vytváří kritickou lidskou bránu pro detekci a neutralizaci možných sociálních inženýrských útoků a dalších AI souvisejících hrozeb.

Zajištění budoucnosti Agentic AI

Základna udržitelné odolnosti proti se vyvíjejícím AI bezpečnostním hrozbám spočívá v navrhované multi-dimenzionální a kontinuální metodě blízkého monitorování, aktivního skenování, jasně vysvětlování, inteligentního klasifikování a přísného zabezpečování AI systémů. To je, samozřejmě, v kombinaci se zavedením široce lidsky orientované bezpečnostní kultury a zavedených tradičních kybernetických bezpečnostních kontrol. S tím, jak jsou autonomní AI agenti začleňováni do organizačních procesů, roste potřeba robustních bezpečnostních kontrol. Dnešní realita je taková, že úniky dat v veřejných cloudech skutečně nastávají a stojí v průměru 5,17 milionu dolarů, jasně zdůrazňujících hrozbu pro finanční situaci i pověst organizace.

Kromě revolučních inovací závisí budoucnost AI na vývoji odolnosti se základem v zabudované bezpečnosti, otevřených operačních rámcích a přísných řídicích postupech. Vytvoření důvěry v tyto inteligentní agenti nakonec rozhodne o tom, do jaké míry a jak dlouho budou přijímány, formujících samotný směr transformačního potenciálu AI.