Säkerställande av Resilient Säkerhet för Autonom AI inom Hälso- och Sjukvård

Kriget mot dataintrång utgör ett allt större hot mot hälso- och sjukvårdsorganisationer globalt. Enligt nuvarande statistik ligger den genomsnittliga kostnaden för en dataintrång nu på 4,45 miljoner dollar globalt, en siffra som mer än fördubblas till 9,48 miljoner dollar för hälso- och sjukvårdsleverantörer som servar patienter inom USA. Till detta redan skrämmande problem kommer den moderna fenomenet med inter- och intraorganisatorisk dataproliferation. En oroande 40% av rapporterade intrång involverar information som sprids över flera miljöer, vilket avsevärt utökar attackytan och erbjuder många ingångsvägar för angripare.

Den växande autonomin hos generativ AI medför en era av radikal förändring. Därför kommer det också med en växande tid av ytterligare säkerhetsrisker, eftersom dessa avancerade intelligenta agenter flyttar från teori till distribution i flera domäner, såsom hälsosektorn. Att förstå och mildra dessa nya hot är avgörande för att skala upp AI på ett ansvarsfullt sätt och förbättra en organisations motståndskraft mot cyberattacker av alla slag, oavsett om de beror på skadlig programvara, dataintrång eller till och med välkoordinerade leverantörskedjeattacker.

Resiliens under design- och implementeringsstadiet

Organisationer måste anta en omfattande och evolutionär proaktiv försvarsstrategi för att hantera de ökande säkerhetsriskerna som orsakas av AI, särskilt inom hälso- och sjukvården, där insatserna innefattar både patienternas välbefinnande och efterlevnad av reglerande åtgärder.

Detta kräver en systematisk och omfattande strategi, som börjar med AI-systemutveckling och design, och fortsätter till storskalig distribution av dessa system.

• Det första och mest kritiska steget som organisationer behöver vidta är att kartlägga och modellera hoten för hela AI-pipelinen, från datainmatning till modellträning, validering, distribution och inferens. Detta steg möjliggör en exakt identifiering av alla potentiella exponerings- och sårbarhetspunkter med riskgranularitet baserat på påverkan och sannolikhet.
• Det andra steget är att skapa säkra arkitekturer för distributionen av system och applikationer som använder stora språkmodeller (LLM), inklusive de med Agentic AI-funktioner. Detta innefattar att noggrant överväga olika åtgärder, såsom containrar för säkerhet, säker API-design och säker hantering av känsliga träningsdata.
• Det tredje steget är att förstå och implementera rekommendationerna från olika standarder/ramverk. Till exempel följa riktlinjerna från NIST:s AI Risk Management Framework för omfattande riskidentifiering och mildring. De kunde också överväga OWASP:s råd om de unika sårbarheter som introduceras av LLM-applikationer, såsom promptinjektion och osäker utdatahantering.
• Dessutom måste klassiska hotmodelleringstekniker också utvecklas för att effektivt hantera de unika och invecklade attacker som genereras av Gen AI, inklusive illvilliga dataförgiftsattacker som hotar modellens integritet och potentialen för att generera känslig, partisk eller olämpligt producerad innehåll i AI-utdata.
• Slutligen, även efter distribution, måste organisationer förbli vaksamma genom att regelbundet och strängt genomföra röd team-manövrer och specialiserade AI-säkerhetsrevisioner som specifikt riktar sig mot källor som bias, robusthet och tydlighet för att kontinuerligt upptäcka och mildra sårbarheter i AI-system.

Det är värt att notera att grunden för att skapa starka AI-system inom hälso- och sjukvården är att grundläggande skydda hela AI-livscykeln, från skapande till distribution, med en tydlig förståelse för nya hot och en efterlevnad av etablerade säkerhetsprinciper.

Åtgärder under den operativa livscykeln

Förutom den initiala säkra designen och distributionen kräver en robust AI-säkerhetsposition en vaksam uppmärksamhet på detaljer och aktiv försvar över AI-livscykeln. Detta kräver en kontinuerlig övervakning av innehåll, genom att utnyttja AI-driven övervakning för att upptäcka känslig eller skadlig utdata omedelbart, samtidigt som man följer informationsutgivningspolicyn och användarbehörigheter. Under modellutveckling och i produktionsmiljön måste organisationer aktivt skanna efter skadlig programvara, sårbarheter och fientlig aktivitet samtidigt. Allt detta är, naturligtvis, komplementärt till traditionella cybersäkerhetsåtgärder.

För att uppmuntra användartillit och förbättra tolkningen av AI-beslutsfattande är det avgörande att använda Explainable AI (XAI)-verktyg för att förstå den underliggande rationalet för AI-utdata och förutsägelser.

Förbättrad kontroll och säkerhet möjliggörs också genom automatiserad dataupptäckt och smart dataklassificering med dynamiskt ändrade klassificerare, som ger en kritisk och uppdaterad vy av den ständigt föränderliga datamiljön. Dessa initiativ härrör från kravet på att genomföra starka säkerhetskontroller som finmaskiga rollbaserade åtkomstkontrollmetoder (RBAC), slut-till-slut-krypteringsramverk för att skydda information under överföring och i vila, och effektiva datamaskeringstekniker för att dölja känslig data.

Uppsatta säkerhetsmedvetandeutbildningar för alla affärsanvändare som hanterar AI-system är också avgörande, eftersom de etablerar en kritisk mänsklig brandvägg för att upptäcka och neutralisera möjliga sociala ingenjörsattacker och andra AI-relaterade hot.

Säkra framtiden för Agentic AI

Grunden för varaktig motståndskraft inför utvecklande AI-säkerhetshot ligger i den föreslagna multi-dimensionella och kontinuerliga metoden för att noggrant övervaka, aktivt skanna, tydligt förklara, intelligently klassificera och strängt säkra AI-system. Detta, naturligtvis, är i tillägg till att etablera en omfattande människoorienterad säkerhetskultur tillsammans med mogna traditionella cybersäkerhetskontroller. När autonoma AI-agenter integreras i organisationsprocesser ökar behovet av robusta säkerhetskontroller. Idag är verkligheten att dataintrång i offentliga moln faktiskt händer och kostar i genomsnitt $5,17 miljoner, vilket tydligt betonar hotet mot en organisations ekonomi samt rykte.

Utöver revolutionerande innovationer beror AI:s framtid på att utveckla motståndskraft med en grund av inbäddad säkerhet, öppna driftsramverk och stränga styrningsförfaranden. Att etablera förtroende för dessa intelligenta agenter kommer slutligen att avgöra hur omfattande och varaktigt de kommer att accepteras, och forma själva förloppet av AI:s transformerande potential.