Sikring av resilient sikkerhet for autonom AI i helsevesenet

Krigen mot datalekkasjer utgjør en økende utfordring for helseorganisasjoner globalt. Ifølge nåværende statistikk ligger den gjennomsnittlige kostnaden for en datalekkasje nå på 4,45 millioner dollar globalt, et beløp som mer enn dobles til 9,48 millioner dollar for helseleverandører som betjener pasienter i USA. I tillegg til dette allerede skremmende problemet, kommer det moderne fenomenet med inter- og intra-organisatorisk dataproliferasjon. Et bekymringsverdig 40 % av rapporterte lekkasjer involverer informasjon som er spredt over flere miljøer, noe som vesentlig utvider angrepsflaten og tilbyr mange inngangspunkter for angripere.

Den økende autonomien til generativ AI bringer en tid med radikal forandring. Derfor kommer det også en bølge av nye sikkerhetsrisiko sammen med denne, ettersom disse avanserte intelligente agentene flytter seg fra teorien til utvikling i flere domener, som helsesektoren. Å forstå og mildne disse nye truslene er avgjørende for å kunne skale opp AI på en ansvarlig måte og forbedre en organisasjonens motstandskraft mot cyberangrep av alle slag, enten det skyldes skadelig programvare, datalekkasjer eller velkoordinerte leverandørangrep.

Resiliens ved design- og implementeringsstadiet

Organisasjoner må adoptere en omfattende og evoluerende proaktiv forsvarstrategi for å håndtere de økende sikkerhetsrisikoene forårsaket av AI, spesielt i helsevesenet, der innsatsen inkluderer både pasientens velvære og overholdelse av reguleringer.

Dette krever en systematisk og omfattende tilnærming, som starter med AI-systemutvikling og -design, og fortsetter til stor skala utrulling av disse systemene.

• Det første og mest kritiske skrittet organisasjonene må iverksette, er å kartlegge og truslemodele hele AI-pipeline, fra datainnsamling til modelltrening, validering, utrulling og inferens. Dette skrittet muliggjør nøyaktig identifisering av alle potensielle eksponerings- og sårbarhetspunkter med risikogranularitet basert på påvirkning og sannsynlighet.
• For det andre er det viktig å skape sikre arkitekturer for utrulling av systemer og applikasjoner som utnytter store språkmodeller (LLM), inkludert de med Agentic AI-funksjoner. Dette innebærer å nøye vurdere ulike tiltak, som container-sikkerhet, sikker API-design og sikker håndtering av sensitive treningsdatasett.
• For det tredje må organisasjonene forstå og implementere anbefalingene fra ulike standarder/rammeverk. For eksempel å følge retningslinjene lagt ned av NISTs AI-risikostyringsrammeverk for omfattende risikoidentifisering og -mildning. De kunne også vurdere OWASPs råd om de unike sårbarhetene som introduseres av LLM-applikasjoner, som promptinjeksjon og usikker utgangshåndtering.
• Derutover må klassiske truslemodelleringsteknikker også utvikles for å effektivt håndtere de unike og intrikate angrepene generert av Gen AI, inkludert skjulte dataforgiftsangrep som truer modellintegritet og muligheten for å generere sensitive, forvrengte eller upassende produserte innhold i AI-utgang.
• Til slutt, selv etter utrulling, må organisasjonene forbli våkne ved å praktisere regelmessige og strenge red team-manøvrer og spesialiserte AI-sikkerhetsauditorer som spesifikt målretter kilder som bias, robusthet og klarhet for å kontinuerlig oppdage og mildne sårbarheter i AI-systemer.

Det er verdt å merke seg at grunnlaget for å skape sterke AI-systemer i helsevesenet er å fundamentalt beskytte hele AI-livssyklusen, fra opprettelse til utrulling, med en tydelig forståelse av nye trusler og en overholdelse av etablerte sikkerhetsprinsipper.

Tiltak under operasjonell livssyklus

I tillegg til den innledende sikre design og utrulling, krever en robust AI-sikkerhetsstilling en våken oppmerksomhet og aktiv forsvar over hele AI-livssyklusen. Dette nødvendiggjør en kontinuerlig overvåking av innhold, ved å utnytte AI-drevet overvåking for å oppdage sensitive eller skadelige utgang umiddelbart, samtidig som man overholder informasjonsfrigivelsespolitikker og brukertilganger. Under modellutvikling og i produksjonsmiljøet må organisasjonene aktivt skanne etter malware, sårbarheter og adversativ aktivitet samtidig. Disse er alle, naturligvis, komplementære til tradisjonelle sikkerhetsmessige tiltak.

For å fremme brukertillit og forbedre forståelsen av AI-beslutning, er det essensielt å nøye bruke Explainable AI (XAI)-verktøy for å forstå den underliggende rasjonalen for AI-utgang og prediksjoner.

Forbedret kontroll og sikkerhet muliggjøres også gjennom automatisert dataoppdagelse og smart dataklassifisering med dynamisk endrede klassifiseringsverktøy, som gir en kritisk og oppdatert oversikt over den stadig endrende datamiljøet. Disse initiativene stammer fra imperativet for å påtvinge sterke sikkerhetskontroller som finmasket rollebasert tilgangskontroll (RBAC)-metoder, sluttpunkt-til-sluttpunkt-krypteringsrammeverk for å beskytte informasjon under overføring og i ro, og effektive dataforkningsteknikker for å skjule sensitive data.

Grunnleggende sikkerhetsopplæring for alle forretningsbrukere som håndterer AI-systemer er også essensielt, ettersom det etablerer en kritisk menneskebasert brannmur for å oppdage og neutralisere mulige sosiale ingeniørangrep og andre AI-relaterte trusler.

Sikring av Agentic AI-framtiden

Grunnlaget for varig motstandskraft i møte med utviklende AI-sikkerhetstrusler ligger i den foreslåtte multi-dimensionale og kontinuerlige metoden for å nøye overvåke, aktivt skanne, klart forklare, intelligently klassifisere og strengt sikre AI-systemer. Dette er naturligvis i tillegg til å etablere en omfattende menneskeorientert sikkerhetskultur sammen med modne tradisjonelle sikkerhetskontroller. Ettersom autonome AI-agenter inkorporeres i organisatoriske prosesser, øker behovet for robuste sikkerhetskontroller. I dagens virkelighet skjer datalekkasjer i offentlige skytjenester og koster i gjennomsnitt $5,17 millioner, noe som tydelig understreker trusselen mot en organisasjonens økonomi så vel som omdømme.

I tillegg til revolusjonære innovasjoner, avhenger AI-framtiden av å utvikle motstandskraft med en basis i innbygd sikkerhet, åpne driftsrammeverk og stramme styringsprosedyrer. Å etablere tillit til slike intelligente agenter vil ultimate bestemme hvor omfattende og varig de vil bli omfavnet, og forme AI-transformativt potensial.