Sikring af resilient sikkerhed for autonom AI i sundhedssektoren

Krigen mod dataudtræninger udgør en stigende udfordring for sundhedsorganisationer verden over. Ifølge nuværende statistik ligger den gennemsnitlige omkostning ved en dataudtræning nu på 4,45 millioner dollars på verdensplan, et beløb, der mere end fordobles til 9,48 millioner dollars for sundhedsydelere, der betjener patienter i USA. Til dette allerede betænkelige problem kommer det moderne fænomen med inter- og intraorganisatorisk dataproliferation. En bekymrende 40% af offentliggjorte dataudtræninger involverer information, der er spredt over multiple miljøer, hvilket betydeligt udvider angrebsfladen og tilbyder mange indgangsveje for angribere.

Den voksende autonomi af generativ AI bringer en æra med radikale ændringer. Dermed kommer der en presserende strøm af yderligere sikkerhedsrisici, da disse avancerede intelligente agenter bevæger sig fra teori til installation i flere domæner, såsom sundhedssektoren. At forstå og afværge disse nye trusler er afgørende for at opskalere AI ansvarligt og forbedre en organisations modstandskraft mod cyberangreb af enhver art, enten det skyldes ondsindet software, dataudtræninger eller velkoordinerede forsyningskædeangreb.

Resilience på design- og implementeringsstadiet

Organisationer må adoptere en omfattende og evolutionær proaktiv forsvarsstrategi for at tackle de stigende sikkerhedsrisici forårsaget af AI, især i sundhedssektoren, hvor indsatsen omfatter både patienternes velbefindende og overholdelse af reguleringsmæssige foranstaltninger.

Dette kræver en systematisk og omfattende tilgang, der starter med AI-systemudvikling og -design og fortsætter med storstilede installationer af disse systemer.

• Det første og mest kritiske skridt, som organisationer må påtage sig, er at kortlægge og truslemodelere deres hele AI-pipeline, fra dataindtagelse til modeltræning, validering, installation og slutning. Dette skridt faciliterer en præcis identificering af alle potentielle eksponerings- og sårbarhedssteder med risikogranularitet baseret på påvirkning og sandsynlighed.
• For det andet er det vigtigt at oprette sikre arkitekturer for installationen af systemer og applikationer, der udnytter store sprogmodeller (LLM’er), herunder de med Agentic AI-funktioner. Dette indebærer en omhyggelig overvejelse af forskellige foranstaltninger, såsom container sikkerhed, sikker API-design og en sikker håndtering af følsomme træningsdata.
• For det tredje må organisationer forstå og implementere anbefalingerne fra forskellige standarder/rammer. For eksempel kan de overholde retningslinjerne, der er fastlagt af NIST’s AI-risikostyringsramme for en omfattende identificering og afværge af risici. De kan også overveje OWASP’s råd om de unikke sårbarheder, der introduceres af LLM-applikationer, såsom promptinjektion og usikker udgangshåndtering.
• Desuden må klassiske trusselsmodelteknikker også udvikles for at kunne håndtere de unikke og komplekse angreb, der genereres af Gen AI, herunder snigende dataproduktionsangreb, der true modellens integritet, og muligheden for at generere følsom, fordomsfuld eller upassende indhold i AI-udgang.
• Til sidst må organisationer, selv efter installationen, forblive vagtsomme ved at praktisere regelmæssige og strenge red team-manøvrer og specialiserede AI-sikkerhedsaudits, der specifikt målretter kilder såsom bias, robusthed og klarhed for at kunne opdage og afværge sårbarheder i AI-systemer.

Det er værd at bemærke, at grundlaget for at oprette stærke AI-systemer i sundhedssektoren er at beskytte hele AI-livscyklussen, fra skabelse til installation, med en klar forståelse af nye trusler og en overholdelse af etablerede sikkerhedsprincipper.

Foranstaltninger under den operationelle livscyklus

Ud over den initiale sikre design og installation kræver en robust AI-sikkerhedsposition en vagtsom opmærksomhed og aktiv forsvar på tværs af AI-livscyklussen. Dette nødvendiggør en kontinuerlig overvågning af indhold ved at udnytte AI-drevet overvågning for at kunne opdage følsom eller ondsindet udgang med det samme, samtidig med at man overholder informationsfrigivelsespolitikker og brugerrettigheder. Under modeludvikling og i produktionsmiljøet må organisationer aktivt scanne for malware, sårbarheder og fjendtlig aktivitet på samme tid. Disse er alle, naturligvis, komplementære til traditionelle cybersikkerhedsforanstaltninger.

For at fremme brugertillid og forbedre forståelsen af AI-beslutningstagning er det afgørende at bruge Explainable AI (XAI)-værktøjer for at forstå den underliggende begrundelse for AI-udgang og forudsigelser.

Forbedret kontrol og sikkerhed sikres også gennem automatiseret dataopdagelse og intelligent dataklassificering med dynamisk ændrede klassificatorer, der giver en kritisk og opdateret oversigt over det konstant ændrende data miljø. Disse initiativer stammer fra behovet for at gennemføre stærke sikkerheds kontroller som f.eks. fine-grained rollebaseret adgangskontrol (RBAC)-metoder, end-to-end krypteringsrammer for at beskytte information under overførsel og i hvile, og effektive data maskerings teknikker for at skjule følsomme data.

En grundig sikkerhedsbevidsthedstræning for alle forretningsbrugere, der arbejder med AI-systemer, er også afgørende, da den etablerer en kritisk menneskeorienteret sikkerhedsbarriere for at kunne opdage og neutralisere mulige sociale ingeniørangreb og andre AI-relaterede trusler.

Sikring af Agentic AI’s fremtid

Grundlaget for en vedvarende modstandskraft over for udviklende AI-sikkerhedstrusler ligger i den foreslåede multi-dimensionale og kontinuerlige metode til at overvåge, aktivt scanne, klart forklare, intelligent klassificere og strengt sikre AI-systemer. Dette er naturligvis tillæg til at etablere en omfattende menneskeorienteret sikkerheds kultur samt modne traditionelle cybersikkerheds kontroller. Da autonome AI-agenter integreres i organisationsprocesser, øges behovet for robuste sikkerheds kontroller. I dagens virkelighed sker dataudtræninger i offentlige skytjenester og koster i gennemsnit $5,17 millioner, hvilket tydeligt understreger truslen mod en organisations økonomi såvel som rygte.

Ud over revolutionerende innovationer afhænger AI’s fremtid af udvikling af modstandskraft med en grundlag af indbygget sikkerhed, åbne driftsrammer og stramme styreprocedurer. At etablere tillid til sådanne intelligente agenter vil ultimativt afgøre, hvor omfattende og varigt de vil blive accepteret, og forme AI’s transformative potentiale.