Zorg ervoor dat Autonome AI in de Zorg Resiliente Beveiliging Heeft

De woedende strijd tegen gegevenslekken vormt een steeds grotere uitdaging voor zorgorganisaties over de hele wereld. Volgens de huidige statistieken bedraagt de gemiddelde kosten van een gegevenslek nu $4,45 miljoen wereldwijd, een bedrag dat meer dan verdubbelt tot $9,48 miljoen voor zorgverleners die patiënten in de Verenigde Staten bedienen. Deze reeds ontmoedigende kwestie wordt verergerd door het moderne fenomeen van inter- en intra-organisatorische gegevensvermeerdering. Een verontrustend 40% van de gemelde lekken betreft informatie die over meerdere omgevingen is verspreid, waardoor het aanvalsoppervlak aanzienlijk wordt uitgebreid en veel toegangsmogelijkheden voor aanvallers worden geboden.

De groeiende autonomie van generatieve AI brengt een tijdperk van radicale verandering met zich mee. Daarmee komen ook nieuwe beveiligingsrisico’s, aangezien deze geavanceerde intelligente agenten uit theorie naar implementaties in verschillende domeinen overgaan, zoals de gezondheidszorg. Het begrijpen en mitigeren van deze nieuwe bedreigingen is cruciaal om AI op verantwoorde wijze op te schalen en de veerkracht van een organisatie tegen cyberaanvallen van welke aard dan ook te vergroten, of het nu gaat om kwaadaardige softwarebedreigingen, gegevenslekken of zelfs goed geplande toeleveringsketenaanvallen.

Veerkracht bij het ontwerp en de implementatie

Organisaties moeten een alomvattende en evolutionaire proactieve verdedigingsstrategie aannemen om de toenemende beveiligingsrisico’s door AI, met name in de gezondheidszorg, aan te pakken, waarbij het gaat om zowel het welzijn van patiënten als de naleving van regelgevende maatregelen.

Dit vereist een systematische en uitgebreide aanpak, die begint met de ontwikkeling en het ontwerp van AI-systemen en voortduurt tot de grootschalige implementatie van deze systemen.

• Het eerste en meest kritieke stap dat organisaties moeten ondernemen, is het in kaart brengen en bedreigingsmodellering van hun hele AI-pijplijn, van gegevensinname tot modeltraining, validatie, implementatie en inferentie. Deze stap maakt een precieze identificatie van alle potentiële kwetsbaarheden en risico’s mogelijk met een risicogranulariteit op basis van impact en waarschijnlijkheid.
• Ten tweede is het belangrijk om beveiligde architectuur te creëren voor de implementatie van systemen en toepassingen die gebruikmaken van grote taalmodellen (LLM’s), waaronder die met Agentic AI-mogelijkheden. Dit omvat een zorgvuldige overweging van verschillende maatregelen, zoals containerbeveiliging, beveiligde API-ontwerp en het veilig omgaan met gevoelige trainingsgegevens.
• Ten derde moeten organisaties de aanbevelingen van verschillende standaarden/kaders begrijpen en implementeren. Bijvoorbeeld, houdt u zich aan de richtlijnen van NIST’s AI-risicobeheerkader voor een alomvattende risicoidentificatie en -mitigatie. Zij kunnen ook OWASP’s advies over de unieke kwetsbaarheden die door LLM-toepassingen worden geïntroduceerd, zoals prompt-injectie en onveilige uitvoerbehandeling, in overweging nemen.
• Daarnaast moeten klassieke bedreigingsmodelleringstechnieken ook evolueren om de unieke en ingewikkelde aanvallen gegenereerd door Gen AI effectief te beheren, waaronder insidieuze datapoisoningaanvallen die de integriteit van modellen bedreigen en het potentieel voor het genereren van gevoelige, bevooroordeelde of ongepast geproduceerde inhoud in AI-uitvoer.
• Ten slotte moeten organisaties, zelfs na de implementatie, waakzaam blijven door regelmatig en streng rode teammanoeuvres en gespecialiseerde AI-beveiligingsaudits uit te voeren die specifiek zijn gericht op bronnen zoals vooroordelen, robuustheid en duidelijkheid om voortdurend kwetsbaarheden in AI-systemen te detecteren en te mitigeren.

Het is opvallend dat de basis voor het creëren van sterke AI-systemen in de gezondheidszorg erin bestaat om fundamenteel de hele AI-levenscyclus te beschermen, van creatie tot implementatie, met een duidelijk begrip van nieuwe bedreigingen en een naleving van gevestigde beveiligingsprincipes.

Maatregelen tijdens de operationele levenscyclus

Naast het initiële beveiligde ontwerp en de implementatie, vereist een robuuste AI-beveiligingshouding een waakzame aandacht voor details en actieve verdediging gedurende de hele AI-levenscyclus. Dit vereist een continue monitoring van inhoud door middel van AI-gedreven surveillance om gevoelige of kwaadaardige uitvoer onmiddellijk te detecteren, terwijl tegelijkertijd de informatie-uitgiftebeleid en gebruikersmachtigingen worden nageleefd. Tijdens modelontwikkeling en in de productieomgeving moeten organisaties actief op malware, kwetsbaarheden en vijandige activiteiten scannen. Dit alles is uiteraard complementair aan traditionele cybersecuritymaatregelen.

Om gebruikersvertrouwen te stimuleren en de interpretatie van AI-besluitvorming te verbeteren, is het essentieel om Explainable AI (XAI)-hulpmiddelen zorgvuldig te gebruiken om de onderliggende redenering voor AI-uitvoer en voorspellingen te begrijpen.

Verbeterde controle en beveiliging worden ook gefaciliteerd door geautomatiseerde gegevensontdekking en slimme gegevensclassificatie met dynamisch veranderende classificatoren, die een kritisch en up-to-date overzicht van de steeds veranderende gegevensomgeving bieden. Deze initiatieven zijn afgeleid van de noodzaak om sterke beveiligingscontroles te handhaven, zoals fijngranige rolgebaseerde toegangscontrole (RBAC)-methoden, eind-tot-eindversleutelingskaders om informatie in transit en in rust te beschermen, en effectieve gegevensmaskeringstechnieken om gevoelige gegevens te verbergen.

Grondige beveiligingsbewustzijnstraining door alle zakelijke gebruikers die met AI-systemen werken, is eveneens essentieel, aangezien dit een kritieke menselijke brandmuur vormt om mogelijke sociale manipulatieaanvallen en andere AI-gerelateerde bedreigingen te detecteren en te neutraliseren.

De toekomst van Agentic AI beveiligen

De basis voor duurzame veerkracht in het licht van evoluerende AI-beveiligingsbedreigingen ligt in de voorgestelde multidimensionale en continue methode van nauwlettend monitoren, actief scannen, duidelijk verklaren, intelligent classificeren en streng beveiligen van AI-systemen. Dit is uiteraard in aanvulling op het creëren van een brede, mensgerichte beveiligingscultuur en volwassen traditionele cybersecuritycontroles. Naarmate autonome AI-agenten worden geïntegreerd in organisatorische processen, neemt de noodzaak voor robuuste beveiligingscontroles toe. De huidige realiteit is dat gegevenslekken in openbare clouds plaatsvinden en gemiddeld $5,17 miljoen kosten, wat duidelijk de bedreiging voor de financiën en reputatie van een organisatie onderstreept.

Naast revolutionaire innovaties hangt de toekomst van AI af van het ontwikkelen van veerkracht met een basis van ingebedde beveiliging, open operationele kaders en strakke governanceprocedures. Het vestigen van vertrouwen in dergelijke intelligente agenten zal uiteindelijk bepalen hoe uitgebreid en duurzaam zij zullen worden omarmd, waardoor de loop van de transformatiepotentie van AI wordt bepaald.