Thought leaders

Hoe AI-risicocultuur organisatorische beslissingen vormt

Chad LeMaire
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Belangrijkste puntenEen effectieve AI-risicocultuur vereist dat de CISO en afdelingshoofden bewijs delen en…
Meer weergeven
  • Een effectieve AI-risicocultuur vereist dat de CISO en afdelingshoofden bewijs delen en met één stem spreken.
  • Het middenkader bepaalt of risicorichtlijnen worden ingebed of omzeild in de dagelijkse operaties.
  • Het schalen van een AI-risicocultuur is afhankelijk van schone, verbonden data om te voorkomen dat modellen gebrekkige output produceren.

De bijdrage van AI en het vermogen ervan om veel impact te hebben, zijn de afgelopen jaren vooral bij woorden gebleven, maar nu is het aangekomen in elk bedrijf, of het nu gaat om het gebruik van LLM’s, geautomatiseerde workflows, of volledig autonome agenten. Echter, als men haastig deze technologie implementeert zonder adequate beveiligingsmaatregelen, kan dit nadelig zijn voor de architectuur van een organisatie, de IT-infrastructuur in gevaar brengen en uiteindelijk de concurrentiepositie in gevaar brengen. Bovendien kunnen halfbakken AI-programma’s en een gebrek aan fundamentele data meer risico’s en kwetsbaarheden veroorzaken dan efficiëntie.

Dit is waarom bedrijven een volwassen AI-risicocultuur moeten aannemen en implementeren die protocollen en procedures prioriteert boven winst en flexibiliteit. Dit zal niet alleen de algehele beveiligingspositie van een organisatie verbeteren, maar ook ervoor zorgen dat AI-workflows efficiënt zijn en gebaseerd op contextuele data. Een effectieve AI-risicocultuur wordt niet alleen bepaald door technologie, maar door de interne synergie die ontstaat wanneer de CISO en afdelingshoofden dezelfde bewijzen zien en met één stem spreken.

Het creëren van een transparante, meetbare AI-risicocultuur

Om een succesvolle AI-risicocultuur op te bouwen, moeten CISO’s en beveiligingsleiders teams uitrusten om snel en ethisch te oordelen en af te stappen van blindelings naleven van regels bij het integreren van AI. Dit begint met het definiëren van hoe een AI-risicocultuur kan worden afgestemd op bedrijfsdoelen. Deze definitie stelt leiders in staat om te meten of medewerkers risicobewuste gedragingen aannemen, deelnemen aan open discussies en bijdragen aan een cultuur van proactief risicobeheer.

Er zijn drie primaire meetmethoden die kunnen bepalen waar aanpassingen nodig zijn en hoe effectief het programma is: gedrags- en incidentresponsmetrieken, risicoidentificatie en betrokkenheid- en bewustzijnsmetrieken. Incidentresponsmetrieken meten de effectiviteit van beveiligingsprogramma’s en gedragsmetrieken analyseren gebruikersgedrag voor, tijdens en na een AI-incident. Risicoidentificatiemetrieken volgen potentiële AI-bedreigingen voordat ze zich materialiseren. Betrokkenheid- en bewustzijnsmetrieken meten de effectiviteit van training en medewerkersgedrag bij het verminderen van risico’s met AI-toepassingen.

Deze metrieken laten niet alleen de effectiviteit van beveiligingsmaatregelen en -verdedigingen zien bij AI-projecten, maar ook of medewerkers risicobewuste gedragingen aannemen, zich veilig voelen om problemen te melden en actief prioriteit geven aan proactief risicobeheer. Ze helpen om te bepalen waar wrijving bestaat, zoals aarzeling om zorgen te uiten of inconsistentie in risicodiscussies. Dit kan alleen worden bereikt als de metrieken duidelijk worden gecommuniceerd, waardoor medewerkers begrijpen hoe ze bijdragen aan een grotere culturele verschuiving binnen de organisatie.

Waar AI-risicocultuur faalt of schaalt

Het succes van deze metingen hangt uiteindelijk af van hoe leiders en managers deze vertalen in duurzame gedragingen. Bij de start van dit initiatief is het cruciaal om te bepalen of een effectieve cultuur na verloop van tijd verankerd raakt of versnipperd wordt, en dit begint met leiderschap dat een top-down commitment vertegenwoordigt.

Middenmanagement bepaalt vaak of richtlijnen voor risico’s wordt versterkt of omzeild. Bijvoorbeeld, productmanagers die beveiligingsvereisten in hun roadmaps opnemen, helpen risicobewustzijn in te bedden, terwijl zij die dit uitstellen tot na de release de cultuur ondermijnen die het leiderschap wilde creëren. Een gebrek aan toewijding van bovenaf, verandermoeheid en instabiliteit, en onvoldoende datafundamenten kunnen een AI-risicocultuur tegenhouden voordat deze überhaupt van de grond komt.

Dit soort cultuur zal niet floreren tenzij het wordt opgebouwd in een omgeving waar medewerkers zich comfortabel voelen om incidenten te melden. Leiders en managers moeten prioriteit geven aan het creëren van een ruimte voor open dialoog en voortdurend leren. Rollen moeten duidelijk worden gedefinieerd, voortdurende training moet worden geboden en budgetten moeten effectief worden toegewezen.

Ten tweede, een organisatie met een hoog personeelsverloop of die onlangs is herstructuriseerd, kan te maken krijgen met een beveiligingscultuur die niet in de basis is ingebouwd. Dit kan leiden tot inconsistentie in initiatieven en onduidelijke prioriteiten voor medewerkers. In deze gevallen is sterke beveiligingsmonitoring op netwerkniveau, dat alle AI-activiteit en dataverplaatsing in en uit de organisatie ziet, een essentiële back-up om verdedigingen op koers te houden tegen AI-hallucinaties en manipulatie. Met een gedragsbaseline op netwerkniveau kunnen beveiligings- en IT-teams snel detecteren wanneer AI-diensten worden misbruikt of ongeautoriseerde AI-diensten binnen hun omgeving opereren, en actie ondernemen om het risico te elimineren.

Ten slotte, het schalen van een AI-risicocultuur vereist schone, verbonden data van hoge kwaliteit die data-soevereiniteit, consistentie en naleving garanderen voor AI-platforms en -tools om op te worden getraind. Slechte datakwaliteit kan AI-leesbaarheid ondermijnen, waardoor modellen over tijd verder van de koers af raken en onjuiste, inconsistente en defecte AI-uitvoer presenteren.

Besluitvorming door middel van AI-risicocultuur

Naarmate leiderschapsuitlijning, stabiliteit en datamaturiteit zich ontwikkelen, kunnen organisaties overstappen van gefragmenteerde reacties naar geünificeerde, risicogeïnformeerde besluitvorming. Met de voorwaarden voor schaal ingesteld, wordt AI-risicocultuur de lens waardoor leiders gebeurtenissen interpreteren, afwegingen maken en beslissingen nemen.

Een sterke AI-risicocultuur wordt ondersteund door sterke zichtbaarheid, met gedeelde toegang tot dezelfde informatie voor beveiligingsteams, IT-teams en alle andere afdelingen van de organisatie. Wanneer alle teams dezelfde inzichten in real-time kunnen zien, inclusief tijdlijnen van gebeurtenissen, data-ingress en -egress, en gedrag gekoppeld aan specifieke gebruikers, is er meer concreet bewijs van AI-gebruik en -risico. Bijvoorbeeld, als een ongeautoriseerde AI-agent binnen een organisatie wordt gevonden, moeten alle teams kunnen zien hoe deze de perimeterbeveiligingscontroles is gepasseerd, welke gebruikers er mee hebben geïnteracteerd en tot welke apparaten en systemen de agent toegang heeft gehad. Dit maakt cross-functionele processen mogelijk, zoals gezamenlijke incidentresponsprotocollen en kwartaalrisicobeoordelingen tussen teams, belangrijke signalen van een succesvolle AI-risicocultuur buiten de beveiligingsorganisatie.

De conclusie

AI-risicoculturen beginnen met duidelijke definitie en meting, maar slagen alleen als vertrouwen, transparantie en verantwoordelijkheid zijn ingebed in de hele organisatie. Leiderschapscommitment, operationele stabiliteit, en sterke datafundamenten bepalen of risicobewustzijn zich ontwikkelt tot consistente, risicogeïnformeerde gedragingen of onder druk bezwijkt.

Wanneer AI-risico zichtbaar, gedeeld en vertaald is in team-specifieke prioriteiten, wordt het een driver van betere besluitvorming, veerkracht en langetermijnconcurrentievoordeel.

Chad is de Chief Information Security Officer bij ExtraHop. Chad is verantwoordelijk voor alle aspecten van cybersecurity-risico's voor ExtraHop, evenals voor de beveiliging van faciliteiten, personeel en fysieke beveiliging. Chad was eerder een Cyber Operations-officier in de Amerikaanse luchtmacht voor 31 jaar, waar hij vijf senior cybersecurity-rollen bekleedde en cybersecurity-roadmaps, -strategieën en -mogelijkheden ontwikkelde en implementeerde, en het uitvoerend leiderschap adviseerde over kritieke cybersecurity-kwesties. Bovendien was hij een gekwalificeerde cyberoperator en leidde hij bedreigingsjacht- en cyberincidentrespons-teams voor een wereldwijd enterprise-netwerk. Direct voorafgaand aan ExtraHop was Chad de Chief Security Officer voor Echelon Risk + Cyber, waar hij de strategie en integratie van offensieve en defensieve beveiligingsdiensten leidde. Hij diende ook als CISO en was een vCISO voor verschillende klanten.