Leaders d’opinion

Comment la culture du risque lié à l’IA façonne les décisions organisationnelles

Chad LeMaire
Ajouter Unite.AI à vos sources préférées sur Google
Points clésUne culture efficace du risque IA exige que le RSSI et les chefs de département…
Voir plus
  • Une culture efficace du risque IA exige que le RSSI et les chefs de département partagent des preuves et parlent d'une seule voix unifiée.
  • La direction intermédiaire détermine si les directives en matière de risque sont intégrées ou contournées dans les opérations quotidiennes.
  • L'expansion de la culture du risque IA dépend de données propres et connectées pour éviter que les modèles ne produisent des résultats erronés.

La contribution et la capacité de l’IA à avoir un grand impact sont principalement restées au stade des discours au cours des dernières années, mais maintenant elle est présente dans chaque entreprise, que ce soit par l’utilisation de LLM, de flux de travail automatisés, ou d’agents entièrement autonomes. Cependant, se précipiter pour mettre en œuvre cette technologie sans les garde-fous de sécurité appropriés peut être préjudiciable à l’architecture d’une organisation, mettre les infrastructures IT en danger et finalement compromettre leur avantage concurrentiel. De plus, les programmes d’IA insuffisamment aboutis et le manque de données fondamentales peuvent causer plus de risques et de vulnérabilités que d’efficacités.

C’est pourquoi les entreprises doivent adopter et mettre en œuvre une culture de risque lié à l’IA mature qui donne la priorité aux protocoles et aux procédures plutôt qu’aux gains et à l’agilité. Cela améliorera non seulement la posture de sécurité globale de l’organisation, mais garantira également que les flux de travail d’IA soient efficaces et ancrés dans des données contextuelles. Une culture de risque lié à l’IA efficace n’est pas seulement définie par la technologie, mais par la synergie interne créée lorsque le CISO et les chefs de département voient les mêmes preuves et parlent d’une seule voix.

Créer une culture de risque lié à l’IA transparente et mesurable

Pour construire une culture de risque lié à l’IA réussie, les CISO et les dirigeants de la sécurité doivent équiper les équipes pour pratiquer un jugement rapide et éthique et s’éloigner d’une conformité aveugle lorsqu’il s’agit d’intégration d’IA. Cela commence par définir comment une culture de risque lié à l’IA peut être alignée sur les objectifs commerciaux. Cette définition permet aux dirigeants de mesurer si les employés adoptent des comportements conscients du risque, participent à des discussions ouvertes et contribuent à une culture de gestion proactive du risque.

Il existe trois approches de mesure principales qui peuvent déterminer où des ajustements doivent être apportés et à quel point le programme est efficace : les métriques de comportement et de réponse aux incidents, l’identification des risques et les métriques d’engagement et de sensibilisation. Les métriques de réponse aux incidents mesurent l’efficacité des programmes de sécurité et les métriques de comportement analysent le comportement des utilisateurs avant, pendant et après un incident d’IA. Les métriques d’identification des risques suivent les menaces potentielles d’IA avant qu’elles ne se matérialisent. Les métriques d’engagement et de sensibilisation suivent l’efficacité de la formation et du comportement des employés pour réduire les risques liés aux applications d’IA.

Ces métriques ne définissent pas seulement l’efficacité des mesures et des défenses de sécurité lorsqu’il s’agit de projets d’IA, mais révèlent également si les employés adoptent des comportements conscients du risque, se sentent en sécurité pour signaler les problèmes et donnent la priorité à une gestion proactive du risque. Elles aident à identifier où se trouve la friction, telle que la réticence à soulever des préoccupations ou des discussions de risque incohérentes. Cela ne peut être réalisé que si les métriques sont clairement communiquées, aidant les employés à comprendre comment ils contribuent à un changement culturel plus large au sein de l’organisation.

Les points où la culture du risque lié à l’IA échoue ou évolue

Le succès de ces mesures dépend finalement de la manière dont les dirigeants et les managers les traduisent en comportements durables. Déterminer si une culture efficace devient intégrée ou fragmentée au fil du temps est crucial au début du lancement de cette initiative, et cela commence avec la direction qui représente un engagement de haut en bas.

La gestion intermédiaire détermine souvent si les conseils de risque sont renforcés ou contournés. Par exemple, les gestionnaires de produits qui intègrent les exigences de sécurité dans les feuilles de route aident à ancrer la conscience du risque, tandis que ceux qui les reportent jusqu’après la sortie sapent la culture que la direction a l’intention de créer. Un manque d’engagement de la part de la direction, la fatigue liée au changement et l’instabilité, ainsi que des fondations de données insuffisantes, peuvent bloquer une culture de risque lié à l’IA avant même qu’elle ne soit mise en place.

Ce type de culture ne prospérera pas à moins qu’elle ne soit construite dans un environnement où les employés se sentent à l’aise pour signaler les incidents. Les dirigeants et les managers devraient donner la priorité à la création d’un espace pour un dialogue ouvert et un apprentissage continu. Les rôles doivent être clairement définis, une formation continue doit être fournie et les budgets doivent être alloués de manière efficace.

Deuxièmement, une organisation qui a un taux de turnover élevé des employés ou qui a subi une réorganisation récente peut être confrontée à une culture de sécurité qui n’est pas intégrée dans ses fondements. Cela peut conduire à des initiatives incohérentes et à des priorités floues pour les employés. Dans ces cas, une surveillance de sécurité solide au niveau du réseau, qui voit toute l’activité d’IA et les mouvements de données entrant dans l’organisation et en sortant, est un filet de sécurité essentiel pour maintenir les défenses sur la bonne voie contre l’hallucination et la manipulation d’IA. Avec une ligne de base comportementale au niveau du réseau, les équipes de sécurité et d’IT peuvent rapidement détecter lorsque les services d’IA sont mal utilisés ou que des services d’IA non autorisés fonctionnent dans leur environnement et prendre des mesures pour éliminer le risque.

Enfin, l’évolution d’une culture de risque lié à l’IA nécessite des données de haute qualité, propres et connectées qui garantissent la souveraineté, la cohérence et la conformité des données servant à entraîner les plateformes et les outils d’IA. Une mauvaise qualité de données peut éroder la capacité de l’IA à lire les données, qui à long terme dévierait les modèles et présenterait des sorties d’IA incorrectes, incohérentes et cassées.

La prise de décision à travers la culture du risque lié à l’IA

À mesure que l’alignement des dirigeants, la stabilité et la maturité des données prennent pied, les organisations peuvent passer de réponses fragmentées à des décisions unifiées et éclairées par les risques. Avec les conditions d’évolution établies, la culture de risque lié à l’IA devient la lentille à travers laquelle les dirigeants interprètent les événements, évaluent les compromis et agissent de manière décisive.

Une solide culture de risque lié à l’IA est soutenue par une forte visibilité, avec un accès partagé aux mêmes informations pour les équipes de sécurité, les équipes d’IT et tous les autres départements de l’organisation. Lorsque toutes les équipes peuvent voir les mêmes informations en temps réel, y compris les chronologies d’événements, les données d’entrée et de sortie, et le comportement lié à des utilisateurs spécifiques, il y a plus de preuves concrètes de l’utilisation et des risques d’IA. Par exemple, si un agent d’IA non autorisé est découvert au sein d’une organisation, toutes les équipes doivent être en mesure de voir comment il a franchi les contrôles de sécurité de périmètre, quels utilisateurs ont interagi avec lui et à quels appareils et systèmes il a accédé. Cela permet des processus transversaux tels que des protocoles de réponse aux incidents conjoints et des examens de risque trimestriels entre les équipes, qui sont des signes clés d’une culture de risque lié à l’IA réussie au-delà de l’organisation de sécurité.

Conclusion

Les cultures de risque lié à l’IA commencent par une définition et une mesure claires, mais réussissent seulement lorsque la confiance, la transparence et la responsabilité sont intégrées dans toute l’organisation. L’engagement des dirigeants, la stabilité opérationnelle, et de solides fondations de données déterminent si la conscience du risque évolue en des comportements cohérents et éclairés par les risques ou se brise sous la pression.

Lorsque le risque lié à l’IA est visible, partagé et traduit en priorités spécifiques à chaque équipe, il devient un facteur de meilleure prise de décision, de résilience et d’avantage concurrentiel à long terme.

Chad est le directeur de la sécurité de l'information chez ExtraHop. Chad est responsable de tous les aspects des risques de cybersécurité pour ExtraHop, ainsi que de la sécurité des installations, du personnel et de la sécurité physique. Chad a précédemment servi en tant qu'officier des opérations cybernétiques dans l'armée de l'air américaine pendant 31 ans, occupant cinq postes de niveau senior en cybersécurité, en développant et en mettant en œuvre des feuilles de route, des stratégies et des capacités de cybersécurité, ainsi qu'en conseillant la direction exécutive sur les questions critiques de cybersécurité. En outre, il était un opérateur cyber qualifié et a commandé des équipes de chasse aux menaces et de réponse aux incidents de cybersécurité pour un réseau d'entreprise mondial. Immédiatement avant ExtraHop, Chad était le directeur de la sécurité pour Echelon Risk + Cyber, où il a dirigé la stratégie et l'intégration des lignes de service de sécurité offensive et défensive. Il a également servi en tant que CISO et a été un vCISO pour plusieurs clients.