L’IA et la prévention du crime financier : pourquoi les banques ont besoin d’une approche équilibrée

L’IA est une arnaque pour les banques : tandis qu’elle ouvre de nombreuses possibilités pour des opérations plus efficaces, elle peut également présenter des risques externes et internes.

Les criminels financiers utilisent la technologie pour produire des vidéos deepfake, des voix et des documents faux qui peuvent tromper la détection informatique et humaine, ou pour amplifier les activités de fraude par e-mail. Aux États-Unis seulement, l’IA générative devrait accélérer les pertes dues à la fraude à un taux de croissance annuel de 32 %, pour atteindre 40 milliards de dollars d’ici 2027, selon un rapport de Deloitte.

Peut-être, alors, la réponse des banques devrait-elle consister à se doter de meilleurs outils, en exploitant l’IA dans la prévention du crime financier. Les institutions financières commencent en effet à déployer l’IA dans les efforts de lutte contre le crime financier (AFC) – pour surveiller les transactions, générer des rapports d’activité suspecte, automatiser la détection de la fraude et plus encore. Cela a le potentiel d’accélérer les processus tout en augmentant la précision.

Le problème se pose lorsque les banques ne parviennent pas à équilibrer la mise en œuvre de l’IA avec le jugement humain. Sans un humain dans la boucle, l’adoption de l’IA peut affecter la conformité, les préjugés et l’adaptabilité aux nouvelles menaces.

Nous croyons en une approche hybride prudente de l’adoption de l’IA dans le secteur financier, qui continuera à nécessiter une contribution humaine.

La différence entre les systèmes AFC basés sur des règles et les systèmes AFC basés sur l’IA

Traditionnellement, les systèmes AFC – et en particulier les systèmes de lutte contre le blanchiment d’argent (AML) – ont fonctionné avec des règles fixes définies par les équipes de conformité en réponse aux réglementations. Dans le cas de la surveillance des transactions, par exemple, ces règles sont mises en œuvre pour signaler les transactions en fonction de critères prédéfinis spécifiques, tels que les seuils de montant de transaction ou les facteurs de risque géographique.

L’IA présente une nouvelle façon de dépister les risques de crime financier. Les modèles d’apprentissage automatique peuvent être utilisés pour détecter des modèles suspects sur la base d’une série de jeux de données en constante évolution. Le système analyse les transactions, les données historiques, le comportement des clients et les données contextuelles pour surveiller tout ce qui est suspect, tout en apprenant au fil du temps, offrant une surveillance du crime plus adaptative et potentiellement plus efficace.

Cependant, tandis que les systèmes basés sur des règles sont prévisibles et facilement auditable, les systèmes basés sur l’IA introduisent un élément complexe de « boîte noire » en raison de processus de prise de décision opaques. Il est plus difficile de retracer la raison pour laquelle un système basé sur l’IA a signalé un certain comportement comme suspect, étant donné que de nombreux éléments sont impliqués. Cela peut amener l’IA à atteindre une certaine conclusion sur la base de critères obsolètes, ou à fournir des informations incorrectes, sans que cela soit immédiatement détectable. Cela peut également causer des problèmes pour la conformité réglementaire d’une institution financière.

Les défis réglementaires possibles

Les institutions financières doivent se conformer à des normes réglementaires strictes, telles que la directive AMLD de l’UE et la loi sur la confidentialité bancaire des États-Unis, qui exigent une prise de décision claire et traçable. Les systèmes basés sur l’IA, en particulier les modèles d’apprentissage profond, peuvent être difficiles à interpréter.

Pour assurer la responsabilité tout en adoptant l’IA, les banques ont besoin d’une planification soigneuse, de tests approfondis, de cadres de conformité spécialisés et d’une surveillance humaine. Les humains peuvent valider les décisions automatisées en interprétant, par exemple, la raison pour laquelle une transaction a été signalée, la rendant explicable et défendable aux yeux des régulateurs.

Les institutions financières sont également sous une pression croissante pour utiliser des outils d’IA explicables (XAI) pour rendre les décisions basées sur l’IA compréhensibles pour les régulateurs et les auditeurs. L’IA explicables est un processus qui permet aux humains de comprendre la sortie d’un système basé sur l’IA et sa prise de décision sous-jacente.

Le jugement humain est nécessaire pour une vision holistique

L’adoption de l’IA ne doit pas donner lieu à une complaisance avec les systèmes automatisés. Les analystes humains apportent un contexte et un jugement que l’IA ne possède pas, permettant une prise de décision nuancée dans des cas complexes ou ambigus, ce qui reste essentiel dans les enquêtes sur le crime financier.

Parmi les risques de dépendance à l’IA, il y a la possibilité d’erreurs (par exemple, faux positifs, faux négatifs) et de préjugés. L’IA peut être sujette à des faux positifs si les modèles ne sont pas bien réglés ou si ils sont formés sur des données biaisées. Alors que les humains sont également sensibles aux préjugés, le risque supplémentaire de l’IA est qu’il peut être difficile d’identifier les préjugés au sein du système.

En outre, les modèles d’IA fonctionnent avec les données qui leur sont fournies – ils peuvent ne pas détecter des modèles suspects nouveaux ou rares en dehors des tendances historiques, ou basés sur des connaissances du monde réel. Un remplacement complet des systèmes basés sur des règles par l’IA pourrait laisser des angles morts dans la surveillance du crime financier.

Dans les cas de préjugés, d’ambiguïté ou de nouveauté, la lutte contre le crime financier nécessite un œil critique que l’IA ne peut pas fournir. Dans le même temps, si nous devions supprimer les humains du processus, cela pourrait gravement entraver la capacité de vos équipes à comprendre les modèles de crime financier, à repérer les modèles et à identifier les tendances émergentes. Cela pourrait rendre plus difficile la mise à jour des systèmes automatisés.

Une approche hybride : combiner les systèmes AFC basés sur des règles et les systèmes AFC basés sur l’IA

Les institutions financières peuvent combiner une approche basée sur des règles avec des outils basés sur l’IA pour créer un système à plusieurs couches qui exploite les forces de ces deux approches. Un système hybride rendra la mise en œuvre de l’IA plus précise à long terme et plus flexible pour répondre aux menaces de crime financier émergentes, sans sacrifier la transparence.

Pour ce faire, les institutions peuvent intégrer des modèles d’IA avec une rétroaction humaine continue. L’apprentissage adaptatif des modèles serait donc basé non seulement sur les modèles de données, mais également sur la rétroaction humaine qui les affine et les rééquilibre.

Tous les systèmes basés sur l’IA ne sont pas égaux. Les modèles d’IA devraient subir des tests continus pour évaluer leur précision, leur équité et leur conformité, avec des mises à jour régulières basées sur les changements réglementaires et les nouvelles menaces identifiées par vos équipes de lutte contre le crime financier.

Les experts en risques et en conformité doivent être formés à l’IA, ou un expert en IA doit être embauché dans l’équipe, pour garantir que le développement et le déploiement de l’IA soient exécutés dans certaines limites. Ils doivent également élaborer des cadres de conformité spécifiques à l’IA, établissant un chemin pour la conformité réglementaire dans un secteur émergent pour les experts en conformité.

Dans le cadre de l’adoption de l’IA, il est important que tous les éléments de l’organisation soient informés des capacités des nouveaux modèles d’IA avec lesquels ils travaillent, mais également de leurs limites (comme les préjugés potentiels), afin de les rendre plus sensibles aux erreurs potentielles.

Votre organisation doit également prendre d’autres considérations stratégiques pour préserver la sécurité et la qualité des données. Il est essentiel d’investir dans une infrastructure de données de haute qualité et sécurisée et de veiller à ce qu’elles soient formées sur des jeux de données précis et diversifiés.

L’IA est et continuera d’être à la fois une menace et un outil de défense pour les banques. Mais ils ont besoin de gérer cette nouvelle technologie puissante correctement pour éviter de créer des problèmes plutôt que de les résoudre.