Le AI générative est-elle une bénédiction ou une malédiction ? Lutter contre les menaces de l’IA dans la sécurité des examens

Alors que les changements technologiques et économiques de l’ère numérique bouleversent considérablement les exigences de la main-d’œuvre mondiale, les compétences et la formation continue n’ont jamais été plus critiques. En conséquence, le besoin d’une certification fiable des nouvelles compétences augmente également.

Étant donné l’importance croissante des tests de certification et de licence dans le monde entier, une vague de services conçus pour aider les candidats à tricher lors des procédures de test a naturellement émergé. Ces méthodes frauduleuses ne menacent pas seulement l’intégrité du marché des compétences, mais peuvent également présenter des risques pour la sécurité humaine ; certains tests de licence sont liés à des compétences pratiques importantes comme la conduite ou l’exploitation de machines lourdes.

Après que les entreprises aient commencé à détecter les méthodes de tricherie conventionnelles, ou analogiques, en utilisant de véritables proxies humains, elles ont introduit des mesures pour les prévenir – pour les examens en ligne, les candidats ont commencé à être invités à garder leurs caméras allumées pendant qu’ils passaient le test. Mais maintenant, la technologie de deepfake (c’est-à-dire de l’audio et de la vidéo hyperréalistes qui sont souvent indiscernables de la vie réelle) pose une nouvelle menace pour la sécurité des tests. Les outils disponibles en ligne utilisent le GenAI pour aider les candidats à se faire passer pour quelqu’un d’autre qui passe le test à leur place.

En manipulant la vidéo, ces outils peuvent tromper les entreprises en leur faisant croire que un candidat passe l’examen alors que, en réalité, quelqu’un d’autre se trouve derrière l’écran (c’est-à-dire le test par procuration). Les services populaires permettent aux utilisateurs d’échanger leur visage contre celui de quelqu’un d’autre à partir d’une webcam. La disponibilité de ces outils sape l’intégrité de la certification, même lorsque les caméras sont utilisées.

D’autres formes de GenAI, ainsi que les deepfakes, posent une menace pour la sécurité des tests. Les Large Language Models (LLM) sont au cœur d’une course technologique mondiale, avec des géants de la technologie comme Apple (AAPL ), Microsoft (MSFT ), Google et Amazon (AMZN ), ainsi que des rivaux chinois comme DeepSeek, qui font de gros investissements dans ce domaine.

Beaucoup de ces modèles ont fait les gros titres pour leur capacité à passer des examens prestigieux et à haut risque. Comme pour les deepfakes, les acteurs malveillants ont utilisé les LLM pour exploiter les faiblesses des normes de sécurité des tests traditionnelles.

Certaines entreprises ont commencé à proposer des extensions de navigateur qui lancent des assistants IA, qui sont difficiles à détecter, leur permettant d’accéder aux réponses aux questions des tests à haut risque. Les utilisations moins sophistiquées de la technologie posent toujours des menaces, y compris les candidats qui utilisent des applications IA sur leur téléphone pendant les examens sans être détectés.

Cependant, de nouvelles procédures de sécurité des tests peuvent offrir des moyens de garantir l’intégrité des examens contre ces méthodes.

Comment atténuer les risques tout en tirant parti des avantages de l’IA générative

Malgré les nombreuses et évolutives applications de la GenAI pour tricher aux tests, il existe une course parallèle en cours dans l’industrie de la sécurité des tests.

La même technologie qui menace les tests peut également être utilisée pour protéger l’intégrité des examens et fournir des garanties accrues aux entreprises que les candidats qu’ils embauchent sont qualifiés pour le poste. En raison des menaces constamment changeantes, les solutions doivent être créatives et adopter une approche multiforme.

Une façon innovante de réduire les menaces posées par la GenAI est la surveillance à double caméra. Cette technique consiste à utiliser l’appareil mobile du candidat comme deuxième caméra, fournissant un deuxième flux vidéo pour détecter la tricherie.

Avec une vue plus complète de l’environnement de test du candidat, les surveillants peuvent mieux détecter l’utilisation de plusieurs moniteurs ou d’appareils externes qui pourraient être cachés en dehors de la vue habituelle de la webcam.

Cela peut également faciliter la détection de l’utilisation de deepfakes pour déguiser la prise de test par procuration, car le logiciel repose sur le remplacement de visage ; une vue de tout le corps peut révéler des discordances entre le deepfake et la personne qui passe l’examen.

Les indices subtils – comme les discordances dans l’éclairage ou la géométrie faciale – deviennent plus apparents lorsqu’ils sont comparés à travers deux flux vidéo distincts. Cela facilite la détection des deepfakes, qui sont généralement des représentations plates et bidimensionnelles de visages.

L’avantage supplémentaire de la surveillance à double caméra est qu’elle lie efficacement le téléphone du candidat, ce qui signifie qu’il ne peut pas être utilisé pour tricher. La surveillance à double caméra est encore renforcée par l’utilisation de l’IA, qui améliore la détection de la tricherie sur le flux vidéo en direct.

L’IA fournit effectivement un « deuxième regard » qui peut constamment se concentrer sur le flux vidéo en direct. Si l’IA détecte une activité anormale sur le flux d’un candidat, elle émet une alerte à un surveillant humain, qui peut alors vérifier si une violation des règles de test a eu lieu. Cette surveillance supplémentaire fournit une sécurité accrue et permet de surveiller des milliers de candidats avec des protections de sécurité supplémentaires.

Le AI générative est-elle une bénédiction ou une malédiction ?

Alors que la révolution de la formation et de la reconversion progresse, il n’a jamais été plus important de sécuriser les tests contre les méthodes de tricherie nouvelles. Des deepfakes qui déguisent les tests par procuration à l’utilisation de LLM pour fournir des réponses aux questions des tests, les menaces sont réelles et accessibles. Mais les solutions le sont également.

Heureusement, à mesure que la GenAI continue de progresser, les services de sécurité des tests répondent au défi, restant à la pointe de la course aux armements de l’IA contre les acteurs malveillants. En utilisant des moyens innovants pour détecter la tricherie à l’aide de la GenAI, de la surveillance à double caméra à la surveillance renforcée par l’IA, les entreprises de sécurité des tests peuvent efficacement contrer ces menaces.

Ces méthodes fournissent aux entreprises la tranquillité d’esprit que les programmes de formation sont fiables et que les certifications et les licences sont authentiques. En faisant cela, ils peuvent favoriser la croissance professionnelle de leurs employés et leur permettre d’exceller dans de nouveaux postes.

Bien sûr, la nature de l’IA signifie que les menaces pour la sécurité des tests sont dynamiques et en constante évolution. Par conséquent, à mesure que la GenAI s’améliore et pose de nouvelles menaces pour l’intégrité des tests, il est crucial que les entreprises de sécurité continuent à investir dans l’utilisation de l’IA pour développer et affiner des stratégies de sécurité innovantes et multiformes.

Comme pour toute nouvelle technologie, les gens essayeront d’utiliser l’IA à la fois pour des fins bonnes et mauvaises. Mais en utilisant la technologie pour le bien, nous pouvons nous assurer que les certifications restent fiables et significatives et que la confiance dans la main-d’œuvre et ses capacités reste forte. L’avenir de la sécurité des examens ne consiste pas seulement à suivre – c’est à rester en tête.