Er Generativ AI en Velsignelse eller en Forbandelse? Bekæmpelse af AI-trusler i eksamenssikkerhed

Da de teknologiske og økonomiske skift i den digitale tidsalder dramatisk ændrer kravene til den globale arbejdskraft, har opskoling og genskoling aldrig været mere kritisk. Som følge heraf vokser også behovet for pålidelig certificering af nye færdigheder.

Givet den hurtigt voksende betydning af certificering og licensprøver verden over, er der naturligvis opstået en bølge af tjenester, der er tilpasset til at hjælpe kandidater med at snyde under testproceduren. Disse dobbelttydige metoder udgør ikke kun en trussel mod integriteten af færdighedsmarkedet, men kan også udgøre risici for menneskers sikkerhed; nogle licensprøver relaterer til vigtige praktiske færdigheder som kørsel eller operation af tungt udstyr.

Efter virksomheder begyndte at opdage konventionel, eller analog, snyd ved hjælp af rigtige menneskelige proxyer, introducerede de foranstaltninger for at forhindre dette – for online-eksamener begyndte kandidater at blive bedt om at holde deres kameraer tændt, mens de tog prøven. Men nu udgør deepfake-teknologi (dvs. hyperrealistisk lyd og video, der ofte er umulig at skelne fra virkeligheden) en ny trussel mod test sikkerhed. Lettilgængelige online-værktøjer anvender GenAI til at hjælpe kandidater med at slippe afsted med at have en menneskelig proxy, der tager en prøve for dem.

Ved at manipulere videoen kan disse værktøjer narre virksomhederne til at tro, at en kandidat tager prøven, når det i virkeligheden er en anden person, der sidder bag skærmen (dvs. proxy-testning). Populære tjenester tillader brugere at udskifte deres ansigter med en anden persons ansigt fra en webcam. Tilgængeligheden af disse værktøjer undergraver integriteten af certificeringsprøver, selv når kameraer anvendes.

Andre former for GenAI samt deepfakes udgør en trussel mod test sikkerhed. Store sprogmodeller (LLM’er) er i centrum af en global teknologisk kapløb, hvor teknologigiganter som Apple (AAPL ), Microsoft (MSFT ), Google og Amazon (AMZN ) samt kinesiske rivaler som DeepSeek satser stort på dem.

Mange af disse modeller har været i overskrifterne for deres evne til at bestå prestigefyldte, højrisiko-eksamener. Ligesom deepfakes har dårlige aktører anvendt LLM’er til at udnytte svagheder i traditionelle test-sikkerhedsnormer.

Nogle virksomheder er begyndt at tilbyde browser-udvidelser, der lancerer AI-assistenter, der er svære at opdage, og som giver adgang til svarene på højrisiko-eksamener. Mindre avancerede anvendelser af teknologien udgør stadig trusler, herunder kandidater, der går ubemærket med AI-apps på deres telefoner, mens de sidder eksamen.

Men nye test-sikkerhedsprocedurer kan tilbyde måder at sikre eksamensintegritet mod disse metoder på.

Hvordan kan man mindske risici, samtidig med at man nyder godt af Generativ AI’s fordele

Trods de mange og hurtigt udviklende anvendelser af GenAI til at snyde på prøver, er der en parallel kapløb i gang i test-sikkerhedsindustrien.

Den samme teknologi, der truer testen, kan også anvendes til at beskytte eksamensintegriteten og give øget sikkerhed for, at kandidaterne, virksomhederne ansætter, er kvalificerede til jobbet. På grund af de konstant skiftende trusler må løsningerne være kreative og have en multi-lagd tilgang.

En innovativ måde at reducere truslerne, som GenAI udgør, er dobbelt-kamera-overvågning. Denne teknik indebærer at bruge kandidatens mobil enhed som en anden kamera, der giver en anden video-feed til at opdage snyd.

Med en mere omfattende oversigt over kandidatens test-miljø kan overvågere bedre opdage brugen af multiple monitore eller eksterne enheder, der måske er skjult uden for den typiske webcam-oversigt.

Det kan også gøre det lettere at opdage brugen af deepfakes til at forklaDE proxy-testning, da softwaren afhænger af ansigt-udskiftning; en oversigt over hele kroppen kan afsløre inkonsistenser mellem deepfaken og personen, der sidder eksamen.

Subtile tegn – som f.eks. inkonsistenser i belysning eller ansigtsgeometri – bliver mere tydelige, når de sammenlignes på tværs af to separate video-feeds.

Den ekstra fordel ved dobbelt-kamera-overvågning er, at det effektivt binder en kandidats telefon, så den ikke kan bruges til snyd. Dobbelt-kamera-overvågning er endda forbedret ved brug af AI, der forbedrer opdagelsen af snyd på den live-video-feed.

AI giver effektivt en ‘anden sæt øjne’, der kan fokusere konstant på den live-streamede video. Hvis AI-opdager abnormal aktivitet på en kandidats feed, udsteder det en advarsel til en menneskelig overvåger, der kan verificere, om der er sket en overtrædelse af test-reglerne. Denne ekstra lag af overvågning giver øget sikkerhed og tillader, at tusinder af kandidater kan overvåges med ekstra sikkerhedsforanstaltninger.

Er Generativ AI en Velsignelse eller en Forbandelse?

Da opskolings- og genskolingsrevolutionen skrider frem, har det aldrig været mere vigtigt at sikre tests mod nye snyd-metoder. Fra deepfakes, der forklaDEr test-tagning, til brugen af LLM’er til at give svar på test-spørgsmål, er truslerne virkelige og tilgængelige. Men løsningerne er det også.

Heldigvis, da GenAI fortsætter med at udvikle sig, møder test-sikkerhedstjenester udfordringen og holder sig på forkanten af en AI-våbenkapløb mod dårlige aktører. Ved at anvende innovative måder at opdage snyd ved hjælp af GenAI, fra dobbelt-kamera-overvågning til AI-forbedret overvågning, kan test-sikkerhedsvirksomheder effektivt imødegå disse trusler.

Disse metoder giver virksomhederne sikkerhed for, at uddannelsesprogrammer er pålidelige, og at certificeringer og licenser er ægte. Ved at gøre dette kan de fremme professionel vækst for deres medarbejdere og give dem mulighed for at udmærke sig i nye stillinger.

Selvfølgelig indebærer AI’s natur, at truslerne mod test-sikkerhed er dynamiske og konstant udviklende. Derfor er det afgørende, at sikkerhedsfirmarer fortsætter med at investere i at udnytte AI til at udvikle og forbedre innovative, multi-lagde sikkerhedsstrategier.

Som med enhver ny teknologi vil folk prøve at anvende AI til både gode og dårlige formål. Men ved at udnytte teknologien til gode formål kan vi sikre, at certificeringer forbliver pålidelige og meningsfulde, og at tilliden til arbejdskraften og dens evner forbliver stærk. Fremtiden for eksamenssikkerhed handler ikke kun om at følge med – det handler om at være foran.