Er Generative AI en velsignelse eller en forbannelse? Bekjempelse av AI-trusler i eksamensikkerhet

Etterhvert som de teknologiske og økonomiske endringene i den digitale tiden dramatisk endrer kravene til den globale arbeidsstyrken, har oppgradering og omstrukturering av ferdigheter aldri vært mer kritiske. Som følge av dette øker også behovet for pålitelig sertifisering av nye ferdigheter.

Gitt den raskt voksende betydningen av sertifisering og lisensprøver verden over, har det naturligvis oppstått en bølge av tjenester som er tilpasset å hjelpe kandidater med å svindle under prøveprosedyrene. Disse tvilsomme metodene utgjør ikke bare en trussel mot integriteten i ferdighetsmarkedet, men kan også utgjøre risikoer for menneskelig sikkerhet; noen lisensprøver relatere til viktige praktiske ferdigheter som å kjøre bil eller operere tungt maskineri.

Etter at firmaer begynte å fatte at konvensjonelle, eller analoge, svindel med virkelige menneskelige stedfortredere, innførte de tiltak for å forhindre dette – for nettbaserte prøver, kandidater ble bedt om å holde kameraene på mens de tok prøven. Men nå utgjør deepfake-teknologi (dvs. hyperrealistisk lyd og video som ofte er umulig å skille fra virkeligheten) en ny trussel mot prøvesikkerheten. Lettilgjengelige nettverktøy utnytter GenAI for å hjelpe kandidater med å slippe unna å ha en menneskelig stedfortreder som tar prøven for dem.

Ved å manipulere videoen, kan disse verktøyene lure firmaer til å tro at en kandidat tar prøven når, i virkeligheten, noen andre er bak skjermen (dvs. stedfortrederprøving). Populære tjenester lar brukerne bytte ansikt med noen andre fra en webcam. Tilgjengeligheten av disse verktøyene undergraver integriteten i sertifiseringstesting, selv når kameraer brukes.

Andre former for GenAI, samt deepfakes, utgjør en trussel mot prøvesikkerheten. Large Language Models (LLM) er i hjertet av en global teknologikapprøring, med teknologigiganter som Apple, Microsoft, Google og Amazon, samt kinesiske rivaler som DeepSeek, som satser stort på dem.

Mange av disse modellene har fått oppmerksomhet for deres evne til å bestå prestisjefylte, høyrisikopprøver. Som med deepfakes, har dårlige aktører utnyttet LLM til å utnytte svakheter i tradisjonelle prøvesikkerhetsnormer.

Noen firmaer har begynt å tilby nettleserutvidelser som lanserer AI-assistenter, som er vanskelige å oppdage, og som lar dem få tilgang til svarene på høyrisikopprøver. Mindre avanserte bruksområder for teknologien utgjør likevel trusler, inkludert kandidater som går ubemerket med å bruke AI-apper på telefonen mens de sitter eksamen.

Men nye prøvesikkerhetsprosedyrer kan tilby måter å sikre prøveintegritet mot disse metodene.

Hvordan minimere risiko samtidig som man høster fordeler av Generative AI

Til tross for de tallrike og raskt utviklende bruksområdene for GenAI for å svindle på prøver, finner det sted en parallell kapprøring i prøvesikkerhetsindustrien.

Den samme teknologien som truer prøving kan også brukes til å beskytte integriteten i prøver og gi økt sikkerhet for firmaer om at kandidatene de ansetter er kvalifisert for jobben. På grunn av de konstant endrende truslene, må løsningene være kreative og ha en flerlaget tilnærming.

En innovativ måte å redusere truslene som GenAI utgjør, er dobbeltkameraovervåking. Denne teknikken innebærer å bruke kandidatens mobil enhet som en andre kamera, og gir en andre videostrøm for å oppdage svindel.

Med en mer omfattende utsikt over kandidatens prøvemiljø, kan overvåkere bedre oppdage bruk av flere skjermer eller eksterne enheter som kan være skjult utenfor den vanlige webcam-utsikten.

Det kan også gjøre det lettere å oppdage bruk av deepfakes for å forkledde stedfortrederprøving, ettersom programvaren avhenger av ansiktsskifting; en utsikt over hele kroppen kan avsløre ubalanser mellom deepfaken og personen som sitter for eksamen.

Subtile tegn – som ubalanser i lys eller ansiktsgeometri – blir mer åpenbare når de sammenlignes over to separate videostrømmer. Dette gjør det lettere å oppdage deepfakes, som vanligvis er flate, todimensjonale representasjoner av ansikter.

Den ekstra fordelen med dobbeltkameraovervåking er at den effektivt binder opp en kandidats telefon, slik at den ikke kan brukes til svindel. Dobbeltkameraovervåking er enda mer forbedret ved å bruke AI, som forbedrer oppdaging av svindel på live-videostrømmen.

AI gir effektivt en «andre sett øyne» som kan fokusere konstant på live-strømmen. Hvis AI oppdager abnormal aktivitet på en kandidats strøm, sender den en varsel til en menneskelig overvåker, som kan verifisere om det har skjedd et brudd på prøveregler. Denne ekstra laget med overvåking gir økt sikkerhet og lar tusenvis av kandidater bli overvåket med ekstra sikkerhetstiltak.

Er Generative AI en velsignelse eller en forbannelse?

Etterhvert som oppgradering og omstrukturering av ferdigheter utvikler seg, har det aldri vært mer viktig å sikre prøver mot nye svindelmetoder. Fra deepfakes som forkler stedfortrederprøving til bruk av LLM for å gi svar på prøvespørsmål, er truslene reelle og tilgjengelige. Men også løsningene.

Heldigvis, ettersom GenAI fortsetter å utvikle seg, møter prøvesikkerhetstjenestene utfordringen, og holder seg i forkant av en AI-kapprøring mot dårlige aktører. Ved å bruke innovative måter å oppdage svindel med GenAI, fra dobbelkameraovervåking til AI-forbedret overvåking, kan prøvesikkerhetstjenestene effektivt motvirke disse truslene.

Disse metodene gir firmaer trygghet om at treningprogrammene er pålitelige og at sertifikat og lisenser er ekte. Ved å gjøre dette, kan de fremme profesjonell vekst for ansatte og enable dem til å utmerke seg i nye stillinger.

Selvfølgelig betyr naturen til AI at truslene mot prøvesikkerheten er dynamiske og evolverer stadig. Derfor, ettersom GenAI forbedres og utgjør nye trusler mot prøveintegritet, er det avgjørende at sikkerhetstjenestene fortsetter å investere i å utnytte den til å utvikle og forfine innovative, flerlagete sikkerhetsstrategier.

Som med alle nye teknologier, vil mennesker prøve å bruke AI til både dårlige og gode formål. Men ved å utnytte teknologien til gode formål, kan vi sikre at sertifikatene forblir pålitelige og meningsfulle og at tillit til arbeidsstyrken og dens evner forblir sterk. Fremtiden for prøvesikkerhet handler ikke bare om å holde tritt – det handler om å holde foran.