Er Generative AI en velsignelse eller en forbannelse? Bekjempelse av AI-trusler i eksamensikkerhet

Ettersom de teknologiske og økonomiske endringene i den digitale tiden dramatisk endrer kravene til den globale arbeidsstyrken, har oppskilling og reskilling aldri vært mer kritisk. Som et resultat øker også behovet for pålitelig sertifisering av nye ferdigheter.

Gitt den raskt økende betydningen av sertifisering og lisensprøver verden over, har det oppstått en bølge av tjenester som er tilpasset å hjelpe kandidater med å svindle på prøvingen. Disse dupliske metodene utgjør ikke bare en trussel mot integriteten i ferdighetsmarkedet, men kan også utgjøre risikoer for menneskelig sikkerhet; noen lisensprøver er relatert til viktige praktiske ferdigheter som kjøring eller operasjon av tungt maskineri.

Etter at firmaer begynte å merke seg konvensjonell, eller analog, svindel med virkelige menneskelige proxyer, innførte de tiltak for å forhindre dette – for nettprøver, begynte kandidater å bli bedt om å holde kameraene på mens de tok prøven. Men nå utgjør deepfake-teknologi (dvs. hyperrealistisk lyd og video som ofte er umulig å skille fra virkeligheten) en ny trussel mot prøvesikkerheten. Lett tilgjengelige nettverktøy utnytter GenAI for å hjelpe kandidater med å slippe unna å ha en menneskelig proxy som tar prøven for dem.

Ved å manipulere videoen, kan disse verktøyene lure firmaer til å tro at en kandidat tar prøven når, i virkeligheten, noen andre er bak skjermen (dvs. proxy-prøving). Populære tjenester lar brukerne bytte ansiktet sitt med noen andres fra en webcam. Tilgjengeligheten av disse verktøyene undergraver integriteten i sertifiseringstesting, selv når kameraer brukes.

Andre former for GenAI, samt deepfakes, utgjør en trussel mot prøvesikkerheten. Store språkmodeller (LLM) er i hjertet av en global teknologisk kappløp, med teknologigigantene Apple (AAPL ), Microsoft (MSFT ), Google og Amazon (AMZN ), samt kinesiske rivaler som DeepSeek, som satser stort på dem.

Mange av disse modellene har fått oppmerksomhet for sin evne til å bestå prestisjefylte, høyrisikoprøver. Som med deepfakes, har dårlige aktører utnyttet LLM til å utnytte svakheter i tradisjonelle prøvesikkerhetsnormer.

Noen firmaer har begynt å tilby nettleserutvidelser som lanserer AI-assistenter, som er vanskelige å oppdage, og som gir dem tilgang til svarene på høyrisikoprøver. Mindre avanserte bruksområder for teknologien utgjør likevel trusler, inkludert kandidater som går uoppdaget med å bruke AI-apper på mobiltelefonen mens de tar prøver.

Men nye prøvesikkerhetsprosedyrer kan tilby måter å sikre eksamensintegritet mot disse metodene.

Hvordan redusere risikoer samtidig som man høster fordeler av generativ AI

Til tross for de tallrike og raskt utviklende bruksområdene for GenAI for å svindle på prøver, pågår det en parallellekpløp i prøvesikkerhetsindustrien.

Den samme teknologien som truer prøvingen kan også brukes til å beskytte integriteten i eksamen og gi økt sikkerhet for firmaer som kandidatene de ansetter er kvalifisert for jobben. På grunn av de konstant endrede truslene, må løsningene være kreative og ha en flerskiktet tilnærming.

En innovativ måte å redusere truslene som GenAI utgjør, er dobbeltkameraovervåking. Denne teknikken innebærer å bruke kandidatens mobil enhet som en andre kamera, og gir en andre videostrøm for å oppdage svindel.

Med en mer omfattende oversikt over kandidatens prøvemiljø, kan overvåkere bedre oppdage bruk av flere skjermer eller eksterne enheter som kan være skjult utenfor den vanlige webcam-oversikten.

Det kan også gjøre det lettere å oppdage bruk av deepfakes for å forkle proxy-prøving, ettersom programvaren er avhengig av ansiktsskifte; en oversikt over hele kroppen kan avsløre inkonsistenser mellom deepfaken og personen som tar eksamen.

Subtile hint—som feil i lys eller ansiktsgeometri—blir mer tydelig når de sammenlignes over to separate videostrømmer. Dette gjør det lettere å oppdage deepfakes, som vanligvis er flate, todimensjonale representasjoner av ansikter.

Den ekstra fordelen med dobbeltkameraovervåking er at det effektivt binder opp en kandidats telefon, slik at den ikke kan brukes til svindel. Dobbeltkameraovervåking er enda mer forbedret ved hjelp av AI, som forbedrer oppdagelsen av svindel på den direktesendte videostrømmen.

AI gir effektivt en «andre sett øyne» som kan fokusere konstant på den direktesendte videoen. Hvis AI oppdager abnormal aktivitet på en kandidats strøm, sender det en advarsel til en menneskelig overvåker, som kan verifisere om det har vært et brudd på prøveregler. Denne ekstra lag med overvåking gir økt sikkerhet og tillater at tusenvis av kandidater kan overvåkes med ekstra sikkerhetsbeskyttelse.

Er Generative AI en velsignelse eller en forbannelse?

Ettersom oppskilling- og reskilling-revolusjonen skrider frem, har det aldri vært mer viktig å sikre prøver mot nye svindelmetoder. Fra deepfakes som forkler proxy-prøving til bruk av LLM for å gi svar på prøvespørsmål, er truslene reelle og tilgjengelige. Men også løsningene.

Heldigvis, ettersom GenAI fortsetter å utvikle seg, møter prøvesikkerhetstjenestene utfordringen, og holder seg på toppen av en AI-kappløp mot dårlige aktører. Ved å bruke innovative måter å oppdage svindel med GenAI, fra dobbeltkameraovervåking til AI-forbedret overvåking, kan prøvesikkerhetstjenestene effektivt motvirke disse truslene.

Disse metodene gir firmaer trygghet på at opplæringsprogrammene er pålitelige og at sertifikat og lisenser er ekte. Ved å gjøre dette, kan de fremme profesjonell vekst for sine ansatte og enable dem til å utmerke seg i nye stillinger.

Selvfølgelig, naturen til AI betyr at truslene mot prøvesikkerheten er dynamiske og evolverende. Derfor, ettersom GenAI forbedres og utgjør nye trusler mot prøveintegritet, er det kritisk at sikkerhetstjenestene fortsetter å investere i å utnytte det til å utvikle og forfine innovative, flerskiktete sikkerhetsstrategier.

Ettersom med alle nye teknologier, vil folk prøve å utnytte AI for både gode og dårlige formål. Men ved å utnytte teknologien for godt, kan vi sikre at sertifikater forblir pålitelige og meningsfulle og at tillit til arbeidsstyrken og dens evner forblir sterk. Fremtiden for eksamensikkerhet handler ikke bare om å holde pace – det handler om å holde foran.