Je Generativní AI požehnáním nebo prokletím? Zvládání hrozeb AI v oblasti zabezpečení zkoušek

V době, kdy technologické a ekonomické posuny digitální éry dramaticky mění požadavky na globální pracovní sílu, nikdy nebylo důležitější rozšiřovat a obnovovat dovednosti. V důsledku toho také roste potřeba spolehlivého ověření nových dovedností.

Vzhledem k rychle rostoucímu významu certifikací a licencí po celém světě, logicky vznikla vlna služeb, které pomáhají kandidátům podvádět při testech. Tyto služby však nepředstavují pouze hrozbu pro integritu trhu dovedností, ale mohou také ohrožovat lidskou bezpečnost; některé licenční testy se týkají praktických dovedností, jako je řízení vozidel nebo obsluha těžké techniky.

Počínaje okamžikem, kdy firmy začaly odhalovat konvenční, nebo analogové, podvádění pomocí skutečných lidských proxy, zavedly opatření, aby tomu zabránily – pro online zkoušky začaly vyžadovat, aby kandidáti měli zapnuté kamery, zatímco psali test. Ale nyní představuje technologie deepfake (tj. hyperrealistické audio a video, které je často nerozlišitelné od skutečného života) novou hrozbu pro bezpečnost testů. Snadno dostupné online nástroje využívají GenAI, aby pomohly kandidátům uniknout tomu, že jim někdo jiný píše test.

Manipulací videa mohou tyto nástroje oklamat firmy, aby si myslely, že kandidát píše zkoušku, zatímco ve skutečnosti někdo jiný sedí za obrazovkou (tj. proxy testování). Oblíbené služby umožňují uživatelům vyměnit své obličeje za obličeje někoho jiného z webové kamery. Dostupnost těchto nástrojů podkopává integritu certifikací, i když jsou kamery použity.

Další formy GenAI, stejně jako deepfakes, představují hrozbu pro bezpečnost testů. Velké jazykové modely (LLM) jsou v centru globálního technologického závodu, ve kterém se velké technologické firmy, jako Apple (AAPL ), Microsoft (MSFT ), Google a Amazon (AMZN ), stejně jako čínští rivalové, jako DeepSeek, vsází na ně.

Mnoho z těchto modelů se dostalo do zpráv pro svou schopnost absolvovat prestižní, vysoce rizikové zkoušky. Stejně jako u deepfakes, zneužili špatní aktéři LLM, aby využili slabiny tradičních bezpečnostních norem testů.

Některé společnosti začaly nabízet prohlížečové rozšíření, která spouštějí AI asistenty, které jsou obtížně detekovatelné, a umožňují jim získat přístup k odpovědím na vysoce rizikové testy. Méně sofistikované použití technologie stále představuje hrozby, včetně kandidátů, kteří zůstávají nedetekováni pomocí AI aplikací na svých telefonech během zkoušek.

Nové postupy zabezpečení testů však mohou nabízet způsoby, jak zajistit integritu zkoušek proti těmto metodám.

Jak snížit rizika a využít výhody generativní AI

Navzdory mnoha a rychle se vyvíjejícím aplikacím GenAI na podvádění při testech existuje paralelní závod v oblasti zabezpečení testů.

Stejná technologie, která ohrožuje testy, může být také použita k ochraně integrity zkoušek a poskytnout zvýšenou jistotu firmám, že kandidáti, které najmou, jsou kvalifikovaní pro práci. Vzhledem k neustále se měnícím hrozbám, musí řešení být kreativní a využívat vícevrstvé přístupy.

Jedním inovativním způsobem, jak snížit hrozby představované GenAI, je dual-camera proctoring. Tato technika zahrnuje použití mobilního zařízení kandidáta jako druhé kamery, poskytující druhý video kanál pro detekci podvádění.

S komplexnějším pohledem na prostředí kandidáta pro testování, mohou proktoři lépe detekovat použití více monitorů nebo externích zařízení, která by mohla být skryta mimo typický pohled webové kamery.

Může také usnadnit detekci použití deepfakes k maskování proxy testování, protože software závisí na výměně obličejů; pohled na celé tělo může odhalit nesrovnalosti mezi deepfake a osobou, která sedí u zkoušky.

Jemné signály – jako nesrovnalosti v osvětlení nebo geometrii obličeje – se stávají zřetelnějšími, když jsou porovnány napříč dvěma samostatnými video kanály. To usnadňuje detekci deepfakes, které jsou obecně ploché, dvourozměrné reprezentace obličejů.

Přidanou výhodou dual-camera proctoringu je, že efektivně váže kandidátův telefon, což znamená, že nemůže být použit pro podvádění. Dual-camera proctoring je dále posílen pomocí AI, která zlepšuje detekci podvádění na živém video kanálu.

AI efektivně poskytuje „druhý pár očí“, který může neustále sledovat živě streamované video. Pokud AI detekuje neobvyklou aktivitu na kandidátově kanálu, vydá upozornění lidskému proktorovi, který může poté ověřit, zda došlo k porušení pravidel testování. Tato další vrstva dohledu poskytuje zvýšenou bezpečnost a umožňuje monitorovat tisíce kandidátů s dalšími bezpečnostními opatřeními.

Je Generativní AI požehnáním nebo prokletím?

Jak revoluce v oblasti rozšiřování a obnovy dovedností postupuje, nikdy nebylo důležitější zabezpečit testy proti novým metodám podvádění. Od deepfakes, které maskují proxy testování, až po použití LLM pro získání odpovědí na testové otázky, hrozby jsou reálné a dostupné. Ale tak jsou i řešení.

Naštěstí, jak GenAI pokračuje ve svém rozvoji, služby zabezpečení testů přijímají výzvu a zůstávají na špičce AI závodu proti špatným aktérům. Implementací inovativních způsobů detekce podvádění pomocí GenAI, od dual-camera proctoringu po AI-enhanced monitoring, mohou služby zabezpečení testů efektivně proti těmto hrozbám.

Tyto metody poskytují firmám jistotu, že jejich tréninkové programy jsou spolehlivé a že certifikáty a licence jsou pravé. Tímto způsobem mohou firmy podporovat profesní růst svých zaměstnanců a umožnit jim vyniknout v nových pozicích.

Samozřejmě, že povaha AI znamená, že hrozby pro zabezpečení testů jsou dynamické a neustále se vyvíjející. Proto je důležité, aby služby zabezpečení testů pokračovaly ve využívání AI k vývoji a zdokonalování inovativních, vícevrstvých bezpečnostních strategií.

Jak u každé nové technologie, lidé budou snažit využít AI pro dobré i špatné účely. Ale využíváním technologie pro dobré účely, můžeme zajistit, že certifikáty zůstávají spolehlivé a smysluplné a že důvěra v pracovní sílu a její schopnosti zůstává silná. Budoucnost zabezpečení zkoušek není pouze o tom, aby zůstala na špičce – je o tom, aby zůstala před ní.