Czy sztuczna inteligencja generatywna jest błogosławieństwem, czy przekleństwem? Rozwiązywanie problemów związanych z zabezpieczeniem egzaminów

Wraz z dynamicznymi zmianami technologicznymi i ekonomicznymi w erze cyfrowej, wymagania stawiane globalnej siły roboczej ulegają znaczącym przemianom, a zdobywanie nowych umiejętności i przekwalifikowanie się stało się bardziej krytyczne niż kiedykolwiek. W związku z tym, potrzeba niezawodnego certyfikowania nowych umiejętności również rośnie.

Biorąc pod uwagę szybko rosnące znaczenie certyfikacji i egzaminów licencyjnych na całym świecie, naturalnie pojawiła się fala usług ukierunkowanych na pomoc kandydatom w oszukiwaniu podczas procedur testowych. Te podwójne metody nie tylko stanowią zagrożenie dla integralności rynku umiejętności, ale mogą również stanowić ryzyko dla bezpieczeństwa ludzi; niektóre egzaminy licencyjne dotyczą ważnych umiejętności praktycznych, takich jak prowadzenie samochodu lub obsługa ciężkiego sprzętu.

Po tym, jak firmy zaczęły zdawać sobie sprawę z konwencjonalnych, czyli analogowych, metod oszukiwania przy użyciu prawdziwych ludzi jako proxy, wprowadziły środki w celu zapobiegania tym praktykom – w przypadku egzaminów online, kandydaci zaczęli być proszeni o utrzymanie włączonych kamer podczas egzaminu. Jednak teraz technologia deepfake (tj. hiperrealistyczny dźwięk i wideo, które często nie można odróżnić od rzeczywistości) stanowi nowe zagrożenie dla bezpieczeństwa testów. Dostępne w sieci narzędzia wykorzystują sztuczną inteligencję generatywną, aby pomóc kandydatom uniknąć wykrycia, gdy ktoś inny podejmuje test w ich imieniu.

Poprzez manipulację wideo, te narzędzia mogą oszukać firmy, sprawiając, że wydaje się, iż kandydat podejmuje egzamin, podczas gdy w rzeczywistości ktoś inny siedzi za ekranem (tj. osoba proxy podczas testu). Popularne usługi pozwalają użytkownikom zamienić swoje twarze na twarze innych osób z kamery internetowej. Dostępność tych narzędzi podważa integralność testowania certyfikacyjnego, nawet gdy kamery są używane.

Inne formy sztucznej inteligencji generatywnej, a także deepfake, stanowią zagrożenie dla bezpieczeństwa testów. Deepfake oraz duże modele językowe (LLM) są w centrum globalnego wyścigu technologicznego, w którym giganci technologiczni tacy jak Apple (AAPL ), Microsoft (MSFT ), Google i Amazon (AMZN ), a także chińscy rywale, jak DeepSeek, stawiają na nie duże zakłady.

Wiele z tych modeli stało się głośnych ze względu na ich zdolność do zdawania prestiżowych, wysoko stawianych egzaminów. Podobnie jak w przypadku deepfake, złe aktory wykorzystali LLM, aby wykorzystać słabości tradycyjnych norm bezpieczeństwa testów.

Niektóre firmy zaczęły oferować rozszerzenia przeglądarki, które uruchamiają asystentów AI, które są trudne do wykrycia, pozwalając im uzyskać dostęp do odpowiedzi na wysoko stawiane testy. Mniej zaawansowane zastosowania tej technologii nadal stanowią zagrożenia, w tym kandydaci, którzy nie są wykrywani, używają aplikacji AI na swoich telefonach podczas egzaminów.

Jednak nowe procedury bezpieczeństwa testów mogą zapewnić sposoby na zapewnienie integralności egzaminów przed tymi metodami.

Jak ograniczyć ryzyko, korzystając z korzyści sztucznej inteligencji generatywnej

Pomimo licznych i dynamicznie ewoluujących zastosowań sztucznej inteligencji generatywnej w oszukiwaniu na testach, trwa równoległy wyścig w branży bezpieczeństwa testów.

Ta sama technologia, która zagraża testom, może być również wykorzystana do ochrony integralności egzaminów i zapewnienia firmom, że kandydaci, których zatrudniają, są odpowiednio wykwalifikowani do pracy. Ze względu na ciągle zmieniające się zagrożenia, rozwiązania muszą być kreatywne i przyjmować wielowarstwową strategię.

Jednym z innowacyjnych sposobów ograniczania zagrożeń stwarzanych przez sztuczną inteligencję generatywną jest nadzór z użyciem dwóch kamer. Ta technika polega na użyciu urządzenia mobilnego kandydata jako drugiej kamery, zapewniając drugi strumień wideo w celu wykrycia oszukiwania.

Dzięki bardziej kompleksowemu widoku środowiska testowego kandydata, nadzorcy mogą lepiej wykryć użycie wielu monitorów lub urządzeń zewnętrznych, które mogą być ukryte poza typowym widokiem kamery internetowej.

Może to również ułatwić wykrycie użycia deepfake do zamaskowania oszukiwania przy użyciu proxy, ponieważ oprogramowanie opiera się na zamianie twarzy; widok całego ciała może ujawnić niezgodności między deepfake a osobą, która zdaje egzamin.

Delikatne sygnały, takie jak niezgodności w oświetleniu lub geometrii twarzy, stają się bardziej widoczne, gdy są porównywane na dwóch oddzielnych strumieniach wideo. Ułatwia to wykrywanie deepfake, które są zwykle płaskimi, dwuwymiarowymi reprezentacjami twarzy.

Dodatkową zaletą nadzoru z użyciem dwóch kamer jest to, że skutecznie wiąże telefon kandydata, uniemożliwiając jego użycie do oszukiwania. Nadzór z użyciem dwóch kamer jest jeszcze bardziej wzmocniony przez użycie sztucznej inteligencji, która poprawia wykrywanie oszukiwania w strumieniu wideo na żywo.

Sztuczna inteligencja skutecznie zapewnia „drugą parę oczu”, która może stale koncentrować się na strumieniu wideo na żywo. Jeśli sztuczna inteligencja wykryje niezwykłą aktywność na kanale kandydata, wydaje alert do nadzorcy, który może następnie zweryfikować, czy doszło do naruszenia przepisów testowych. Ten dodatkowy poziom nadzoru zapewnia dodatkowe zabezpieczenia i pozwala na monitorowanie tysięcy kandydatów z dodatkowymi zabezpieczeniami.

Czy sztuczna inteligencja generatywna jest błogosławieństwem, czy przekleństwem?

Wraz z postępem rewolucji w zakresie zdobywania nowych umiejętności i przekwalifikowania się, nigdy nie było bardziej ważne, aby zabezpieczyć testy przed nowymi metodami oszukiwania. Od deepfake, które maskują proxy podczas testów, po użycie dużych modeli językowych w celu uzyskania odpowiedzi na pytania testowe, zagrożenia są realne i dostępne. Ale także i rozwiązania.

Na szczęście, wraz z postępem sztucznej inteligencji generatywnej, usługi zabezpieczeń testów spotykają się z tym wyzwaniem, pozostając na szczycie wyścigu zbrojeń z użyciem sztucznej inteligencji przeciwko złym aktorom. Poprzez zastosowanie innowacyjnych sposobów wykrywania oszukiwania przy użyciu sztucznej inteligencji generatywnej, od nadzoru z użyciem dwóch kamer po monitorowanie wzmocnione sztuczną inteligencją, usługi zabezpieczeń testów mogą skutecznie przeciwdziałać tym zagrożeniom.

Te metody zapewniają firmom pewność, że programy szkoleniowe są niezawodne i że certyfikaty oraz licencje są autentyczne. Dzięki temu mogą one wspierać rozwój zawodowy swoich pracowników i umożliwić im osiągnięcie sukcesu na nowych stanowiskach.

Oczywiście, natura sztucznej inteligencji oznacza, że zagrożenia dla bezpieczeństwa testów są dynamiczne i ciągle ewoluują. Dlatego, wraz z postępem sztucznej inteligencji generatywnej i pojawianiem się nowych zagrożeń dla integralności testów, jest niezwykle ważne, aby firmy zabezpieczeń kontynuowały inwestowanie w wykorzystywanie jej do opracowania i udoskonalania innowacyjnych, wielowarstwowych strategii zabezpieczeń.

Jak w przypadku każdej nowej technologii, ludzie będą próbowali wykorzystywać sztuczną inteligencję do złych i dobrych celów. Ale poprzez wykorzystywanie tej technologii dla dobra, możemy zapewnić, że certyfikaty pozostają niezawodne i mają znaczenie, oraz że zaufanie do siły roboczej i jej możliwości pozostaje silne. Przyszłość bezpieczeństwa egzaminów nie polega tylko na utrzymaniu tempa – polega na pozostawaniu na czele.