Чи є Генеративний ІІ благословенням чи прокляттям? Подолання загроз ІІ у безпеці іспитів

Відповідно до технологічних та економічних зрушень цифрової епохи, які драматично змінюють вимоги до глобальної робочої сили, підвищення кваліфікації та перепідготовка ніколи не були більш критичними. Як наслідок, зростає потреба у надійній сертифікації нових навичок.

Ураховуючи швидко зростаючу важливість сертифікаційних та ліцензійних тестів у світі, природно виникла хвиля послуг, спрямованих на допомогу кандидатам у обмані під час проходження тестів. Ці підступні методи не тільки загрожують цілісності ринку навичок, але також можуть становити ризики для безпеки людини; деякі ліцензійні тести стосуються важливих практичних навичок, таких як водіння чи експлуатація важкої техніки.

Після того, як компанії почали викривати традиційний, або аналоговий, обман за допомогою реальних людських проксі, вони ввели заходи для запобігання цьому – для онлайн-іспитів кандидатам почали пропонувати тримати камери включеними під час проходження тесту. Але тепер технологія діпфейків (тобто гіперреалістичних аудіо- та відеофайлів, які часто є нерозрізними від реального життя) становить нову загрозу безпеці тестів. Готові онлайн-інструменти використовують Генеративний ІІ для допомоги кандидатам у обмані під час проходження тесту.

Маніпулюючи відео, ці інструменти можуть обманути компанії,，使 їх думати, що кандидат проходить іспит, тоді як насправді хтось інший знаходиться за екраном (тобто проксі-пасування тесту). Популярні послуги дозволяють користувачам міняти свої обличчя на обличчя іншого людини з веб-камери. Доступність цих інструментів підірвала цілісність сертифікаційних тестів, навіть коли камери використовуються.

Інші форми Генеративного ІІ, а також діпфейків, становлять загрозу безпеці тестів. Моделі великих мовних моделей (LLM) знаходяться в центрі глобальної технологічної гонки, в якій технологічні гіганти, такі як Apple, Microsoft, Google та Amazon, а також китайські конкуренти, такі як DeepSeek, роблять великі ставки на них.

Багато з цих моделей стали відомими завдяки своїй здатності проходити престижні, високі ставки іспити. Як і у випадку з діпфейками, зловмисники використовували LLM для експлуатації слабкостей традиційних норм безпеки тестів.

Деякі компанії почали пропонувати розширення браузера, яке запускає помічників ІІ, які важко виявити, що дозволяє їм отримувати доступ до відповідей на високі ставки тестів. Менш складні застосування технології все ж становлять загрози, включаючи кандидатів, які залишаються непоміченими під час використання застосунків ІІ на своїх телефонах під час проходження іспитів.

Однак, нові процедури безпеки тестів можуть пропонувати способи забезпечення цілісності іспитів проти цих методів.

Як мінімізувати ризики, отримуючи користь від Генеративного ІІ

Незважаючи на численні та швидко розвиваються застосування Генеративного ІІ для обману під час тестів, існує паралельна гонка в галузі безпеки тестів.

Та сама технологія, яка загрожує тестуванню, також може бути використана для захисту цілісності іспитів та надання збільшеної гарантії компаніям, що кандидати, яких вони приймають, кваліфіковані для роботи. Через постійно змінювані загрози рішення повинні бути креативними та використовувати багаторівневий підхід.

Одним з інноваційних способів зменшення загроз, пов’язаних з Генеративним ІІ, є двокамерний проекторинг. Цей метод включає в себе використання мобільного пристрою кандидата як другої камери, забезпечуючи другий відеопотік для виявлення обману.

З більш повним видом середовища тестування кандидата, проекторинг може краще виявляти використання декількох моніторів або зовнішніх пристроїв, які можуть бути приховані поза звичайним виглядом веб-камери.

Це також може полегшити виявлення використання діпфейків для маскування проксі-тестування, оскільки програмне забезпечення залежить від заміни обличчя; вигляд всього тіла може показати розбіжності між діпфейком та людиною, яка проходить іспит.

Непомітні підказки – такі як розбіжності у освітленні чи геометрії обличчя – стають більш очевидними при порівнянні двох окремих відеопотоків. Це робить його легшим для виявлення діпфейків, які зазвичай є плоскими, двовимірними представленнями облич.

Додаткова перевага двокамерного проекторингу полягає в тому, що він ефективно зв’язує телефон кандидата, що означає, що його не можна використовувати для обману. Двокамерний проекторинг ще більше посилюється використанням ІІ, яке покращує виявлення обману на прямому відеопотоці.

ІІ ефективно забезпечує “другий набір очей”, який може постійно фокусуватися на прямому відеопотоці. Якщо ІІ виявляє аномальну діяльність на відеопотоці кандидата, він видає попередження людському проекторингу, який потім може перевірити, чи відбулося порушення правил тестування. Цей додатковий рівень нагляду забезпечує додаткову безпеку та дозволяє моніторити тисячі кандидатів з додатковими засобами безпеки.

Чи є Генеративний ІІ благословенням чи прокляттям?

Відповідно до революції підвищення кваліфікації та перепідготовки, ніколи не було більш важливо забезпечити тестування проти нових методів обману. Від діпфейків, які маскують проксі-тестування, до використання LLM для надання відповідей на питання тестів, загрози реальні та доступні. Але й рішення теж.

На щастя, оскільки Генеративний ІІ продовжує розвиватися, послуги безпеки тестів зустрічають цей виклик, залишаючись на передовому краї гонки ІІ проти зловмисників. Використовуючи інноваційні способи виявлення обману за допомогою Генеративного ІІ, від двокамерного проекторингу до моніторингу, посиленого ІІ, послуги безпеки тестів можуть ефективно протидіяти цим загрозам.

Ці методи забезпечують компаніям спокій, що програми навчання є надійними, а сертифікації та ліцензії є справжніми. Роблячи це, вони можуть сприяти професійному зростанню своїх працівників та дозволити їм успішно виконувати свої обов’язки на нових посадах.

Очевидно, що природа ІІ означає, що загрози безпеці тестів є динамічними та постійно еволюціонують. Тому, оскільки Генеративний ІІ покращується та становить нові загрози цілісності тестів, важливо, щоб компанії безпеки продовжували інвестувати у використання його для розробки та вдосконалення інноваційних, багаторівневих стратегій безпеки.

Як і у випадку з будь-якою новою технологією, люди будуть намагатися використовувати ІІ для добрих та поганих цілей. Але, використовуючи технологію для добра, ми можемо забезпечити, щоб сертифікації залишилися надійними та значимими, а довіра до робочої сили та її можливостей залишилася сильною. Майбутнє безпеки тестів не тільки полягає у тому, щоб догоняти – а й у тому, щоб бути попереду.