Чи є Генеративний ІІ Добром чи Злом? Подолання загроз ІІ у сфері безпеки екзаменів

Відповідно до технологічних та економічних зрушень епохи цифрових технологій, які суттєво змінюють вимоги до світової робочої сили, підвищення кваліфікації та перепідготовка ніколи не були більш важливими. Як наслідок, зростає потреба у надійній сертифікації нових навичок.

У зв’язку з швидким зростанням важливості сертифікаційних та ліцензійних тестів у світі, з’явилася хвиля послуг, спрямованих на допомогу кандидатам у обхід процедур тестування. Ці методи не тільки загрожують цілісності ринку навичок, але також можуть становити ризики для безпеки людини; деякі ліцензійні тести пов’язані з важливими практичними навичками, такими як водіння чи експлуатація важкої техніки.

Після того, як компанії почали викривати традиційні, або аналогові, методи обману за допомогою реальних людських проксі, вони ввели заходи для запобігання цьому – для онлайн-екзаменів кандидатам почали пропонувати тримати камери включеними під час проходження тесту. Однак тепер технологія дипфейків (гіперреалістичних аудіо- та відеозаписів, які часто є нерозрізними від реального життя) становить нову загрозу для безпеки тестів. Доступні в Інтернеті інструменти використовують Генеративний ІІ для допомоги кандидатам у обхід тестів за допомогою людського проксі.

Маніпулюючи відео, ці інструменти можуть обманути компанії,，使 їх вважати, що кандидат проходження тест, коли насправді хтось інший знаходиться за екраном (тобто, проксі-тестування). Популярні сервіси дозволяють користувачам заміняти свої обличчя на обличчя іншого людини з веб-камери. Доступність цих інструментів підірвала цілісність сертифікаційних тестів, навіть коли камери використовуються.

Інші форми Генеративного ІІ, а також дипфейки, становлять загрозу для безпеки тестів. Великі мовні моделі (LLM) знаходяться в центрі глобального технологічного перегонів, у якому технологічні гіганти, такі як Apple (AAPL ), Microsoft (MSFT ), Google та Amazon (AMZN ), а також китайські конкуренти, такі як DeepSeek, роблять великі ставки на них.

Багато з цих моделей стали відомими завдяки своїй здатності проходити престижні, високі ставки екзамени. Як і у випадку з дипфейками, зловмисники використовували LLM для експлуатації слабкостей традиційних норм безпеки тестів.

Деякі компанії почали пропонувати розширення браузера, яке запускає ІІ-асистентів, які важко виявити, що дозволяє їм отримувати доступ до відповідей на високі ставки тестів. Менш складні застосування технології все ще становлять загрози, включаючи кандидатів, які залишаються непоміченими під час використання ІІ-додатків на своїх телефонах під час проходження екзаменів.

Однак нові процедури безпеки тестів можуть пропонувати засоби для забезпечення цілісності екзаменів проти цих методів.

Як Подолати Загрози та Виграти Від Генеративного ІІ

Незважаючи на численні та швидко еволюційні застосування Генеративного ІІ для обману на тестах, існує паралельний перегон в галузі безпеки тестів.

Та сама технологія, яка загрожує тестуванню, також може бути використана для захисту цілісності екзаменів та надання збільшеної гарантії компаніям, що кандидати, яких вони приймають, кваліфіковані для роботи. Через постійно змінювані загрози, рішення повинні бути творчими та використовувати багатошаровий підхід.

Одним з інноваційних способів зменшення загроз, пов’язаних з Генеративним ІІ, є двокамерний проекторинг. Цей метод включає використання мобільного пристрою кандидата як другої камери, забезпечуючи другий відеопотік для виявлення обману.

З більш повним баченням середовища тестування кандидата, проекторинг може краще виявляти використання декількох моніторів або зовнішніх пристроїв, які можуть бути приховані поза звичайним виглядом веб-камери.

Це також може полегшити виявлення використання дипфейків для маскування проксі-тестування, оскільки програмне забезпечення залежить від заміни облич; вигляд всього тіла може показати розбіжності між дипфейком та людиною, яка проходження екзамен.

Непомітні сигнали – такі, як розбіжності у освітленні чи геометрії обличчя – стають більш очевидними при порівнянні двох окремих відеопотоків. Це робить його легшим для виявлення дипфейків, які зазвичай є плоскими, двовимірними представленнями облич.

Додаткова перевага двокамерного проекторингу полягає в тому, що він ефективно зв’язує телефон кандидата, що означає, що він не може бути використаний для обману. Двокамерний проекторинг ще більше посилюється застосуванням ІІ, яке покращує виявлення обману на живому відеопотоці.

ІІ ефективно забезпечує “другий набір очей”, який може постійно фокусуватися на живому відеопотоці. Якщо ІІ виявляє аномальну діяльність на відеопотоці кандидата, воно видає сигнал проекторингу, який потім може підтвердити, чи відбулося порушення правил тестування. Цей додатковий рівень нагляду забезпечує додаткову безпеку та дозволяє тисячі кандидатів проходити тестування з додатковими заходами безпеки.

Чи Є Генеративний ІІ Добром чи Злом?

Відповідно до революції підвищення кваліфікації та перепідготовки, ніколи не було більш важливим забезпечити тестування проти нових методів обману. Від дипфейків, які маскують проксі-тестування, до використання великих мовних моделей для надання відповідей на тести, загрози реальні та доступні. Але й рішення також доступні.

На щастя, оскільки Генеративний ІІ продовжує розвиватися, служби безпеки тестів відповідають на цей виклик, залишаючись на передовому краї ІІ-арсеналу проти зловмисників. Застосовуючи інноваційні методи виявлення обману за допомогою Генеративного ІІ, від двокамерного проекторингу до ІІ-посилення моніторингу, служби безпеки тестів можуть ефективно протидіяти цим загрозам.

Ці методи забезпечують компанії миром думки, що програми навчання є надійними, а сертифікації та ліцензії є справжніми. Це дозволяє їм сприяти професійному зростанню своїх працівників та дозволяє їм успішно виконувати свої обов’язки на нових посадах.

Однак природа ІІ означає, що загрози для безпеки тестів є динамічними та постійно еволюціонують. Тому, оскільки Генеративний ІІ покращується та створює нові загрози для цілісності тестів, важливо, щоб служби безпеки продовжували інвестувати в використання його для розробки та вдосконалення інноваційних, багатошарових стратегій безпеки.

Як і у випадку з будь-якою новою технологією, люди спробують використовувати ІІ для добрих та поганих цілей. Але використовуючи технологію для добра, ми можемо забезпечити, щоб сертифікації залишалися надійними та значимими, а довіра до робочої сили та її можливостей залишалася сильною. Майбутнє безпеки тестів не тільки полягає у тому, щоб не відставати – а у тому, щоб бути попереду.