¿Es el AI Generativo una Bendición o una Maldición? Abordando las Amenazas del AI en la Seguridad de los Exámenes

A medida que los cambios tecnológicos y económicos de la era digital sacuden dramáticamente las demandas de la fuerza laboral global, la capacitación y la recualificación nunca han sido más críticas. Como resultado, la necesidad de una certificación confiable de nuevas habilidades también crece.

Dada la importancia cada vez mayor de la certificación y las pruebas de licencia en todo el mundo, ha surgido una ola de servicios diseñados para ayudar a los candidatos a engañar en los procedimientos de prueba. Estos métodos engañosos no solo suponen una amenaza para la integridad del mercado de habilidades, sino que también pueden suponer riesgos para la seguridad humana; algunas pruebas de licencia se relacionan con habilidades prácticas importantes como conducir o operar maquinaria pesada.

Después de que las empresas comenzaron a darse cuenta de los métodos de engaño convencionales o analógicos utilizando proxies humanos reales, introdujeron medidas para prevenir esto; para los exámenes en línea, a los candidatos se les pidió que mantuvieran sus cámaras encendidas mientras tomaban la prueba. Pero ahora, la tecnología de deepfake (es decir, audio y video hiperrealistas que a menudo son indistinguibles de la vida real) supone una nueva amenaza para la seguridad de las pruebas. Las herramientas disponibles en línea utilizan el AI Generativo para ayudar a los candidatos a escapar de tener un proxy que tome la prueba por ellos.

Al manipular el video, estas herramientas pueden engañar a las empresas para que crean que un candidato está tomando el examen cuando, en realidad, alguien más está detrás de la pantalla (es decir, prueba por proxy). Los servicios populares permiten a los usuarios intercambiar sus caras por las de alguien más desde una cámara web. La accesibilidad de estas herramientas socava la integridad de las pruebas de certificación, incluso cuando se utilizan cámaras.

Otras formas de AI Generativo, así como los deepfakes, suponen una amenaza para la seguridad de las pruebas. Los modelos de lenguaje grande (LLM) están en el corazón de una carrera tecnológica global, con gigantes tecnológicos como Apple (AAPL ), Microsoft (MSFT ), Google y Amazon (AMZN ), así como rivales chinos como DeepSeek, que apuestan por ellos.

Muchos de estos modelos han hecho titulares por su capacidad para aprobar exámenes prestigiosos y de alto riesgo. Al igual que con los deepfakes, los actores maliciosos han utilizado los LLM para explotar las debilidades de las normas de seguridad de las pruebas tradicionales.

Algunas empresas han comenzado a ofrecer extensiones de navegador que lanzan asistentes de AI, que son difíciles de detectar, lo que les permite acceder a las respuestas a las pruebas de alto riesgo. Usos menos sofisticados de la tecnología aún suponen amenazas, incluyendo a los candidatos que no son detectados mientras utilizan aplicaciones de AI en sus teléfonos mientras toman exámenes.

Sin embargo, los nuevos procedimientos de seguridad de las pruebas pueden ofrecer formas de garantizar la integridad de las pruebas contra estos métodos.

¿Cómo Mitigar los Riesgos Mientras se Disfrutan los Beneficios del AI Generativo

A pesar de las numerosas y rápidamente evolucionadas aplicaciones del AI Generativo para engañar en las pruebas, hay una carrera paralela en curso en la industria de la seguridad de las pruebas.

La misma tecnología que amenaza las pruebas también puede ser utilizada para proteger la integridad de las pruebas y proporcionar garantías adicionales a las empresas de que los candidatos que contratan están calificados para el trabajo. Debido a las amenazas constantemente cambiantes, las soluciones deben ser creativas y adoptar un enfoque multi-capas.

Una forma innovadora de reducir las amenazas que plantea el AI Generativo es la supervisión con cámara dual. Esta técnica implica utilizar el dispositivo móvil del candidato como una segunda cámara, proporcionando una segunda fuente de video para detectar el engaño.

Con una visión más completa del entorno de prueba del candidato, los supervisores pueden detectar mejor el uso de múltiples monitores o dispositivos externos que podrían estar ocultos fuera de la vista de la cámara web típica.

También puede facilitar la detección del uso de deepfakes para disfrazar la prueba por proxy, ya que el software depende del intercambio de caras; una vista del cuerpo completo puede revelar discrepancias entre el deepfake y la persona que se presenta para el examen.

Las pistas sutiles, como las discrepancias en la iluminación o la geometría facial, se vuelven más aparentes cuando se comparan a través de dos fuentes de video separadas. Esto facilita la detección de deepfakes, que son generalmente representaciones planas y bidimensionales de caras.

El beneficio adicional de la supervisión con cámara dual es que efectivamente ata el teléfono del candidato, lo que significa que no puede ser utilizado para engañar. La supervisión con cámara dual se ve aún más mejorada por el uso de AI, que mejora la detección del engaño en la fuente de video en vivo.

El AI proporciona efectivamente un ‘segundo par de ojos’ que puede enfocarse constantemente en la fuente de video en vivo. Si el AI detecta actividad anormal en la fuente de un candidato, emite una alerta a un supervisor humano, que puede verificar si ha habido una violación de las normas de prueba. Esta capa adicional de supervisión proporciona seguridad adicional y permite que se monitoreen a miles de candidatos con protecciones de seguridad adicionales.

¿Es el AI Generativo una Bendición o una Maldición?

A medida que la revolución de la capacitación y la recualificación progresa, nunca ha sido más importante garantizar las pruebas contra los métodos de engaño novedosos. Desde los deepfakes que disfrazan a los proxies de prueba hasta el uso de LLM para proporcionar respuestas a las preguntas de las pruebas, las amenazas son reales y accesibles. Pero también lo son las soluciones.

Afortunadamente, a medida que el AI Generativo continúa avanzando, los servicios de seguridad de las pruebas están asumiendo el desafío, manteniéndose a la vanguardia de una carrera de armas de AI contra los actores maliciosos. Al emplear formas innovadoras de detectar el engaño utilizando el AI Generativo, desde la supervisión con cámara dual hasta la supervisión mejorada con AI, las empresas de seguridad de las pruebas pueden contrarrestar eficazmente estas amenazas.

Estos métodos proporcionan a las empresas la tranquilidad de que los programas de capacitación son confiables y que las certificaciones y licencias son verificables. Al hacerlo, pueden fomentar el crecimiento profesional de sus empleados y permitirles destacar en nuevos puestos.

Por supuesto, la naturaleza del AI significa que las amenazas a la seguridad de las pruebas son dinámicas y evolucionan constantemente. Por lo tanto, a medida que el AI Generativo mejora y plantea nuevas amenazas a la integridad de las pruebas, es crucial que las empresas de seguridad continúen invirtiendo en aprovecharlo para desarrollar y perfeccionar estrategias de seguridad innovadoras y multi-capas.

Como con cualquier nueva tecnología, la gente intentará utilizar el AI para fines buenos y malos. Pero al aprovechar la tecnología para el bien, podemos garantizar que las certificaciones sigan siendo confiables y significativas y que la confianza en la fuerza laboral y sus capacidades siga siendo fuerte. El futuro de la seguridad de las pruebas no se trata solo de mantener el ritmo – se trata de mantener la delantera.