Kaarel Kotkas, CEO y Fundador de Veriff – Serie de Entrevistas

Kaarel Kotkas es el CEO y Fundador de Veriff y actúa como el pensador estratégico y visionario detrás de la empresa. Lidera el equipo de Veriff para mantenerse por delante del fraude y la competencia en el campo de identificación en línea en constante evolución. Conocido por su energía y entusiasmo, Kotkas anima al equipo a mantener la integridad en el mundo digital. En 2023, fue reconocido en la lista EU Forbes 30 Under 30, y en 2020, fue nombrado Emprendedor del Año en Estonia por EY. El Nordic Business Report también lo incluyó entre los 25 jóvenes emprendedores más influyentes del norte de Europa.

Veriff es una empresa global de verificación de identidad que ayuda a los negocios en línea a reducir el fraude y cumplir con las regulaciones. Utilizando la IA, Veriff verifica automáticamente las identidades analizando varios indicadores tecnológicos y de comportamiento, incluyendo el reconocimiento facial.

¿Qué te inspiró a fundar Veriff, y qué desafíos enfrentaste al construir una plataforma de prevención de fraude impulsada por la IA?

Mi motivación para Veriff surgió después de presenciar de primera mano lo fácil que era para las personas en línea hacerse pasar por alguien más. Cuando compré cuerda biodegradable en eBay para la granja de mi familia a los 14 años, fácilmente evité las restricciones de edad de 18+ de PayPal (PYPL ) con un toque de Photoshop para cambiar mi año de nacimiento en la copia de mi documento de identidad.

Seguí viendo el problema de los usuarios en línea que se hacían pasar por alguien más para pasar controles de edad y otras medidas de seguridad. Fue debido a estas experiencias que se me ocurrió la idea para Veriff.

En cuanto a los desafíos, un año después de fundar la empresa, le dimos al equipo el fin de semana libre. Ese fue el mismo día en que hicimos una corrección de errores, lo que resultó en una interrupción total en nuestras capacidades de monitoreo. No nos dimos cuenta de que nuestro servicio se estaba apagando hasta el sábado por la mañana. El lunes por la mañana, tuve que reunirme cara a cara con nuestro cliente más grande, que había perdido miles de dólares en ingresos. Fui transparente en esa reunión, explicando los errores de nuestro lado. Nos dimos la mano y volvimos al trabajo. Lo que aprendí de esto es que, como fundador y líder empresarial, debemos esperar y prepararnos para los desafíos. Además, la transparencia es clave para construir la confianza. Por último, demostrar una historia de superar desafíos puede ser más valioso porque muestra que puedes abordar problemas de manera exitosa y eres resistente.

Con los deepfakes volviéndose más sofisticados, especialmente en contextos políticos, ¿qué crees que son los riesgos más significativos que plantean para las elecciones y la democracia?

Esta temporada electoral, la integridad del proceso de votación está en peligro. La IA puede analizar vastas cantidades de datos para identificar preferencias y tendencias de los votantes, lo que permite a las campañas adaptar sus mensajes y dirigirse a los votantes con mensajes que más les importan. Los actores maliciosos están bien equipados para crear narrativas falsas de candidatos realizando acciones que nunca hicieron o haciendo declaraciones que nunca dijeron, dañando así su reputación y engañando a los votantes.

Hasta la fecha, hemos visto deepfakes de celebridades que respaldan a candidatos presidenciales y una llamada robótica falsa de Biden. Aunque existe tecnología para ayudar a distinguir entre contenido generado por la IA y el auténtico, no es viable implementarla a gran escala. Con las altas apuestas y la credibilidad de las elecciones en juego, algo debe hacerse para preservar la confianza pública. El crecimiento futuro de la economía digital y su lucha contra el fraude digital se centra en identidades comprobadas y cuentas en línea auténticas y verificadas.

Los deepfakes pueden manipular no solo imágenes, sino también voces. ¿Crees que un medio es más peligroso que el otro cuando se trata de engañar a los votantes?

En general, especialmente en el contexto de las elecciones en los Estados Unidos, ambos deben ser tratados como amenazas igualmente graves para la democracia. Nuestro informe más reciente Veriff Fraud Index 2024: Parte 2, encontró que el 74% de los encuestados en los Estados Unidos están preocupados por el impacto de la IA y los deepfakes en las elecciones.

La evolución de la IA ha aumentado la amenaza a la seguridad, no solo en los Estados Unidos, sino en todo el mundo, durante estas elecciones. Ya sea que se trate de imágenes deepfakes, voces generadas por la IA en llamadas robóticas que intentan sesgar las opiniones de los votantes, o videos falsos de candidatos, ambos provocan una preocupación justificada.

Miremos el panorama más amplio. Cuando hay muchos puntos de datos disponibles, es más fácil evaluar el “nivel de amenaza”. Una sola imagen puede no ser suficiente para determinar si es fraudulenta, pero un video proporciona más pistas, especialmente si tiene audio. Agregar detalles como el dispositivo utilizado, la ubicación o quién grabó el video aumenta la confianza en su autenticidad. Los estafadores siempre intentan limitar el alcance de la información porque les resulta más fácil manipularla. Considero que las llamadas robóticas son más peligrosas que los deepfakes porque crear audio falso es más fácil que generar videos falsos de alta calidad. Además, el uso de LLMs hace posible ajustar el audio falso durante las llamadas, lo que lo hace aún más convincente.

Considerando las próximas elecciones, ¿qué deberían estar más preocupados los gobiernos y las comisiones electorales en cuanto a la desinformación impulsada por la IA?

Los gobiernos y las comisiones electorales necesitan comprender el alcance potencial de las capacidades de los deepfakes, incluyendo lo sofisticadas y convincentes que se han vuelto estas instancias de fraude. Los deepfakes son especialmente efectivos cuando se despliegan contra empresas con procesos de gestión de identidad desconectados e inconsistentes y una pobre ciberseguridad, lo que hace más crítico implementar medidas de seguridad robustas o tener un enfoque en capas para la seguridad.

Aún así, no hay una solución única para todos, por lo que se requiere un enfoque coordinado y multifacético. Esto podría incluir controles robustos y exhaustivos de documentos de identidad afirmados, contramedidas de IA para identificar la manipulación de imágenes entrantes, especialmente en lo que respecta a la votación remota, y, lo más importante, identificar a los creadores de deepfakes y contenido fraudulento en su fuente. La responsabilidad de verificar los votos recae en los gobiernos y las comisiones electorales, así como en los proveedores de tecnología e identidad.

¿Qué papel pueden desempeñar la IA y las tecnologías de verificación de identidad como Veriff en contrarrestar el impacto de los deepfakes en las elecciones y las campañas políticas?

La IA es una amenaza y una oportunidad. Casi el 78% de los responsables de la toma de decisiones han visto un aumento en el uso de la IA en ataques fraudulentos en el último año. Por otro lado, casi el 79% de los CEOs utilizan la IA y el ML en la prevención del fraude. En un momento en que el fraude está en aumento, las estrategias de prevención del fraude deben ser holísticas; ninguna herramienta sola puede combatir una amenaza tan multitudinaria. Sin embargo, la IA y la verificación de identidad pueden empoderar a las empresas y a los usuarios con una pila multilayer que incorpora biometría, verificación de identidad, vinculación y otras soluciones para adelantarse a los estafadores.

En Veriff, utilizamos nuestra propia tecnología impulsada por la IA para desarrollar nuestras capacidades de detección de deepfakes. Esto significa que nuestras herramientas mejoran con los conocimientos que obtenemos cuando vemos un deepfake. Tomar grandes cantidades de datos y buscar patrones que hayan aparecido antes para determinar resultados futuros depende tanto de tecnologías automatizadas como de conocimiento y inteligencia humanos. Los humanos tienen una mejor comprensión del contexto, identificando anomalías para crear un bucle de retroalimentación que se puede utilizar para mejorar los modelos de IA. Combinar diferentes perspectivas y expertise para crear un enfoque integral para la verificación de identidad y la detección de deepfakes nos ha permitido a Veriff y a nuestros clientes mantenernos por delante de la curva.

¿Cómo pueden las empresas y los individuos protegerse mejor de ser influenciados por los deepfakes y la desinformación impulsada por la IA?

Protegerse de ser influenciado por los deepfakes y la desinformación impulsada por la IA comienza con la educación y el conocimiento de las capacidades amplias de la IA, combinado con identidades comprobadas y cuentas en línea auténticas y verificadas. Para determinar si se puede confiar en una fuente, hay que mirar la causa en lugar de los síntomas. Debemos abordar el problema en su fuente, donde y por quién se generan estos deepfakes y recursos fraudulentos.

Los consumidores y las empresas deben confiar solo en la información de fuentes verificadas, como usuarios de plataformas de redes sociales verificadas y medios de comunicación acreditados. Además, utilizar sitios web de verificación de hechos y buscar anomalías visuales en clips de audio o video —movimientos no naturales, iluminación extraña, borrosidad o sincronización de labios desigual— son solo algunas de las formas en que las empresas pueden protegerse de ser engañadas por la tecnología de deepfakes.

¿Crees que hay suficiente conciencia pública sobre los peligros de los deepfakes? Si no, ¿qué pasos deberían tomarse para mejorar la comprensión?

Todavía estamos en la fase de crecimiento de la conciencia sobre la IA y la educación de las personas sobre su potencial.

Según el Veriff Fraud Index 2024: Parte 2, más de una cuarta parte (28%) de los encuestados han experimentado algún tipo de fraude generado por la IA o deepfakes en el último año, un resultado impactante para una tecnología emergente y una indicación del creciente carácter de esta amenaza. Lo que es más importante es que este número podría ser en realidad mucho mayor, ya que el 20% dice que no sabe si ha sido objetivo o no. Dada la naturaleza sofisticada de los intentos de fraude generados por la IA, es muy probable que muchos encuestados hayan sido objetivo sin saberlo.

Los individuos deben ser cautelosos al enfrentar correos electrónicos sospechosos o llamadas telefónicas inesperadas de fuentes desconocidas. Las solicitudes de información sensible o dinero siempre deben ser recibidas con escepticismo, y es crucial confiar en los instintos y buscar claridad si algo parece incorrecto.

¿Qué papel crees que pueden desempeñar los organismos reguladores en la lucha contra la desinformación generada por la IA, y cómo pueden colaborar con empresas como Veriff?

Dado el alcance en el que se ha utilizado la tecnología de deepfakes para engañar al público y amplificar los esfuerzos de desinformación, y con las elecciones en los Estados Unidos aún en curso, todavía está por verse cuánto impacto tendrá esta tecnología en esas elecciones y en la sociedad en general. Sin embargo, los organismos reguladores están tomando medidas para mitigar las amenazas de la tecnología de deepfakes.

Mucha responsabilidad por mitigar el impacto de la desinformación recae en los propietarios de las plataformas que usamos con más frecuencia. Por ejemplo, las principales empresas de redes sociales deben asumir más responsabilidad tomando medidas y implementando medidas robustas para detectar y prevenir ataques fraudulentos y proteger a los usuarios de información engañosa perjudicial.

¿Cómo ves evolucionar la tecnología de Veriff en los próximos años para mantenerse por delante de los estafadores, particularmente en el contexto de las elecciones?

En nuestro mundo digital en rápida evolución, el futuro de internet depende de la capacidad de los usuarios en línea para demostrar quiénes son; de esta manera, las empresas y los usuarios pueden interactuar entre sí con confianza. En Veriff, la confianza es sinónimo de verificación. Nuestro objetivo es asegurar que los entornos digitales fomenten un sentido de seguridad y seguridad para el usuario final. Este objetivo requiere que la tecnología evolucione para enfrentar los desafíos de hoy, y ya estamos viendo esto con una mayor aceptación del reconocimiento facial y la biometría. Los datos muestran que los consumidores consideran el reconocimiento facial y la biometría como el método más seguro para iniciar sesión en un servicio en línea.

Mirando hacia adelante, visualizamos esta tendencia continuando y un futuro donde, en lugar de que los usuarios ingresen y reingresen constantemente sus credenciales a medida que realizan diferentes tareas en línea, tengan una “identidad reutilizable” que represente su persona en toda la web.

Para acercarnos un paso más a nuestro objetivo, recientemente actualizamos nuestra solución de Autenticación Biométrica para mejorar la precisión y la experiencia del usuario, y para fortalecer la seguridad para una garantía de identidad más fuerte. Estos últimos avances en tecnología biométrica han permitido que nuestra tecnología se adapte a los comportamientos individuales de los usuarios, asegurando la autenticación del usuario en lugar de solo durante una sesión. Este avance, en particular, representa un progreso hacia nuestra meta de una identidad digital reutilizable.

Veriff es reconocido por su alcance global en la prevención del fraude. ¿Qué hace que la tecnología de Veriff se destaque en un espacio tan competitivo?

La solución de Veriff ofrece velocidad y conveniencia, ya que es 30 veces más precisa y 6 veces más rápida que las ofertas competidoras. Tenemos la base de datos de especímenes de documentos de identidad más grande en la industria de verificación de identidad (IDV) / Conoce a tu cliente (KYC). Podemos verificar a las personas contra 11,500 documentos de identidad emitidos por el gobierno de más de 230 países y territorios, en 48 idiomas diferentes. Además, esta comodidad y reducción de fricción permiten a las organizaciones convertir a más usuarios, mitigar el fraude y cumplir con las regulaciones. También tenemos una tasa de automatización del 91% y el 95% de los usuarios genuinos son verificados con éxito en su primer intento.

Veriff fue una de las primeras empresas de IDV en obtener la certificación Cyber Essentials. Cyber Essentials es un estándar respaldado por el gobierno que protege contra los ataques cibernéticos más comunes. Obtener esta certificación demuestra que Veriff se toma en serio la ciberseguridad y ha tomado medidas para proteger sus datos y sistemas. Este logro es un testimonio del compromiso inquebrantable de la empresa con la ciberseguridad y nuestra dedicación a proteger los datos de nuestros clientes. Más recientemente, completamos la evaluación de conformidad ISO/IEC 30107-3 iBeta Nivel 2 para la detección de liveness pasiva biométrica, una validación externa independiente para solidificar que la solución de Veriff cumple con el estándar más alto de seguridad biométrica.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Veriff.