Aarti Samani, Fundadora y CEO de Shreem Growth Partners – Serie de Entrevistas

Aarti Samani, Fundadora y CEO de Shreem Growth Partners, es una líder en tecnología y estratega de inteligencia artificial con más de dos décadas de experiencia impulsando el crecimiento en inteligencia artificial, identidad digital y seguridad biométrica. Ha ocupado puestos senior en iProov y Digital Surgery (adquirida por Medtronic), liderando estrategias globales de producto y marketing y asegurando rondas de financiación importantes. Como comentarista frecuente de la BBC y oradora principal en eventos globales como Money 20/20 y CogX Festival, asesora a consejos y ejecutivos sobre ética, gobernanza y riesgo de inteligencia artificial, ayudando a las organizaciones a construir confianza y resiliencia en la era de la inteligencia artificial.

Shreem Growth Partners ayuda a las organizaciones a protegerse contra el fraude de deepfakes y la impersonación impulsada por inteligencia artificial, centrándose en la capa humana de defensa. A través de capacitación personalizada, briefings ejecutivos, evaluaciones de vulnerabilidad y consultorías estratégicas, la firma equipa a los equipos y líderes para reconocer, responder y prevenir intentos de manipulación. Al fomentar la conciencia, la preparación y la resiliencia cultural, Shreem empodera a las organizaciones para salvaguardar su identidad, reputación y fuerza laboral contra las amenazas de inteligencia artificial en constante evolución.

Usted fundó Shreem Growth Partners después de ocupar puestos senior en iProov, Medtronic Digital Surgery y otras empresas impulsadas por inteligencia artificial. ¿Qué la inspiró a iniciar una empresa dedicada específicamente a la resiliencia contra el fraude de deepfakes?

Después del lanzamiento de ChatGPT a fines de 2022, presenciamos una explosión de herramientas de medios impulsadas por inteligencia artificial capaces de clonar voces y caras en minutos. La mayoría de las organizaciones las vieron como aceleradores creativos para el diseño y el marketing. Pero los delincuentes vieron una nueva oportunidad para un ingeniería social más impactante.

Los deepfakes se convirtieron rápidamente en la herramienta de elección para los estafadores para manipular a las personas. Los equipos de seguridad respondieron invirtiendo en tecnología de detección, sin embargo, la detección sola no puede resolver un problema arraigado en la confianza humana. La psicología era el punto ciego de la industria.

Esa percepción me llevó a fundar Shreem Growth Partners, una firma dedicada a construir resiliencia contra el fraude de deepfakes a través de la conciencia, la simulación y la resiliencia cognitiva. Fortalecer la capacidad de las personas para pensar críticamente y resistir la manipulación es la clave para mitigar este tipo de fraude.

En iProov, usted trabajó en la frontera de la biometría facial y la verificación de identidad. ¿Cómo esa experiencia reveló la creciente amenaza que los deepfakes plantean a los sistemas de autenticación?

Como Directora de Producto y Marketing en iProov, ayudé a llevar la verificación facial biométrica a organizaciones sensibles a la seguridad en ambos sectores público y privado. Estas instituciones son objetivos constantes del cibercrimen organizado. Sus adversarios son inteligentes, bien financiados y equipados con tecnología de vanguardia.

Comenzamos a ver intentos de bypass de los sistemas biométricos utilizando deepfakes construidos a partir de identidades robadas. Debido a que iProov operaba como un servicio administrado en la nube, pudimos observar estos ataques en tiempo real y analizar cómo cada iteración evolucionaba. Se hizo claro que los delincuentes estaban aprendiendo más rápido de lo que el mercado estaba adaptándose.

Esa experiencia me dio una visión interna de la evolución del fraude habilitado por deepfakes y una profunda apreciación de cómo la creatividad y la psicología impulsan el cibercrimen. Esa misma comprensión de la mentalidad delincuente ahora informa mi trabajo en resiliencia contra el fraude de deepfakes.

Los deepfakes se utilizan cada vez más para la impersonación de ejecutivos, el clonado de voces y los ataques de ingeniería social. ¿Qué escenarios está viendo con más frecuencia en el campo hoy en día?

Siempre es más fácil obtener acceso a través de la ingeniería social que rompiendo los sistemas de seguridad. A medida que las personas se vuelven más conscientes de los estafas tradicionales, los delincuentes están recurriendo a nuevas formas de manipular la confianza.

La tecnología de deepfakes se ha convertido en la herramienta de ingeniería social más poderosa que hemos visto. Permite a los perpetradores generar señales de confianza de alta fidelidad: caras, voces y narrativas realistas que sortean el juicio humano.

La ventaja delincuente no se limita a la impersonación de ejecutivos o pagos. Cada vez más, los objetivos son la propiedad intelectual, los datos sensibles y las credenciales de acceso. Al capacitar a los agentes de inteligencia artificial y darles voces clonadas, el fraude ahora se puede ejecutar a escala, velocidad y precisión que ningún atacante humano podría igualar. Ese es el horizonte de amenaza en el que estamos entrando.

¿Qué distingue a un programa de resiliencia contra el fraude de deepfakes de la formación tradicional en ciberseguridad o anti-phishing?

La formación en ciberseguridad, como la conocemos, se creó a principios de la década de 2000, cuando Internet y la informática comercial aún estaban tomando forma. Desde entonces, el contenido ha evolucionado para satisfacer las necesidades de cumplimiento, con un enfoque en las plataformas LMS y la gamificación para la participación. Pero el panorama de amenazas se movió hacia adelante.

Hoy en día, el fraude es inteligente, creativo y psicológicamente ingenioso. Los delincuentes utilizan la inteligencia artificial con la misma sofisticación que la academia o la empresa. La formación, por lo tanto, debe ir más allá del cumplimiento y hacia la cognición.

La formación en resiliencia contra el fraude de deepfakes no se puede reducir a si alguien hace clic en un enlace. Debe enseñar a las personas a pensar críticamente, a cuestionar la autenticidad de las caras y voces con las que interactúan y a reconocer cómo fácilmente se puede manipular la percepción.

Se debe hacer hincapié en la resiliencia cognitiva. Las emociones intensas, las mentes distraídas y el multitarea constante debilitan el pensamiento crítico. Construir resiliencia cognitiva capacita a los empleados para mantener un equilibrio emocional y permanecer analíticos y alerta. Es exactamente la mentalidad necesaria para resistir la manipulación.

Su empresa ofrece Evaluaciones de Vulnerabilidad de Deepfakes y Ejercicios de Mesa. ¿Puede guiarnos a través de cómo se ve una de esas simulaciones y qué conocimientos típicos obtienen los clientes?

En nuestras evaluaciones de vulnerabilidad y ejercicios de mesa, replicamos los vectores de ataque habilitados por deepfakes más recientes extraídos de incidentes reales. Escenarios comunes incluyen un solicitante de empleo falso que utiliza una identidad clonada, un helpdesk de TI comprometido para restablecer credenciales de autenticación de múltiples factores o una llamada de video con una persona generada por inteligencia artificial que convence al personal para que descargue software malicioso.

Estas simulaciones exponen cómo responden las personas bajo presión y revelan puntos ciegos en la comunicación, el proceso y la respuesta a incidentes. Los ejecutivos a menudo descubren falta de experiencia y propiedad de decisión poco clara. Los resultados suelen conducir a un programa de resiliencia sostenible. Uno que fortalece la alfabetización sobre fraude, el cambio de proceso y la cultura, y la preparación para crisis en toda la organización.

Usted habla a menudo sobre la gestión de riesgos centrada en el ser humano. ¿Cómo pueden las empresas capacitar a sus personas para detectar y resistir la manipulación de deepfakes en lugar de confiar únicamente en herramientas técnicas?

Los deepfakes explotan el mismo circuito neural que nos ayuda a evaluar la confianza y la emoción. Nuestros cerebros están cableados para priorizar las señales visuales y auditivas, ya que son los primeros sentidos que desarrollamos. Pero no hemos evolucionado para cuestionar instintivamente esas señales, por lo que debemos aprender y reforzar constantemente esa habilidad.

Las empresas pueden capacitar a sus empleados entrenándolos para tratar las interacciones digitales con precaución y curiosidad. Cuando estamos en una llamada de voz o video, estamos interactuando con un artefacto. Ese artefacto puede ser una persona real proyectada en la pantalla o puede ser uno artificial. No podemos determinar eso visualmente.

La única defensa es la verificación activa: hacer las preguntas correctas, verificar los detalles y notar las inconsistencias en la narrativa. El nuevo mantra debe ser simple: confianza cero, siempre verificar.

Los deepfakes borran la línea entre la desinformación y el fraude. ¿Cómo pueden los ejecutivos prepararse para crisis de reputación y operativas desencadenadas por incidentes de medios sintéticos?

Los equipos de liderazgo deben tratar los incidentes de deepfakes como un riesgo comercial fundamental, no hipotético. Cada ejecutivo alrededor de la mesa debe saber su papel cuando se desencadena una crisis.

Al igual que los consejos de administración revisan los registros de riesgos, también deben revisar los planes de respuesta a incidentes, y estos no pueden ser estáticos. El panorama de amenazas evoluciona demasiado rápido. Los planes necesitan ser sometidos a pruebas de estrés y actualizados al menos dos veces al año, idealmente después de un ejercicio de mesa que simula un evento real.

Las crisis de deepfakes rara vez se encuentran dentro de una sola función. Exigen coordinación entre comunicaciones, legales, seguridad y recursos humanos. Las organizaciones que responden mejor son aquellas cuyos líderes ensayan esa colaboración antes de que ocurra un incidente real.

También hay un costo psicológico cuando los empleados o ejecutivos se convierten en objetivos de deepfakes convincentes. ¿Qué apoyo o protocolos deben tener las organizaciones para abordar ese impacto humano?

La “vergüenza del fraude” debe evitarse a toda costa. Las organizaciones deben construir una cultura de seguridad psicológica mucho antes de que ocurra un incidente. Cuando los empleados o ejecutivos se convierten en objetivos de deepfakes, la experiencia puede sentirse como un asalto. Una pérdida de control sobre la propia imagen, voz y identidad digital.

La respuesta debe ser tanto procedimental como humana. Los protocolos de informe claros deben estar junto con el apoyo a la salud mental, las sesiones de debriefing confidenciales y el acceso a la forensia digital para que los individuos comprendan qué sucedió.

Los líderes establecen el tono. Cuando los ejecutivos hablan abiertamente sobre los intentos de manipulación y la recuperación, eliminan el estigma y fomentan la transparencia. Esa apertura es lo que convierte la vulnerabilidad individual en resiliencia colectiva.

Como fundadora de una consultoría en este espacio, ¿cuáles son sus mayores preocupaciones sobre cómo está evolucionando rápidamente la inteligencia artificial generativa — y dónde ve el próximo oleada de capacidades de deepfakes emergiendo?

La inteligencia artificial generativa está evolucionando a una velocidad extraordinaria. Eso en sí mismo no es la preocupación. El verdadero riesgo radica en su rápida adopción y adhesión en las operaciones comerciales diarias. El ritmo de la gestión de amenazas y la conciencia simplemente no ha mantenido el ritmo. Esa brecha entre la amenaza y la resiliencia es exactamente donde prosperan los estafadores, con los deepfakes como su herramienta de habilitación más efectiva.

Cada nueva innovación se convierte en otra superficie para la explotación. En este momento, los agentes de inteligencia artificial plantean un riesgo creciente. Cuando se combinan con la tecnología de deepfakes, pueden ejecutar el fraude a escala, velocidad y precisión que ningún atacante humano podría igualar.

Por el contrario, ¿qué tecnologías o esfuerzos de colaboración le dan optimismo de que podemos mantenernos por delante del fraude impulsado por deepfakes y la desinformación?

El hecho de que esta conversación esté sucediendo en una publicación respetada es en sí mismo un signo de progreso. Muestra que los innovadores, los reguladores, los medios y las empresas están siendo golpeados duramente por la desinformación.

Lo que me da optimismo es la creciente voluntad de colaborar. La resiliencia contra los deepfakes no vendrá de una sola herramienta o una sola organización, sino de la inteligencia compartida. Aprender a intercambiar información y educar a la comunidad con la misma eficiencia con que lo hacen los delincuentes.

Todavía necesitamos perfeccionar cómo sucede esa colaboración, pero la intención está allí. Y esa intención colectiva es lo que finalmente restaurará la confianza.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Aarti Samani.