Vaishnav Anand, autor de Tech Demystified: Ciberseguridad – Serie de entrevistas

Con solo diecisiete años, Vaishnav Anand, estudiante de la escuela Athenian, ha desarrollado el primer sistema de inteligencia artificial capaz de detectar “deepfakes geoespaciales”, es decir, imágenes de satélite manipuladas por inteligencia artificial que podrían ocultar sitios militares, fabricar depósitos de recursos o distorsionar datos de desastres, lo que supone un riesgo para la seguridad nacional y la estabilidad global. Sin datasets públicos disponibles para este tipo de detección, Anand generó sus propias imágenes sintéticas utilizando Redes Adversarias Generativas, entrenó modelos desde cero y ahora está aplicando métodos de difusión para mejorar la precisión. Su investigación ya ha sido presentada en la Conferencia Internacional de Usuarios de Esri y en la Universidad de Cambridge, lo que le ha valido el reconocimiento del presidente de Esri, Jack Dangermond.

Además de su trabajo en seguridad de la inteligencia artificial, Anand ha escrito dos libros de ciberseguridad adoptados por escuelas privadas, y su último título, Tech Demystified: Ciberseguridad: Principios básicos de la defensa cibernética moderna, ha recibido una calificación de 5,0 estrellas. El libro desglosa temas complejos como el phishing, el malware, los firewalls y el cifrado en lecciones claras y prácticas para estudiantes, educadores y cualquier persona interesada en la seguridad digital. Al hacer que la ciberseguridad sea accesible y atractiva, Anand se está estableciendo no solo como un innovador en inteligencia artificial, sino también como una voz emergente en educación y tecnología.

Aún estás en la escuela secundaria, pero ya estás teniendo un impacto en la inteligencia artificial y la ciberseguridad. ¿Qué te llevó a este campo y cómo empezaste a desarrollar proyectos tan avanzados a una edad tan temprana?

Lo que me llevó a este campo fue ver la doble naturaleza de la inteligencia artificial. Tiene un potencial increíble, pero también puede causar daño. Tuve una experiencia directa con la tecnología de deepfakes que cambió mi perspectiva. Ver cómo los medios sintéticos podrían lastimar seriamente a los jóvenes me hizo darme cuenta de que esto era más que una curiosidad técnica; era un problema social crítico que necesitaba más comprensión.

Mi entrada en la investigación no vino de un plan grandioso, sino de una gran curiosidad. Cada pregunta que investigué me llevó a la siguiente, creando un ciclo de descubrimiento. Me encontré interesado en problemas cada vez más complejos. No estaba buscando reconocimiento; estaba genuinamente intrigado por las preguntas.

Me trasladé de la exploración individual a la investigación significativa a través de la networking y la persistencia. Empecé a contactar a investigadores establecidos cuyo trabajo admiraba, principalmente a través de plataformas como LinkedIn. Aunque muchos no respondieron, tuve la suerte de conectarme con dos investigadores de doctorado que se centraban en la seguridad de la inteligencia artificial y la detección de deepfakes. Me empezaron con tareas pequeñas dentro de sus proyectos de investigación más grandes. A medida que demostraba mi confiabilidad y perspicacia, estas tareas se volvieron más sustanciales.

Esta tutoría fue cambiadora. Tener investigadores experimentados guiando mi desarrollo me ayudó a convertir mi curiosidad en trabajo riguroso. Mi motivación intrínseca, su orientación estructurada y el esfuerzo constante gradualmente transformaron mi interés casual en contribuciones de investigación significativas. Reforzó mi creencia de que el progreso real a menudo proviene no de avances dramáticos, sino de la participación continua con problemas importantes.

La mayoría de la gente piensa en deepfakes en términos de caras o voces. ¿Qué te inspiró a investigar deepfakes geoespaciales específicamente, y por qué los viste como un punto ciego crítico?

Cuando la mayoría de la gente escucha la palabra “deepfake”, piensa en videos falsos de celebridades o voces alteradas. Yo también al principio. Pero a medida que aprendí más, empecé a preguntarme dónde más se podría utilizar esta tecnología de manera que no consideráramos. Eso es cuando me di cuenta de que las imágenes de satélite a menudo se tratan como completamente confiables. Los gobiernos, las empresas y incluso los equipos de respuesta a desastres toman decisiones importantes basadas en ellas.

Esto parecía un punto ciego. Si un video falso puede dañar reputaciones, una imagen de satélite falsa o alterada podría interrumpir las cadenas de suministro, engañar a los esfuerzos de rescate o incluso llevar a malas decisiones de seguridad nacional. A medida que la defensa y la guerra se vuelven más dependientes de los sistemas de inteligencia artificial, drones y toma de decisiones automatizada, los riesgos crecen. Una alimentación de satélite manipulada puede engañar no solo a las personas, sino también a las máquinas.

Lo que me golpeó aún más fue que los deepfakes geoespaciales reciben mucha menos atención que los deepfakes de caras o voces. No hay muchos datasets públicos o herramientas estándar para detectarlos. Además, detectar falsos en imágenes de satélite es mucho más desafiante. No solo estás buscando problemas como errores de sincronización de labios o bordes borrosos. Los datos de satélite son multi-espectrales, muy detallados y llenos de patrones que incluso los expertos luchan por analizar. Esa falta de investigación, combinada con las altas apuestas, me hizo darme cuenta de que este es un área importante para explorar.

Puedes llevarnos a través de tu proceso de descubrimiento, cómo te diste cuenta de que las imágenes de satélite manipuladas podrían suponer riesgos para la seguridad nacional, la economía y la respuesta a desastres?

Mi punto de inflexión llegó después de encontrarme con un deepfake que sacudió mi fe en lo que estaba viendo. Ese momento de duda reveló algo importante: los humanos están naturalmente cableados para confiar en la evidencia visual, y cuando esa confianza se rompe, cambia cómo vemos todo. La experiencia me hizo enfrentar cómo vulnerables somos todos a la decepción astuta.

Al principio, como la mayoría de la gente, me centré en los usos obvios, los deepfakes de video y las caras alteradas. Mis proyectos de detección iniciales me dieron una visión vital de cómo funcionan estas tecnologías, pero también me mostraron las implicaciones más amplias que no había considerado.

El verdadero ojo abierto llegó cuando serví como Director Asociado del equipo de liderazgo de GIS de National 4-H. Trabajando con datos geoespaciales e imágenes de satélite, vi cómo estas fuentes aparentemente objetivas impulsan decisiones importantes. Vi cómo los mapas guiaban la respuesta a desastres, configuraban la política ambiental y influían en proyectos de planificación comunitaria de millones de dólares. Lo que más me sorprendió fue la confianza ciega en estos datos, se los veía como una verdad incuestionable.

Eso es cuando todo tuvo sentido. Si un video falso puede causar angustia emocional y disturbios sociales, una imagen de satélite manipulada podría llevar a resultados desastrosos en el mundo real. Piensa en los recursos de emergencia que se envían a zonas de desastre falsas, los gobiernos que toman decisiones basadas en datos ambientales incorrectos o los mercados financieros que se ven afectados por informes agrícolas alterados. El potencial de daño era asombroso.

Esta combinación de mi investigación sobre deepfakes y mi experiencia con GIS reveló una brecha en nuestra conciencia colectiva. Mientras que el mundo discute intercambios de caras y medios sintéticos, la amenaza mucho mayor de los deepfakes geoespaciales permanece en gran medida pasada por alto. Esta comprensión se convirtió en la fuerza impulsora detrás de mi investigación, abordar una vulnerabilidad seria que podría cambiar cómo entendemos la verdad en nuestro mundo impulsado por datos.

Tu investigación utiliza Redes Adversarias Generativas (GAN) para detectar imágenes de satélite falsas. ¿Cómo funciona tu sistema y qué lo hace diferente de los detectores de deepfakes generales?

La mayoría de los detectores hoy en día están diseñados para identificar caras o voces. Buscan signos como movimientos de labios no coincidentes o problemas de audio. Las imágenes de satélite son muy diferentes. Consisten en texturas finas y patrones espectrales a lo largo de paisajes, tierras de cultivo, océanos y ciudades. Estos patrones son más difíciles de notar y necesitan un enfoque diferente.

En mi proyecto inicial, entrené un marco de GAN utilizando el conjunto de datos SpaceNet-7 de imágenes de satélite reales. El generador crea imágenes sintéticas, y el discriminador aprende a distinguir entre reales y falsas. Al centrarme en el discriminador, entrené un modelo que entiende la “firma” estadística de los datos geoespaciales reales. Esto incluye cómo se comportan las texturas en áreas urbanas en comparación con paisajes naturales y cómo fluyen los patrones de intensidad de píxel a través de diferentes regiones.

A través de este proceso de entrenamiento, el sistema logró un alto nivel de precisión para detectar falsificaciones. La principal diferencia con respecto a los detectores generales es que este está diseñado específicamente para datos geoespaciales. En lugar de buscar errores visuales obvios, aprende las sutiles inconsistencias espectrales y texturales que revelan imágenes de satélite sintéticas.

Mi investigación actual se ha desplazado hacia la exploración de modelos de difusión como generadores. Estos representan una mejora significativa sobre las GAN en cuanto a calidad de imagen. Los modelos de difusión como DDPM y DDIM crean imágenes de satélite muy realistas aprendiendo a revertir un proceso de adición de ruido. Las imágenes sintéticas que producen son a menudo más claras y detalladas que las generadas por las GAN. Esto presenta tanto una oportunidad como un desafío. Mientras que estos modelos pueden proporcionar mejores datos de entrenamiento para los sistemas de detección, también producen falsos más avanzados que son más difíciles de detectar.

Estoy comparando varios métodos de detección para encontrar cuáles son los más efectivos contra diferentes técnicas de generación. Esto incluye clasificadores basados en CNN tradicionales, arquitecturas basadas en transformadores que pueden capturar relaciones espaciales a largo alcance en imágenes de satélite, y métodos híbridos que combinan el análisis espectral con el aprendizaje profundo. Cada método tiene sus propias fortalezas: los CNN son buenos para detectar problemas de textura locales, los transformadores pueden detectar problemas estructurales más grandes en áreas de imagen, y el análisis espectral puede identificar firmas de frecuencia sutiles que las redes neuronales podrían pasar por alto.

Un aspecto interesante es cómo los diferentes generadores dejan huellas dactilares forenses únicas. Las imágenes generadas por GAN a menudo tienen artefactos específicos en detalles de alta frecuencia y bordes, mientras que las imágenes generadas por difusión suelen mostrar inconsistencias más sutiles en la coherencia general y las características espectrales. Al entrenar modelos de detección en imágenes falsas generadas tanto por GAN como por difusión, estoy ganando una comprensión más profunda de las firmas de las imágenes de satélite sintéticas. Esto ayuda a construir sistemas de detección que pueden adaptarse a medida que la tecnología de generación evoluciona.

Este enfoque multi-modal de detección es esencial. A medida que los modelos generativos se vuelven más avanzados, necesitamos sistemas de detección que no dependan de errores de un solo método de generación. El objetivo es identificar las características estadísticas básicas que distinguen las capturas de satélite reales de cualquier forma de síntesis, independientemente de la tecnología subyacente utilizada para crearlas.

En tu artículo de la URTC de MIT, mencionas lograr alrededor del 88 por ciento de precisión en la distinción entre imágenes de satélite auténticas y falsas. ¿Cuáles fueron los avances clave que permitieron este rendimiento?

El avance clave fue darme cuenta de que no había conjuntos de datos públicos disponibles para la detección de imágenes de satélite falsas. Esto me llevó a adoptar un enfoque dual, trabajando en la generación y la detección al mismo tiempo. Creé mi propio conjunto de datos sintético utilizando GAN y entrené discriminadores con esos datos. Esto me permitió construir un sistema que realmente entendía los patrones estadísticos de los datos geoespaciales reales.

Otra idea importante fue reconocer que las imágenes de satélite plantean desafíos muy diferentes en comparación con los deepfakes de caras. Mientras que las caras generalmente tienen estructuras anatómicas consistentes, las imágenes de satélite cubren una amplia gama de tipos de terreno, desde patrones agrícolas hasta diseños urbanos y paisajes naturales. Necesitaba crear un sistema de detección que pudiera identificar las características auténticas en todos estos diferentes entornos.

Este método especializado, en lugar de confiar en detectores generales, permitió que el modelo detectara las sutiles diferencias espectrales y texturales que revelan las imágenes de satélite sintéticas. Sin embargo, mi investigación actual con modelos de difusión está mostrando resultados mucho mejores, logrando tasas de precisión más altas y siendo más resilientes contra técnicas de generación avanzadas.

¿Cómo generaste tus propias imágenes sintéticas para el entrenamiento, dado que no hay conjuntos de datos públicos para la detección de deepfakes geoespaciales?

Crear el conjunto de datos sintético involucró construir una arquitectura de GAN compleja entrenada en el conjunto de datos SpaceNet-7 de imágenes de satélite reales. El generador aprendió a convertir ruido aleatorio en imágenes de satélite más realistas. Capturó los patrones complejos encontrados en los datos geoespaciales reales.

El proceso se asemeja a una competencia entre un falsificador habilidoso y un verificador entrenado. El generador sigue mejorando sus imágenes sintéticas mientras el discriminador se vuelve mejor para detectar signos sutiles de falsificación. Este entrenamiento de ida y vuelta crea un ciclo en el que ambas partes se empujan mutuamente a mejorar el rendimiento.

Al controlar tanto la generación como la detección, gané conocimientos esenciales sobre cómo se crean las imágenes de satélite sintéticas. Esta perspectiva dual fue crucial para desarrollar métodos de detección sólidos que reconocen cómo se ven las imágenes reales y cómo difieren las sintéticas de esos patrones.

¿Qué tipo de anomalías, espectrales, texturales o de otro tipo, detecta tu sistema cuando distingue entre imágenes reales y manipuladas?

A diferencia de los deepfakes de caras, donde problemas como errores de sincronización de labios o bordes borrosos suelen ser fáciles de detectar, los problemas en las imágenes de satélite son mucho más sutiles. Mi sistema detecta inconsistencias espectrales donde los patrones de interacción entre diferentes bandas electromagnéticas no coinciden con los datos de observación de la Tierra reales. También detecta irregularidades texturales, como tierras de cultivo que parecen demasiado uniformes, superficies de océano que faltan patrones de olas naturales, o texturas urbanas con repeticiones artificiales.

Las anomalías contextuales agregan otra capa de detección. Estas incluyen redes de carreteras que no siguen formas naturales de la tierra, diseños agrícolas que ignoran los límites reales de la agricultura, o patrones de desarrollo urbano que no se alinean con el crecimiento típico de la ciudad. Estos problemas podrían escapar a la revisión humana casual pero crean firmas estadísticas claras que el modelo puede reconocer.

El sistema tiene limitaciones con imágenes complejas. Áreas urbanas densas con estructuras superpuestas o imágenes de satélite afectadas por distorsiones atmosféricas significativas pueden reducir la precisión de la detección. Estos casos extremos señalan áreas que necesitan más investigación y mejora del modelo.

Mirando hacia adelante, tu póster menciona trabajos futuros como extensiones de navegador para la autenticación geoespacial en tiempo real y marcos multi-datos. ¿Qué ves como el próximo gran paso en esta línea de investigación?

Mientras que mi investigación basada en GAN mostró que podemos detectar imágenes de satélite falsas con precisión, he aprendido que los buenos resultados de laboratorio no garantizan el éxito en el mundo real. Las imágenes sintéticas a menudo no se alinean con los patrones en los que los modelos de detección han sido entrenados, y las tecnologías generativas están cambiando rápidamente.

La próxima fase se centra en construir sistemas sólidos y adaptables que funcionen bien bajo condiciones variables. Esto significa que necesitamos crear mejores métodos de evaluación que imiten la naturaleza impredecible del uso de imágenes sintéticas en el mundo real. También necesitamos desarrollar herramientas prácticas como extensiones de navegador ligeras, API en tiempo real y marcos de integración para ayudar en procesos de toma de decisiones importantes.

Mi dirección de investigación actual destaca la adaptabilidad y el uso práctico. No estoy tratando solo de mejorar la precisión del modelo en entornos controlados. Estoy tratando de diseñar sistemas de detección que puedan mantenerse confiables a medida que las técnicas generativas cambian. Quiero proporcionar herramientas accesibles para gobiernos, empresas y comunidades que dependen de datos geoespaciales confiables.

Más allá de los datos geoespaciales, tu investigación más amplia también abarca deepfakes de video, autenticación de voz en tiempo real y sesgo de IA en la concesión de préstamos. ¿Cómo eliges qué desafíos éticos abordar a continuación?

Mi dirección de investigación no se ve influenciada por temas de moda; se centra en encontrar vulnerabilidades críticas en sistemas donde la gente deposita confianza fundamental. Cada proyecto comienza identificando puntos específicos donde la confianza puede ser socavada, lo que lleva a consecuencias graves.

La investigación sobre deepfakes comenzó con una experiencia personal que mostró cómo los medios sintéticos pueden dañar la confianza en la evidencia visual. Trabajar con el equipo de liderazgo de GIS de National 4-H destacó cómo la gente confía en las imágenes de satélite para la respuesta a desastres y la toma de decisiones políticas. Esta conexión llevó a la investigación sobre deepfakes geoespaciales, donde las apuestas son potencialmente muy altas.

Este patrón también se aplica a la autenticación de voz. Consideré cómo las llamadas de emergencia sintéticas podrían abrumar a los sistemas de 911. También está el problema del sesgo de IA en la concesión de préstamos, donde la discriminación algorítmica puede negar oportunidades a comunidades enteras. Cada una de estas áreas refleja una relación de confianza crucial entre las personas y la tecnología que necesita protección.

Exploro dónde la tecnología se encuentra con la vulnerabilidad social, centrándome en la investigación que puede prevenir la ruptura de la confianza antes de que se convierta en crisis generalizadas.

También has publicado Tech Demystified: Ciberseguridad, que ha sido adoptado en escuelas. ¿Qué te motivó a escribir este libro y cómo haces que este material técnico sea accesible para estudiantes y educadores?

El libro surgió directamente de mi experiencia de investigación sobre deepfakes. Me mostró lo importante que es la alfabetización digital para los jóvenes mientras enfrentan un mundo tecnológico más complicado. La ciberseguridad parecía el punto de partida correcto porque influye en todos, independientemente de sus habilidades técnicas o objetivos de carrera.

Me dirigí a estudiantes apenas unos años más jóvenes que yo. ¿Qué me habría ayudado a entender las amenazas cibernéticas cuando empecé a aprender? Organicé el contenido utilizando historias, comparaciones y elementos visuales, junto con actividades interactivas y preguntas de reflexión. Estas herramientas hacen que las ideas difíciles sean más fáciles de entender.

Ha sido especialmente significativo ver que programas de escuelas secundarias, bibliotecas escolares y organizaciones sin fines de lucro que sirven a estudiantes desatendidos han adoptado el libro. Quería crear un recurso que abriera puertas para estudiantes que de otro modo podrían sentirse excluidos de las conversaciones sobre ciberseguridad.

Centrarme en la ciberseguridad sentó las bases para la seguridad digital antes de que mi próximo libro aborde la inteligencia artificial y los deepfakes, que es mi interés de investigación principal. Los estudiantes necesitan aprender principios de seguridad básicos antes de sumergirse en los complejos problemas éticos que rodean la inteligencia artificial.

En el libro, cubres amenazas desde el phishing hasta el ransomware. ¿Qué crees que es el principio de ciberseguridad más importante que los jóvenes deben entender hoy en día?

El principio más importante es “confía pero verifica”. Es vital desarrollar el hábito de cuestionar la información digital antes de tomar acción. La mayoría de los ciberataques exitosos se aprovechan de la confianza humana en lugar de depender de fallos técnicos complejos. Ya sea hacer clic en enlaces sospechosos, descargar archivos desconocidos o responder a mensajes que parecen familiares, hacer una pausa para verificar puede detener muchos ataques.

Para los jóvenes que pasan mucho tiempo en línea y cambian rápidamente entre plataformas, esta mentalidad de verificación es especialmente importante. Formar el hábito de cuestionar antes de hacer clic construye un enfoque defensivo que protege contra varias amenazas.

Este principio va más allá de la ciberseguridad y se extiende a la alfabetización digital en general. Las mismas habilidades de pensamiento crítico que protegen contra el malware también ayudan a detectar información falsa, deepfakes y otros tipos de engaño digital.

Entre tu investigación académica, iniciativas de educación en STEM y obra publicada, estás claramente apasionado por la tecnología y la ética. ¿Cómo esperas dar forma al futuro de la seguridad de la inteligencia artificial y la innovación responsable?

Todo lo que hago se centra en construir y mantener la confianza en la tecnología. La inteligencia artificial solo puede alcanzar su potencial si la gente cree que estos sistemas son seguros, justos y transparentes. Sin esa confianza, incluso las tecnologías innovadoras lucharán por ganar aceptación y uso.

A través de la investigación, busco encontrar vulnerabilidades clave antes de que se conviertan en problemas generalizados. Trabajo en áreas como los deepfakes geoespaciales y la autenticación de voz, donde los riesgos no siempre son obvios pero pueden tener consecuencias graves. A través de la educación y la escritura, quiero ayudar a los estudiantes a entender estos sistemas en lugar de ver la tecnología como una caja negra misteriosa reservada para los expertos.

Mi visión para la innovación responsable incluye la seguridad y la equidad desde las primeras etapas del desarrollo, no como después-pensamientos. Esto significa evaluar los modelos no solo por su rendimiento, sino también por posibles puntos de falla, identificar quién podría resultar dañado y crear estrategias para reducir esos riesgos.

A largo plazo, quiero ayudar a crear una cultura en la que cada avance en la inteligencia artificial reciba una atención igual a la seguridad y la responsabilidad. Mi trabajo implica investigación, educación y comunicación porque encontrar riesgos solo es valioso si también podemos ayudar a los demás a entender y abordarlos.

Si puedo ayudar a detectar vulnerabilidades críticas mientras aumento la alfabetización tecnológica, creo que desempeñaré un papel en dar forma a un futuro de inteligencia artificial que la gente pueda confiar y beneficiarse de él.

Gracias por la gran entrevista, se insta a los lectores a leer Tech Demystified: Ciberseguridad: Principios básicos de la defensa cibernética moderna.