Google DeepMind y GovTech presentan un modelo de detección de estafas en el dispositivo

Google DeepMind y la Agencia de Tecnología Gubernamental de Singapur (GovTech) anunciaron el 14 de octubre de 2026 un modelo de detección de estafas que funciona en el dispositivo y está diseñado para alertar a los usuarios de teléfonos inteligentes sobre conversaciones manipuladoras sin enviar mensajes privados a la nube, en un país donde las estafas han ocasionado pérdidas superiores a S$4.000 millones desde 2019.

Las pérdidas por estafas y el giro hacia la ingeniería social

Según el anuncio publicado en el blog de Google DeepMind, escrito por JJ Geewax y Miguel de Andrés, las estafas representan más de la mitad de los delitos denunciados en Singapur y han ocasionado pérdidas superiores a S$4.000 millones desde 2019. El anuncio señala que las tácticas de estafa han pasado del phishing simple a la ingeniería social compleja, en la que los atacantes entablan conversaciones convincentes para manipular a las víctimas antes de pedirles dinero, y que estas estafas representan ahora hasta el 80 % de todas las pérdidas.

Según el anuncio, los modelos genéricos suelen tener dificultades para reconocer las técnicas de engaño locales, lo que complica la detección de estafas. El modelo ligero Gemma de Google DeepMind se ajustó con conversaciones locales relacionadas con estafas, que iban desde suplantaciones de instituciones públicas, bancos y figuras locales hasta esquemas regionales de actualidad. El anuncio indica que esto permite al modelo distinguir las conversaciones sociales inofensivas de la manipulación genuina, y que el modelo resultante está optimizado para funcionar en teléfonos inteligentes comunes en Singapur.

Procesamiento en el dispositivo y una arquitectura de dos etapas

El modelo procesa los datos de las conversaciones en el propio dispositivo. Según explica el anuncio, los sistemas convencionales de detección de amenazas analizan los mensajes en servidores en la nube, pero muchas plataformas de mensajería utilizan cifrado de extremo a extremo y, por tanto, no pueden inspeccionar las conversaciones privadas. El anuncio señala que realizar el análisis localmente permite examinar con mayor rapidez los patrones de conversación para detectar intenciones manipuladoras, de modo que las personas puedan actuar antes de que queden expuestos sus datos financieros o credenciales.

Cuando el modelo detecta patrones manipuladores en una conversación, aparece una alerta en tiempo real en el dispositivo, que insta al usuario a hacer una pausa antes de compartir información confidencial o dinero.

Según el anuncio, la eficiencia energética fue una preocupación fundamental al ejecutar un clasificador complejo de estafas en los teléfonos inteligentes modernos. Los equipos abordaron este reto con una arquitectura de dos etapas. En la etapa 1, un clasificador ligero y eficiente analiza los mensajes entrantes con un consumo mínimo de energía y se centra en detectar posibles amenazas. En la etapa 2, el modelo Gemma ajustado evalúa el contexto de una muestra más amplia de la conversación para confirmar una amenaza o descartar una falsa alarma.

Medidas de gobernanza

La colaboración se presentó en la Singapore International Cyber Week 2026. Según el discurso inaugural publicado por el Ministerio del Interior, K Shanmugam, ministro sénior de Singapur y ministro del Interior, pronunció el discurso de apertura del evento el 13 de octubre de 2026.

El anuncio describe las estrictas medidas de gobernanza aplicadas durante todo el desarrollo, denominadas Entorno de pruebas soberano, Ningún dato ciudadano y Pruebas de estrés. En el marco del Entorno de pruebas soberano, el ajuste se llevó a cabo dentro del entorno de Google Cloud Platform gestionado y mantenido por GovTech, lo que permitió mantener aislados los datos de entrenamiento. En el marco de Ningún dato ciudadano, el entrenamiento excluyó estrictamente la información privada o de identificación personal y utilizó conjuntos de datos anonimizados procedentes de informes sobre estafas y fuentes de inteligencia. En el marco de las Pruebas de estrés, el modelo se evaluó con diálogos sintéticos y corpus locales que abarcaban diversas categorías de estafas y tácticas de suplantación en evolución.

«Combatir las estafas no debería implicar sacrificar la privacidad personal», afirmó Mark Chen, director de Confianza y Seguridad de GovTech Singapore. «Junto con Google DeepMind, estamos llevando protección avanzada basada en IA directamente a los dispositivos de la ciudadanía. Esto nos permite detectar en tiempo real intentos de estafa locales muy dirigidos y, al mismo tiempo, mantener completamente privadas las comunicaciones personales».

Antecedentes de la alianza nacional en IA

El modelo de detección de estafas se desarrolló como parte de la National AI Partnership de Google con el Gobierno de Singapur. Google DeepMind anunció esa alianza el 20 de mayo de 2026 y puso en marcha nuevos programas en el país en el marco de su iniciativa National Partnerships for AI, después de abrir un laboratorio de investigación en Singapur el año anterior.

Los programas incluyen la exploración de la colaboración entre la IA y los profesionales clínicos en los grupos de salud pública; el apoyo a la investigación de enfermedades infecciosas y a la preparación ante pandemias junto con Google.org, como parte de una contribución de 7 millones de dólares a la coalición Health for Human Potential de Philanthropy Asia Alliance; un asistente para correr impulsado por Gemma para atletas ciegos y con baja visión, probado y perfeccionado junto con SG Enable, la agencia de referencia de Singapur en materia de discapacidad e inclusión; formación en herramientas científicas de IA agéntica para investigadores locales, impartida junto con National Research Foundation; acceso a Gemini for Education para docentes desde la enseñanza primaria hasta los centros preuniversitarios; y estudios sobre parámetros de referencia de seguridad multimodal y multilingüe junto con Infocomm Media Development Authority y MLCommons.

Vías de integración para proveedores de mensajería y sistemas operativos

El anuncio señala que las plataformas de mensajería y los proveedores de sistemas operativos pueden integrar directamente estos modelos ligeros para proteger a los usuarios en sus dispositivos y mantener seguras las conversaciones sin exponer datos privados. Presenta el proyecto como un modelo para que las plataformas de mensajería equilibren la protección de los usuarios con el cifrado de extremo a extremo, y como un ejemplo de colaboración entre gobiernos y proveedores de modelos para desarrollar tecnología en beneficio del público.