La IA puede ayudarnos a encontrar personas reales, no a reemplazarlas

Una imagen falsa engaña incluso a los ojos más agudos, pero el comportamiento falso que la plataforma ve no debería.  

Durante los últimos veinte años, la industria de citas en línea enseñó la seguridad del usuario como una lista de verificación sencilla. Aconsejamos a los usuarios que examinen la foto, verifiquen la coherencia de la historia de la persona o insistan en una videollamada antes de aceptar reunirse. Esa orientación, que antes era el estándar de oro de la seguridad digital, hoy está completamente obsoleta.La prueba definitiva llegó en un estudio de febrero de 2025 de iProov, un proveedor líder de biometría. Los investigadores preguntaron a 2,000 sujetos en el Reino Unido y EE. UU. que etiquetaran varios elementos — usando tanto imágenes como videos — como reales o sintéticos. Los resultados fueron asombrosos: solo dos sujetos no cometieron errores. Eso representa apenas el 0,1 % de las personas evaluadas, lo que significa que los otros 1.998 cometieron al menos un error. Una alta confianza combinada con una alta tasa de error es una mezcla peligrosa para los consumidores. Y los estafadores están más que listos para explotarla.Según el Entrust 2026 Identity Fraud Report, los deepfakes ahora representan uno de cada cinco intentos de fraude biométrico. Los selfies manipulados con deepfake aumentaron un 58 % en 2025, y los ataques de inyección incrementaron un 40 % año tras año. Esperar que un usuario cotidiano supere a un modelo de IA generativa altamente avanzado en percepción visual es una abdicación de responsabilidad; transfiere el riesgo directamente de la plataforma al cliente.

El fraude ya no se trata de encontrar imágenes falsas

La realidad es que las herramientas de detección actuales están fallando porque ejecutan pruebas a nivel de objeto una a la vez. Una prueba pregunta si una imagen específica fue generada por IA. Otra pregunta si un documento está falsificado, mientras que una tercera pregunta si el texto de un mensaje fue escrito por una máquina. El problema es que cada una de estas pruebas se degrada rápidamente. A medida que el progreso de los modelos generativos eleva continuamente la calidad del output, las respuestas y métodos de detección anteriores quedan desactualizados u obsoletos casi de la noche a la mañana.

Un enfoque mucho mejor sustituye la apariencia de una sola señal por el ajuste conjunto de múltiples señales. Nuestro método evalúa las relaciones entre diversas dimensiones de la presencia de un usuario. Una dimensión de señal es cómo se ve un dispositivo para nuestro sistema. Otra es el origen de la sesión del usuario. Una tercera es cómo se comporta realmente la cuenta. Todo esto conduce a una revisión humana cuando el sistema marca indicadores de posible fraude.

La Oficina de las Naciones Unidas contra la Droga y el Delito, en su Transnational Organized Crime Threat Assessment para el Sudeste Asiático 2026, estimó que las pérdidas por estafas en línea en 2025 oscilaron entre US$88,3 mil millones y US$114,1 mil millones solo en las áreas reportadas. El fraude industrial a esta escala se basa en la velocidad y el volumen. Cualquier pieza de información individual puede falsificarse fácilmente, pero falsificar todo de ellos de manera consistente — a través de múltiples cuentas que la plataforma elimina continuamente — se vuelve demasiado gravoso de mantener. Cada capa de fricción que introducimos eleva el costo por cuenta del negocio fraudulento hasta que su margen de beneficio llega a cero.

Aquí es donde la IA realmente se justifica. Aunque la detección de falsificaciones ha mejorado con nuevas tecnologías, la capacidad mejorada de identificar factores coincidentes que indican fraude — y que conducen a una intervención más temprana — es mucho mejor para nuestros usuarios. Cuando los indicadores de un usuario no coinciden, su verdadera intención se revela. Un miembro honesto, un estafador y un visitante con otro propósito pueden compartir fotos idénticas y líneas de apertura casi idénticas. Sin embargo, sus indicadores combinados diferirán y contarán una historia completamente distinta. La forma en que la gente responde, la rapidez con la que contestan, cómo escalan la conversación, qué preguntan y qué conversaciones abandonan pintan un cuadro. La identidad puede ser una mentira generada a la perfección, pero el comportamiento siempre revelará malas intenciones.

La asimetría de información: las plataformas saben cosas que los usuarios no pueden

La Comisión Federal de Comercio informó en 2026 que las pérdidas por estafas románticas en 2025 aumentó un 22 % respecto a 2024, alcanzando aproximadamente $1.5 billion. Entre los que identificaron cómo fueron contactados, aproximadamente el 60 % dijo que su contacto inicial llegó a través de una plataforma de redes sociales.

Existe una enorme brecha de información en nuestra industria. Las plataformas ven las mismas categorías de señal, pero casi con certeza también pueden ver el país de inicio de sesión y la antigüedad de la cuenta, por ejemplo. Lo que todos los miembros ven es una sonrisa y un párrafo cuidadosamente elaborado que mezcla astutamente algo de su perfil. Las plataformas tienen el poder de actuar sobre estos datos ocultos, utilizándolos para crear un entorno más seguro, o divulgarlos para que los miembros puedan actuar en consecuencia. Desafortunadamente, la mayor parte de la industria no hace ninguna de las dos cosas.

La inacción de la industria a menudo está relacionada con los complejos compromisos vinculados a la privacidad del usuario. La mitad costosa de esta ecuación es actuar. Hay dos caminos para establecer confianza: el camino lento es la reputación, y el rápido es la verificación. La verificación genera fricción. La industria, en su mayoría, quiere velocidad, volumen y baja fricción, lo que explica su crónica sub‑verificación.

Sin embargo, están surgiendo soluciones. Un preprint de agosto de 2024 en arXiv propuso “credenciales de personalidad“. Los 32 autores de instituciones como OpenAI, Microsoft, MIT, Oxford y Harvard propusieron una credencial que preserva la privacidad y que permite a alguien demostrar a un servicio que es una persona real sin revelar su identidad subyacente. Su argumento es que los CAPTCHAs son insuficientes y que la detección de anomalías se está erosionando rápidamente frente a una IA capaz. Tienen razón. Las citas son uno de los lugares donde las consecuencias de esta erosión son más duras, porque el producto principal que se vende es la confianza misma.

Ingeniería de un Mejor Estándar Comunitario

Las mismas señales que ayudan a identificar conductas potencialmente delictivas también pueden ayudar a identificar otros tipos de actos nocivos. La lectura de la intención va mucho más allá de simplemente detener el fraude. No todo actor nocivo en un sitio web es un criminal. Un usuario desagradable puede no estar infringiendo la ley, y una relación tratada como una transacción puede no ser fraude. Tratar a las personas con desprecio no conduce a una acusación federal. Pero estos comportamientos degradan profundamente la comunidad. Peor aún, con frecuencia son invisibles para los sistemas que dependen totalmente de los reportes de los miembros para sus programas de aplicación.

La industria tradicionalmente ha trazado la línea en la ilegalidad: filtrar fraudes y menores, eliminar lo que la ley exige estrictamente y tratar el resto como un asunto entre adultos consentidos. No conozco otro sitio de citas que utilice IA para ayudar a identificar conductas transaccionales y detenerlas activamente. Nuestra función Stop@Send evalúa el mensaje saliente del remitente mientras se envía. Busca un significado más profundo en lugar de simplemente comparar el contenido con una lista estática de palabras clave. La mayor parte del tiempo, la respuesta es una explicación entregada al remitente, indicándole precisamente por qué el mensaje es inapropiado para la comunidad.

Esto, por supuesto, no es gratuito. Interrumpir las conversaciones de los miembros crea fricción, lo cual, sin sorpresa, es un costo que elegimos absorber activamente. Pero nuestros estándares se establecen mejor por la conducta que realmente está permitida en nuestra plataforma, no por lo que se publica en una página de directrices comunitarias sin aplicar. Una plataforma que no incomoda a un actor nocivo no tiene derecho a llamarse comunidad.

El Desafío para la Industria

El mercado actualmente está compitiendo por hacer que la IA reemplace a las personas: vemos el auge de compañeros de IA, perfiles generados por IA y agentes de coqueteo. Creo firmemente que esa dirección es un callejón sin salida. Optimiza totalmente para el compromiso, pero no entrega nada más que eso. Nuestro enfoque es fundamentalmente diferente. Estamos usando IA para ayudar a eliminar a los actores nocivos, para que los miembros se responsabilicen mutuamente y para ayudarles a tratarse de maneras que tengan más probabilidades de conducir a relaciones significativas y reales.

Las listas de señales de alerta a evitar han perdido su valor. Las señales que antes delataban a los estafadores son exactamente las características que los modelos generativos han aprendido a eliminar, creando una carrera armamentista en la que estamos perpetuamente atrapados. Aparte de la Primera Regla — nunca envíes dinero a alguien que no conozcas y no hayas encontrado en persona, que todos deberían seguir — la pregunta clave ya no se trata de la fotografía. Se trata de la plataforma y de lo que hacen con lo que saben y sus usuarios no.

Una plataforma que responde bien a ese desafío está activamente diseñando la confianza. Una plataforma que no lo hace está pidiendo a sus miembros que hagan más trabajo con una tasa de éxito del 0,1 % solo para protegerse.

He planteado este desafío a cada plataforma, incluida la mía. Espero que las respuestas sean honestas y completas. La tecnología para cerrar esta brecha ya existe. El fraude persiste porque detenerlo implica renunciar al enorme crecimiento que proviene de la gran puerta de entrada de registro sin esfuerzo. Esto es una decisión empresarial más que una limitación técnica. Y las plataformas que deciden correctamente poseen el único activo que importa en esta discusión: la confianza de sus miembros.