Líderes de opinión
La Nueva Era de la Impersonación Ejecutiva No Involucrará a Ejecutivos en lo Absoluto
Añade Unite.AI a tus fuentes preferidas en Google
Durante los últimos años, la mayor amenaza digital que enfrentaban las marcas era la impersonación ejecutiva, a menudo ejecutada a través de direcciones de correo electrónico falsificadas o cuentas de redes sociales impostoras. Hoy, nos enfrentamos a un enemigo mucho más complejo y convincente: los agentes de inteligencia artificial.
El surgimiento de agentes autónomos impulsados por grandes modelos de lenguaje (LLM), diseñados para operar con poca o ninguna intervención humana, ha desbloqueado nuevas posibilidades que se asemejan a la emoción vista en las primeras eras de web2 y aplicaciones móviles.
Aunque los agentes autónomos verdaderos no han hecho el salto de la visión a la realidad, los expertos advierten que pueden estar en condiciones de deambular por las redes corporativas tan pronto como el próximo año. La emoción y la adopción que siguen inevitablemente caerán en el radar de los ciberdelincuentes, que siempre se adaptan y ven a los agentes autónomos como un nuevo frente para el fraude digital. ¿Qué sucede cuando estos agentes son impersonados? ¿O peor, cuando son los impersonadores?
Al igual que las aplicaciones móviles enfrentaron una avalancha de versiones falsificadas construidas para extraer credenciales de inicio de sesión o instalar malware, los agentes de inteligencia artificial están ahora en condiciones de enfrentar una oleada similar de copias. Esta vez, sin embargo, el riesgo será más difícil de detectar y el daño potencialmente más generalizado.
De la Impersonación Ejecutiva a la Impersonación de Agentes
La inteligencia artificial ya ha abierto nuevas vías de fraude y engaño, caracterizadas por estafas de clonación de voz que pueden recrear los patrones de habla de un ejecutivo con solo segundos de audio, por ejemplo, y últimamente, se ha informado de evidencia de impersonaciones de video y voz en tiempo real. Ahora, imagina un agente autónomo, supuestamente representando a tu empresa, interactuando con clientes, inversores o socios. Ese agente podría estar incrustado en un sitio web, integrado en un chatbot o incluso interactuando a través de correo electrónico, ofreciendo interacciones plausibles, profesionales y completamente fraudulentas.
El predecesor de los agentes copia puede estar en los modelos “jailbreak“, por los cuales los actores amenazantes manipulan los LLM, a menudo a través de inyecciones de prompts o técnicas de múltiples giros, para producir salidas dañinas o falsas. Pero esto es solo el comienzo.
Según datos de PitchBook, las empresas de inteligencia artificial recaudaron $131.5 mil millones en 2024, lo que representa más de un tercio de los tratos de capital de riesgo globales. La carrera armamentística de la inteligencia artificial, impulsada por fundadores ambiciosos, inversores hambrientos y gobiernos ansiosos, acelerará rápidamente las capacidades de esta tecnología emergente, cuyos casos de uso legítimos seguirán siendo explotados para fines nefastos.
La inteligencia artificial generativa ha democratizado y seguirá democratizando la creación de dichos agentes. A medida que las plataformas compiten por integrarlos, pocos controles existen para verificar su autenticidad. Esto abre la puerta a una nueva clase de impersonación: no solo de personas, sino también de software.
Una Llamada de Alerta para Marcas Ansiosas y Consumidores Curiosos
Los consumidores y las marcas por igual están apenas comenzando a entender qué significa confiar en un agente. Pero la confianza es el eje de cualquier interacción digital, y cuando se rompe, las consecuencias pueden ser devastadoras.
Como se ha observado con los videos de deepfake y la clonación de voz, los agentes falsos pueden ser utilizados para:
- Solicitar pagos o datos sensibles bajo el disfraz de una marca establecida o de otra forma confiable
- Redirigir a los usuarios a sitios web infestados de malware a través de DM de redes sociales o anuncios pagados
- Erodir la confianza del cliente y desencadenar daños a la reputación a gran escala
Según un informe reciente de la Comisión Federal de Comercio informe, las estafas de impersonación fueron responsables de casi $3 mil millones en pérdidas reportadas en los Estados Unidos solamente – una cifra que se espera aumente bruscamente a medida que la impersonación de inteligencia artificial se vuelva más fluida y escalable.
La Proliferación de Agentes Falsos: Anuncios, Búsqueda y Redes Sociales
Lo que es especialmente peligroso es cómo se distribuirán los agentes copia. No necesitan sus propios sitios web o dominios para ganar tracción. Los actores maliciosos pueden, y lo hacen, utilizar resultados de búsqueda pagados y plataformas de redes sociales para promocionar clones maliciosos de marcas, ejecutivos o productos confiables. Un enlace patrocinado en Google o una publicación promocionada en Instagram, por ejemplo, es suficiente para canalizar a los usuarios desprevenidos hacia un agente falso o un portal de soporte.
Este riesgo a nivel de ecosistema, donde los actores maliciosos secuestran la propiedad digital legítima para facilitar estafas, requiere una nueva escuela de pensamiento para la ciberseguridad. Ya no es suficiente proteger tu red, tu nube o asegurar las credenciales de tus empleados. El perímetro de amenazas de tu marca ahora incluye cada red de anuncios, plataforma de búsqueda y herramienta de terceros con la que interactúan tus clientes.
Tomar Acción Antes de que Sea Demasiado Tarde
Estamos entrando en un mundo donde la línea entre humanos y agentes se vuelve cada vez más borrosa. La amenaza ya no es solo la impersonación de personas, que está en un crecimiento exponencial debido a las herramientas de inteligencia artificial disponibles, sino la impersonación de personas digitales.
¿Cómo pueden prepararse las empresas?
- Mapa de la presencia digital de tu marca: Conoce dónde tus clientes interactúan con tu empresa y tus agentes – ya sea en tu sitio, a través de API o a través de terceros – y monitorea activamente esos puntos de entrada para intentos de suplantación de identidad.
- Monitorea los ecosistemas de agentes emergentes: A medida que los mercados y plataformas de agentes abiertos (como Hugging Face Spaces) ganan popularidad, sé vigilante sobre los clones o bifurcaciones de tus herramientas que aparezcan en otros lugares.
- Reduce el tiempo de detección (TTD) y el tiempo de remediación (TTR): Utiliza soluciones que permitan identificar y eliminar rápidamente a los impersonadores, especialmente aquellos que abusan de anuncios pagados o plataformas de redes sociales, es crucial para limitar el daño.
- Educación a tus usuarios: Incorpora transparencia en tus experiencias de agente. Tus usuarios deben entender dónde y cómo deben esperar interactuar con tus herramientas y cómo detectar señales de alerta.
- Establece protocolos de autenticidad de agentes: Trabaja hacia la verificación criptográfica o basada en metadatos que pueda confirmar el origen y la legitimidad de un agente.
La solución radica en asegurar el ecosistema de agentes de inteligencia artificial, no en evitarlo. Al igual que hemos aprendido a verificar dominios, autenticar correos electrónicos y verificar aplicaciones móviles en décadas pasadas, ahora debemos extender el mismo grado de vigilancia al mundo de los agentes de inteligencia artificial. Si no nos adelantamos a la impersonación de agentes ahora, pronto podemos encontrarnos hablando con un asistente que parece familiar pero que en realidad trabaja para la otra parte.
