Los “Dobles Digitales Personales” de Agentic AI requerirán una Evolución de la Verificación de Identidad

El anuncio de Amazon de su función “Comprar por mí” fue un movimiento audaz que señaló el verdadero potencial de la inteligencia artificial agente en el comercio electrónico. Al permitir que los agentes de inteligencia artificial compren productos directamente de otros sitios web cuando esos artículos no están disponibles en Amazon, la empresa se está posicionando como el principal proveedor de experiencias de compra convenientes y satisfactorias.

La inteligencia artificial agente – donde los agentes autónomos actúan en nombre de usuarios reales – está en camino de una adopción empresarial rápida, particularmente en un contexto B2B. Imagina un mundo donde los “agentes de inteligencia artificial B2B” que operan en diversas capacidades (como servicio al cliente, ventas, cadena de suministro, operaciones de TI, finanzas y recursos humanos) puedan tomar medidas sobre tareas empresariales más mundanas sin intervención humana.

La inteligencia artificial agente también es una noticia bienvenida en el ámbito del consumidor, con “agentes de inteligencia artificial B2C” que ofrecen oportunidades significativas para que los consumidores ahorren tiempo y esfuerzo en sus vidas diarias. Considera un “agente de compras” que pueda ayudar a los compradores en línea a encontrar las mejores ofertas, monitorear las caídas de precios, automatizar compras, manejar devoluciones y hacer reservas de viaje. Las posibilidades en diversas industrias parecen infinitas:

• Finanzas personales y gestión de patrimonio – Piensa en agentes de inteligencia artificial que puedan ejecutar estrategias financieras de manera autónoma, reequilibrar carteras, encontrar tasas de interés óptimas para ahorros y incluso gestionar declaraciones de impuestos.
• Servicio al cliente y soporte (para individuos) – En lugar de llamar a una línea de ayuda o chatear con un bot, un Agente de Inteligencia Artificial personal puede comunicarse directamente con el Agente de Inteligencia Artificial de una empresa para resolver problemas, aclarar pedidos o hacer cambios. Esto elimina la necesidad de que los individuos repitan información o naveguen por sistemas de respuesta de voz complejos.
• Atención médica – Los agentes de inteligencia artificial podrán gestionar citas, ordenar recetas, presentar reclamaciones de seguros y incluso buscar segundas opiniones o analizar investigaciones médicas en nombre de los pacientes.

Adoptar la inteligencia artificial agente ofrece a los sitios web la oportunidad de destacarse por su conveniencia y experiencias de usuario excepcionales. Sin embargo, por otro lado, la inteligencia artificial agente es muy vulnerable al fraude. La investigación muestra que los bots componen entre el 40 y el 50 por ciento de todo el tráfico web, y alrededor del 65 por ciento de estos bots se cree que son maliciosos. La inteligencia artificial agente es esencialmente una forma en que los consumidores habituales pueden utilizar bots, y los estafadores – que a menudo utilizan bots en grandes cantidades para habilitar operaciones a gran escala – ahora tendrán un momento mucho más fácil para esconderse a la vista de todos en medio del tráfico legítimo de agentes.

En un nivel fundamental, la capacidad de distinguir entre estos bots maliciosos y legítimos a gran escala será un factor clave para distinguir a los líderes en la carrera de la inteligencia artificial agente. En un mundo de inteligencia artificial agente, las máquinas tendrán agencia y caminarán por los mismos “pasillos cibernéticos” que los humanos.

¿Pero está lista el paisaje del comercio electrónico?

La inteligencia artificial agente requerirá una reevaluación o una expansión del marco de verificación de identidad en línea tal como se conoce hoy, lo que a su vez requerirá que los proveedores de soluciones sigan mejorando en lo que ya están haciendo. Hasta la fecha, este marco se ha centrado en tres preguntas:

• ¿Es esta persona real? La rápida proliferación de deepfakes está haciendo que las verificaciones de actividad sean obligatorias para todas las transacciones de alto riesgo, asegurando que sean iniciadas por una persona real y viva. En el contexto de la inteligencia artificial agente, la respuesta puede ser, “no, no soy una persona”, pero eso no significa que la actividad sea irrelevante. La detección de actividad siempre debe ser parte de las verificaciones biométricas que ocurren en puntos de alto riesgo en un viaje de usuario, para asegurarse de que un humano esté en el bucle – como cuando se crea una cuenta, se transfiere dinero o se solicita recuperación de cuenta (“Olvidé mi contraseña”).
• ¿Es esta persona de confianza? Esta es la capacidad de determinar si el usuario es un estafador, un cliente VIP futuro o algo intermedio, lo que a menudo implica verificar contra bases de datos públicas. Por ejemplo, alguien que intenta reservar alojamiento en un mercado de alquiler en línea sería marcado como alto riesgo si tiene un historial criminal conocido de ocupación ilegal o destrucción de propiedades.
• ¿Es esta todavía la persona detrás de la cuenta? Esto se refiere a la autenticación continua y perpetua – o asegurarse de que la persona cuya identidad se verificó en el inicio de sesión todavía esté allí, evitando el secuestro de la cuenta por parte de otros humanos.

La inteligencia artificial agente agrega una cuarta pregunta – ¿tiene este agente autoridad para actuar como proxy del usuario real? Esta cuestión de autoridad es crítica, confirmando el alcance y duración de la autorización humana para que el agente de inteligencia artificial actúe como su proxy, de acuerdo con el contexto. Esto no se trata solo de que un humano delegue una tarea; se trata de asegurarse de que un agente de inteligencia artificial posea permisos humanos específicos, revocables y conscientes del contexto. Todas las acciones del agente de inteligencia artificial deben ser trazables a un humano real y legítimo; esta es la clave para que los sitios B2C desplieguen la inteligencia artificial agente de manera segura y responsable.

Según una estimación reciente, la inteligencia artificial estuvo detrás de aproximadamente el 20 por ciento del fraude cometido en 2024 en todos los sectores, y esta cifra solo se espera que crezca a medida que los hackers desplieguen nuevas técnicas. Además de los agentes de inteligencia artificial maliciosos que imitan a los legítimos, otro ejemplo es el secuestro de agentes, o cuando un atacante interfiere con la forma en que un agente percibe la información o toma decisiones. Así que, además de verificar la legitimidad y la autoridad de los agentes de inteligencia artificial, también es fundamental verificar la integridad de los agentes para asegurarse de que no han sido manipulados.

Gartner matizó sus fuertes predicciones de crecimiento de la inteligencia artificial agente en general con una importante salvedad: más del 40 por ciento de los proyectos de inteligencia artificial agente serán cancelados para fines de 2027. Esta fue una llamada de alerta – un signo de que muchas organizaciones subestiman la complejidad de las implementaciones de la inteligencia artificial agente, particularmente la necesidad de garantizar controles de riesgo adecuados. Aunque hay muchas formas en que los agentes de inteligencia artificial pueden ser explotados para causar daño, la capacidad de verificar la legitimidad y la autoridad es un paso fundamental y básico para minimizar el riesgo. Afortunadamente, lo que se requiere no es una invención, sino una evolución – una ampliación de los marcos de verificación de identidad en línea probados que existen hoy.