Construyendo confianza en la IA con verificación de identidad

La IA generativa ha capturado el interés de las empresas en todo el mundo. De hecho, ​​60% de las organizaciones con adopción de IA informada están utilizando ahora IA generativa. Los líderes de hoy están compitiendo para determinar cómo incorporar herramientas de IA en sus pilas de tecnología para seguir siendo competitivos y relevantes, y los desarrolladores de IA están creando más herramientas que nunca. Pero, con la adopción rápida y la naturaleza de la tecnología, muchas preocupaciones de seguridad y ética no están siendo consideradas completamente a medida que las empresas se apresuran a incorporar la última y mejor tecnología. Como resultado, la confianza está disminuyendo.

Una encuesta reciente encontró que solo el 48% de los estadounidenses creen que la IA es segura y segura, mientras que el 78% dice que están muy o algo preocupados de que la IA pueda ser utilizada con intenciones maliciosas. Si bien la IA ha sido encontrada para mejorar los flujos de trabajo diarios, los consumidores están preocupados por los actores maliciosos y su capacidad para manipular la IA. Las capacidades de deepfakes, por ejemplo, están convirtiéndose en una amenaza cada vez mayor a medida que aumenta la accesibilidad de la tecnología para las masas.

Tener una herramienta de IA ya no es suficiente. Para que la IA alcance su verdadero potencial beneficioso, las empresas necesitan incorporar la IA en soluciones que demuestren un uso responsable y viable de la tecnología para traer una mayor confianza a los consumidores, especialmente en la ciberseguridad donde la confianza es clave.

Desafíos de ciberseguridad de la IA

La tecnología de IA generativa está progresando a un ritmo rápido y los desarrolladores están entendiendo apenas ahora la importancia de traer esta tecnología a la empresa, como se ve en el reciente lanzamiento de ChatGPT Enterprise.

La tecnología de IA actual es capaz de lograr cosas que solo se hablaban en el ámbito de la ciencia ficción menos de una década atrás. Cómo opera es impresionante, pero la expansión relativamente rápida en la que todo esto está sucediendo es aún más impresionante. Eso es lo que hace que la tecnología de IA sea tan escalable y accesible para las empresas, los individuos y, por supuesto, los estafadores. Mientras que las capacidades de la tecnología de IA han liderado la innovación, su uso generalizado también ha llevado al desarrollo de tecnologías peligrosas como los deepfakes como servicio. El término “deepfake” se deriva de la tecnología que crea este estilo particular de contenido manipulado (o “falso”) que requiere el uso de técnicas de aprendizaje profundo.

Los estafadores siempre seguirán el dinero que les proporciona el mayor rendimiento de la inversión, así que cualquier negocio con un alto potencial de retorno será su objetivo. Esto significa que las empresas de tecnología financiera, las empresas que pagan facturas, los servicios gubernamentales y los minoristas de bienes de alto valor siempre estarán en la parte superior de su lista.

Estamos en un lugar donde la confianza está en juego, y los consumidores están cada vez menos confiados, lo que da a los estafadores aficionados más oportunidades que nunca para atacar. Con la nueva accesibilidad de las herramientas de IA y el costo cada vez más bajo, es más fácil para los actores maliciosos de cualquier nivel de habilidad manipular las imágenes y las identidades de los demás. Las capacidades de deepfakes están convirtiéndose en más accesibles para las masas a través de aplicaciones y sitios web de deepfakes, y crear deepfakes sofisticados requiere muy poco tiempo y un nivel de habilidad relativamente bajo.

Con el uso de la IA, también hemos visto un aumento en la toma de cuentas. Los deepfakes generados por IA hacen que sea fácil para cualquiera crear imitaciones o identidades sintéticas, ya sea de celebridades o incluso de su jefe. ​​

Las aplicaciones de lenguaje generativo de IA y del Modelo de Lenguaje Grande (LLM) pueden ser utilizadas para crear fraude más sofisticado y evasivo que es difícil de detectar y eliminar. Los LLM en particular han creado un uso generalizado de ataques de phishing que pueden hablar su lengua materna perfectamente. Estos también crean un riesgo de “fraude de romance” a gran escala, cuando una persona establece una conexión con alguien a través de un sitio web o aplicación de citas, pero la persona con la que está comunicándose es un estafador que utiliza un perfil falso. Esto está llevando a muchas plataformas sociales a considerar la implementación de “pruebas de humanidad” para seguir siendo viables a gran escala.

Sin embargo, las soluciones de seguridad actuales, que utilizan análisis de metadatos, no pueden detener a los actores maliciosos. La detección de deepfakes se basa en clasificadores que buscan diferencias entre lo real y lo falso. Sin embargo, esta detección ya no es lo suficientemente poderosa como para que estas amenazas avanzadas requieran más puntos de datos para detectarlas.

IA y verificación de identidad: trabajando juntas

Los desarrolladores de IA necesitan centrarse en el uso de la tecnología para proporcionar salvaguardas mejoradas para las medidas de ciberseguridad comprobadas. No solo proporcionará un caso de uso más confiable para la IA, sino que también puede proporcionar un uso más responsable, fomentando mejores prácticas de ciberseguridad mientras se avanzan en las capacidades de las soluciones existentes.

Un caso de uso principal de esta tecnología es dentro de la verificación de identidad. El panorama de amenazas de la IA está evolucionando constantemente y los equipos necesitan estar equipados con tecnología que pueda ajustar y implementar nuevas técnicas rápidamente y con facilidad.

Algunas oportunidades en el uso de la IA con la tecnología de verificación de identidad incluyen:

• Examinar los atributos clave del dispositivo
• Usar contra-IA para identificar la manipulación: Para evitar ser estafados y proteger los datos importantes, la contra-IA puede identificar la manipulación de las imágenes entrantes.
• Tratar la “ausencia de datos” como un factor de riesgo en ciertas circunstancias
• Buscar activamente patrones en múltiples sesiones y clientes

Estas defensas en capas proporcionadas por la IA y la tecnología de verificación de identidad investigan a la persona, su documento de identidad afirmado, la red y el dispositivo, minimizando el riesgo de manipulación como resultado de los deepfakes y asegurando que solo las personas confiables y genuinas accedan a sus servicios.

La IA y la verificación de identidad necesitan seguir trabajando juntas. Cuanto más robusto y completo sea el conjunto de datos de entrenamiento, mejor será el modelo, y como la IA solo es tan buena como los datos que se le alimentan, cuanto más puntos de datos tengamos, más precisas serán la verificación de identidad y la IA.

Futuro de la IA y la verificación de identidad

Es difícil confiar en algo en línea a menos que esté probado por una fuente confiable. Hoy en día, el núcleo de la confianza en línea se basa en la identidad probada. La accesibilidad a los LLM y las herramientas de deepfakes plantea un riesgo de fraude en línea cada vez mayor. Los grupos del crimen organizado están bien financiados y ahora pueden aprovechar la última tecnología a una escala más grande.

Las empresas necesitan ampliar su paisaje de defensa y no deben tener miedo de invertir en tecnología, incluso si agrega un poco de fricción. Ya no puede haber solo un punto de defensa, necesitan mirar todos los puntos de datos asociados con la persona que está tratando de acceder a los sistemas, bienes o servicios y seguir verificando a lo largo de su viaje.

Los deepfakes seguirán evolucionando y volviéndose más sofisticados, los líderes empresariales necesitan revisar continuamente los datos de las implementaciones de soluciones para identificar nuevos patrones de fraude y trabajar para evolucionar sus estrategias de ciberseguridad continuamente junto con las amenazas.