Los Peligros de los Chatbots de IA – Y Cómo Contrarrestarlos

Anteriormente considerados como simples programas de conversación automatizados, los chatbots de IA pueden ahora aprender y mantener conversaciones que son casi indistinguibles de las humanas. Sin embargo, los peligros de los chatbots de IA son igualmente variados.

Estos pueden ir desde que las personas los utilicen de manera incorrecta hasta riesgos de seguridad cibernética reales. A medida que los humanos dependen cada vez más de la tecnología de IA, es esencial conocer las posibles repercusiones del uso de estos programas. Pero, ¿son peligrosos los bots?

1. Sesgo y Discriminación

Uno de los mayores peligros de los chatbots de IA es su tendencia hacia sesgos perjudiciales. Debido a que la IA establece conexiones entre puntos de datos que los humanos a menudo pasan por alto, puede detectar sesgos implícitos en sus datos de entrenamiento y enseñarse a ser discriminatorio. Como resultado, los chatbots pueden aprender rápidamente a emitir contenido racista, sexista o discriminatorio de otra manera, incluso si nada extremo estaba en sus datos de entrenamiento.

Un ejemplo destacado es el bot de contratación descartado de Amazon (AMZN ). En 2018, se reveló que Amazon había abandonado un proyecto de IA destinado a evaluar previamente los currículos de los solicitantes porque estaba penalizando las solicitudes de mujeres. Debido a que la mayoría de los currículos en los que se entrenó el bot eran de hombres, se enseñó a sí mismo que los solicitantes masculinos eran preferibles, incluso si los datos de entrenamiento no decían explícitamente eso.

Los chatbots que utilizan contenido de Internet para enseñarse a comunicarse de manera natural tienden a mostrar sesgos aún más extremos. En 2016, Microsoft (MSFT ) lanzó un chatbot llamado Tay que aprendió a imitar publicaciones en las redes sociales. Dentro de unas pocas horas, comenzó a tuitear contenido muy ofensivo, lo que llevó a Microsoft a suspender la cuenta antes de mucho tiempo.

Si las empresas no son cuidadosas al construir y desplegar estos bots, pueden accidentalmente llevar a situaciones similares. Los chatbots podrían maltratar a los clientes o difundir contenido sesgado perjudicial que se supone que deben prevenir.

2. Riesgos de Seguridad Cibernética

Los peligros de la tecnología de chatbot de IA también pueden representar una amenaza de seguridad cibernética más directa para las personas y las empresas. Una de las formas más prolíficas de ciberataques son los estafas de phishing y vishing. Estos involucran a atacantes cibernéticos que imitan a organizaciones de confianza como bancos o cuerpos gubernamentales.

Los estafas de phishing suelen operar a través de correos electrónicos y mensajes de texto: hacer clic en el enlace permite que el malware entre en el sistema informático. Una vez dentro, el virus puede hacer cualquier cosa, desde robar información personal hasta retener el sistema para pedir un rescate.

La tasa de ataques de phishing ha aumentado constantemente durante y después de la pandemia de COVID-19. La Agencia de Ciberseguridad y Seguridad de Infraestructura encontró que el 84% de las personas respondieron a mensajes de phishing con información sensible o hicieron clic en el enlace.

Los estafadores están utilizando la tecnología de chatbot de IA para automatizar la búsqueda de víctimas, convencerlos de que hagan clic en enlaces y proporcionen información personal. Los chatbots se utilizan en muchas instituciones financieras, como los bancos, para simplificar la experiencia del servicio al cliente.

Los chatbots de los estafadores pueden imitar los mismos prompts automatizados que los bancos utilizan para engañar a las víctimas. También pueden marcar números de teléfono o contactar a las víctimas directamente en plataformas de chat interactivas.

3. Envenenamiento de Datos

El envenenamiento de datos es un ciberataque recién concebido que apunta directamente a la inteligencia artificial. La tecnología de IA aprende de conjuntos de datos y utiliza esa información para completar tareas. Esto es cierto para todos los programas de IA, sin importar su propósito o funciones.

Para los chatbots de IA, esto significa aprender múltiples respuestas a posibles preguntas que los usuarios pueden hacerles. Sin embargo, esto también es uno de los peligros de la IA.

Estos conjuntos de datos a menudo son herramientas y recursos de código abierto disponibles para cualquier persona. Aunque las empresas de IA suelen mantener en secreto sus fuentes de datos, los atacantes cibernéticos pueden determinar cuáles utilizan y manipular los datos.

Los atacantes cibernéticos pueden encontrar formas de manipular los conjuntos de datos utilizados para entrenar a las IA, lo que les permite manipular sus decisiones y respuestas. La IA utilizará la información de los datos alterados y realizará actos que los atacantes desean.

Por ejemplo, una de las fuentes de datos más comúnmente utilizadas es la de recursos de Wiki como Wikipedia. Aunque los datos no provienen del artículo de Wikipedia en vivo, provienen de instantáneas de datos tomadas en momentos específicos. Los hackers pueden encontrar una forma de editar los datos para beneficio propio.

En el caso de los chatbots de IA, los hackers pueden corromper los conjuntos de datos utilizados para entrenar a los chatbots que trabajan para instituciones médicas o financieras. Pueden manipular los programas de chatbot para que proporcionen a los clientes información falsa que los lleve a hacer clic en un enlace que contiene malware o un sitio web fraudulento. Una vez que la IA comienza a utilizar datos envenenados, es difícil detectar y puede llevar a una violación significativa de la seguridad cibernética que pasa desapercibida durante mucho tiempo.

Cómo Abordar los Peligros de los Chatbots de IA

Estos riesgos son preocupantes, pero no significan que los bots sean inherentemente peligrosos. En lugar de eso, debes abordarlos con cautela y considerar estos peligros al construir y utilizar chatbots.

La clave para prevenir el sesgo de IA es buscarlo durante el entrenamiento. Asegúrate de entrenarlo en conjuntos de datos diversos y programarlo específicamente para evitar factores como raza, género o orientación sexual en su toma de decisiones. También es mejor tener un equipo diverso de científicos de datos para revisar el funcionamiento interno de los chatbots y asegurarse de que no muestren sesgos, por sutiles que sean.

La mejor defensa contra el phishing es el entrenamiento. Entrena a todos los empleados para que reconozcan los signos comunes de intentos de phishing para que no caigan en estos ataques. La concienciación del consumidor sobre el tema también ayudará.

Puedes prevenir el envenenamiento de datos restringiendo el acceso a los datos de entrenamiento de los chatbots. Solo las personas que necesitan acceso a estos datos para realizar sus trabajos correctamente deben tener autorización, un concepto llamado principio de privilegios mínimos. Después de implementar esas restricciones, utiliza medidas de verificación sólidas como la autenticación de múltiples factores o la biometría para prevenir los riesgos de que los ciberdelincuentes pirateen una cuenta autorizada.

Permanece Vigilante Contra los Peligros de la Dependencia de la IA

La inteligencia artificial es una tecnología verdaderamente maravillosa con aplicaciones casi ilimitadas. Sin embargo, los peligros de la IA pueden ser oscuros. ¿Son peligrosos los bots? No inherentemente, pero los ciberdelincuentes pueden utilizarlos de diversas maneras disruptivas. Depende de los usuarios decidir qué aplicaciones tiene esta nueva tecnología.