Los Peligros de los Chatbots de IA – Y Cómo Contrarrestarlos

Anteriormente considerados como simples programas de conversación automatizados, los chatbots de IA ahora pueden aprender y mantener conversaciones que son casi indistinguibles de las humanas. Sin embargo, los peligros de los chatbots de IA son igualmente variados.

Estos pueden ir desde que las personas los utilicen de manera incorrecta hasta riesgos reales de ciberseguridad. A medida que los humanos dependen cada vez más de la tecnología de IA, es esencial conocer las posibles repercusiones del uso de estos programas. Pero, ¿son peligrosos los bots?

1. Sesgo y Discriminación

Uno de los mayores peligros de los chatbots de IA es su tendencia hacia sesgos perjudiciales. Debido a que la IA establece conexiones entre puntos de datos que los humanos a menudo pasan por alto, puede detectar sesgos implícitos sutiles en sus datos de entrenamiento y enseñarse a ser discriminatorio. Como resultado, los chatbots pueden aprender rápidamente a producir contenido racista, sexista u otro tipo de contenido discriminatorio, incluso si nada de eso estaba en sus datos de entrenamiento.

Un ejemplo destacado es el bot de contratación abandonado de Amazon. En 2018, se reveló que Amazon había abandonado un proyecto de IA destinado a evaluar previamente los currículos de los solicitantes porque estaba penalizando las solicitudes de mujeres. Debido a que la mayoría de los currículos en los que se entrenó el bot eran de hombres, se enseñó a sí mismo que los solicitantes masculinos eran preferibles, incluso si los datos de entrenamiento no decían explícitamente eso.

Los chatbots que utilizan contenido de Internet para enseñarse a comunicarse de manera natural tienden a mostrar sesgos aún más extremos. En 2016, Microsoft lanzó un chatbot llamado Tay que aprendió a imitar publicaciones en las redes sociales. Dentro de unas horas, comenzó a tuitear contenido muy ofensivo, lo que llevó a Microsoft a suspender la cuenta poco después.

Si las empresas no tienen cuidado al construir y desplegar estos bots, pueden accidentalmente llevar a situaciones similares. Los chatbots podrían maltratar a los clientes o difundir contenido sesgado perjudicial que se supone que deben prevenir.

2. Riesgos de Ciberseguridad

Los peligros de la tecnología de chatbot de IA también pueden suponer una amenaza de ciberseguridad más directa para las personas y las empresas. Una de las formas más prolíficas de ciberataques son los ataques de phishing y vishing. Estos involucran a ciberdelincuentes que imitan a organizaciones de confianza como bancos o cuerpos gubernamentales.

Los ataques de phishing suelen operar a través de correos electrónicos y mensajes de texto: hacer clic en el enlace permite que el malware entre en el sistema informático. Una vez dentro, el virus puede hacer cualquier cosa, desde robar información personal hasta retener el sistema para pedir un rescate.

La tasa de ataques de phishing ha aumentado constantemente durante y después de la pandemia de COVID-19. La Agencia de Ciberseguridad y Seguridad de Infraestructura encontró que el 84% de las personas respondieron a mensajes de phishing con información sensible o hicieron clic en el enlace.

Los phishers están utilizando la tecnología de chatbot de IA para automatizar la búsqueda de víctimas, convencerlos de que hagan clic en enlaces y proporcionen información personal. Los chatbots son utilizados por muchas instituciones financieras, como bancos, para simplificar la experiencia del servicio al cliente.

Los chatbots de los phishers pueden imitar los mismos prompts automatizados que utilizan los bancos para engañar a las víctimas. También pueden marcar automáticamente números de teléfono o contactar a las víctimas directamente en plataformas de chat interactivas.

3. Envenenamiento de Datos

El envenenamiento de datos es un ciberataque concebido recientemente que apunta directamente a la inteligencia artificial. La tecnología de IA aprende de conjuntos de datos y utiliza esa información para completar tareas. Esto es cierto para todos los programas de IA, sin importar su propósito o funciones.

Para los chatbots de IA, esto significa aprender múltiples respuestas a posibles preguntas que los usuarios pueden hacerles. Sin embargo, esto también es uno de los peligros de la IA.

Estos conjuntos de datos a menudo son herramientas y recursos de código abierto disponibles para cualquier persona. Aunque las empresas de IA suelen mantener en secreto sus fuentes de datos, los ciberatacantes pueden determinar cuáles utilizan y manipular los datos.

Los ciberatacantes pueden encontrar formas de manipular los conjuntos de datos utilizados para entrenar a las IA, lo que les permite manipular sus decisiones y respuestas. La IA utilizará la información de los datos alterados y realizará actos que los atacantes desean.

Por ejemplo, una de las fuentes de conjuntos de datos más comúnmente utilizadas es Wiki, como Wikipedia. Aunque los datos no provienen del artículo de Wikipedia en vivo, provienen de instantáneas de datos tomadas en momentos específicos. Los hackers pueden encontrar una forma de editar los datos para beneficio propio.

En el caso de los chatbots de IA, los hackers pueden corromper los conjuntos de datos utilizados para entrenar a los chatbots que trabajan para instituciones médicas o financieras. Pueden manipular los programas de chatbot para que proporcionen información falsa a los clientes que los lleva a hacer clic en un enlace que contiene malware o un sitio web fraudulento. Una vez que la IA comienza a extraer datos envenenados, es difícil detectar y puede llevar a una violación significativa de la ciberseguridad que pasa desapercibida durante mucho tiempo.

Cómo Abordar los Peligros de los Chatbots de IA

Estos riesgos son preocupantes, pero no significan que los bots sean inherentemente peligrosos. Más bien, debes abordarlos con cautela y considerar estos peligros al construir y utilizar chatbots.

La clave para prevenir el sesgo de IA es buscarlo a lo largo del entrenamiento. Asegúrate de entrenarlo en conjuntos de datos diversos y programarlo específicamente para evitar factores como raza, género o orientación sexual en su toma de decisiones. También es mejor tener un equipo diverso de científicos de datos para revisar los mecanismos internos de los chatbots y asegurarse de que no muestren sesgos, por sutiles que sean.

La mejor defensa contra el phishing es el entrenamiento. Entrena a todos los empleados para reconocer los signos comunes de intentos de phishing para que no caigan en estos ataques. La conciencia del consumidor sobre el tema también ayudará.

Puedes prevenir el envenenamiento de datos restringiendo el acceso a los datos de entrenamiento de los chatbots. Solo las personas que necesitan acceso a estos datos para realizar sus trabajos correctamente deben tener autorización, un concepto llamado principio de privilegio mínimo. Después de implementar esas restricciones, utiliza medidas de verificación sólidas como la autenticación multifactor o la biometría para prevenir los riesgos de que los ciberdelincuentes pirateen una cuenta autorizada.

Permanezca Vigilante contra los Peligros de la Dependencia de la IA

La inteligencia artificial es una tecnología verdaderamente maravillosa con aplicaciones casi ilimitadas. Sin embargo, los peligros de la IA pueden ser oscuros. ¿Son peligrosos los bots? No inherentemente, pero los ciberdelincuentes pueden utilizarlos de diversas maneras disruptivas. Depende de los usuarios decidir qué aplicaciones tiene esta nueva tecnología.