Cómo los hackers están utilizando la inteligencia artificial

La inteligencia artificial ha demostrado ser una tecnología que agrega valor en toda la economía global.

A medida que las empresas se esforzaban por adaptarse a los acontecimientos actuales en los últimos años, algunas de ellas encontraron formas de comprimir medio decenio de transformaciones digitales en un plazo mucho más corto. En el caso de Frito-Lay, por ejemplo, la adopción de la inteligencia artificial aumentó un 55% durante la pandemia global, según un informe de Harris Poll y Appen.

Al igual que cualquier herramienta, la inteligencia artificial no tiene un valor moral inherente. Su utilidad o potencial para causar daño depende de cómo se “entrena” el sistema y de lo que los humanos ultimatemente hagan con él.

Algunos intentos de aprovechar la inteligencia artificial, como “predecir” crímenes antes de que ocurran, muestran que los modelos entrenados con datos sesgados tienden a replicar las deficiencias humanas. Hasta ahora, el entrenamiento de la inteligencia artificial utilizando datos del sistema de justicia de EE. UU. ha resultado en un razonamiento de la inteligencia artificial prejuiciado de manera trágica.

En otros ejemplos, los humanos eligen formas más deliberadas de aprovechar el potencial destructivo de la inteligencia artificial. Los hackers están mostrando sus tendencias innovadoras una vez más al utilizar la inteligencia artificial para mejorar el alcance, la eficacia y la rentabilidad de sus ataques. Y a medida que la ciberguerra se vuelve más común en todo el mundo, seguramente veremos que las aplicaciones de la inteligencia artificial en el hacking se desarrollarán aún más.

La inteligencia artificial es una oportunidad y un riesgo

La inteligencia artificial proporciona un mundo de posibilidades para las empresas que desean mejorar la previsión, la optimización empresarial y las estrategias de retención de clientes. También es un botín para aquellos que intentan comprometer la soberanía digital de los demás.

A continuación, se presentan algunas formas en que la inteligencia artificial puede ser susceptible a manipulaciones discretas y esfuerzos más abiertos para dirigirla hacia acciones agresivas.

1. Comprometiendo la lógica de la máquina

La principal ventaja de la inteligencia artificial para los consumidores y las empresas es que realiza actos de lógica predecibles y repetibles sin interferencia humana. Esto también es su mayor debilidad.

Al igual que cualquier otro constructo digital, la inteligencia artificial puede ser susceptible a la penetración de fuerzas externas. Los hackers que acceden y comprometen la lógica de la máquina que impulsa la inteligencia artificial pueden hacer que realice acciones impredecibles o dañinas. Por ejemplo, una inteligencia artificial encargada de monitorear condiciones industriales podría proporcionar lecturas falsas o dejar de entregar pings de mantenimiento.

Dado que el objetivo de las inversiones en inteligencia artificial es eliminar la intervención humana y cuestionar los resultados, el daño a la infraestructura o la calidad del producto causado por un ataque de este tipo puede no ser detectado hasta que se produzca un fallo catastrófico.

2. Utilizando algoritmos de ingeniería inversa

Otra vía potencial para el daño, especialmente donde se trata de propiedad intelectual (PI) y datos de consumidores o comerciales, es la noción de ingeniería inversa. Los hackers pueden incluso robar el código de la inteligencia artificial en sí. Con el tiempo suficiente para estudiar cómo funciona, eventualmente pueden descubrir los conjuntos de datos utilizados para entrenar la inteligencia artificial en primer lugar.

Esto puede provocar varios resultados, el primero de los cuales es el envenenamiento de la inteligencia artificial. Otros ejemplos podrían involucrar a los hackers que aprovechan los datos de entrenamiento de la inteligencia artificial para obtener información comprometedora sobre mercados, competidores, gobiernos, proveedores o consumidores en general.

3. Aprendiendo sobre objetivos destinados

Vigilar a los objetivos es probablemente una de las implicaciones más inquietantes de la inteligencia artificial caída en manos de los hackers. La capacidad de la inteligencia artificial para llegar a conclusiones sobre las habilidades, áreas de conocimiento, temperamento y probabilidad de caer en objetivos, fraude o abuso de una persona está resultando particularmente preocupante para algunos expertos en ciberseguridad.

La inteligencia artificial puede ingerir y llegar a conclusiones sorprendentemente detalladas sobre personas, equipos y grupos en función de algunos de los puntos de datos más inverosímiles. Un individuo “comprometido” o “distrado” podría escribir rápidamente, jugar con el mouse o moverse entre pestañas del navegador rápidamente. Un usuario que esté “confundido” o “indeciso” puede pausar antes de hacer clic en elementos de la página o revisitar varios sitios.

En las manos adecuadas, señales como estas ayudan a los departamentos de recursos humanos a mejorar la participación de los empleados o a los equipos de marketing a pulir sus sitios web y embudos de ventas.

Para los hackers, señales como estas podrían resultar en un perfil psicológico sorprendentemente matizado de un objetivo destinado. Los ciberdelincuentes podrían determinar, en función de pistas invisibles para los humanos, qué personas podrían ser vulnerables a phishing, smishing, ransomware, fraude financiero y otros tipos de daño. También podría ayudar a los actores maliciosos a aprender cómo convencer a sus objetivos de que sus intentos de fraude provienen de fuentes legítimas.

4. Sondeando vulnerabilidades de red

Los profesionales de la ciberseguridad publicaron datos sobre 20,175 vulnerabilidades de seguridad conocidas en 2021. Esto fue un aumento con respecto a 2020, cuando hubo 17,049 vulnerabilidades de este tipo.

El mundo se vuelve más interconectado digitalmente, algunos dirían interdependiente, por hora. El mundo ahora alberga una cantidad abrumadora de redes pequeñas y industriales, con miles de millones de dispositivos conectados en línea y más en camino. Todo está en línea, desde sensores de monitoreo de condiciones hasta software de planificación empresarial.

La inteligencia artificial muestra promesa en ayudar a los equipos de ciberseguridad a sondear rápidamente vulnerabilidades de red, software y hardware más rápido de lo que los humanos podrían hacer solos. La velocidad y la escala del crecimiento de la infraestructura digital de la Tierra significan que es casi imposible buscar trillones de líneas de código en busca de exploits de seguridad para parchear. Todo esto tiene que ocurrir mientras estos sistemas están en línea debido al costo del tiempo de inactividad.

Si la inteligencia artificial es una herramienta de ciberseguridad aquí, también es una espada de doble filo. Los hackers pueden utilizar los mismos mecanismos que la comunidad de TI de “sombrero blanco” para llevar a cabo el mismo trabajo: sondear redes, software y firmware en busca de vulnerabilidades de manera más eficiente que los especialistas en TI humanos.

Una carrera armamentística digital

Hay demasiadas aplicaciones de inteligencia artificial en el cibercrimen para nombrarlas todas, pero aquí hay algunas más:

• Los hackers podrían ocultar código de inteligencia artificial dentro de una aplicación aparentemente benigna que ejecuta un comportamiento malicioso cuando detecta un desencadenante o umbral predeterminado.
• Los modelos de inteligencia artificial maliciosos pueden ser utilizados para determinar credenciales o características de administración de TI monitoreando la entrada biométrica, como huellas dactilares y reconocimiento de voz.
• Incluso si un intento de ciberataque falla en última instancia, los hackers equipados con inteligencia artificial pueden utilizar el aprendizaje automático para determinar qué salió mal y qué podrían hacer de manera diferente la próxima vez.

Parecía que solo una historia bien colocada sobre hacking a un jeep mientras conduce podría ralentizar el desarrollo de vehículos autónomos. Un hack de alto perfil donde la inteligencia artificial actúa como piedra angular podría causar una erosión similar en la opinión pública. Algunas encuestas muestran que el estadounidense promedio es muy escéptico sobre los beneficios de la inteligencia artificial ya.

La computación omnipresente conlleva riesgos de ciberseguridad, y tanto los hackers de sombrero blanco como los de sombrero negro lo saben. La inteligencia artificial puede ayudar a mantener nuestras vidas en línea seguras, pero también es el epicentro de una nueva carrera armamentística digital.