Facebook utiliza bots y simulaciones para intentar contrarrestar el mal comportamiento de los usuarios

Facebook (META ) ha diseñado un nuevo sistema de inteligencia artificial destinado a detectar mejor el comportamiento dañino, perjudicial y ilegal. Según informa The Verge, los investigadores del departamento de inteligencia artificial de Facebook en Londres han creado un simulador de Facebook impulsado por inteligencia artificial llamado “WW”, que se utiliza para simular el comportamiento de estafadores, vendedores de productos ilegales, spammers y otros actores maliciosos en una versión simulada de Facebook itself.

El simulador de Facebook conocido como “WW”, que toma su nombre de una truncación de “WWW”, fue revelado por Facebook en un documento publicado en abril de este año. WW es una versión clonada y contenida de Facebook destinada a ayudar en la prueba de varias herramientas y algoritmos de Facebook.

La empresa acaba de divulgar más detalles sobre algunos de sus usos para WW, uno de los cuales es la simulación de actores maliciosos a través de la inteligencia artificial. Al utilizar una serie de bots para simular comportamientos como estafas, spam, acoso y más, los investigadores esperan poder detectar y contrarrestar mejor el comportamiento dañino de los usuarios.

Según el ingeniero de Facebook Mark Harman, citado por The Verge, se anticipa que WW será una herramienta valiosa para frenar various comportamientos dañinos en Facebook. Por ejemplo, Harman cree que las simulaciones pueden ser utilizadas para diseñar mejores métodos de detección de estafadores.

Los ingenieros de Facebook imitaron el comportamiento de estafadores de Facebook en la vida real creando dos grupos de bots: uno de objetivos y otro de estafadores. Los estafadores a menudo buscan en las redes de amigos, explorando los amigos de los usuarios, para encontrar un objetivo potencial. Este comportamiento fue imitado por los bots estafadores mientras los ingenieros experimentaban con diferentes métodos para prevenir que el bot inocente fuera estafado. Las tácticas que experimentaron incluyeron varias limitaciones, como limitar el número de mensajes privados que un bot podía enviar cada minuto.

Hay algunas formas en que la simulación de Facebook difiere de la realidad. Por un lado, la simulación de Facebook no incluye elementos visuales, por lo que los datos derivados de la simulación están en forma de datos numéricos y estadísticas sobre interacciones entre bots. Por otro lado, todos los actores en la simulación son bots, que no pueden interactuar con usuarios reales. La simulación WW también no puede tener en cuenta cosas como la intención del usuario o el contenido de una conversación determinada, ya que solo se simulan las acciones de enviar mensajes, hacer comentarios, etc.

Según Harman, este proceso de experimentación con limitaciones es similar a como los planificadores urbanos intentan reducir la velocidad en ciertas carreteras colocando “baches”. De manera similar a como un planificador urbano experimentaría creando baches y luego recopilando datos sobre su utilidad, los ingenieros analizaron cómo variaban las interacciones y los mensajes entre bots en su simulador a medida que variaban parámetros y limitaciones. Harman explica que el objetivo es obtener una idea de qué cambios podrían hacerse en la plataforma de Facebook para inhibir el comportamiento dañino sin limitar severamente el comportamiento normal, o el flujo libre de tráfico.

Harman también explica que el beneficio de utilizar WW para sus simulaciones es que las acciones que estudian ocurren en la infraestructura real de Facebook, lo que les da una mejor idea de cómo sus cambios propuestos podrían afectar a los usuarios reales de Facebook. Cualquier aplicación de estos hallazgos tendrá que esperar un tiempo, ya que actualmente WW y su simulación están en la etapa de investigación. Harman y otros investigadores de Facebook no aplicarán sus hallazgos a la versión en vivo de Facebook todavía, ya que todavía hay mucho trabajo por hacer. El grupo de investigación necesita asegurarse de que las simulaciones que crean coincidan adecuadamente con el comportamiento humano real.

El principal beneficio de WW, según Harman, es su capacidad para operar a una escala masiva, lo que permite a los investigadores de Facebook verificar las posibles consecuencias de miles de ajustes menores, todos a través de las simulaciones que produce.

En el futuro, los investigadores podrían dejar que los bots simplemente jueguen y experimenten durante un tiempo, para ver qué tipo de interacciones surgen por sí solos, lo que a menudo puede ser algo que los investigadores no anticipan.

“En este momento, el enfoque principal es entrenar a los bots para imitar cosas que sabemos que ocurren en la plataforma. Pero en teoría y en la práctica, los bots pueden hacer cosas que no hemos visto antes”, dijo Harman. “Eso es algo que queremos, porque en última instancia queremos adelantarnos al mal comportamiento en lugar de seguir atrapados en un juego de atrapar y seguir”.

Si todo sale bien, Facebook podría comenzar a realizar modificaciones basadas en las simulaciones de WW a finales de 2020.