Facebook Crea un Chatbot de Dominio Abierto con Sonido Natural Entrenado en 1.5 Mil Millones de Publicaciones de Reddit

Facebook (META ) ha lanzado recientemente un chatbot de dominio abierto llamado “Blender”. Según informó la BBC, el Blender de Facebook es su chatbot de dominio abierto más grande hasta la fecha y, según la empresa, es capaz de mostrar empatía, personalidad y conocimiento, superando y sintiéndose más humano que otros chatbots. Blender está disponible para su uso en tres variantes diferentes, cada una con un nivel diferente de complejidad y sofisticación del modelo. Hay un modelo de red neuronal de 90 millones de parámetros, un modelo de 2.7 mil millones de parámetros y un modelo de 9.4 mil millones de parámetros. El modelo de 9.4 mil millones de parámetros es aproximadamente 3.6 veces más grande que el chatbot más grande que existe actualmente.

Facebook afirma que Blender es el primer chatbot de dominio abierto ampliamente disponible que combina una serie compleja y diversa de habilidades conversacionales como el conocimiento y la empatía. El chatbot Blender es capaz de discutir una variedad de temas y mantener una conversación que sigue hasta 14 “giros” conversacionales. Según se informa, aproximadamente el 49% de las personas que interactuaron con el chatbot prefirieron interactuar con el bot en lugar de otra persona.

Blender se entrenó utilizando datos recopilados de conversaciones de dominio público recopiladas de sitios de redes sociales como Reddit. El conjunto de datos utilizado para entrenar a Blender incluía aproximadamente 1.5 mil millones de ejemplos de conversaciones. Si bien los datos de entrenamiento y la sofisticación del modelo permitieron que el chatbot llevara a cabo discusiones complejas y tuviera un sentir más natural y humano, hubo algunos problemas que se manifestaron como resultado de esta técnica de entrenamiento. Según los investigadores, Blender sometimes respondía a los prompts conversacionales de manera agresiva o con lenguaje ofensivo. Además, el chatbot ocasionalmente respondía con falsedades y hechos inventados. El equipo de investigación es optimista de que las revisiones del modelo resolverán estos problemas, pero querían lanzar los modelos de todos modos.

Según un portavoz de Facebook, citado por la BBC, “lanzar modelos es esencial para permitir conocimientos completos y confiables sobre sus capacidades”.

Los investigadores de Facebook aún necesitarán superar dos desafíos importantes para tener éxito, según el director ejecutivo de la consultoría de inteligencia artificial The Envisioners, Dave Choplin. Citado por la BBC, Choplin cree que los investigadores enfrentarán desafíos importantes para replicar las many matices de las conversaciones que los humanos a menudo dan por sentadas y que los datos utilizados para entrenar el modelo podrían inhibirlo de maneras que los investigadores de Facebook pueden encontrar difíciles de superar.

“Como gran plataforma que es Reddit, entrenar algoritmos basados en las conversaciones que se encuentran allí te dará mucho ruido entre la señal”, dijo Choplin.

Facebook hizo comparaciones entre su propio chatbot Blender y el chatbot contemporáneo de Google (GOOGL ) llamado Meena. La publicación del blog de Facebook mostró comparaciones entre Meena y Blender, y según los datos de Facebook, aproximadamente el 75% de los encuestados que habían mantenido una conversación con Blender dijo que preferiría tener una discusión prolongada con Blender en lugar de Meena. Además, aproximadamente el 67% de los encuestados afirmó que Blender era más natural y humano que Meena cuando se trataba de conversaciones largas.

En el futuro, el equipo de investigación de Facebook quiere mejorar la capacidad conversacional de los modelos, diseñando modelos que puedan soportar conversaciones aún más largas con la ayuda de nuevas funciones de pérdida y arquitecturas. Además, los investigadores están tratando de lidiar con el sesgo de género y el lenguaje potencialmente dañino mediante la creación de mejores clasificadores y datos de entrenamiento más representativos.