Facebook Crée Un Chatbot Open-Domain Qui Sonne Naturellement Formé Sur 1,5 Milliard De Publications Reddit

Facebook (META ) a récemment lancé un chatbot open-domain surnommé « Blender ». Selon la BBC, le Blender de Facebook est son plus grand chatbot open-domain jamais créé et, selon l’entreprise, il est capable de montrer de l’empathie, de la personnalité et des connaissances, surpassant et ressemblant plus à un humain que les autres chatbots. Blender est disponible pour utilisation en trois variantes différentes, chacune avec un niveau de complexité et de sophistication de modèle différent. Il y a un modèle neuronal de 90 millions de paramètres, un modèle de 2,7 milliards de paramètres et un modèle de 9,4 milliards de paramètres. Le modèle de 9,4 milliards de paramètres est environ 3,6 fois plus grand que le plus grand chatbot actuellement existant.

Facebook affirme que Blender est le premier chatbot largement disponible qui combine une gamme complexe et diverse de compétences conversationnelles comme les connaissances et l’empathie. Le chatbot Blender est capable de discuter de divers sujets et de poursuivre une conversation qui suit jusqu’à 14 « tours » conversationnels. Selon les rapports, environ 49 % des personnes qui ont interagi avec le chatbot ont préféré interagir avec le bot plutôt qu’avec un autre humain.

Blender a été formé à l’aide de données collectées à partir de conversations de domaine public collectées sur des sites de médias sociaux comme Reddit. L’ensemble de données utilisé pour former Blender comprenait environ 1,5 milliard d’exemples de conversations. Même si les données de formation et la sophistication du modèle ont permis au chatbot de mener des discussions complexes et d’avoir un sentiment plus naturel et humain, il y a eu certains problèmes qui se sont manifestés à la suite de cette technique de formation. Selon les chercheurs, Blender répondait parfois de manière agressive ou avec un langage offensant aux invites conversationnelles. De plus, le chatbot répondait occasionnellement avec des faussetés et des faits inventés. L’équipe de recherche est optimiste que les révisions du modèle traiteront ces problèmes, mais ils ont voulu publier les modèles malgré tout.

Selon un porte-parole de Facebook, cité par la BBC, « la publication de modèles est essentielle pour permettre des insights complets et fiables sur leurs capacités ».

Les chercheurs de Facebook devront encore surmonter deux défis majeurs pour réussir, selon le directeur général de la société de conseil en intelligence artificielle The Envisioners, Dave Choplin. Selon la BBC, Choplin croit que les chercheurs feront face à des défis majeurs pour reproduire les nombreuses nuances des conversations que les humains prennent souvent pour acquis et que les données utilisées pour former le modèle pourraient l’inhiber de manière que les chercheurs de Facebook pourraient trouver difficile à surmonter.

« Un plateforme comme Reddit est grande, mais former des algorithmes basés sur les conversations que l’on trouve là-bas va vous donner beaucoup de balais parmi le blé », a déclaré Choplin.

Facebook a comparé son propre chatbot Blender au chatbot contemporain de Google (GOOGL ) appelé Meena. Le billet de blog de Facebook a affiché des comparaisons entre Meena et Blender, et selon les données de Facebook, environ 75 % des répondants qui avaient mené une conversation avec Blender ont déclaré qu’ils préféreraient avoir une discussion prolongée avec Blender plutôt qu’avec Meena. De plus, environ 67 % des répondants ont déclaré que Blender était plus naturel et humain que Meena lorsqu’il s’agissait de longues conversations.

À l’avenir, l’équipe de recherche de Facebook veut améliorer la capacité conversationnelle des modèles, en concevant des modèles qui peuvent soutenir des conversations encore plus longues avec l’aide de nouvelles fonctions de perte et d’architectures. De plus, les chercheurs visent à traiter les préjugés de genre et le langage potentiellement nuisible en construisant de meilleurs classificateurs et des données de formation plus représentatives.