Facebook vytvořil přirozeně znějící otevřený chatbot trénovaný na 1,5 miliardě příspěvků z Redditu

Facebook (META ) nedávno spustil otevřený chatbot nazvaný „Blender“. Jak uvedla BBC, Facebookův Blender je jeho největší dosud vytvořený otevřený chatbot a podle společnosti je schopen projevit empatii, osobnost a znalosti, čímž předčí a bude cítit více lidsky než ostatní chatboti. Blender je k dispozici pro použití ve třech různých variantách, každá s jinou úrovní složitosti a sofistikovanosti modelu. Existuje 90milionový parametrický neuronový model, 2,7miliardový parametrický model a 9,4miliardový parametrický model. 9,4miliardový parametrický model je přibližně 3,6krát větší než největší dosud existující chatbot.

Facebook tvrdí, že Blender je prvním široce dostupným chatbotem, který kombinuje komplexní a rozmanité sady konverzačních dovedností, jako je znalost a empatie. Chatbot Blender je schopen diskutovat o různých tématech a vést konverzaci, která sleduje až 14 konverzačních „obratů“. Podle zprávy si asi 49 % lidí, kteří interagovali s chatbotem, raději zvolilo interakci s botem než s jiným člověkem.

Blender byl trénován pomocí dat shromážděných z veřejných doménových konverzací shromážděných ze sociálních médií, jako je Reddit. Datová sada, která byla použita pro trénování Blenderu, zahrnovala přibližně 1,5 miliardy příkladů konverzací. Zatímco trénovací data a sofistikovanost modelu umožnily chatbotu vést komplexní diskuse a mít více přirozený, lidský pocit, objevily se některé problémy, které se projevily jako důsledek této trénovací techniky. Podle výzkumníků někdy Blender reagoval na konverzační podněty agresivně nebo s urážlivým jazykem. Kromě toho chatbot občas reagoval s nepravdami a vymyšlenými fakty. Výzkumný tým je optimistický, že revize modelu vyřeší tyto problémy, ale chtěli modely vydávat i tak.

Podle zástupce Facebooku, jak citovala BBC, „vydání modelů je nezbytné pro získání úplných a spolehlivých poznatků o jejich schopnostech“.

Facebookoví výzkumníci budou muset ještě překonat dvě hlavní výzvy, aby byli úspěšní, podle výkonného ředitele umělé inteligence konzultantské společnosti The Envisioners, Davea Chopлина. Jak uvedl Choplin, výzkumníci budou muset řešit majoritní výzvy při replikaci mnoha nuancí konverzací, které lidé často berou jako samozřejmé, a data, která byla použita pro trénování modelu, mohou ho omezit způsoby, které Facebookoví výzkumníci mohou mít problém překonat.

„Je-li Reddit tak skvělou platformou, trénování algoritmů na základě konverzací, které najdete tam, vám dá hodně zbytečných věcí mezi užitečnými informacemi,“ řekl Choplin.

Facebook provedl srovnání mezi svým vlastním chatbotem Blender a Googlovým současním chatbotem nazvaným Meena. Facebookův blogový příspěvek ukázal srovnání mezi Meenou a Blenderem a podle Facebookových dat asi 75 % respondentů, kteří vedli konverzaci s Blenderem, uvedlo, že by raději vedli prodlouženou diskusi s Blenderem než s Meenou. Kromě toho asi 67 % respondentů uvedlo, že Blender je více přirozený a lidský než Meena, pokud jde o dlouhé konverzace.

V budoucnu chce Facebookový výzkumný tým zlepšit konverzační schopnosti modelů, vytvářet modely, které mohou podporovat ještě delší konverzace s pomocí nových ztrátových funkcí a architektur. Kromě toho se výzkumníci snaží vyřešit problémy s genderovou předpojatostí a potenciálně škodlivým jazykem, vytvářením lepších klasifikátorů a reprezentativnějších trénovacích dat.